China introducirá reglas que rigen el uso de la tecnología de síntesis profunda en enero de 2023. Las falsificaciones profundas, en las que se utiliza inteligencia artificial para manipular imágenes y videos, son una preocupación para Beijing, ya que aumenta el control sobre el contenido en línea.
Fotografíaenlace | Istock | Getty Images
En enero, China introducirá la primera regulación de su tipo sobre «deepfakes», aumentando el control sobre el contenido de Internet.
Los deepfakes son imágenes o videos alterados o generados sintéticamente que se realizan utilizando una forma de inteligencia artificial. La tecnología se puede usar para alterar un video existente, por ejemplo, poniendo la cara de un político sobre un video existente o incluso creando un discurso falso.
El resultado son medios fabricados que parecen ser reales pero no lo son.
Beijing anunció sus reglas que rigen las «tecnologías de síntesis profunda» a principios de este año y las finalizó en diciembre. Entrarán en vigor el 10 de enero.
Estas son algunas de las disposiciones clave:
- Los usuarios deben dar su consentimiento si su imagen se utilizará en cualquier tecnología de síntesis profunda.
- Los servicios de síntesis profunda no pueden usar la tecnología para difundir noticias falsas.
- Los servicios de Deepfake necesitan autenticar la identidad real de los usuarios.
- El contenido sintético debe tener algún tipo de notificación para informar a los usuarios que la imagen o el video ha sido alterado con la tecnología.
- Se prohíbe el contenido que vaya en contra de las leyes existentes, al igual que el contenido que ponga en peligro la seguridad y los intereses nacionales, dañe la imagen nacional o perturbe la economía.
La poderosa Administración del Ciberespacio de China es el regulador detrás de estas reglas.
Desde finales de 2020, China ha buscado controlar el poder de los gigantes tecnológicos del país e introdujo una regulación radical en áreas que van desde antimonopolio hasta protección de datos. Pero también ha buscado regular las tecnologías emergentes y ha ido más allá que cualquier otro país en sus reglas tecnológicas.
A principios de este año, China introdujo una regla que rige cómo las empresas de tecnología pueden usar algoritmos de recomendación, en otra ley pionera en su tipo.
Los analistas dicen que la ley aborda dos objetivos: una censura en línea más estricta y adelantarse a la regulación en torno a las nuevas tecnologías.
«Las autoridades chinas están claramente ansiosas por tomar medidas enérgicas contra la capacidad de los elementos contrarios al régimen para usar falsificaciones profundas de los líderes principales, incluido Xi Jinping, para difundir declaraciones contra el régimen», dijo a CNBC Paul Triolo, líder de política tecnológica de la consultora Albright Stonebridge. .
«Pero las reglas también ilustran que las autoridades chinas están tratando de abordar problemas difíciles de contenido en línea de una manera que pocos países lo están haciendo, buscando adelantarse a la curva a medida que las nuevas tecnologías, como el contenido generado por IA, comienzan a proliferar en línea».
Triolo agregó que las regulaciones de IA que Beijing ha introducido en los últimos años están «diseñadas para mantener los esfuerzos de censura y regulación de contenido un paso por delante de las tecnologías emergentes, asegurando que Beijing pueda continuar anticipando la aparición de tecnologías que podrían usarse para eludir el control general». sistema.»
La tecnología de síntesis profunda no es del todo mala. Puede tener algunas aplicaciones positivas en áreas como la educación y la atención médica.
Pero China está tratando de abordar su papel negativo en la producción de información falsa.
Kendra Schaefer, socia con sede en Beijing de la consultora Trivium China, señaló a CNBC su nota publicada en febrero cuando se anunciaron las reglas preliminares, en la que discutió las implicaciones de la regulación histórica.
«Lo interesante es que China está apuntando a una de las amenazas críticas para nuestra sociedad en la era moderna: la erosión de la confianza en lo que vemos y escuchamos, y la creciente dificultad de separar la verdad de las mentiras», decía la nota.
A través de la introducción de la regulación, los diversos organismos reguladores de China han adquirido experiencia en la aplicación de las normas tecnológicas. Hay algunas partes de la regulación de deepfake que no están claras, como por ejemplo, cómo probar que tienes el consentimiento de otra persona para usar su imagen. Pero en general, dijo Trivium en su nota, el sistema regulatorio existente de China lo ayudará a hacer cumplir las reglas.
«China puede instituir estas reglas porque ya cuenta con sistemas para controlar la transmisión de contenido en espacios en línea y organismos reguladores que hacen cumplir estas reglas», dice la nota.
