Los presentadores de noticias generados por inteligencia artificial se han desplegado por primera vez para hacer propaganda de contenido político en las redes sociales, dijo una firma de investigación estadounidense en su último informe.
Graphika, con sede en Nueva York, dijo en el informe ‘Deepfake hasta que lo consigas’ que Spamouflage, una operación de influencia alineada con el estado de China, ha estado utilizando personas ficticias generadas por IA para promover el papel global de China y difundir desinformación contra Estados Unidos desde finales de 2022.
Spamouflage, una combinación de Spam y Camouflage, es una táctica utilizada por los spammers para evadir los filtros de spam de correo electrónico reemplazando ciertas letras con números. Los investigadores de seguridad cibernética usan el término, así como otros términos como Dragonbridge o Spamouflage Dragon, para referirse a la red de propaganda pro china en Internet.
Spamouflage es responsable de publicar, a través de cuentas falsas dirigidas a usuarios de redes sociales, miles de activos que elogian a China, critican a Estados Unidos y atacan el movimiento prodemocracia de Hong Kong, así como la independencia de Taiwán.
Recientemente ha estado “promoviendo una forma nueva y distintiva de contenido de video en plataformas de redes sociales como Facebook, Twitter y YouTube”, dijo Graphika.
Los investigadores de la empresa detectaron y analizaron dos videos «únicos» que mostraban a un presentador masculino y femenino, ambos hablando inglés y con aspecto caucásico.
Los videos usaban el logotipo de una «compañía de medios probablemente ficticia» llamada ‘Wolf News’ con el eslogan que lo acompañaba «Enfóquese en los puntos calientes y transmita en tiempo real».
El presentador masculino criticó al gobierno de EE. UU. por su «repetición hipócrita de retórica vacía» al abordar la violencia armada, mientras que la mujer destacó la importancia de la cooperación entre China y EE. UU. para la recuperación económica mundial.
Ambos videos reflejaron “esfuerzos anteriores de Spamouflage para pasar como medios de comunicación legítimos”, dijo el informe de Graphika.
Alex, Jason y James
Las abundantes similitudes detectadas en los videos y otros activos de Spamouflage en Internet llevaron a la conclusión sobre la conexión entre los dos.
China aún no ha respondido al informe de Graphika que apunta al alarmante posible mal uso de la sofisticada tecnología de IA en campañas de desinformación por parte de actores estatales.
Hasta ahora, las operaciones de influencia en línea se han limitado a rostros falsos generados por computadora y videos fabricados, pero los nuevos videos presentaban personas ficticias generadas por IA que parecían casi reales.
“A primera vista, los presentadores de Wolf News se presentan como personas reales. Nuestra hipótesis inicial fue que eran actores pagados que habían sido reclutados para aparecer en los videos”, dijo el equipo detrás del informe.
Después de una mayor investigación, detectaron el habla robótica de los presentadores que no se sincroniza con los movimientos de los labios, así como numerosos errores gramaticales en los subtítulos.
El equipo de Graphika dijo que los anclajes probablemente se crearon con tecnología proporcionada por Synthesia, una compañía británica de video de IA.
Encontraron varios videos de marketing usando el mismo dúo generado por IA que hablaba varios idiomas además del inglés. El avatar masculino, llamado Alex en el video de Wolf News, también se llamaba Mr Curtis, Jason y James.
“El principal beneficio de esta tecnología para los creadores de videos de Spamouflage parece ser una mayor eficiencia, específicamente la producción de contenido de alta velocidad y bajo costo”, dice el informe, y agrega que los productos de Synthesia pueden crear videos generados por IA en cuestión de los minutos y las suscripciones comienzan en solo US $ 30 por mes.
‘Deepfakes, problemas reales’
Los actores de operaciones de influencia “continuarán experimentando con tecnologías de IA, produciendo artefactos de medios cada vez más convincentes que son más difíciles de detectar y verificar”, advirtió Graphika.
En 2018, la agencia de noticias estatal china Xinhua reveló el primer presentador de noticias de inteligencia artificial del mundo, que era una imagen masculina con voz, expresiones faciales y acciones de una persona real.
El avatar fue desarrollado conjuntamente por Xinhua y la empresa china de motores de búsqueda Sogou.com.
Xinhua dijo que el presentador de habla inglesa “puede trabajar las 24 horas del día en su sitio web oficial y en varias plataformas de redes sociales, reduciendo los costos de producción de noticias y mejorando la eficiencia”.
En la última década, China ha puesto gran atención en el desarrollo de tecnología de IA.
la Universidad de Stanford Índice de IA 2022que evalúa los avances de la IA en todo el mundo, clasifica a China en el segundo lugar en inversión privada total en IA y en el número de empresas de IA recién financiadas, solo después de Estados Unidos.
Beijing introdujo la primera regulación de su tipo sobre imágenes y videos generados por IA, o «deepfakes», en enero. Según él, «los servicios de síntesis profunda no pueden usar la tecnología para difundir noticias falsas».
La nueva regulación también dijo que está prohibido el contenido que ponga en peligro la seguridad y los intereses nacionales, dañe la imagen nacional o perturbe la economía.
Sin embargo, la regulación no se aplica a las falsificaciones profundas generadas fuera del país. Los críticos dicen que su prioridad es reforzar la censura en línea y sofocar la disidencia.
