Beijing [China]4 de marzo (ANI): Es casi inevitable que la censura sobre temas sociales, políticos y religiosos afecte el material generado por IA en China, y hay evidencia de que ya lo ha hecho, escribe Federico Giuliani en Insideover.
Recientemente, China ordenó a las grandes empresas de tecnología que no ofrecieran acceso a los servicios de ChatGPT en sus plataformas, ya sea directamente o a través de terceros, dijeron a Nikkei Asia personas con conocimiento directo del asunto.
Tencent Holdings y Ant Group, la filial fintech de Alibaba Group Holding, han recibido instrucciones de no ofrecer acceso a los servicios de ChatGPT en sus plataformas.
Las fuentes agregaron que las empresas de tecnología también deberán informar a los reguladores antes de lanzar sus propios servicios similares a ChatGPT.
ChatGPT, desarrollado por la startup OpenAI respaldada por Microsoft, no está oficialmente disponible en China. Aún así, algunos usuarios de Internet han podido acceder a él mediante una red privada virtual (VPN), informó Nikkei Asia.
Dentro del país, el monitoreo de contenido político, la censura y la vigilancia pública se llevan a cabo con frecuencia utilizando métodos impulsados por IA, informó Insideover.
Los resultados de una herramienta de aprendizaje automático reflejarán las omisiones y los sesgos del entorno de información severamente regulado e infundido de propaganda de la nación si principalmente extrae información del infame Gran Cortafuegos de China.
Los investigadores Margaret Roberts y Eddie Yang, por ejemplo, descubrieron disparidades en el punto de vista entre un sistema de procesamiento de lenguaje natural entrenado en artículos de la enciclopedia en línea Baike de Baidu y una alternativa que se basaba en la Wikipedia mundial sin censura en idioma chino.
Las elecciones y la democracia fueron evaluadas positivamente por el algoritmo entrenado globalmente o vinculadas a palabras como «estabilidad». Por el contrario, las personas que habían sido educadas en Baidu Baike dieron buenas evaluaciones a las palabras clave «vigilancia» y «PCCh» y conectaron conceptos como «democracia» con adjetivos desfavorables como «caos». Usuarios como el artista disidente Badiucao detectaron lagunas y manipulación cuando la tecnología china el gigante Baidu lanzó su generador de texto a imagen ERNIE-ViLG en 2022, informó Giuliani.
De hecho, las empresas chinas de TI y redes sociales tienen sus propias listas negras y técnicas privadas para la censura en la práctica, a pesar de que el gobierno y el PCCh brindan regulaciones e instrucciones detalladas sobre la censura.
Los usuarios en China solo han tenido acceso limitado a ChatGPT, ya que los usuarios de todo el mundo experimentan con él. El Gran Cortafuegos aún no lo ha detenido, aunque iniciar sesión requiere un número de teléfono de un grupo selecto de naciones fuera de China.
Por ejemplo, se rumorea que el ERNIE-Bot de Baidu debutará el próximo mes. Es probable que la censura y otras formas de manipulación también sean visibles en la salida del chatbot, dado el motor de búsqueda severamente regulado de la compañía y los descubrimientos que rodean a su generador de texto a imagen de IA, informó Insideover.
Los usuarios deben estar atentos a cualquier error no intencional que vaya en contra de los deseos del PCCh dado que ERNIE-Bot aparentemente está informado sobre datos mundiales, advirtió Giuliani. (Y YO)
