La IA afecta a todos, incluidos los pueblos indígenas

Desde que la inteligencia artificial (IA) se generalizó en los últimos dos años, muchos de los riesgos que plantea han sido ampliamente documentados. Además de fomentar la pornografía profundamente falsa, amenazar la privacidad personal y acelerar la crisis climática, algunas personas creen que la tecnología emergente Incluso podría conducir a la extinción humana..

Pero aún no se conocen bien algunos de los riesgos de la IA. Estos incluyen riesgos muy particulares para los conocimientos y comunidades indígenas.

Hay una razón simple para esto: la industria de la IA y los gobiernos han ignorado en gran medida a los pueblos indígenas en el desarrollo y la regulación de las tecnologías de IA. Dicho de otra manera, el mundo de la IA es demasiado blanco.

Los desarrolladores de IA y los gobiernos deben solucionar este problema urgentemente si realmente quieren garantizar que todos compartan los beneficios de la IA. Como les gusta decir a los aborígenes e isleños del Estrecho de Torres: «nada sobre nosotros, sin nosotros».

Preocupaciones indígenas

Los pueblos indígenas de todo el mundo no ignoran la IA. Mantienen conversaciones, realizan investigaciones y comparten sus inquietudes sobre la trayectoria actual y las tecnologías relacionadas.

A bien documentado El problema es el robo de propiedad intelectual cultural. Por ejemplo, los usuarios de programas de generación de imágenes de IA como IA profunda puede generar artificialmente obras de arte en cuestión de segundos que imitan estilos e historias de arte indígenas.

Esto demuestra lo fácil que es para alguien que utiliza la IA apropiarse indebidamente de conocimientos culturales. Estas generaciones se toman de grandes conjuntos de datos de imágenes disponibles públicamente para crear algo nuevo. Pero echan de menos las historias y el conocimiento cultural presentes en nuestras prácticas artísticas.

Las tecnologías de inteligencia artificial también alimentan la difusión de información errónea sobre los pueblos indígenas.

Internet ya está plagado de información errónea sobre los pueblos indígenas. El sitio web de Creative Spirits, de larga data y mantenido por una persona no indígena, es un ejemplo destacado.

Es probable que los sistemas de IA generativa empeoren este problema. ellos a menudo confundirnos con otros pueblos indígenas globales alrededor del mundo. También se basan en fuentes inapropiadas, incluidos los espíritus creativos.

Durante el referéndum de Voz al Parlamento del año pasado en Australia, los defensores del «no» también utilizaron Imágenes generadas por IA que representa a los pueblos indígenas. Esto demuestra el papel de la IA en contextos políticos y el daño que puede causarnos.

Otro problema es la falta de comprensión de la IA entre los pueblos indígenas. Alrededor del 40% de la población aborigen e isleña del Estrecho de Torres en Australia no sabe qué es la IA generativa. Esto refleja una necesidad urgente de proporcionar información relevante y capacitación a las comunidades indígenas sobre el uso de la tecnología.

También existe preocupación por el uso de la IA en contextos de aula y su impacto específico en los estudiantes indígenas.

Mirando hacia el futuro

Académico hawaiano y samoano Jason Lewis dice,

«Debemos pensar de manera más amplia sobre la IA y todos los demás sistemas computacionales en los que nos encontramos cada vez más enredados. Necesitamos ampliar la definición operativa de inteligencia utilizada al construir estos sistemas para incluir todo el espectro de comportamiento que los humanos utilizamos para dar sentido a las cosas. el mundo.»

La clave para lograrlo es la idea de «soberanía de datos indígena». Esto significaría que los pueblos indígenas conservan la soberanía sobre sus propios datos, en el sentido de que poseen y controlan el acceso a ellos.

En Australia, un colectivo conocido como Maiam nayri Wingara ofrece consideraciones y principios importantes para la soberanía y la gobernanza de los datos. Afirman los derechos indígenas para gobernar y controlar nuestros ecosistemas de datosde la creación a la infraestructura.

El Acuerdo Nacional para Cerrar la Brecha afirma también la importancia de control y acceso a datos indígenas.

Esto también se reafirma a nivel mundial. En 2020, un grupo de académicos indígenas de todo el mundo publicó un documento de posición establecer cómo los protocolos indígenas pueden informar a la IA creada éticamente. Este tipo de IA centralizaría los conocimientos de los pueblos indígenas.

En un paso positivo, el conjunto de barreras de seguridad para la IA propuesto recientemente por el gobierno australiano resalta la importancia de la soberanía de los datos indígenas.

Por ejemplo, las barandillas incluyen la necesidad de garantizar transparencia adicional y hacer consideraciones adicionales cuando se trata de utilizar datos sobre aborígenes e isleños del Estrecho de Torres o que pertenecen a ellos, para «mitigar la perpetuación de las desigualdades sociales existentes».

Futurismos indígenas

Gracia Dillonun académico de un grupo de indígenas norteamericanos conocidos como los Anishinaabe, acuñó por primera vez el término «futurismos indígenas».

Ambelin Kwaymullina, académica y futurista de la nación Palyku en Australia Occidental, lo define como «visiones de lo que podría ser que están informadas por las antiguas culturas aborígenes y por nuestra profunda comprensión de los sistemas opresivos».

Estas visiones, escribe Kwaymullina, son «tan diversas como los propios pueblos indígenas». También los une «una comprensión de la realidad como un todo vivo e interconectado en el que los seres humanos no son más que un hilo de vida entre muchos, y una visión no lineal del tiempo».

Entonces, ¿cómo pueden las tecnologías de IA beneficiarse de las formas de conocimiento indígenas?

Un primer paso es que la industria involucre a los pueblos indígenas en la creación, mantenimiento y evaluación de las tecnologías, en lugar de pedirles retrospectivamente que aprueben el trabajo ya realizado.

Los gobiernos también deben hacer más que resaltar la importancia de la soberanía de los datos indígenas en los documentos de políticas. Necesitan consultar significativamente con los pueblos indígenas para regular el uso de estas tecnologías. Esta consulta debe tener como objetivo garantizar un comportamiento ético de IA entre las organizaciones y los usuarios cotidianos que respete las cosmovisiones y realidades indígenas.

A los desarrolladores de IA y a los gobiernos les gusta afirmar que se toman en serio garantizar que la tecnología de IA beneficie a toda la humanidad. Pero a menos que comiencen a involucrar más a los pueblos indígenas en el desarrollo y regulación de la tecnología, sus afirmaciones suenan huecas.

Este artículo se republica desde La conversación bajo una licencia Creative Commons. Lea el artículo original.