Las búsquedas en Internet neutrales al género arrojan resultados que, sin embargo, producen resultados dominados por hombres, encuentra un nuevo estudio realizado por un equipo de investigadores de psicología. Además, estos resultados de búsqueda tienen un efecto en los usuarios al promover el sesgo de género e influir potencialmente en las decisiones de contratación.
El trabajo, que aparece en la revista procedimientos de la Academia Nacional de Ciencias (PNAS), es uno de los últimos en descubrir cómo la inteligencia artificial (IA) puede alterar nuestras percepciones y acciones.
«Existe una creciente preocupación de que los algoritmos utilizados por los sistemas de IA modernos produzcan resultados discriminatorios, presumiblemente porque están entrenados con datos en los que están integrados los sesgos sociales», dice Madalina Vlasceanu, becaria postdoctoral en el Departamento de Psicología de la Universidad de Nueva York y autora principal del artículo. . «Como consecuencia, su uso por parte de los humanos puede resultar en la propagación, en lugar de la reducción, de las disparidades existentes».
«Estos hallazgos requieren un modelo de IA ética que combine la psicología humana con enfoques computacionales y sociológicos para iluminar la formación, operación y mitigación del sesgo algorítmico», agrega el autor David Amodio, profesor del Departamento de Psicología de la Universidad de Nueva York y de la Universidad de Ámsterdam. .
Los expertos en tecnología han expresado su preocupación de que los algoritmos utilizados por los sistemas modernos de inteligencia artificial produzcan resultados discriminatorios, presumiblemente porque están entrenados con datos en los que están arraigados los sesgos sociales.
«Ciertas ideas de la década de 1950 sobre el género todavía están integradas en nuestros sistemas de bases de datos», Meredith Broussard, autora de Desinteligencia artificial: cómo las computadoras malinterpretan el mundo y profesor del Instituto de Periodismo Arthur L. Carter de la Universidad de Nueva York, le dijo a Markup a principios de este año.
El uso de la IA por parte de los tomadores de decisiones humanos puede resultar en la propagación, en lugar de la reducción, de las disparidades existentes, dicen Vlasceanu y Amodio.
Para abordar esta posibilidad, realizaron estudios que buscaban determinar si el grado de desigualdad dentro de una sociedad se relaciona con patrones de sesgo en la salida algorítmica y, de ser así, si la exposición a tal salida podría influir en los tomadores de decisiones humanos para actuar de acuerdo con estos sesgos. .
Primero, se basaron en el Índice Global de Brecha de Género (GGGI), que contiene clasificaciones de desigualdad de género para más de 150 países. El GGGI representa la magnitud de la desigualdad de género en participación y oportunidades económicas, logros educativos, salud y supervivencia, y empoderamiento político en 153 naciones, proporcionando así puntajes de desigualdad de género a nivel social para cada país.
Luego, para evaluar el posible sesgo de género en los resultados de búsqueda o en la salida algorítmica, examinaron si las palabras que deberían referirse con la misma probabilidad a un hombre o una mujer, como «persona», «estudiante» o «humano», son más frecuentes. se supone que es un hombre. Aquí, realizaron Google imagen busca «persona» dentro de una nación (en su idioma local dominante) en 37 países. Los resultados mostraron que la proporción de imágenes masculinas obtenidas de estas búsquedas fue mayor en las naciones con mayor desigualdad de género, lo que revela que el sesgo de género algorítmico sigue la pista de la desigualdad de género social.
Los investigadores repitieron el estudio tres meses después con una muestra de 52 países, incluidos 31 del primer estudio. Los resultados fueron consistentes con los del estudio inicial, reafirmando que las disparidades de género a nivel social se reflejan en la salida algorítmica (es decir, búsquedas en Internet).
Vlasceanu y Amodio luego buscaron determinar si la exposición a dichos resultados algorítmicos (resultados de motores de búsqueda) puede moldear las percepciones y decisiones de las personas de manera consistente con las desigualdades sociales preexistentes.
Para ello, llevaron a cabo una serie de experimentos en los que participaron un total de casi 400 mujeres y hombres estadounidenses.
En estos experimentos, se les dijo a los participantes que estaban viendo los resultados de búsqueda de imágenes de Google de cuatro profesiones con las que probablemente no estaban familiarizados: velero, pañero, peluquero y lapidario. La composición de género del conjunto de imágenes de cada profesión se seleccionó para representar los resultados de búsqueda de imágenes de Google para la palabra clave «persona» para naciones con altos puntajes globales de desigualdad de género (aproximadamente 90% de hombres y 10% de mujeres en Hungría o Turquía), así como aquellos con bajos puntajes globales de desigualdad de género (aproximadamente 50% de hombres frente a 50% de mujeres en Islandia o Finlandia) del estudio de 52 naciones anterior. Esto permitió a los investigadores imitar los resultados de las búsquedas en Internet en diferentes países.
Antes de ver los resultados de la búsqueda, los participantes proporcionaron juicios de prototipicidad con respecto a cada profesión (p. ej., «¿Quién es más probable que sea un peruero, un hombre o una mujer?»), que sirvió como una evaluación de referencia de sus percepciones. Aquí, los participantes, tanto hombres como mujeres, juzgaron que los miembros de estas profesiones tenían más probabilidades de ser hombres que mujeres.
Sin embargo, cuando se le hacen estas mismas preguntas después viendo los resultados de la búsqueda de imágenes, los participantes en las condiciones de baja desigualdad invertido sus prototipos con sesgo masculino en relación con la evaluación de referencia. Por el contrario, aquellos en la condición de alta desigualdad mantuvieron sus percepciones sesgadas hacia los hombres, reforzando así sus percepciones de estos prototipos.
Luego, los investigadores evaluaron cómo los sesgos generados por las búsquedas en Internet podrían influir potencialmente en las decisiones de contratación. Para ello, pidieron a los participantes que juzgaran la probabilidad de que se contratara a un hombre o una mujer en cada profesión («¿Qué tipo de persona es más probable que sea contratada como peluquero?») y, cuando se les presentaran imágenes de dos candidatos para el puesto (una mujer y un hombre) para un puesto en esa profesión, para hacer su propia elección de contratación (p. ej., «Elija a uno de estos solicitantes para un trabajo como peluquero»).
En consonancia con los otros resultados experimentales, la exposición a imágenes en la condición de baja desigualdad produjo juicios más igualitarios sobre las tendencias de contratación de hombres y mujeres dentro de una profesión y una mayor probabilidad de elegir a una candidata femenina en comparación con la exposición a conjuntos de imágenes en la condición de alta desigualdad. condición de desigualdad.
«Estos resultados sugieren un ciclo de propagación de sesgos entre la sociedad, la IA y los usuarios», escriben Vlasceanu y Amodio, y agregan que los «hallazgos demuestran que los niveles sociales de desigualdad son evidentes en los algoritmos de búsqueda en Internet y que la exposición a este resultado algorítmico puede conducir a humanos los usuarios piensen y potencialmente actúen de manera que refuercen la desigualdad social».
El estudio fue financiado por la NYU Alliance for Public Interest Technology y la Organización Holandesa para la Investigación Científica (VICI 016.185.058).
