Con respuestas de correo electrónico autocorrectivas y generadas automáticamente, los algoritmos ofrecen mucha asistencia para ayudar a las personas a expresarse.
Pero una nueva investigación de la Universidad de Georgia muestra que las personas que confían en los algoritmos para obtener ayuda con tareas creativas relacionadas con el lenguaje no mejoraron su desempeño y eran más propensas a confiar en consejos de baja calidad.
Aaron Schecter, profesor asistente en sistemas de información gerencial en Terry College of Business, publicó este mes su estudio «Preferencias humanas hacia el asesoramiento algorítmico en una tarea de asociación de palabras». Informes científicos. Sus coautores son Nina Lauharatanahirun, profesora asistente de salud bioconductual en la Universidad Estatal de Pensilvania, y recientemente doctorada en Terry College. graduado y actual profesor asistente de la Universidad del Noreste Eric Bogert.
El artículo es el segundo de la investigación del equipo sobre la confianza individual en los consejos generados por algoritmos. En un artículo de abril de 2021, el equipo descubrió que las personas dependían más de los consejos algorítmicos para contar tareas que de los consejos supuestamente dados por otros participantes.
Este estudio tuvo como objetivo probar si las personas cedieron a los consejos de una computadora al abordar tareas más creativas y dependientes del idioma. El equipo descubrió que los participantes tenían un 92,3 % más de probabilidades de usar consejos atribuidos a un algoritmo que de seguir consejos atribuidos a personas.
«Esta tarea no requería el mismo tipo de pensamiento (como la tarea de contar en el estudio anterior), pero de hecho vimos los mismos sesgos», dijo Schecter. «Todavía iban a usar la respuesta del algoritmo y se sentían bien al respecto, aunque no los estaba ayudando a hacerlo mejor».
Usar un algoritmo durante la asociación de palabras
Para ver si las personas confiarían más en los consejos generados por computadora para tareas relacionadas con el lenguaje, Schecter y sus coautores les dieron a 154 participantes en línea porciones de la Prueba de Asociados Remotos, una prueba de asociación de palabras utilizada durante seis décadas para calificar la creatividad de un participante.
«No es pura creatividad, pero la asociación de palabras es un tipo de tarea fundamentalmente diferente a la de hacer una proyección de valores o contar objetos en una foto, porque involucra la lingüística y la capacidad de asociar diferentes ideas», dijo. «Pensamos que esto es más subjetivo, aunque hay una respuesta correcta a las preguntas».
Durante la prueba, se les pidió a los participantes que pensaran en una palabra que uniera tres palabras de muestra. Si, por ejemplo, las palabras fueran base, sala y bolos, la respuesta sería bola.
Los participantes eligieron una palabra para responder a la pregunta y se les ofreció una pista atribuida a un algoritmo o una pista atribuida a una persona y se les permitió cambiar sus respuestas. La preferencia por los consejos derivados de algoritmos fue fuerte a pesar de la dificultad de la pregunta, la forma en que se redactó el consejo o la calidad del consejo.
Los participantes que siguieron el consejo del algoritmo también tenían el doble de confianza en sus respuestas que las personas que usaron el consejo de la persona. A pesar de su confianza en sus respuestas, tenían un 13 % menos de probabilidades de elegir las respuestas correctas que aquellos que utilizaron consejos basados en humanos.
«No voy a decir que el consejo estaba empeorando a la gente, pero el hecho de que no lo hicieran mejor y aún así se sintieran mejor con sus respuestas ilustra el problema», dijo. «Su confianza aumentó, por lo que es probable que usen consejos algorítmicos y se sientan bien al respecto, pero no necesariamente tendrán razón.
¿Debe aceptar la autocorrección al escribir un correo electrónico?
«Si tengo una función de autocompletar o autocorrección en mi correo electrónico en la que creo, es posible que no esté pensando en si me está mejorando. Solo voy a usarla porque me siento seguro de hacerlo».
Schechter y sus colegas llaman a esta tendencia a aceptar consejos generados por computadora sin tener en cuenta su calidad como sesgo de automatización. Comprender cómo y por qué los tomadores de decisiones humanos recurren al software de aprendizaje automático para resolver problemas es una parte importante para comprender qué podría salir mal en los lugares de trabajo modernos y cómo remediarlo.
«A menudo, cuando hablamos de si podemos permitir que los algoritmos tomen decisiones, tener a una persona al tanto se presenta como la solución para prevenir errores o malos resultados», dijo Schecter. «Pero esa no puede ser la solución si es más probable que las personas sigan lo que aconseja el algoritmo».
Fuente de la historia:
Materiales proporcionado por universidad de georgia. Original escrito por J. Merritt Melancon. Nota: el contenido se puede editar por estilo y longitud.
