Herencia del sesgoInfluencia de los sesgos de la Inteligencia Artificial en las decisiones humanas

Resumo

Las recomendaciones erróneas o sesgadas de la inteligencia artificial pueden ejercer un impacto negativo en las decisiones de las personas, como han puesto de manifiesto un número significativo de estudios. Sin embargo, un aspecto clave de la influencia de la IA en el comportamiento humano aún no ha sido explorado: ¿después de interactuar con un sistema de IA sesgado las personas reproducirán ese sesgo en sus propias decisiones futuras, incluso en un contexto sin IA? En dos series de experimentos exploramos si las personas podrían heredar sesgos de la IA y pusimos a prueba estrategias para mitigar este efecto negativo en las decisiones humanas. En la primera serie experimental (Experimentos 1, 2, 3 y 4) los participantes completaron una tarea que simulaba un diagnóstico médico sin asistencia o con la asistencia de un sistema de IA sesgado. Las recomendaciones sesgadas de la IA influyeron las decisiones de los participantes, pero, el hallazgo más importante de esta serie experimental fue que los participantes reprodujeron en sus respuestas el sesgo de la IA que les había proporcionado asistencia cuando se enfrentaron a realizar la tarea de diagnóstico ya sin esta ayuda. Por lo tanto, los participantes imitaron el sesgo de la IA incluso cuando ya había finalizado su colaboración con este sistema. En la segunda serie experimental pusimos a prueba si alertar a los participantes de forma general sobre la posible presencia de errores y sesgos en la IA (Experimentos 5 y 7) o si informarles de forma específica sobre el porcentaje de recomendaciones erróneas o correctas de la IA (Experimento 6) podría atenuar el impacto negativo de las recomendaciones sesgadas en sus decisiones, previniendo la herencia del sesgo de la IA. Los resultados de esta segunda serie sugieren que enfatizar el riesgo de error en la IA podría reducir la tendencia de las personas a aceptar acríticamente sus recomendaciones erróneas. Las personas podrían heredar sesgos de modelos de IA con los que interactúan, lo cual hace necesario continuar investigando para descubrir estrategias que mitiguen este riesgo.