La IA tiene esta creencia dañina sobre las mujeres

Un nuevo estudio de la Universidad de California, Berkeley, publicado el 8 de octubre en la revista Nature, descubrió que las mujeres son presentadas sistemáticamente como más jóvenes que los hombres en línea y mediante inteligencia artificial (IA), con base en un análisis de 1.4 millones de imágenes y videos en línea, más nueve grandes modelos de lenguaje entrenados con miles de millones de palabras.

Los investigadores analizaron contenido de Google, Wikipedia, IMDb, Flickr y YouTube, además de importantes LLM que incluyen GPT-2, y descubrieron que las mujeres aparecían consistentemente más jóvenes que los hombres en 3,495 categorías ocupacionales y sociales. Nota: Es posible que los filtros en los videos y el maquillaje de las mujeres contribuyan a este sesgo de género relacionado con la edad en el contenido visual.

Los datos del estudio mostraron que las mujeres no solo se representan sistemáticamente como más jóvenes que los hombres en las plataformas en línea, sino que esta distorsión es más pronunciada en el contenido que describe ocupaciones con mayor estatus e ingresos. También se descubrió que buscar imágenes de ocupaciones en Google amplificaba el sesgo de género relacionado con la edad en las creencias y preferencias de contratación de los participantes.

“Este tipo de sesgo de género relacionado con la edad se ha visto en otros estudios de industrias específicas y de manera anecdótica… pero nadie ha podido examinarlo antes a tal escala”, dijo Solène Delecourt, profesora adjunta de la Berkeley Haas School of Business, quien fue coautora del estudio con Douglas Guilbeault de la escuela de negocios de Stanford y Bhargav Srinivasa Desikan del Autonomy Institute de Oxford.

La brecha laboral de la IA contra las mujeres

“Aunque internet se equivoca, cuando nos dice este ‘hecho’ sobre el mundo, empezamos a creerlo”, dijo Guilbeault. “Nos ahonda en el sesgo y el error”.

Al analizar específicamente ChatGPT, los investigadores descubrieron que cuando el chatbot de IA generó y analizó unos 40,000 currículos, asumió que las mujeres eran 1.6 años más jóvenes y tenían menos experiencia laboral, mientras que calificaba a los solicitantes hombres mayores como más calificados, aunque los datos no muestran diferencias de edad sistemáticas entre hombres y mujeres en la fuerza laboral.

Pero quizás la principal conclusión del estudio es que esta visión sesgada en línea refuerza las imprecisiones y los estereotipos sobre las mujeres. Cuando este ciclo de retroalimentación distorsionado entre las percepciones en línea y la IA se traslada de internet al mundo real, puede resultar en una mayor brecha entre hombres y mujeres en el mercado laboral.