Por qué las fallas de la inteligencia artificial afectan más a las niñas

Recientemente, Grok AI enfrentó críticas después de que los usuarios descubrieran que creaba imágenes explícitas de personas reales, incluyendo mujeres y niños. Si bien xAI ya ha implementado algunas restricciones, este incidente reveló una grave debilidad. Sin medidas de protección y perspectivas diversas, las niñas y mujeres corren un mayor riesgo. Los peligros que la inteligencia artificial representa para las mujeres y niñas son reales y están ocurriendo ahora, afectando su salud mental, seguridad, atención médica y oportunidades económicas.

El otoño pasado, una madre descubrió por qué la salud mental de su hija adolescente se estaba deteriorando: fue el resultado de conversaciones con un chatbot de Character.AI. No está sola. El Informe sobre el Estado de la Juventud de Aura, publicado en diciembre, reveló que los padres creen que la tecnología tiene un efecto más negativo en las emociones de las niñas, incluyendo estrés, celos y soledad (51% en comparación con 36% en los niños). Esto es inaceptable y debemos mejorar.

Los riesgos van más allá de la salud mental. OpenAI informó recientemente que más de 40 millones de estadounidenses buscan información de salud en ChatGPT diariamente. A medida que la IA se expande en el ámbito sanitario, las consecuencias de los datos de entrenamiento sesgados pueden ser peligrosas. Los modelos de IA que se entrenan predominantemente con datos de salud masculinos producen peores resultados para las mujeres. Por ejemplo, un modelo de IA diseñado para detectar enfermedades hepáticas mediante análisis de sangre no detectó 44% de los casos en mujeres, en comparación con 23% en hombres.

Campo de juego desigual

En el ámbito laboral, la inteligencia artificial no está creando igualdad de condiciones.

A pesar de las leyes que prohíben la discriminación, las herramientas de contratación basadas en inteligencia artificial han suscitado reiteradas preocupaciones sobre sesgos, imparcialidad y privacidad de datos. Un estudio publicado por la Universidad de Washington reveló que, en la evaluación de currículos mediante IA, la tecnología favoreció nombres asociados a mujeres solo en 11% de los casos.

Estos fallos reflejan quién está desarrollando nuestra tecnología. Las mujeres representan solo 22% de la fuerza laboral en inteligencia artificial. Cuando los sistemas se diseñan sin la perspectiva de las mujeres, replican las desigualdades existentes e introducen nuevos riesgos. El patrón es claro: la inteligencia artificial está fallando a las niñas y a las mujeres.

Momento crucial

Este momento crucial del mercado laboral es crucial. Una cuarta parte de los puestos de trabajo en la última lista de LinkedIn de los 25 empleos de más rápido crecimiento en Estados Unidos están relacionados con la tecnología, con los ingenieros de IA a la cabeza. Las decisiones sobre cómo se diseña la IA hoy en día determinarán el acceso al empleo, la atención médica, la educación y la vida cívica durante décadas. Es fundamental que las mujeres desempeñen un papel activo en el desarrollo de nuevas herramientas de IA para que la desigualdad no se integre en los sistemas que rigen cada vez más nuestras vidas.

Las mujeres jóvenes no están desconectadas de la IA. Una investigación realizada el año pasado por Girls Who Code, en colaboración con la UCLA, reveló que las mujeres jóvenes reflexionan profundamente sobre la naturaleza dual de la tecnología. Ven su potencial para impulsar la atención médica, ampliar el acceso a la educación y abordar el cambio climático. También son conscientes de sus peligros, como los sesgos, la vigilancia y la exclusión del desarrollo. Esto no es un optimismo ciego. Al contrario, ofrece una perspectiva que a menudo falta en el desarrollo actual de la IA.

Crear tecnología es un ejercicio de poder y conlleva una gran responsabilidad. Dado que las niñas suelen ser las más afectadas por los fallos de la IA, deben estar empoderadas para ayudar a liderar las soluciones. Mujeres como Trisha Prabhu, exalumna de Girls Who Code y creadora de ReThink, una herramienta contra el acoso escolar, ejemplifican esto. Latanya Sweeney, reconocida como una de las principales pensadoras en IA, fundó el Laboratorio de Tecnología de Interés Público de Harvard. Sus logros demuestran el potencial que tienen las mujeres en el liderazgo del desarrollo tecnológico.

Medidas inteligentes

Si queremos sistemas de IA más seguros y responsables, tres pasos son esenciales.

Primero, la educación en informática debe integrar el impacto social. La programación no se puede enseñar de forma aislada de sus consecuencias. Los estudiantes deben adquirir habilidades técnicas junto con un análisis crítico de cómo la tecnología moldea las comunidades y las vidas. Este enfoque produce resultados. Por ejemplo, una estudiante de Girls Who Code utilizó las habilidades que aprendió para crear una aplicación llamada AIFinTech para ayudar a las familias inmigrantes a administrar sus finanzas personales.

Segundo, las mujeres deben estar representadas en el desarrollo y la gobernanza de la IA, en particular las de comunidades históricamente desatendidas. Necesitan tener un lugar en las mesas donde se diseñan, prueban y regulan los sistemas de IA. Esto significa garantizar la diversidad de género en los consejos de ética de la IA y que los comités gubernamentales de IA sean representativos de los grupos demográficos más afectados.

Finalmente, la forma en que evaluamos la inteligencia artificial debe evolucionar. Hoy en día, la IA se evalúa por su eficiencia, precisión y rentabilidad. También debemos evaluar la salud, la equidad y el bienestar, especialmente de las niñas y las mujeres jóvenes. Antes de implementar un sistema de IA en un entorno de alto riesgo como la atención médica, debería ser necesario que supere pruebas de sesgo de género y demuestre que no produce resultados dispares. La ciudad de Nueva York, por ejemplo, exige que los empleadores que utilizan herramientas automatizadas de toma de decisiones laborales se sometan anualmente a una auditoría independiente de sesgo.

No tenemos por qué aceptar las deficiencias de la IA por defecto. Estamos presenciando su impacto en las niñas en tiempo real, y debemos aprovechar la oportunidad para cambiar de rumbo mientras la tecnología aún se está desarrollando. Cuando las niñas tengan la oportunidad de liderar en IA, construirán sistemas más seguros no solo para ellas, sino para todos.