OpenAI lanza ChatGPT para adolescentes.

OpenAI lanzó el martes ChatGPT para adolescentes, que incluye medidas de seguridad más robustas y funciones diseñadas para promover un uso saludable, junto con controles adicionales para los padres.

OpenAI afirma que si su sistema “estima” que un usuario es menor de 18 años, este se sentará automáticamente en la mesa para adolescentes. Lo mismo ocurre si declara tener entre 13 y 17 años. OpenAI ya ofrecía una experiencia para adolescentes en ChatGPT que incluía la vinculación de cuentas parentales, la predicción de edad y diversas medidas de seguridad de contenido. Ahora, esta experiencia es un producto real.

El modelo en el que se basa el chatbot para adolescentes incluirá medidas de seguridad adaptadas a su edad para reducir su exposición a contenido que pueda ser perjudicial o inapropiado para su desarrollo. El chatbot intervendrá en conversaciones que aborden temas como autolesiones, violencia, trastornos alimenticios, actividades peligrosas y contenido sexual o gráfico explícito. OpenAI afirma que estas nuevas medidas de seguridad se basan en la ciencia del desarrollo y en la orientación de expertos.

El mes pasado, OpenAI anunció avisos más frecuentes para disuadir a los adolescentes de usar el chatbot durante largos periodos. El chatbot también advierte sobre los peligros de subir imágenes privadas o sensibles.

Los padres cuyas cuentas de OpenAI estén vinculadas a las cuentas de sus hijos adolescentes pueden establecer horarios de silencio, administrar la configuración seleccionada y recibir notificaciones de seguridad en situaciones limitadas de alto riesgo.

El chatbot también ofrece nuevas funciones de aprendizaje para adolescentes que estudian en casa o se preparan para un examen. Entre ellas se incluye el “Modo Estudio”, que utiliza preguntas guía y asistencia paso a paso para ayudar a los adolescentes a comprender el material. Puede detectar cuando un adolescente intenta saltarse una tarea y redirigirlo de vuelta al Modo Estudio. Los cuestionarios y las visualizaciones de aprendizaje les brindan más formas de practicar y poner a prueba sus conocimientos. Los padres pueden controlar los horarios en los que el Modo Estudio debe estar activado por defecto.

“ La IA debe apoyar el aprendizaje, no atajarlo, y los educadores deben mantener el control de las experiencias de IA en las aulas”, reza el comunicado de prensa.

Los grupos de defensa de los derechos de la infancia y de políticas tecnológicas están cada vez más preocupados por el uso de la IA por parte de menores, incluyendo la exposición a contenido dañino y las relaciones con chatbots que pueden implicar dependencia emocional, manipulación o interacciones sexuales inapropiadas. OpenAI se enfrenta actualmente a al menos dos demandas que alegan que ChatGPT contribuyó a la muerte de usuarios adolescentes. También se enfrenta a otras siete demandas presentadas por familias de niños fallecidos o heridos en el tiroteo de la escuela Tumbler Ridge, quienes alegan que ChatGPT facilitó la acción del atacante.

ChatGPT for Teens llega coincidiendo con el inicio de los alegatos iniciales en un caso histórico presentado por una coalición de 29 fiscales generales estatales contra Meta, acusada de fomentar el uso adictivo de las redes sociales entre adolescentes y niños.