El retraso del “modo adulto” de ChatGPT pone en evidencia los desafíos de verificar la edad en la IA

OpenAI confirmó el 6 de marzo que retrasará el lanzamiento del “modo adulto” en ChatGPT, una función que daría a los adultos verificados acceso a contenido con menos restricciones.

La compañía anunció inicialmente sus planes de establecer un límite de edad para los usuarios el año pasado, pero ahora ha pospuesto el lanzamiento dos veces. Separar a los usuarios adultos de los menores podría ayudar a OpenAI a superar algunos de los desafíos legales y de ingresos, pero lograr que la tecnología funcione podría no ser fácil.

El modo adulto se esperaba para este trimestre y aún está planeado para entonces, aunque un poco más tarde de lo previsto inicialmente.

OpenAI necesita más tiempo para perfeccionar el ‘modo adulto’ de ChatGPT

OpenAI remitió a Fast Company a un comentario que hizo al boletín Sources de Alex Heath, en el que se indicaba que pausaba la función para centrarse en mejoras en ChatGPT, incluyendo “mejoras en inteligencia, mejoras de personalidad, personalización y una experiencia más proactiva”. (También informó a Axios que necesita más tiempo. “Seguimos creyendo en el principio de tratar a los adultos como adultos, pero lograr una experiencia satisfactoria llevará más tiempo”, declaró la compañía).

OpenAI insinuó por primera vez la función en octubre pasado en una publicación de X del CEO, Sam Altman, en respuesta a preguntas sobre la seguridad de ChatGPT para usuarios menores de edad. “A medida que implementemos la restricción de edad de forma más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más contenido, como contenido erótico para adultos verificados”, escribió Altman.

Retos de verificación

El modo para adultos de ChatGPT depende del nuevo sistema de predicción y verificación de edad de OpenAI, un modelo de IA desarrollado internamente que estima la edad del usuario basándose en indicaciones y contenido multimedia generado con herramientas como Sora.

OpenAI anunció en enero que había comenzado a implementar la tecnología a nivel mundial en ChatGPT. Cuando el sistema detecta que un usuario puede ser menor de edad, restringe contenido como contenido violento y juegos de rol románticos.

La empresa también utiliza una plataforma de verificación externa llamada Persona, que permite a los usuarios confirmar su edad si el sistema de IA los asigna a una categoría incorrecta.

Sin embargo, predecir y verificar la edad con precisión no es fácil, y su uso para filtrar la edad de los usuarios de chatbots es una idea relativamente nueva. ¿Cómo, por ejemplo, puede un modelo de IA distinguir entre un joven de 16 años en secundaria y uno de 19 en la universidad cuando ambos hablan con ChatGPT sobre temas similares?

“Imagínense… si ingresan algo que parezca una pregunta de tarea, ChatGPT los marca como menores de edad y automáticamente se les incluye en la categoría de menores de edad”, afirma Alissa Cooper, directora ejecutiva del Instituto Knight-Georgetown, un grupo de políticas tecnológicas. “Eso limitaría considerablemente el servicio para estudiantes universitarios o personas que, por casualidad, hayan hecho una pregunta que parezca de tarea”.

Naturalmente, algunos usuarios más jóvenes intentarán engañar al modelo de predicción de edad para que piensen que son adultos. “Realmente no hay forma de evitar la elusión, independientemente de la arquitectura o el diseño del sistema”, afirma Cooper. “Por lo tanto, existe un equilibrio entre bloquear las opciones para intentar evitar la elusión y permitir una experiencia completa para usuarios con la edad adecuada para la experiencia que se pretende que sea”.

Una de las principales preocupaciones de Cooper es que el mundo exterior a OpenAI no sepa el rendimiento del sistema. Y, al menos hasta ahora, OpenAI no comparte mucha información sobre su sistema.

“Creo que es correcto ser escéptico”, afirma Cooper, y añade que cree que las empresas deberían ofrecer suficiente transparencia sobre cómo se prueban sus sistemas de verificación de edad para que expertos independientes puedan evaluar si realmente funcionan y examinar los datos utilizados para estimar la edad de cientos de millones de usuarios.

OpenAI fue notificada el año pasado tras ser demandada dos veces por personas que alegaban que versiones anteriores de ChatGPT habían llevado a un ser querido adolescente al suicidio. Esto sentó las bases para que la compañía, primero, aplicara más restricciones a sus modelos para todos los usuarios y luego intentara garantizar una experiencia segura para los usuarios más jóvenes. Con la segregación segura de los usuarios más jóvenes, OpenAI podría flexibilizar o eliminar algunas restricciones de contenido para usuarios adultos, según se cree.

¿Nueva ventaja competitiva?

Este modo para adultos podría convertirse en un verdadero atractivo, y ahora mismo ChatGPT lo necesita. ChatGPT, que cuenta con 800 millones de usuarios activos semanales, antes tenía poca competencia real entre los chatbots de IA. ChatGPT sigue teniendo la mayor cantidad de usuarios, pero la competencia se ha intensificado con la mejora del chatbot Gemini de Google y con Claude, de Anthropic.

OpenAI no solo tiene presión para defenderse de estos rivales, sino también para aumentar los ingresos de su chatbot y así compensar las enormes inversiones que planea realizar en nuevos centros de datos durante los próximos cinco años.

Registrar a millones de nuevos usuarios adultos en esa experiencia no solo aumentaría los ingresos por suscripción de OpenAI, sino que también podría significar que millones de personas más vean los anuncios (la compañía anunció en enero que pronto comenzará a mostrar anuncios a algunos de sus usuarios estadounidenses).

“Creo que se trata de una segmentación de la base de usuarios en múltiples direcciones”, afirma Cooper. “Se trata de mantener a los menores alejados de experiencias que nadie quiere que tengan, pero también de poder ofrecer a los adultos experiencias verdaderamente orientadas a adultos, que algunos adultos desean tener”.