Roblox exige una selfie verificada por IA para evitar que menores hablen con adultos

Ante un creciente número de demandas que alegan facilitar la explotación sexual infantil, la plataforma de juegos en línea Roblox presentó un nuevo sistema de verificación de edad. Sin embargo, este sistema podría exponerla a otro tipo de críticas.

La popular aplicación, con aproximadamente 151 millones de usuarios, anunció la semana pasada que planea exigir una verificación de edad facial a todos los usuarios que utilicen el sistema de chat de Roblox. La verificación del usuario puede realizarse enviando una identificación oficial o una selfie, que la IA examinará para estimar la edad del usuario.

La verificación comenzará a implementarse a principios de diciembre en mercados seleccionados (excepto Estados Unidos) y se expandirá globalmente en enero de 2026.

“Esta iniciativa está diseñada para brindar experiencias aún más apropiadas para la edad de todos los usuarios, lo que creemos que mejorará las interacciones para usuarios de todas las edades en Roblox”, declaró Matt Kaufman, director de seguridad de Roblox, en un comunicado. “La aplicación de controles de edad nos permite implementar chats basados ​​en la edad, lo que ayuda a los usuarios a comprender mejor con quién se comunican y limita las conversaciones entre menores y adultos”.

Roblox se enfrenta a al menos 35 demandas que alegan que los usuarios conocieron y abusaron de menores en la plataforma. (Más de un tercio de los usuarios de la plataforma son menores de 13 años). Los fiscales generales de Kentucky y Luisiana presentaron demandas por separado acusando a la compañía de perjudicar a menores a principios de este año. Y un juez de California, a principios de este mes, denegó el intento de Roblox de forzar la resolución privada de la disputa de un padre.

Roblox ya cuenta con controles parentales y bloquea el intercambio de fotos e información personal. También utiliza una combinación de inteligencia artificial y humana para moderar las interacciones de texto y voz.

Sin embargo, con el nuevo sistema, los usuarios que verifiquen su edad solo podrán chatear con otras personas de un rango de edad similar (a menos que se les clasifique como “Conexión de Confianza” con personas que conocen). Estos grupos de edad se dividirán en seis categorías: menores de 9 años, de 9 a 12 años, de 13 a 15 años, de 16 a 17 años, de 18 a 20 años y mayores de 21 años. (El chat no estará disponible para menores de 9 años, a menos que sus padres den su consentimiento tras la verificación de edad).

Dado que las familias tienen hijos de todas las edades, Roblox anuncia que pronto implementará soluciones para el chat directo entre padres e hijos menores de 13 años o entre hermanos de diferentes edades.

Enviar la verificación de edad sigue siendo opcional, pero será obligatorio para cualquier usuario que desee utilizar la función de chat del sistema, una función muy popular.

Roblox afirma que las selfies enviadas se completarán a través de la aplicación con la cámara de un smartphone. También intentó anticiparse a posibles problemas de seguridad, afirmando que “las imágenes y los videos para las verificaciones de edad realizadas mediante la Estimación de Edad Facial son procesados ​​por nuestro proveedor, Persona, y eliminados inmediatamente después del procesamiento”.

Aun así, algunos padres podrían desconfiar de permitir que sus hijos pequeños envíen fotos a la empresa, dada la cantidad de demandas y la naturaleza polarizadora del reconocimiento facial.

En 2021, Facebook abandonó su programa de reconocimiento facial, que sugería etiquetas con el nombre de las personas que aparecían en las fotos, tras las advertencias de los organismos de control de la privacidad y las medidas enérgicas de los reguladores de la Unión Europea contra esta práctica. (La empresa reinstauró las herramientas de reconocimiento facial el año pasado para facilitar la recuperación de cuentas comprometidas).

Incluso los republicanos del Senado de EU han expresado su recelo respecto al software de reconocimiento facial, proponiendo limitar esta tecnología en los aeropuertos estadounidenses (aunque el proyecto de ley no ha cobrado impulso hasta ahora). “La gente no quiere un estado de vigilancia nacional, pero eso es exactamente a lo que nos está llevando la expansión desenfrenada de la tecnología de reconocimiento facial por parte de la TSA”, declaró en mayo el senador demócrata de Oregón Jeff Merkley, copatrocinador del proyecto de ley.

Roblox afirma que sus comprobaciones de edad no se detendrán con el programa actual. A principios del próximo año se requerirán controles de edad para acceder a los enlaces de redes sociales en los perfiles de usuario, comunidades y páginas de detalles de experiencia.