Gobiernos de todo el mundo consideran prohibir Grok por el escándalo de imágenes sexuales de IA

Ante la creciente preocupación por la capacidad de Grok para generar contenido sexualmente explícito sin el consentimiento del sujeto, varios países están bloqueando el acceso al chatbot de inteligencia artificial (IA) de Elon Musk. En el centro de la controversia se encuentra una función llamada Grok Imagine, que permite a los usuarios crear imágenes y videos. Esta herramienta también cuenta con un “modo picante” que permite a los usuarios generar contenido para adultos.

Tanto Indonesia como Malasia ordenaron la implementación de restricciones durante el fin de semana. Las autoridades malasias bloquearon el acceso a Grok el domingo, alegando “repetido mal uso… para generar imágenes obscenas, sexualmente explícitas, indecentes, groseramente ofensivas y manipuladas sin consentimiento”. Las autoridades también citaron “repetidas fallas de X Corp.” para evitar dicho contenido.

Indonesia había bloqueado el chatbot el día anterior por razones similares. En un comunicado que acompañó la suspensión de Grok, Meutya Hafid, ministro de Comunicación y Medios Digitales de Indonesia, declaró: “El gobierno considera la práctica de deepfakes sexuales no consentidos una grave violación de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital”.

Sin embargo, las respuestas podrían ser solo el comienzo de los problemas de Grok. Varios otros países, como el Reino Unido, la India y Francia, están considerando seguir su ejemplo.

Los bloqueos de Grok en el mundo

El Reino Unido ha iniciado una investigación sobre el contenido explícito del chatbot, lo que podría resultar en su bloqueo también en ese país. “Los informes sobre el uso de Grok para crear y compartir imágenes íntimas ilegales, no consentidas y material de abuso sexual infantil en X han sido profundamente preocupantes”, declaró Ofcom, el regulador de los servicios de comunicación del país, en un comunicado.

Musk, en una publicación en las redes sociales tras conocerse la investigación de Ofcom, escribió que el gobierno del Reino Unido “sólo quiere suprimir la libertad de expresión”.

Fast Company intentó contactar a xAI para obtener comentarios sobre las acciones en Indonesia y Malasia, así como sobre posibles bloqueos similares en otros países. La respuesta automática de la empresa decía “Legacy Media Lies”.

Más allá del Reino Unido, funcionarios de la Unión Europea, Brasil e India han solicitado investigaciones sobre los deepfakes de Grok, lo que podría resultar en prohibiciones. —El gobierno estadounidense, que tiene contratos con xAI, ha guardado bastante silencio al respecto hasta el momento—.

En una conferencia de prensa la semana pasada, el portavoz de la Comisión Europea, Thomas Regnier, afirmó que la comisión estaba “estudiando este asunto muy seriamente”, y añadió: “Esto no es ‘picante’. Es ilegal, atroz y repugnante. Así es como lo vemos, y esto no tiene cabida en Europa”.

Grok ha causado muchas polémicas

Musk y X todavía están sintiendo los efectos de una multa de 130 millones de dólares que la UE impuso a la compañía el mes pasado por violar la Ley de Servicios Digitales, específicamente por una verificación paga engañosa y una falta de transparencia en el repositorio de publicidad de la compañía.

Más allá de las imágenes sexualizadas de adultos, un informe de la organización sin fines de lucro AI Forensics, que analizó 20,000 imágenes generadas por Grok entre el 25 de diciembre y el 1 de enero, reveló que el 2% representaba a una persona que parecía tener 18 años o menos. Estas incluían 30 imágenes de mujeres jóvenes o muy jóvenes, o niñas, en bikini o ropa transparente.

El análisis también encontró material de propaganda nazi y de ISIS generado por Grok.

Si bien la compañía no se ha referido a los países que bloquean el acceso a sus servicios, sí comentó sobre el uso de su herramienta para crear contenido sexual con menores.

“Tomamos medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil (MASI), eliminándolo, suspendiendo permanentemente las cuentas y colaborando con los gobiernos locales y las fuerzas del orden según sea necesario”, escribió X Safety en una publicación. “Cualquiera que use o incite a Grok a crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”.

La compañía también ha anunciado que limitará la generación y edición de imágenes a los suscriptores de pago. Sin embargo, esto probablemente no será suficiente para satisfacer a los funcionarios gubernamentales que desean bloquear el acceso a Grok mientras estas imágenes aún se puedan generar.