Videos de IA del huracán Melissa inundan las redes sociales y los usuarios se enfrentan a las deepfakes en la era de Sora

Mientras el huracán Melissa azotaba Jamaica y otras islas del norte del Caribe, las redes sociales se inundaron de contenido generado por Sora 2, que difuminó la línea entre realidad y ficción.

Descrito por CBS News como “uno de los huracanes más fuertes jamás registrados en el Atlántico”, Melissa alcanzó la categoría 5 al tocar tierra en Jamaica el martes 28 de octubre. CNN informa que ya causó siete muertes en el norte del Caribe y es la tormenta más poderosa que ha azotado la cuenca desde el huracán Dorian en 2019. 

En medio de la crisis, las redes sociales ya no saben qué creer

En los últimos días, las principales plataformas de redes sociales estuvieron saturadas de videos generados por IA que muestran una amplia gama de contenido supuestamente relacionado con el huracán, desde olas gigantescas que azotan las ciudades costeras hasta tiburones que se deslizan por las aguas de la inundación; aeropuertos destruidos y una vista aérea del ojo de la tormenta que alcanzó más de 17,000 visualizaciones. 

Gran parte de este contenido fue posible gracias a Sora 2, la nueva aplicación de OpenAI para convertir texto en video. Se lanzó hace menos de un mes y permite a los usuarios generar videos realistas simplemente escribiendo una descripción.

La aplicación, que es gratuita para iPhones, resulta tan fascinante como inquietante. Se apoderó rápidamente de las redes sociales en las semanas posteriores a su lanzamiento. Pero también generó alarma entre quienes temen su potencial para difundir desinformación.

A principios de este mes, Daisy Soderberg-Rivkin, exgerente de confianza y seguridad de TikTok declaró a National Public Radio que “es como si los deepfakes se hubieran conseguido un publicista y un acuerdo de distribución”.

“Es una amplificación de algo que ya daba miedo desde hace tiempo, pero ahora tiene una plataforma completamente nueva”, agregó. Resulta que cada vez es más difícil confiar en lo que se ve en la pantalla.

Convertir una catástrofe en un clickbait

El incremento de contenido engañoso sobre desastres naturales es una amenaza real y va mucho más allá de la trivialidad generada por IA que satura las redes sociales.

“Esta tormenta es enorme y probablemente causará daños catastróficos, y el contenido falso pone en riesgo la seriedad del mensaje del gobierno para estar preparados”, dijo Amy McGovern, profesora de meteorología de la Universidad de Oklahoma, a la agencia de noticias Agence France-Presse (AFP).

En un informe publicado el lunes, AFP identificó numerosos videos generados por IA —muchos de ellos, aunque no todos, con la marca de agua Sora de OpenAI— que circulaban por las redes sociales. Los videos abarcaban desde dramáticos noticieros y escenas de graves inundaciones hasta simulaciones de sufrimiento humano. 

Otros videos parecían mostrar a los habitantes —hablando con acentos jamaicanos exagerados que reforzaban los estereotipos— de fiesta, navegando, practicando esquí acuático, nadando o despreocupados por la gravedad de lo que los meteorólogos advirtieron que podría ser la tormenta más violenta jamás registrada en la isla.

Tras la denuncia de AFP sobre los videos, TikTok eliminó cientos de videos y múltiples cuentas que los compartían. 

Las declaraciones de TikTok y Meta

Fast Company consultó este tema con TikTok, que informó que sus normas comunitarias exigen que cualquier contenido generado por IA o editado de manera extensa, que represente personas o eventos reales, esté correctamente etiquetado. La plataforma señaló que el contenido sin etiquetar puede ser eliminado, restringido o reetiquetado. Además, prohíbe cualquier material que “induzca a error en asuntos de interés público o perjudique a personas”, incluso si cuenta con la etiqueta correspondiente.

En Jamaica, se recomienda a los usuarios que busquen información actualizada sobre el huracán Melissa que consulten fuentes oficiales, incluido el Servicio de Información de Jamaica y las guías de eventos de TikTok.

Contenido similar apareció en Facebook e Instagram, a pesar de que las políticas de Meta exigen etiquetas para los videos generados por IA.

OpenAI y Meta no respondieron a las solicitudes de comentarios.

Los expertos temen que el contenido generado por IA pueda eclipsar las advertencias de seguridad más importantes. El ministro de Información de Jamaica, la senadora Dana Morris Dixon, instó a la ciudadanía a consultar las fuentes oficiales, según AFP.

Los riesgos van más allá de los desastres naturales

En la era de Sora, cualquiera puede generar prácticamente cualquier escena imaginable con una sola instrucción, pero los expertos llevan tiempo expresando su preocupación por la IA generativa y la desinformación.

Por ejemplo, algunos estudios indican que las etiquetas de advertencia por sí solas pueden no ser suficientes para combatir las falsedades generadas por la IA y, en ocasiones, pueden tener efectos no deseados en la percepción de credibilidad de los usuarios.

Aaron Rodericks, responsable de confianza y seguridad de Bluesky, señaló en una entrevista con NPR que el público no está preparado para tal colapso entre la realidad y la ficción.

“En un mundo polarizado, es fácil crear pruebas falsas dirigidas a grupos identitarios o individuos, o llevar a cabo estafas a gran escala. Lo que antes existía como un rumor —como una historia inventada sobre un inmigrante o un político— ahora puede convertirse en una prueba de video aparentemente creíble”, dijo Rodericks.

Y esto solo es el comienzo

La aplicación Sora 2 de OpenAI, donde surgieron muchos de estos clips recientes, es solo el jugador más nuevo en el creciente mundo de las herramientas de creación de video cada vez más potentes.

Solo este año hubo una oleada de innovaciones impulsadas por la IA en todas las plataformas. En mayo, los usuarios podían chatear con personajes de IA en Instagram y la herramienta “AI Alive” de TikTok permitía convertir imágenes fijas en videos con un solo comando. En septiembre, Meta lanzó su nueva aplicación “Vibes” , con un feed generado por IA al estilo de TikTok.

Esto marca el inicio de una nueva carrera que dará forma al futuro de internet.