Por qué Nano Banana de Google significa que jamás podrás confiar en una foto que veas en línea

A pesar de los miles de millones de dólares invertidos en Inteligencia Artificial (IA), Gemini de Google siempre ha tenido dificultades para generar imágenes. El modelo Flash 2.5 de la compañía es considerado desde hace mucho tiempo secundario en comparación con generadores mucho mejores como OpenAI, Midjourney e Ideogram.

Todo eso cambió la semana pasada con el lanzamiento de la nueva IA de imágenes Nano Banana de Google. Este sistema, con un nombre peculiar, ya está disponible para la mayoría de los usuarios de Gemini y sus capacidades son increíbles.

Para ser claros, Nano Banana todavía no es muy bueno generando nuevas imágenes con IA. 

Nano Banana destaca por una capacidad inquietante: puede editar imágenes reales y añadir elementos falsos con una precisión sorprendente. El resultado es tan convincente que incluso expertos en fotografía no logran detectar las modificaciones. La manipulación es casi invisible, lo que convierte a esta herramienta en algo poderoso, pero también potencialmente peligroso para la confianza en lo que vemos.

Esto hace que Nano Banana —y sus inevitables imitaciones— sean herramientas creativas invaluables y una amenaza existencial para la confiabilidad de las fotografías, tanto nuevas como históricas.

En resumen, con herramientas como ésta en el mundo, nunca más podrás confiar en una foto que veas en línea.

Ven a volar conmigo

En cuanto Google lanzó Nano Banana, empecé a probarlo. Muchos ejemplos en línea, incluido el mío, se centran en usos simpáticos y divertidos de las potentes funciones de edición de imágenes de Nano Banana.

En mis primeras pruebas, coloqué a mi perro, Lance, en una escena callejera parisina llena de montones de plátanos y le mostré cómo me vería con un sombrero Tilley Airflo. —Respuesta: muy bien—.

Sin embargo, inmediatamente vi el potencial del sistema para generar desinformación. Para demostrarlo a un nivel básico, intenté editar mi foto profesional estándar para ubicarme en diversas escenas del mundo.

Aquí está la representación que Nano Banana hizo de mí en una playa de Maui.

Si has visitado Wailea Beach, reconocerás la forma altamente realista de las montañas del oeste de Maui con un enfoque suave en el fondo.

También llegué a la cima del Everest. Mi chamarra me convence, pero el hecho de que todavía lleve puesta una polo no tanto.

200 es multitud

Estos ejemplos personales son divertidos. Seguro que podría publicar la foto de la playa de Maui en redes sociales y esperar de inmediato una avalancha de comentarios de amigos preguntándome qué tal disfruté del viaje.

Pero yo buscaba algo más grande. Quería ver cómo Nano Banana produciría desinformación con potencial de impacto real.

Durante las elecciones presidenciales del año pasado en Estados Unidos, ambos candidatos se enfrentaron a acusaciones de falsificación con IA. En un ejemplo especialmente infame, el ahora presidente Donald Trump acusó a la campaña de Kamala Harris de usar IA para simular el tamaño de una multitud durante un mitin.

Todos los relatos fiables del evento confirman que las fotos del mitin de Harris eran reales. Pero me preguntaba si Nano Banana podría crear una imagen falsa de una multitud mucho más pequeña, usando la foto real del mitin como referencia.

Aquí está el resultado:

La versión editada parece extremadamente realista, en parte porque mantiene detalles específicos de la foto real, como las personas en primer plano sosteniendo carteles y teléfonos.

Pero la imagen falsa da la impresión de que sólo unas 200 personas asistieron al evento y estaban densamente concentradas en un pequeño espacio lejos del avión, tal como afirmó la campaña de Trump.

Si Nano Banana hubiera existido en el momento de la controversia, fácilmente podría ver una foto manipulada por IA como esta circulando en las redes sociales, como “prueba” de que la multitud original era más pequeña de lo que afirmaba Harris. 

Antes, crear una versión cuidadosamente alterada de una imagen real con herramientas como Photoshop habría llevado a un editor experto días: demasiado tiempo para que el resultado tuviera muchas posibilidades de aparecer en el ciclo de noticias y alterar las narrativas.

Ahora, con poderosos editores de IA, un mal actor que desee difundir información errónea podría alterar fotos de manera convincente en segundos, sin necesidad de presupuesto ni habilidades de edición.

Llévame a la Luna

Después de probar un ejemplo actual, decidí centrar mi atención en un acontecimiento histórico que ha dado lugar a innumerables teorías conspirativas: el alunizaje de 1969.

Los conspiranoicos suelen afirmar que el alunizaje se escenificó en un estudio. De nuevo, no hay pruebas que lo respalden. Pero me preguntaba si herramientas como Nano Banana podrían falsificar algo.

Para descubrirlo, le entregué a Nano Banana una fotografía real de la NASA del astronauta Buzz Aldrin en la Luna. 

Luego le pedí que fingiera que la foto había sido falsificada y que mostrara que había sido creada en un estudio fotográfico apropiado para la época.

La imagen resultante impresiona por su nivel de detalle. Un grupo de hombres —era la NASA en los años 60, ¡claro que todos son hombres!— con ropa de época se encuentran de pie alrededor de un estudio de sonido con un cielo artificial de fondo, regolito lunar falso en el suelo y un módulo lunar de utilería.

En el centro del regolito se encuentra un actor con traje espacial, cuya postura coincide a la perfección con la ligera inclinación de Aldrin hacia adelante en la foto. Diversos muebles y demás equipo teatral se apilan sin contemplaciones a los lados de la sala.

Como fotógrafo profesional, puedo garantizar que los detalles técnicos de la imagen del Nano Banana son impecables. Una luz principal gigante sobre el actor astronauta sustituye la brillante iluminación sin atmósfera de la superficie lunar, mientras que varios instrumentos de iluminación crean sombras que se asemejan perfectamente a la sombra del módulo lunar en la imagen real.

Un fotógrafo se agacha en el suelo, capturando al astronauta imaginario desde un ángulo que, sin duda, coincidiría con el de la fotografía real. Incluso la singular iluminación de la bandera estadounidense ligeramente arrugada, con una pequeña sombra circular en el centro, coincide con la imagen real.

En resumen, si quisieras simular el alunizaje, el escenario sonoro imaginado por Nano Banana sería una configuración fotográfica bastante razonable para utilizar. 

Si publicaras esta foto de IA en redes sociales con un mensaje como “¡REVELADO! En el archivo de la NASA, encontramos una foto que PRUEBA que el alunizaje fue un montaje. El Gobierno Federal no quiere que veas este encubrimiento”, estoy seguro de que muchísima gente lo creería.

¿Pero por qué detenerse ahí? Después de usar Nano Banana para simular el alunizaje, decidí remontarme aún más en la historia. Le di al sistema la icónica foto de 1903 de los hermanos Wright de su primer vuelo en Kitty Hawk y le pedí que imaginara que también había sido un montaje.

Efectivamente, Nano Banana añadió al avión un soporte con ruedas fiel a la época.

Se supone que el avión podría haber sido fotografiado en este soporte con ruedas, que luego podría enmascararse en el cuarto oscuro para producir la imagen icónica que todos hemos visto reimpresa en los libros de texto durante el último siglo.

No creas nada

En muchos sentidos, Nano Banana no es nada nuevo. Se han retocado fotos casi desde que se empezaron a tomar. 

Una fotografía icónica de Abraham Lincoln de 1860 es en realidad una composición de la cabeza de Lincoln y el cuerpo mucho más musculoso del político John Calhoun, y abundan otros ejemplos de manipulación fotográfica histórica.

Aun así, la facilidad y velocidad con la que Nano Banana puede alterar fotos es novedosa. Antes, crear una falsificación convincente requería habilidad y tiempo. Ahora, basta con una instrucción ingeniosa y unos segundos.

Google tiene el mérito de ser muy consciente de estos riesgos y de estar tomando medidas importantes para defenderse de ellos. 

Cada imagen creada por Nano Banana viene con una marca de agua física —fácil de quitar— en la esquina inferior derecha, así como una marca de agua digital SynthID —más difícil de quitar— incrustada invisiblemente directamente en los píxeles de la imagen.

Esta marca de agua digital acompaña a la imagen y puede leerse con un software especial. Si una imagen falsa de Nano Banana empezara a circular en línea, Google podría escanearla en busca de su SynthID integrado y confirmar rápidamente su autenticidad. Probablemente incluso podrían rastrear su procedencia hasta el usuario de Gemini que la creó.

Los científicos de Google me han dicho que el SynthID puede sobrevivir a las tácticas comunes que se usan para ocultar el origen de una imagen. Recortar una foto, o incluso tomar una captura de pantalla, no eliminará el SynthID incrustado.

Google también cuenta con políticas sólidas y matizadas que rigen el uso de Nano Banana. Crear imágenes falsas con la intención de engañar a la gente probablemente resultaría en la suspensión del usuario, mientras que crearlas con fines artísticos o de investigación, como he hecho para este artículo, generalmente está permitido.

Aun así, una vez que un proveedor lanza una tecnología de IA innovadora, otros la copian rápidamente. No todas las empresas de generación de imágenes serán tan cuidadosas con la procedencia y la seguridad como Google. 

El secreto ya se ha revelado; ahora que existen herramientas como Nano Banana, debemos asumir que todas las imágenes que vemos en línea podrían haberse creado con una. Nano Banana y similares son tan buenas que ni siquiera los expertos en fotografía como yo podremos detectar sus falsificaciones con fiabilidad.

Como usuarios, debemos ser siempre escépticos con las imágenes. En lugar de confiar en lo que vemos al navegar por internet, nuestro único recurso es recurrir a la reputación, la procedencia y la alfabetización mediática tradicional para protegernos de las falsificaciones.

Ahora, si me disculpan, Burning Man recién termina y realmente debería regresar a las festividades.