Por fin, Apple se une a la guerra contra las imágenes falsas generadas por IA

La realidad se está desmoronando a manos de los usuarios de IA generativa. Cada vez resulta más difícil confiar plenamente en lo que vemos en internet. Apple ha desarrollado una tecnología para intentar solucionar este problema: Apple Reference Image. La función viene incluida en los nuevos modelos iPhone 18 Pro. Cuando está activada, permite que el nuevo sensor de la cámara firme criptográficamente “cada píxel que ve” al tomar una foto, según Apple.

Al usar el nuevo modo de referencia, el sensor del iPhone firma criptográficamente los datos de la imagen a nivel de píxel. Actualmente, ningún otro teléfono del mercado lo hace de la misma manera. Los servidores seguros de Apple procesan esos datos para crear una “imagen de referencia inalterable”. Esta se guarda junto a la foto editable, “como un negativo digital”, según la compañía. Esto podría generar la presión necesaria para que toda la industria proteja la realidad desde el hardware. Así, no sería necesario depender únicamente de detectores de IA poco fiables. Y esa podría ser una de las claves para recuperar nuestra confianza en las imágenes a escala global.

La necesidad de certificar la realidad

En marzo, investigadores de la ETH Zúrich presentaron un prototipo funcional de un sensor criptográfico. El dispositivo realiza una función similar e incluso va más allá. El sistema genera una firma criptográfica en el instante en que se capturan los datos. El trabajo, publicado en Nature Electronics, integra los circuitos de hash y firma dentro del mismo chip de silicio. De este modo, los datos conservan su firma desde el momento en que se generan. Cualquier manipulación posterior puede detectarse.

El prototipo se implementó originalmente en un sensor de voltaje. Sin embargo, sus investigadores señalan que la arquitectura puede trasladarse a sensores CMOS de imagen, micrófonos y otros dispositivos. Esa es, en esencia, la misma propiedad de seguridad que Apple ahora lleva a su nuevo sensor fotográfico. “Si los datos se firman en el momento de su captura, cualquier manipulación posterior deja rastro”, explicó Fernando Cardes, investigador de la ETH Zúrich. Según Cardes, falsificar el sistema exigiría un ataque físico al chip. El costo sería tan alto que “la generación masiva de contenido manipulado para las redes sociales sería prácticamente imposible”.

Del laboratorio al iPhone

El chip de la ETH Zúrich sigue siendo un prototipo de laboratorio. Además, existe una solicitud de patente relacionada con algunas de sus posibles implementaciones. Apple, mientras tanto, lleva la seguridad a nivel de sensor a un producto comercial de enorme escala. Cuando activas Apple Reference Image, la función permanece disponible en los ajustes de la cámara. Por ahora, viene desactivada de forma predeterminada. Al disparar en modo de referencia, el obturador activa un proceso criptográfico. Este vincula los datos del sensor con información que posteriormente permite comprobar su procedencia.

Según los análisis del código beta de iOS 27, el sistema utiliza firmas del sensor e información temporal de la captura. También emplea identificadores de hardware relacionados con el sensor para verificar el origen de una imagen.

Cómo funciona Apple Reference Image

La comprobación comienza cuando tocas la insignia correspondiente en una fotografía dentro de Fotos o de una aplicación compatible. Entonces, el sistema recurre a Private Cloud Compute. Se trata de la infraestructura segura en la nube de Apple, basada en Apple Silicon. Apple diseñó esta infraestructura para procesar información con fuertes garantías de privacidad. Piensa en ella como una especie de notario digital.

Según los análisis de la versión beta, Private Cloud Compute puede comprobar las firmas y determinar si el hardware que generó la imagen es válido. Apple también puede rechazar la autenticación cuando considera que un sensor está comprometido. Incluso podría revocar autenticaciones anteriores asociadas con ese hardware. Si todo está correcto, el sistema puede confirmar que la imagen procede de esa cámara. Según los primeros análisis de iOS 27, una fotografía autenticada también puede conservar su información de procedencia al compartirse.

Las API de Apple para iOS, iPadOS y macOS 27 permitirán que otras aplicaciones utilicen estas imágenes de referencia. Entre ellas podrían estar las herramientas de verificación para redacciones. Estas aplicaciones podrían ayudar a comprobar cómo se modificó una fotografía desde su captura. Para periodistas y medios, la idea puede ser especialmente importante. En plena era de las imágenes generadas por IA, ya no basta con preguntarse si algo “parece real”. La procedencia digital empieza a convertirse en otra capa de verificación.

Apple Reference Image frente a C2PA

Ahora comparemos esto con lo que hacen otros teléfonos. El Pixel 10 de Google firma las fotografías producidas por su aplicación de cámara nativa mediante credenciales de contenido C2PA. C2PA es un estándar abierto que también han adoptado fabricantes de cámaras como Leica, Sony y Canon. Las claves de firma del Pixel están protegidas mediante tecnologías de seguridad respaldadas por hardware, incluido el chip Titan M2.

Google explica que el Pixel 10 fue el primer teléfono en incorporar Content Credentials en todas las fotografías JPEG creadas por Pixel Camera. Su implementación busca demostrar la procedencia del archivo. También registra información sobre cómo fue creado o modificado. Sin embargo, la apuesta de Apple lleva la autenticación directamente hasta los datos proporcionados por el sensor durante la captura.

En lugar de centrarse únicamente en verificar el archivo terminado, intenta establecer una cadena de confianza desde el momento en que la cámara observa la escena. Ahí está la diferencia fundamental: Apple apuesta por una verificación a nivel de sensor.

El problema de depender de Apple

Apple Reference Image no se presenta, por ahora, como un estándar abierto equivalente a C2PA. Eso significa que la compañía controla una parte importante de la infraestructura encargada de determinar si la prueba criptográfica es válida. En el diseño propuesto por ETH Zúrich ocurre algo distinto. La clave pública de cada sensor podría almacenarse en un registro público de solo escritura.

Los investigadores plantean una cadena de bloques como una posible solución. Esto permitiría realizar verificaciones independientes sin depender de una empresa en particular. En un modelo así, “apenas importa si una persona o la tecnología involucrada en el procesamiento y la transmisión de datos es digna de confianza”, explicó Felix Franke. Franke es otro de los investigadores de la ETH Zúrich que participó en el proyecto.

La versión de Apple realiza parte de la verificación mediante su propia infraestructura. La prueba puede ser sólida, pero Apple sigue siendo el notario. Y ese notario está detrás de una puerta cerrada en Cupertino. ¿Deberíamos depender de una empresa privada para certificar qué es real y qué no?

El verdadero reto: que internet pueda leer estas firmas

Ambas visiones comparten un gran inconveniente: estas firmas solo importarán si todo internet puede leerlas. Las redes sociales, las aplicaciones de mensajería, los navegadores y los reproductores de fotos y videos necesitan mostrar una señal reconocible. Esa señal debería indicar, en efecto, que esto es real.

La idea también está detrás de iniciativas como Content Credentials. Su objetivo es crear un símbolo reconocible que permita conocer la procedencia de un contenido digital. Quizás sea un pequeño icono de candado. Podría funcionar como el símbolo que utiliza un navegador para indicar una conexión segura. En este caso, marcaría una grabación como capturada por una cámara real. También permitiría saber si fue alterada posteriormente. Las redacciones podrán certificar con mucha más certeza las imágenes tomadas en modo de referencia.

Esto puede resultar especialmente útil para fotografías capturadas durante una guerra, un desastre natural o cualquier otro acontecimiento noticioso. Ese es un paso enorme. Pero necesitamos aislar las falsificaciones detrás de una enorme barrera de imágenes certificadas, como alambre de púas y titanio. A menos que eso suceda, nada cambiará del todo. Cada imagen seguirá bajo sospecha permanente. Esperemos que la nueva tecnología de Apple, respaldada por la enorme posición de la compañía en el mercado, sea solo el primer paso para reparar nuestra realidad compartida de una vez por todas.