Esta camisa de camuflaje digital puede hacerte “invisible” para la IA

A simple vista, la camisa de camuflaje digital presenta un estampado abstracto y colorido con formas verdes, rosas y naranjas. Para los robots, oculta a la persona que la lleva puesta.

El diseñador alemán Simon Weckert creó esta camisa abotonada para confundir a los sistemas de vigilancia con inteligencia artificial tras la instalación de cámaras de vigilancia en Berlín a principios de este año. En Kottbusser Tor se instalaron alrededor de 30 cámaras conectadas a un sistema de análisis automatizado del comportamiento. La prenda forma parte de una tendencia emergente de diseño de ropa que utiliza patrones complejos para dificultar el reconocimiento de personas y objetos.

“Los sistemas de detección de objetos no ‘ven’ como nosotros”, explica Weckert a Fast Company. “Escanean una imagen en busca de patrones estadísticos: combinaciones de bordes, texturas y colores que han aprendido a asociar con la categoría ‘persona’”.

El diseño se optimizó matemáticamente para enviar señales erróneas a estas redes. Este tipo de técnica se conoce como ataque adversario, y distintas investigaciones sobre detección de personas han demostrado que los parches físicos diseñados específicamente para engañar algoritmos pueden reducir significativamente el desempeño de sistemas de detección basados en YOLO.

Weckert afirma que la camiseta, disponible por unos 88 dólares, debe cumplir una doble función: confundir a la IA y, al mismo tiempo, ser ponible.

«Los patrones adversarios brutos que surgen de la optimización son efectivos, pero visualmente caóticos: imágenes puramente orientadas a la máquina», afirma. El patrón final se sitúa en un punto intermedio entre las necesidades algorítmicas y el gusto humano, y considera que esa ambigüedad es conceptualmente importante.

“Es una prenda dirigida a dos tipos de espectadores simultáneamente, y cada uno ve algo completamente diferente”, añade.

Weckert probó el patrón con You Only Look Once (YOLO), un sistema de detección de código abierto basado en la misma clase de tecnología que utilizan muchos productos comerciales de visión computacional. Sin embargo, señala que la prenda no fue diseñada necesariamente para burlar un sistema de vigilancia específico, sino más bien para plantear interrogantes sobre cuánta confianza merece una tecnología si una simple pieza de tela puede neutralizarla.

La pregunta también conecta con un debate más amplio sobre privacidad digital y sobre cuánto poder estamos dispuestos a entregar a sistemas automatizados capaces de observar, clasificar e interpretar lo que ocurre en espacios públicos.

«No hago afirmaciones sobre sistemas patentados específicos», dice. El objetivo de la camiseta no es desacreditar un producto en particular, sino mostrar una fragilidad estructural en toda esta clase de tecnología.