- La camisa llamada Digital Camouflage fue creada por el artista alemán Simon Weckert para confundir a sistemas de videovigilancia con inteligencia artificial.
- El diseño se generó mediante un ataque adversarial, modificando el estampado según las respuestas de sistemas de detección como YOLO.
- En las pruebas, el sistema podía reconocer a otros transeúntes pero no a quien usaba la camisa, aunque no es infalible ante sistemas actualizados.
- Weckert aclara que el proyecto busca demostrar vulnerabilidades en el reconocimiento visual automatizado, no evadir a la seguridad ni dar anonimato absoluto.
- Previamente, en 2020, el artista había engañado a Google Maps al simular un embotellamiento con 99 teléfonos móviles.
A simple vista parece una camisa hawaiana bastante difícil de combinar. Tiene manchas rosas, verdes y naranjas que se superponen formando un estampado caótico. Pero detrás de ese diseño hay un experimento tecnológico: intentar confundir a los sistemas de inteligencia artificial que utilizan cámaras para detectar personas y objetos.
La prenda se llama “Digital Camouflage” (Camuflaje Digital) y fue creada por el artista y tecnólogo alemán Simon Weckert, quien trabaja desde Berlín sobre la relación entre tecnología, vigilancia y espacio público.
El proyecto surgió como respuesta a la instalación de sistemas de videovigilancia con inteligencia artificial en Kottbusser Tor, una de las zonas más transitadas de Berlín.
La idea de Weckert es tan sencilla como llamativa: si las cámaras utilizan patrones visuales para determinar si delante de ellas hay una persona, ¿se puede diseñar un patrón capaz de hacer que el algoritmo dude? La respuesta, al menos con algunos sistemas, parece ser que sí.
Un estampado pensado para la mirada de una máquina
La camisa no fue diseñada simplemente “a ojo”. Weckert utilizó un proceso conocido como ataque adversarial, una técnica que busca encontrar imágenes o patrones capaces de provocar errores en los sistemas de inteligencia artificial.
El diseñador sometió distintas versiones del estampado a sistemas de detección y fue modificando el diseño en función de las respuestas obtenidas.
El resultado terminó siendo una combinación de colores fuertes y formas superpuestas que dificulta que determinados algoritmos puedan interpretar correctamente el contorno de una persona.
Las pruebas difundidas por el creador utilizaron YOLO, un sistema de detección de objetos de código abierto. En las demostraciones, el sistema identifica como personas a otros transeúntes que aparecen en la imagen, pero puede dejar de reconocer como tal a quien lleva puesta la camisa.
Un sistema diferente, entrenado de otra manera o actualizado con nuevos modelos podría reconocer perfectamente a quien lleva la prenda.
Por eso, más que una herramienta infalible para escapar de la vigilancia, el proyecto funciona como una demostración de una vulnerabilidad de los sistemas automatizados de reconocimiento visual.
Incluso el propio Weckert aclara que el proyecto no pretende ofrecer anonimato absoluto ni convertirse en una herramienta para evadir a las fuerzas de seguridad.
¿Cómo puede una camisa confundir a una inteligencia artificial?
La explicación está en la manera en que estos sistemas “ven”. Una persona reconoce rápidamente una silueta humana aunque tenga ropa extravagante, esté parcialmente tapada o se encuentre en una imagen de mala calidad.
Una inteligencia artificial, en cambio, analiza patrones y probabilidades aprendidas a partir de enormes cantidades de imágenes. El estampado de Digital Camouflage intenta romper algunas de esas referencias visuales.
Los colores saturados y las formas superpuestas pueden dificultar que el algoritmo determine dónde termina una parte del cuerpo y comienza otra, reduciendo su confianza a la hora de clasificar la imagen como una persona.
Es, en definitiva, una especie de juego del gato y el ratón: la inteligencia artificial intenta reconocer a una persona y el diseño intenta hacer que la máquina dude de lo que está viendo.
El diseñador que ya había engañado a Google Maps
No es la primera vez que Weckert realiza un experimento de este tipo. En 2020, el artista alemán recorrió las calles de Berlín arrastrando un carrito con 99 teléfonos celulares conectados a Internet.
Google Maps interpretó la concentración y el movimiento lento de los dispositivos como un embotellamiento de tránsito y mostró una congestión que, en realidad, no existía.
Ahora, su objetivo es diferente: ya no busca alterar la representación del tránsito, sino poner a prueba la capacidad de las máquinas para reconocer personas.
Una discusión que va más allá de una camisa
El proyecto aparece en medio de una expansión global de los sistemas de videovigilancia automatizada. Cámaras capaces de detectar personas, vehículos, matrículas y determinados comportamientos ya forman parte de los sistemas de seguridad de numerosas ciudades.
En Estados Unidos, por ejemplo, existen redes con cientos de miles de cámaras y lectores automatizados de matrículas que permiten registrar movimientos y cruzar información.
En ese contexto, Digital Camouflage funciona tanto como experimento tecnológico como una intervención artística. La pregunta que plantea Weckert no es solamente si una camisa puede engañar a una cámara.
Es también otra bastante más incómoda: si las máquinas pueden observarnos y clasificarnos cada vez con mayor facilidad, ¿qué herramientas tendremos para decidir cuándo queremos no ser reconocidos?