Simon Weckert, diseñador y artista alemán, trabaja habitualmente en la intersección entre tecnología, espacio público y vigilancia digital. Sus proyectos suelen poner a prueba sistemas que están en la vida cotidiana y cuestionan cómo las máquinas observan, clasifican y condicionan el comportamiento de las personas.
Su más reciente creación apunta directo a las cámaras que funcionan con inteligencia artificial: una prenda que, a través de un patrón de colores y formas, puede dificultar que determinados sistemas de visión artificial identifiquen a quien la porta. La camiseta, bautizada Digital Camouflage, surge como respuesta al despliegue de vigilancia automatizada en espacios públicos de Berlín. No pretende ocultar físicamente a la gente: es visible para el ojo humano, y el truco ocurre frente al algoritmo.
La idea se originó en Kottbusser Tor, zona bulliciosa de la capital alemana donde empezaron a utilizarse cámaras con un software capaz de analizar conductas de peatones. El detonante fue que Berlín activó su primer escáner de comportamiento con IA, un sistema que clasifica lo que hace cada transeúnte entre normal y sospechoso, según explica Weckert.
El objetivo del proyecto no es neutralizar la vigilancia, sino exhibir sus limitaciones. El ataque adversarial utilizado por Digital Camouflage consiste en introducir modificaciones en la imagen para provocar errores en la interpretación de un modelo de IA; en este caso, el ataque está impreso directamente sobre la tela.
Cómo funciona: los sistemas de visión artificial aprenden a identificar personas a partir de vastas imágenes, buscando patrones repetidos y estableciendo rasgos como la silueta, las proporciones y la relación entre las distintas partes del cuerpo. Weckert busca interferir precisamente en esas referencias: los detectores no aprendieron qué es una persona en abstracto, sino que memorizan cómo se ven a partir de millones de imágenes. Según el diseñador, las formas superpuestas del estampado alteran la silueta y dificultan que el software relacione cabeza, hombros y piernas dentro de una misma figura, a la vez que los colores intensos fortalecen el efecto. El proyecto, aclara, no propone invisibilidad absoluta, sino plantear un desafío a los sistemas de observación automatizada en entornos reales.
