Simon Weckert es un diseñador y artista alemán que trabaja en la convergencia entre tecnología, espacio público y vigilancia digital. Sus proyectos suelen poner a prueba sistemas de la vida cotidiana para cuestionar cómo las máquinas observan, clasifican y condicionan el comportamiento de las personas. Su nueva creación apunta directamente a las cámaras equipadas con inteligencia artificial: una prenda bautizada Digital Camouflage que, mediante una mezcla de colores y formas, puede confundir a ciertos sistemas de visión artificial hasta lograr que el algoritmo no identifique a quien la viste como una persona.
La camiseta surge como respuesta al despliegue de sistemas automatizados de vigilancia en espacios públicos de Berlín. “Quería una respuesta con la que uno pudiera plantarse delante de esas cámaras”, explicó Weckert en diálogo con TN Tecno.
El punto de partida fue Kottbusser Tor, una zona transitada de la capital alemana donde comenzaron a utilizarse cámaras con un software capaz de analizar conductas de los peatones. “El disparador fue concreto: Berlín encendió su primer escáner de comportamiento con IA, un software que clasifica lo que hace cada transeúnte entre ‘normal’ y ‘sospechoso’”, relató el diseñador.
A diferencia de lo que podría creerse, la idea no es ocultar físicamente a las personas. La prenda está diseñada para ser claramente visible para la vista humana; el engaño ocurre únicamente ante el algoritmo que intenta determinar si lo que aparece en la cámara es una persona.
Digital Camouflage recurre a una técnica conocida como ataque adversarial, que consiste en introducir modificaciones en una imagen u objeto para provocar errores en la interpretación de un modelo de IA. En este caso, el ataque no está escondido en un archivo digital, sino impreso directamente sobre la tela.
Los sistemas de visión artificial aprenden a identificar personas a partir de grandes volúmenes de imágenes y de patrones repetitivos. Weckert señaló que “los sistemas de detección nunca aprendieron qué es un ser humano; memorizaron cómo se ven estadísticamente a partir de millones de imágenes”. Por ello, las formas superpuestas del estampado distorsionan la silueta y dificultan que el software asocie cabeza, hombros y piernas dentro de una misma figura.
A la parte visual se suman los colores intensos del diseño, que potencian el efecto adversarial sobre la interpretación de la imagen por parte del algoritmo.
