Simon Weckert, diseñador y artista alemán, trabaja en la intersección entre tecnología, espacio público y vigilancia digital. Sus proyectos suelen poner a prueba sistemas cotidianos que observan, clasifican y condicionan el comportamiento de las personas.
Su más reciente creación apunta directamente a las cámaras con inteligencia artificial. Se trata de una prenda llamada Digital Camouflage, que por medio de una combinación de formas y colores puede desorientar a ciertos sistemas de visión artificial hasta lograr que el algoritmo no reconozca a quien la lleva puesta como una persona.
La camiseta nace como respuesta al despliegue de vigilancia automatizada en espacios públicos de Berlín. Weckert explicó a TN Tecno que buscaba una solución que permitiera "plantarse frente a esas cámaras".
El punto de partida fue Kottbusser Tor, una zona muy transitada de la capital alemana donde empezaron a utilizarse cámaras dotadas con un sistema capaz de analizar conductas de los peatones. “El disparador fue claro: Berlín activó su primer escáner de comportamiento con IA, un software que clasifica lo que hace cada transeúnte entre ‘normal’ y ‘sospechoso’”, contó.
Su intención, sin embargo, no es crear una herramienta para ocultar a las personas, ya que la prenda es perfectamente visible para el ojo humano. El engaño ocurre únicamente frente al algoritmo que intenta determinar si lo que aparece delante de la cámara es una persona.
Digital Camouflage aplica un ataque adversarial: modificaciones visibles impresas directamente en la tela, no incrustadas en un archivo digital. Los sistemas de visión artificial aprenden a identificar personas analizando grandes volúmenes de imágenes y recognizando patrones que se repiten: la forma del cuerpo, las proporciones y la relación entre sus distintas partes.
Weckert buscó interferir precisamente en esas referencias: señala que los sistemas de detección nunca aprendieron qué es un ser humano, sino que memorizaron cómo se ven estadísticamente a partir de millones de imágenes. Según el diseñador, las formas superpuestas del estampado alteran la silueta y dificultan que el software vincule elementos como la cabeza, los hombros y las piernas dentro de una misma figura. A ese efecto se suman los colores intensos del diseño, que refuerzan la distracción para el algoritmo.
