Simon Weckert, artista y diseñador originario de Alemania, trabaja en la intersección entre tecnología, espacio público y vigilancia digital. Sus proyectos buscan poner a prueba cómo las máquinas observan, categorizan y condicionan el comportamiento de las personas en la vida diaria.
Su más reciente propuesta apunta directo a las cámaras equipadas con IA: una prenda que, gracias a una combinación de colores y formas, puede hacer que ciertos sistemas de visión artificial no reconozcan a quien la lleva puesta como una persona.
La prenda recibió el nombre Digital Camouflage y nació como respuesta a la creciente presencia de sistemas de vigilancia automatizados en zonas públicas de Berlín. “Buscaba una respuesta para plantarse frente a esas cámaras”, comentó Weckert en charla con TN Tecno.
La idea se gestó en torno a Kottbusser Tor, una área muy transitada de la capital alemana, donde comenzaron a desplegarse cámaras capaces de analizar conductas de peatones. “El detonante fue claro: Berlín activó su primer escáner de comportamiento con IA, un software que clasifica lo que cada transeúnte hace entre ‘normal’ y ‘sospechoso’”, explicó el creador.
Sin embargo, su objetivo no fue diseñar una manera de ocultar a las personas de forma física. La prenda es, para la vista humana, completamente visible; el engaño ocurre únicamente frente al algoritmo que intenta determinar si lo que aparece ante la cámara es una persona.
Digital Camouflage recurre a una técnica conocida como ataque adversarial, que introduce modificaciones en una imagen u objeto para inducir errores en la interpretación de un modelo de IA. En este caso, el ataque no está escondido en un archivo digital, sino impreso directamente sobre la tela.
Los sistemas de visión artificial aprenden a identificar personas analizando enormes volúmenes de imágenes y descubriendo patrones repetidos. A partir de esa data, buscan rasgos como la silueta, las proporciones y la relación entre cabeza, hombros y piernas. Weckert apuntala que los sistemas de detección “no aprendieron qué es un ser humano en sí; memorizaron cómo se ve estadísticamente a partir de millones de imágenes”, según explicó a TN Tecno.
Con esa premisa, las formas superpuestas del estampado pretenden desarmonizar la silueta y dificultar que el software asocie elementos de la figura (cabeza, tronco, extremidades) dentro de una misma persona. A eso se suma, para completar la interferencia, la paleta de colores intensos del diseño.
La iniciativa plantea preguntas sobre el alcance de la vigilancia automatizada y la manera en que conviven tecnología y derechos en el espacio público, especialmente en ciudades con despliegues IA cada vez más amplios.
