Simon Weckert, diseñador y artista alemán, explora en sus proyectos la intersección entre tecnología, espacio público y vigilancia digital. Sus trabajos suelen intentar desarmar los sistemas que observan, clasifican y condicionan el comportamiento de las personas en la vida cotidiana.
Su última propuesta va directa a las cámaras con inteligencia artificial. Se trata de una camisa llamada Digital Camouflage, cuyo diseño de colores y formas busca que determinados sistemas de visión artificial fallen en reconocer a quien la lleva puesta. La prenda, dicen, no oculta al usuario para el ojo humano; el engaño se da frente al algoritmo que intenta identificar si lo que aparece ante la cámara es una persona.
La idea surge como réplica ante la expansión de sistemas automatizados de vigilancia en espacios públicos de Berlín. “Quería una respuesta con la que uno pudiera plantarse delante de esas cámaras”, comentó Weckert a TN Tecno sobre su creación. El punto de partida fue la zona de Kottbusser Tor, donde empezaron a operar cámaras con un software capaz de analizar conductas de peatones.
“Lo concreto fue que Berlín activó su primer escáner de comportamiento con IA, un software que clasifica lo que hace cada transeúnte entre ‘normal’ y ‘sospechoso’”, relató el artista. Su propósito, aclara, no es desarrollar una herramienta para ocultarse físicamente: la camisa se percibe claramente a simple vista, y el engaño se da exclusivamente ante el sistema de reconocimiento.
Digital Camouflage recurre a lo que se conoce como ataque adversarial, una técnica que introduce cambios en una imagen u objeto para inducir errores en la interpretación de un modelo de inteligencia artificial. En este caso, el ataque no está en un archivo digital, sino impreso directamente sobre la tela.
Los sistemas de visión artificial aprenden a identificar personas tras analizar enormes cantidades de imágenes y extraer patrones repetitivos: forma del cuerpo, proporciones y la relación entre distintas partes. Weckert intentó interferir justamente en esas referencias: “los sistemas de detección no aprenden qué es un ser humano; memorizan cómo se ven estadísticamente a partir de millones de imágenes”, explicó a TN Tecno.
Para el diseñador, las formas superpuestas del estampado desenlazan la silueta y dificultan que el software agrupe cabeza, hombros y piernas dentro de una misma figura. Además, los colores intensos del diseño contribuyen a ese efecto.
