Simon Weckert, diseñador y artista alemán, trabaja en la intersección entre tecnología, espacio público y vigilancia digital. Sus proyectos suelen poner a prueba sistemas que forman parte de la vida cotidiana y cuestionan cómo las máquinas observan, clasifican y condicionan el comportamiento de las personas.
Su nueva propuesta apunta directamente a los sistemas de visión equipados con IA: una camisa denominada Digital Camouflage, cuyas combinaciones de colores y formas pueden desorientar determinados modelos de reconocimiento, de modo que el algoritmo ya no identifique a quien la porta como una persona.
La prenda nace como respuesta al despliegue de vigilancia automatizada en lugares públicos de Berlín. “Quería una salida con la que uno pueda plantarse delante de esas cámaras”, explicó Weckert a TN Tecno sobre su creación.
La idea tuvo como punto de partida la zona de Kottbusser Tor, un área muy transitada de la capital alemana, donde comenzaron a utilizarse cámaras con sistemas capaces de analizar conductas de los peatones. “El disparador fue concreto: Berlín activó su primer escáner de comportamiento con IA, un software que clasifica lo que hace cada transeúnte entre ‘normal’ y ‘sospechoso’”, detalló el diseñador.
A diferencia de un truco que ocultara físicamente a alguien, la camisa es plenamente visible para el ojo humano; el engaño ocurre ante el algoritmo que intenta determinar si lo que aparece en la imagen es una persona.
Digital Camouflage se apoya en lo que se conoce como ataque adversarial: introducir modificaciones en un objeto o imagen para provocar errores en la interpretación de un modelo de IA. En este caso, el ataque no está oculto en un archivo digital, sino impreso directamente sobre la tela.
Las IA de visión aprenden a identificar personas a partir de grandes volúmenes de imágenes y de patrones que se repiten, como la forma del cuerpo, las proporciones y la relación entre distintas partes. Weckert sostiene que esos sistemas no “aprendieron” qué es un ser humano, sino que memorizan características estadísticas presentes en millones de imágenes.
Con las formas superpuestas y los colores intensos del estampado, la silueta se altera y dificulta que el software cohesione elementos como cabeza, hombros y piernas dentro de una única figura. A eso se suman los rasgos cromáticos del diseño, que contribuyen al efecto desorientador frente a determinados algoritmos de reconocimiento. La propuesta, que Weckert presentó a TN Tecno, plantea una reflexión sobre la interacción entre arte, ciudadanía y vigilancia en la era de la IA.
