Simon Weckert es un diseñador y artista alemán que trabaja en la intersección entre tecnología, espacio público y vigilancia digital. Sus proyectos suelen cuestionar la manera en que las máquinas observan, clasifican y condicionan el comportamiento de las personas, poniendo a prueba sistemas que ya forman parte de la vida cotidiana.
Su última creación apunta directamente a cámaras con inteligencia artificial: una camisa llamada Digital Camouflage que, a partir de un juego de colores y formas, puede confundir a determinados sistemas de visión artificial hasta hacer que el algoritmo no identifique a quien la porta como una persona.
La prenda surge como respuesta al despliegue de sistemas automatizados de vigilancia en espacios públicos de Berlín, y busca ofrecer “una respuesta con la que uno pueda plantarse delante de esas cámaras”, según comentó Weckert en diálogo con TN Tecno.
El punto de partida de la idea fue el barrio de Kottbusser Tor, una zona muy transitada de la capital alemana donde empezaron a utilizarse cámaras capaces de analizar conductas de los peatones. “El disparador fue concreto: Berlín encendió su primer escáner de comportamiento con IA, un software que clasifica lo que hace cada transeúnte entre ‘normal’ y ‘sospechoso’”, explicó el diseñador.
A diferencia de lo que suele ocurrir con otros prototipos, la camiseta no busca ocultar físicamente a la persona. Es plenamente visible para el ojo humano, y el engaño ocurre ante el algoritmo que intenta determinar si lo que aparece en la imagen es una persona.
Digital Camouflage se apoya en una técnica conocida como ataque adversarial, que consiste en introducir modificaciones en una imagen u objeto para provocar errores en la interpretación de un modelo de IA. En este caso, ese ataque se imprime directamente sobre la tela, no se oculta en un archivo digital.
Los sistemas de visión artificial aprenden a reconocer personas analizando grandes volúmenes de imágenes y buscando patrones comunes: la forma del cuerpo, las proporciones y la relación entre las distintas partes. Weckert explicó que esas detecciones no “aprenden” qué es un ser humano en abstracto, sino que memorizan cómo se ven estadísticamente a partir de millones de imágenes. Con el estampado de la prenda, las formas superpuestas alteran la silueta y dificultan que el software encaje la cabeza, los hombros y las piernas en una única figura.
A opciones de color y trazo se suman colores intensos del diseño, que, según el creador, contribuyen a dificultar aún más la lectura de la silueta por parte de los algoritmos.
