Camisa “Digital Camouflage” usa IA para confundir sistemas de videovigilância

O artista e designer alemão Simon Weckert desenvolveu uma camisa colorida capaz de dificultar a identificação de uma pessoa por sistemas de videovigilância que utilizam inteligência artificial.

Batizada de Digital Camouflage, a peça foi criada em resposta à expansão do uso de IA em câmeras instaladas em espaços públicos. O projeto está diretamente relacionado à implementação de um sistema experimental de videovigilância no Kottbusser Tor, em Berlim.

À primeira vista, a camisa chama atenção principalmente pela estampa abstrata e extremamente colorida. Por trás da aparência quase hipnótica, porém, existe um padrão desenvolvido especificamente para interferir no funcionamento de sistemas de object detection.

Essas ferramentas usam visão computadorizada para analisar imagens e identificar objetos, veículos e pessoas dentro de uma cena. A Digital Camouflage tenta explorar justamente as limitações desse processo.

Estampa foi criada para confundir a percepção da IA

Sistemas de inteligência artificial não compreendem uma pessoa da mesma forma que um ser humano. Em vez disso, modelos de detecção aprendem a reconhecer padrões estatísticos presentes em grandes quantidades de imagens utilizadas durante seu treinamento.

Isso significa que determinadas combinações visuais podem interferir nesse reconhecimento.

A estampa da Digital Camouflage foi desenvolvida para explorar esses pontos fracos. Para uma pessoa observando a camisa, o resultado é apenas um desenho gráfico bastante chamativo. Para determinados modelos de IA, no entanto, as informações visuais presentes no tecido podem dificultar a classificação do usuário como uma pessoa.

O projeto utiliza um princípio conhecido como adversarial attack, técnica que busca alterar os dados recebidos por um modelo de maneira que provoque uma interpretação incorreta.

No caso da camisa, o objetivo é reduzir a capacidade do sistema de detectar a silhueta humana.

IA ajudou a desenvolver a própria camuflagem

A inteligência artificial não é apenas o sistema que a peça busca confundir. Ela também participou do processo de criação da estampa.

Weckert utilizou um adversarial loop, processo baseado em sucessivos testes e ajustes. Um padrão era gerado e aplicado sobre a imagem de uma pessoa. Em seguida, o sistema analisava a cena e indicava com que nível de confiança ainda conseguia identificar uma figura humana.

A partir dessa resposta, o padrão era modificado e testado novamente.

O processo foi repetido até que a confiança do sistema na identificação da pessoa diminuísse significativamente.

Segundo o conceito por trás do trabalho, esse método é necessário porque as falhas de percepção de uma máquina não são necessariamente intuitivas para seres humanos. Dessa maneira, o próprio modelo ajuda a revelar quais características visuais dificultam sua capacidade de reconhecimento.

Há uma espécie de paradoxo no projeto: a mesma categoria de tecnologia usada para analisar pessoas em espaços públicos também pode ser empregada para desenvolver uma peça capaz de explorar suas limitações.

Testes foram realizados com o sistema YOLO

Para testar a Digital Camouflage, foi utilizado o YOLO, um sistema open source de object detection em tempo real.

Em demonstrações do projeto, o software identifica normalmente outras pessoas presentes na imagem, exibindo caixas de detecção ao redor delas. O usuário vestido com a camisa, porém, pode deixar de ser classificado como pessoa pelo modelo.

Isso não significa que a Digital Camouflage seja capaz de tornar alguém invisível para qualquer câmera ou sistema de segurança.

O próprio projeto destaca que não há garantia de que a estampa produza o mesmo efeito em todos os modelos ou em sistemas utilizados por órgãos governamentais. Muitos desses sistemas não podem ser testados publicamente, o que torna impossível confirmar como reagiriam à mesma técnica.

Por isso, a Digital Camouflage não é apresentada como uma solução universal para evitar identificação ou como uma promessa de anonimato.

Projeto questiona crescimento da vigilância automatizada

Mais do que criar uma peça funcional, o trabalho busca provocar uma discussão sobre o crescimento da vigilância automatizada nos espaços públicos.

O projeto surgiu em um momento em que cidades ampliam o uso de sistemas capazes não apenas de gravar imagens, mas também de analisá-las automaticamente.

Em Berlim, a discussão ganhou força com o uso de tecnologias de análise de vídeo no Kottbusser Tor. Sistemas desse tipo podem utilizar software para interpretar comportamentos e identificar determinadas situações consideradas suspeitas.

Esse avanço levanta questões sobre privacidade, transparência e sobre a forma como algoritmos passam a interpretar continuamente as ações de pessoas em ambientes públicos.

A Digital Camouflage transforma essa discussão em um objeto físico. A camisa permanece perfeitamente visível para qualquer pessoa, mas tenta desaparecer da percepção de determinados modelos computacionais.

Assim, o projeto coloca em evidência uma das contradições da expansão da IA aplicada à vigilância: sistemas cada vez mais presentes no cotidiano podem depender de mecanismos de reconhecimento sofisticados, mas ainda apresentam pontos cegos que podem ser explorados por algo tão simples quanto uma estampa impressa em tecido.

Mais do que oferecer uma maneira de escapar das câmeras, a Digital Camouflage funciona como uma crítica à confiança depositada em tecnologias capazes de observar, classificar e interpretar pessoas de forma automatizada.

IA Inteligência Artificial, Tecnologia, Tendências