O pesquisador de Cybersecurity Bill Swearingen afirma ter desenvolvido padrões gerados por computador capazes de impedir que alguns sistemas de vigilância detectem automaticamente pessoas e veículos.
O projeto **noRecognition** não impede a câmera de gravar. Os padrões interferem nos algoritmos de Computer Vision usados para interpretar as imagens.
Swearingen afirma ter realizado cerca de **31 milhões de testes** ao longo de um ano e agora usa Reinforcement Learning para gerar novos padrões continuamente.
O alvo é o algoritmo
Sistemas modernos identificam veículos, placas, pessoas e, em alguns casos, utilizam Facial Recognition.
Com noRecognition, a câmera continua registrando a cena.
O objetivo é fazer com que o Detection Model não classifique corretamente o objeto coberto pelo padrão.
Ler mais
Cerca de 31 milhões de testes
O trabalho começou como um Proof of Concept contra algoritmos Open Source.
Com mais poder de computação, evoluiu para um sistema de Reinforcement Learning.
Cada falha leva o modelo a gerar um novo padrão e testar novamente.
Segundo Swearingen, o modelo encontrou padrões capazes de derrotar os **11 algoritmos Open Source** usados nos testes.
A lista inclui software associado a leitores de placas Flock Safety, câmeras corporais Axon e Clearview AI.
Novos padrões a cada minuto
O sistema consegue gerar novos designs a cada minuto.
Os resultados anteriores são usados para melhorar matematicamente as próximas gerações.
Os padrões mais eficazes não são publicados para dificultar que fabricantes treinem sistemas especificamente contra eles.
Toyota Yaris testado na DEF CON
Com ajuda da **Donut Media**, um **Toyota Yaris 2009** foi coberto com um padrão noRecognition durante a DEF CON em Las Vegas.
O teste verificou se uma câmera Flock detectaria automaticamente o veículo.
Swearingen afirma que funcionou, embora as rodas tenham continuado sendo um desafio.
Roupas de privacidade
O projeto lançou Crowdfunding para produzir camisetas e Hoodies com os padrões.
No futuro, também podem surgir revestimentos para veículos.
Os designs precisam funcionar à distância e, ao mesmo tempo, manter aparência adequada para uso cotidiano.
Surveillance AI contra Adversarial AI
Tentativas de confundir Facial Recognition existem há anos.
A diferença do noRecognition é utilizar Reinforcement Learning e milhões de testes automatizados para encontrar padrões eficazes contra vários algoritmos.
O modelo continua produzindo novas variantes conforme os sistemas de vigilância evoluem.
