Peneliti Cybersecurity Bill Swearingen mengatakan ia telah mengembangkan pola buatan komputer yang dapat membuat sebagian sistem pengawasan gagal mendeteksi orang atau kendaraan secara otomatis.
Proyek bernama **noRecognition** tidak menghentikan kamera merekam video. Pola tersebut mengganggu algoritma Computer Vision yang digunakan untuk memahami isi rekaman.
Swearingen mengatakan sekitar **31 juta pengujian** telah dilakukan selama setahun terakhir dan sistem kini memakai Reinforcement Learning untuk terus menghasilkan pola baru.
Menargetkan algoritma, bukan kamera
Sistem Surveillance modern dapat mendeteksi kendaraan, pelat nomor, orang, dan terkadang menggunakan Facial Recognition.
Kamera tetap merekam saat pola noRecognition digunakan.
Namun Detection Model dapat gagal mengklasifikasikan objek yang tertutup pola secara benar.
Baca selengkapnya
31 juta pengujian
Proyek dimulai sebagai Proof of Concept terhadap algoritma Open Source.
Dengan tambahan kemampuan komputasi, proyek berkembang menjadi Reinforcement Learning System.
Setiap pola gagal, model menghasilkan desain baru dan mencoba kembali.
Swearingen mengatakan model akhirnya menghasilkan pola yang mampu mengalahkan seluruh **11 Open Source Detection Algorithm** yang diuji.
Software terkait Flock Safety, Axon, dan Clearview AI termasuk dalam pengujian tersebut.
Pola baru setiap menit
Model dapat menghasilkan desain baru setiap menit.
Hasil keberhasilan dan kegagalan sebelumnya digunakan untuk memperbaiki generasi berikutnya.
Pola terkuat tidak dipublikasikan agar produsen kamera lebih sulit melatih sistem khusus untuk mengenalinya.
Toyota Yaris diuji di DEF CON
Dengan bantuan **Donut Media**, sebuah **Toyota Yaris 2009** ditutupi pola noRecognition dalam demonstrasi DEF CON di Las Vegas.
Pengujian dilakukan terhadap kamera Flock.
Swearingen mengatakan percobaan berhasil, meski bagian roda masih menjadi tantangan.
Pakaian sebagai alat privasi
noRecognition membuka Crowdfunding untuk memproduksi T-shirt dan Hoodie yang menggunakan pola tersebut.
Vehicle Skin juga bisa dikembangkan di masa depan.
Pola harus memiliki resolusi cukup tinggi untuk memengaruhi Detection System dari jarak tertentu sekaligus tetap cocok digunakan sebagai produk sehari-hari.
Persaingan baru Surveillance AI dan Adversarial AI
Eksperimen pakaian anti-Facial Recognition sudah pernah dilakukan sebelumnya.
Perbedaan noRecognition adalah penggunaan Reinforcement Learning dan jutaan Automated Test untuk menemukan pola yang efektif terhadap beberapa algoritma sekaligus.
Model Swearingen terus menghasilkan pola baru seiring teknologi Surveillance berkembang.
