Nhà nghiên cứu Cybersecurity Bill Swearingen cho biết ông đã phát triển những mẫu hình do máy tính tạo ra có khả năng khiến một số hệ thống Surveillance không tự động phát hiện được người hoặc phương tiện.
Dự án mang tên **noRecognition** không ngăn camera ghi hình.
Thay vào đó, các mẫu đối kháng gây nhiễu Computer Vision Algorithm dùng để nhận dạng nội dung trong video.
Swearingen cho biết ông đã thực hiện khoảng **31 triệu lần thử nghiệm** trong vòng một năm và hiện sử dụng Reinforcement Learning để liên tục tạo các mẫu mới.
Nhắm vào thuật toán thay vì camera
Các hệ thống Surveillance hiện đại có thể nhận dạng phương tiện, biển số, con người và trong một số trường hợp sử dụng Facial Recognition.
Camera vẫn ghi hình khi noRecognition được sử dụng.
Đọc thêm
Điểm khác biệt là Detection Model có thể không phân loại chính xác đối tượng được che phủ bởi pattern.
31 triệu lần thử nghiệm
Dự án bắt đầu bằng Proof of Concept chống lại từng Open Source Algorithm.
Khi có thêm tài nguyên tính toán, hệ thống phát triển thành Reinforcement Learning Model.
Mỗi khi một Pattern thất bại, Model tạo thiết kế khác rồi thử lại.
Swearingen cho biết cuối cùng hệ thống tạo được Pattern có thể vượt qua cả **11 Open Source Detection Algorithm** trong thử nghiệm.
Trong số đó có Software liên quan tới Flock Safety, Axon và Clearview AI.
Tạo Pattern mới mỗi phút
Model hiện có thể tạo một thiết kế mới mỗi phút.
Kết quả thành công và thất bại trước đó được dùng để cải thiện thế hệ tiếp theo.
Swearingen không công khai những Pattern mạnh nhất để giảm khả năng nhà sản xuất camera huấn luyện hệ thống nhằm nhận diện chúng.
Thử nghiệm Toyota Yaris tại DEF CON
Với sự hỗ trợ của **Donut Media**, một chiếc **Toyota Yaris đời 2009** được phủ Pattern noRecognition tại DEF CON ở Las Vegas.
Chiếc xe được thử nghiệm trước camera Flock.
Swearingen cho biết thử nghiệm có hiệu quả, dù phần bánh xe vẫn là một thách thức.
Quần áo bảo vệ Privacy
noRecognition đã triển khai Crowdfunding cho T-shirt và Hoodie sử dụng các Pattern này.
Vehicle Skin cũng có thể xuất hiện trong tương lai.
Thiết kế phải có độ phân giải đủ cao để ảnh hưởng tới Detection System từ xa nhưng vẫn phù hợp để sử dụng như sản phẩm thông thường.
Surveillance AI đối đầu Adversarial AI
Những thử nghiệm về quần áo chống Facial Recognition đã xuất hiện từ trước.
Điểm khác biệt của noRecognition là sử dụng Reinforcement Learning và hàng triệu Automated Test để tìm Pattern hiệu quả trước nhiều Algorithm.
Model vẫn tiếp tục tạo ra Pattern mới khi công nghệ Surveillance tiếp tục phát triển.
