Cybersecurity-Forscher Bill Swearingen hat nach eigenen Angaben computergenerierte Muster entwickelt, die bestimmte Überwachungssysteme daran hindern können, Menschen oder Fahrzeuge automatisch zu erkennen.
Sein Projekt heißt **noRecognition**. Die Kamera selbst zeichnet weiterhin Video auf, doch die Muster stören die Computer-Vision-Algorithmen zur automatischen Analyse.
Swearingen spricht von rund **31 Millionen Tests** innerhalb eines Jahres. Inzwischen nutzt das System Reinforcement Learning und erzeugt kontinuierlich neue Designs.
Angriff auf den Erkennungsalgorithmus
Moderne Surveillance-Systeme erkennen Fahrzeuge, Kennzeichen, Personen und teilweise Gesichter automatisch.
noRecognition verhindert nicht die Aufnahme.
Stattdessen soll das Detection Model das durch das Muster bedeckte Objekt falsch oder gar nicht klassifizieren.
Mehr lesen
31 Millionen Tests
Das Projekt begann als Proof of Concept gegen einzelne Open-Source-Algorithmen.
Mit mehr Rechenleistung entwickelte es sich zu einem Reinforcement-Learning-System.
Nach jedem fehlgeschlagenen Muster erzeugt das Modell eine neue Variante und testet erneut.
Swearingen zufolge konnte das Modell schließlich alle **11 getesteten Open-Source-Detection-Algorithmen** umgehen.
Dazu gehören Softwarekomponenten im Umfeld von Flock-Safety-Kennzeichenlesern, Axon-Bodycams und Clearview AI.
Neue Muster im Minutentakt
Das Modell kann jede Minute neue Designs erzeugen.
Erfolgreiche und fehlgeschlagene Tests fließen in die mathematische Optimierung der nächsten Generation ein.
Die stärksten Varianten veröffentlicht Swearingen nicht, damit Hersteller ihre Systeme nicht gezielt darauf trainieren können.
Toyota Yaris bei DEF CON getestet
Gemeinsam mit **Donut Media** wurde ein **Toyota Yaris Baujahr 2009** bei DEF CON in Las Vegas mit einem noRecognition-Muster versehen.
Eine Flock-Kamera sollte anschließend versuchen, das Fahrzeug automatisch zu erkennen.
Swearingen zufolge war der Test erfolgreich, wobei die Räder weiterhin eine Herausforderung darstellten.
Kleidung als Privacy-Werkzeug
noRecognition sammelt per Crowdfunding Geld für erste T-Shirts und Hoodies mit den Mustern.
Später könnten Fahrzeugfolien folgen.
Die Designs müssen aus größerer Entfernung noch ausreichend detailliert sein und gleichzeitig als tragbare Produkte funktionieren.
Neue Konkurrenz zwischen Surveillance AI und Adversarial AI
Anti-Facial-Recognition-Kleidung und ähnliche Experimente gibt es bereits seit Jahren.
noRecognition setzt jedoch auf Reinforcement Learning und automatisierte Tests in großem Maßstab, um Muster für mehrere Algorithmen gleichzeitig zu finden.
Das Modell erzeugt weiterhin neue Varianten und nutzt auch Fehlschläge zur Verbesserung zukünftiger Muster.
