Bill Swearingen นักวิจัยด้าน Cybersecurity ระบุว่าเขาพัฒนาลวดลายที่สร้างด้วยคอมพิวเตอร์ ซึ่งสามารถทำให้ระบบ Surveillance ที่ใช้งานแพร่หลายบางประเภทไม่สามารถตรวจจับบุคคล รถยนต์ หรือวัตถุที่ถูกลวดลายดังกล่าวปกคลุมได้โดยอัตโนมัติ
- noRecognition ไม่ได้ปิดกล้อง แต่โจมตีระบบตรวจจับของ AI
- ทดสอบกว่า 31 ล้านครั้งจนได้ลายที่ใช้งานได้
- AI สร้างลายใหม่ได้ทุกนาที
- ทดสอบจริงกับ Toyota Yaris ปี 2009 ในงาน DEF CON
- เสื้อผ้าหลบ AI อาจกลายเป็นเครื่องมือ Privacy
- แนวคิดต่อต้าน Facial Recognition มีมานานแล้ว
- AI Surveillance กำลังก่อให้เกิดการแข่งขันระหว่างระบบตรวจจับกับระบบหลบตรวจจับ
โครงการนี้มีชื่อว่า **noRecognition** และไม่ได้ทำให้กล้องหยุดบันทึกวิดีโอ แต่ใช้ลวดลายแบบ Adversarial เข้าไปรบกวน Computer Vision Algorithm ที่ใช้วิเคราะห์สิ่งที่ปรากฏอยู่ในภาพ ส่งผลให้ระบบอัตโนมัติอาจไม่สร้าง Detection Alert สำหรับเป้าหมายดังกล่าว
Swearingen ระบุว่าผลงานนี้เกิดขึ้นหลังการทดสอบประมาณ **31 ล้านครั้ง** ตลอดช่วงหนึ่งปีที่ผ่านมา โดยปัจจุบันระบบใช้ Reinforcement Learning เพื่อสร้างลวดลายใหม่อย่างต่อเนื่อง และได้มีการสาธิตจริงบนรถยนต์ในงาน DEF CON ที่ลาสเวกัสแล้ว.
noRecognition ไม่ได้ปิดกล้อง แต่โจมตีระบบตรวจจับของ AI
ระบบ Surveillance สมัยใหม่จำนวนมากพึ่งพา Computer Vision ในการวิเคราะห์วิดีโอจำนวนมหาศาล
ระบบสามารถตรวจจับยานพาหนะ อ่านป้ายทะเบียน แยกแยะบุคคล และในบางกรณียังรองรับ Facial Recognition ทำให้เจ้าหน้าที่สามารถค้นหาเหตุการณ์หรือเป้าหมายจากวิดีโอจำนวนมากได้โดยไม่ต้องนั่งดูภาพทุกไฟล์ด้วยตนเอง
แนวทางของ Swearingen จึงมุ่งโจมตีชั้นการตรวจจับอัตโนมัตินี้โดยตรง
อ่านเพิ่มเติม
กล้องยังคงมองเห็นและบันทึกภาพได้ตามปกติ แต่ Pattern ถูกออกแบบให้ทำให้ Detection Model สับสน จนวัตถุที่ลวดลายปกคลุมอาจไม่ถูกจำแนกหรือแจ้งเตือนอย่างถูกต้อง.
Swearingen มองว่าเทคโนโลยีนี้เป็นวิธีให้ประชาชนสามารถปฏิเสธการถูกติดตามแบบอัตโนมัติ โดยเขาบอกกับ TechCrunch ว่า **”ความเป็นส่วนตัวคือสิทธิขั้นพื้นฐาน”**
ทดสอบกว่า 31 ล้านครั้งจนได้ลายที่ใช้งานได้
Swearingen เริ่มโครงการด้วยห้องทดลอง Proof of Concept เพื่อทดสอบว่าลวดลายสามารถเอาชนะ Detection Algorithm แบบ Open Source แต่ละระบบได้หรือไม่
ต่อมาเขาเพิ่มกำลังประมวลผลและได้รับความช่วยเหลือด้านฮาร์ดแวร์จากชุมชน Cybersecurity เพื่อขยายจำนวนการทดลอง
โครงการค่อยๆ พัฒนาเป็นระบบ Reinforcement Learning
ทุกครั้งที่ลายหนึ่งล้มเหลวและ Algorithm ยังตรวจจับเป้าหมายได้ โมเดลจะสร้างลายใหม่และทดลองอีกครั้ง Swearingen อธิบายวิธีนี้ว่าเหมือนกับการสอนโมเดลว่า **”วาดภาพอย่างไร”**.
กระบวนการดังกล่าวเกิดขึ้นซ้ำหลายล้านครั้ง
Swearingen ระบุว่าในที่สุดโมเดลสามารถสร้างสูตรลวดลายที่เอาชนะ Detection Algorithm แบบ Open Source ทั้ง **11 ระบบ** ที่เขานำมาทดสอบ
ในกลุ่มดังกล่าวมี Software ที่เกี่ยวข้องกับระบบซึ่งใช้งานโดย **Flock Safety สำหรับอ่านป้ายทะเบียน, กล้องติดตัวของ Axon และ Clearview AI**.
AI สร้างลายใหม่ได้ทุกนาที
ระบบไม่ได้พึ่งพาลวดลายตายตัวเพียงแบบเดียว
Swearingen ระบุว่า Reinforcement Learning Model สามารถสร้างลายใหม่ได้ทุกนาที โดยแต่ละชุดจะถูกปรับทางคณิตศาสตร์จากสิ่งที่โมเดลเรียนรู้ทั้งจากความสำเร็จและความล้มเหลวก่อนหน้า
ความสามารถในการปรับตัวมีความสำคัญ เพราะบริษัทผู้พัฒนาระบบ Surveillance สามารถอัปเดต Detection Algorithm เพื่อรับมือกับเทคนิคเหล่านี้ได้เช่นกัน
ด้วยเหตุนี้ Swearingen จึงยังไม่เผยแพร่ Pattern ที่แข็งแกร่งที่สุดบนอินเทอร์เน็ต เพื่อป้องกันไม่ให้ผู้ผลิตกล้องนำลายดังกล่าวไปใช้ฝึกระบบให้ตรวจจับได้ง่ายขึ้น.
ทดสอบจริงกับ Toyota Yaris ปี 2009 ในงาน DEF CON
โครงการก้าวออกจากการทดลองในห้อง Lab ด้วยการสาธิตต่อสาธารณะภายในงาน DEF CON ที่ลาสเวกัส
Swearingen ร่วมมือกับ **Donut Media** นำรถ **Toyota Yaris ปี 2009** มาปกคลุมด้วย Pattern รุ่นล่าสุดของ noRecognition แล้วทดสอบกับกล้องของ Flock
เขาระบุว่าการทดสอบประสบความสำเร็จ แม้บริเวณล้อรถจะยังเป็นส่วนที่สร้างความท้าทายให้กับ Pattern
Donut Media มีแผนเผยแพร่วิดีโอการทดลองในอีกไม่กี่สัปดาห์ข้างหน้า.
การทดสอบดังกล่าวถือเป็นหลักฐานในโลกจริงระยะแรกว่า Adversarial Pattern ที่ออกแบบมาโจมตี Computer Vision สามารถส่งผลต่อระบบ Surveillance นอกห้องทดลองได้
เสื้อผ้าหลบ AI อาจกลายเป็นเครื่องมือ Privacy
Swearingen กำลังมองหาวิธีนำเทคโนโลยีออกจากงานวิจัยสู่การใช้งานจริง
โครงการ noRecognition เปิด Crowdfunding เพื่อสนับสนุนการผลิตสินค้าชุดแรกที่ใช้ Pattern เหล่านี้ เช่น เสื้อยืดและเสื้อ Hoodie
ในอนาคตอาจมี Vehicle Skin สำหรับติดบนรถยนต์ด้วย
หากต้องการใช้งานจริง Pattern จำเป็นต้องมี Resolution สูงเพียงพอที่จะรบกวน Detection System จากระยะไกล ขณะเดียวกันยังต้องมีรูปแบบที่สามารถนำมาใช้กับเสื้อผ้าหรือผลิตภัณฑ์ได้จริง
เป้าหมายของ Swearingen จึงไม่ใช่การสร้าง Noise แบบสุ่ม แต่เป็นลายที่สามารถทำหน้าที่เป็นเครื่องมือ Privacy และยังดูเหมือนผลิตภัณฑ์ที่ผู้คนสามารถนำไปใช้ในชีวิตประจำวันได้.
แนวคิดต่อต้าน Facial Recognition มีมานานแล้ว
ความพยายามหลอก Facial Recognition และ Surveillance System ไม่ใช่เรื่องใหม่
ศิลปิน นักวิจัย นักออกแบบแฟชั่น และผู้ผลิตแว่นตาเคยทดลองใช้เสื้อผ้า เครื่องสำอาง แว่น และลวดลายต่างๆ เพื่อรบกวน Computer Vision
อย่างไรก็ตาม หลายแนวทางที่ใช้งานได้ในห้องทดลองอาจทำงานได้ไม่ดีเมื่อต้องเผชิญกล้องหลายประเภท สภาพแสง ระยะห่าง หรือ Algorithm ที่ถูกอัปเดต
สิ่งที่ทำให้ noRecognition แตกต่างคือการใช้ Reinforcement Learning และ Automated Testing ขนาดใหญ่ เพื่อค้นหา Pattern ที่สามารถรับมือกับหลาย Algorithm พร้อมกัน แทนการออกแบบด้วยมือเพื่อโจมตีระบบเดียว
AI Surveillance กำลังก่อให้เกิดการแข่งขันระหว่างระบบตรวจจับกับระบบหลบตรวจจับ
โครงการนี้สะท้อนความตึงเครียดทางเทคโนโลยีที่กำลังเกิดขึ้น เมื่อกล้อง Surveillance พึ่งพา AI มากขึ้น
Computer Vision ทำให้การเฝ้าระวังสามารถขยายระดับได้อย่างมหาศาล เพราะ Software สามารถค้นหาคนหรือวัตถุจากคลังวิดีโอจำนวนมากได้โดยอัตโนมัติ
ในอีกด้านหนึ่ง Adversarial AI สามารถใช้ Machine Learning เพื่อค้นหารูปแบบภาพที่ใช้ประโยชน์จากจุดอ่อนของ Detection Model เหล่านั้นได้เช่นกัน
โมเดลของ Swearingen ยังคงสร้างและทดสอบ Pattern รุ่นใหม่ต่อไป พร้อมกับการพัฒนาของ Algorithm ฝั่ง Surveillance โดยทุกครั้งที่ลายหนึ่งล้มเหลว ข้อมูลจากความล้มเหลวนั้นจะถูกนำกลับไปใช้เพื่อทำให้ Pattern รุ่นต่อไปมีประสิทธิภาพมากขึ้น.
