แพลตฟอร์มออนไลน์เริ่มคุมเข้มเนื้อหา AI หลังสแปมและคลิปปลอมเพิ่มขึ้น

แพลตฟอร์มออนไลน์กำลังเปลี่ยนท่าทีต่อเนื้อหาที่สร้างด้วยปัญญาประดิษฐ์ หลังเครื่องมือ Generative AI ทำให้การผลิตบทความ รูปภาพ เพลง และวิดีโอจำนวนมากกลายเป็นเรื่องที่ทำได้ภายในเวลาไม่กี่นาที

ในช่วงแรก บริษัทโซเชียลมีเดียและแพลตฟอร์มครีเอเตอร์จำนวนมากมอง AI เป็นเครื่องมือช่วยเพิ่มความสร้างสรรค์และลดต้นทุนการผลิต แต่เมื่อมีเนื้อหาคุณภาพต่ำ เนื้อหาซ้ำ คลิปเลียนแบบ และข้อมูลบิดเบือนเพิ่มขึ้น ระบบแนะนำและการแบ่งรายได้เริ่มได้รับผลกระทบอย่างชัดเจน

รายงานล่าสุดรวบรวมความเคลื่อนไหวของแพลตฟอร์มหลายแห่ง ตั้งแต่ YouTube ไปจนถึง Substack ซึ่งเริ่มปรับแนวทางเกี่ยวกับเนื้อหา AI โดยพยายามแยกผลงานที่มนุษย์ใช้ AI เป็นเครื่องมือออกจากเนื้อหาที่ถูกผลิตจำนวนมากโดยแทบไม่มีการตรวจสอบหรือเพิ่มคุณค่าใหม่ 

AI Slop กำลังกลายเป็นปัญหาในระบบแนะนำเนื้อหา

คำว่า “AI Slop” ถูกใช้เรียกเนื้อหาที่สร้างด้วย AI อย่างรวดเร็วและจำนวนมาก โดยมักมีคุณภาพต่ำ ขาดความถูกต้อง หรือผลิตขึ้นเพื่อดึงยอดคลิกและรายได้จากโฆษณาเป็นหลัก

เนื้อหาประเภทนี้อาจอยู่ในรูปบทความที่เปลี่ยนคำจากแหล่งอื่น วิดีโอที่ใช้เสียงสังเคราะห์อ่านข้อมูลซ้ำ ภาพบุคคลปลอม หรือคลิปที่สร้างเหตุการณ์ซึ่งไม่เคยเกิดขึ้นจริง

ต้นทุนการผลิตที่ต่ำทำให้ผู้สร้างสามารถเปิดหลายบัญชีและเผยแพร่เนื้อหาได้วันละจำนวนมาก หากคลิปบางส่วนได้รับยอดดูสูง รายได้ที่เกิดขึ้นอาจคุ้มค่ากับการสร้างเนื้อหาที่เหลือแม้ส่วนใหญ่ไม่มีคุณภาพ

ปัญหาจึงไม่ได้อยู่ที่ AI สามารถสร้างสื่อได้ แต่เกิดจากโครงสร้างแรงจูงใจของแพลตฟอร์ม ซึ่งให้รางวัลกับปริมาณ ความถี่ และเวลารับชม โดยอาจยังประเมินความน่าเชื่อถือหรือคุณค่าของเนื้อหาได้ไม่ดีพอ

YouTube ต้องแยกความช่วยเหลือจาก AI ออกจากเนื้อหาผลิตจำนวนมาก

YouTube มีผู้สร้างจำนวนมากที่ใช้ AI กับงานเบื้องหลัง เช่น เขียนโครงเรื่อง แปลคำบรรยาย ลบเสียงรบกวน หรือสร้างภาพประกอบ การใช้ในลักษณะนี้ไม่ได้หมายความว่าวิดีโอทั้งหมดขาดความคิดสร้างสรรค์ของมนุษย์

ความท้าทายคือการแยกผลงานที่มีการค้นคว้า การเล่าเรื่อง และการตัดต่อจริง ออกจากช่องที่สร้างวิดีโอจำนวนมากด้วยแม่แบบเดียวกันและเปลี่ยนเพียงหัวข้อหรือภาพบางส่วน

หาก YouTube ห้ามเนื้อหา AI ทั้งหมด ผู้สร้างที่ใช้เทคโนโลยีอย่างมีความรับผิดชอบอาจได้รับผลกระทบ แต่หากไม่ควบคุมเลย ระบบค้นหาและหน้าแนะนำอาจเต็มไปด้วยคลิปซ้ำจนผู้ชมสูญเสียความเชื่อมั่น

แนวทางที่แพลตฟอร์มมีแนวโน้มใช้จึงเป็นการพิจารณาคุณภาพ ความซ้ำ และคุณค่าที่เพิ่มขึ้น มากกว่าตรวจเพียงว่าวิดีโอใช้ AI หรือไม่

ระบบสร้างรายได้เป็นเครื่องมือควบคุมที่สำคัญ

แพลตฟอร์มไม่จำเป็นต้องลบทุกวิดีโอที่มีคุณภาพต่ำ แต่สามารถตัดสิทธิ์สร้างรายได้ ลดการแนะนำ หรือกำหนดให้เจ้าของช่องเปิดเผยวิธีผลิตเนื้อหา

การตัดรายได้มีผลโดยตรงกับเครือข่ายที่สร้างวิดีโอจำนวนมากเพื่อทำกำไร เพราะหากไม่สามารถเข้าร่วมโปรแกรมโฆษณาได้ โมเดลธุรกิจอาจไม่คุ้มค่าอีกต่อไป

อย่างไรก็ตาม ระบบตรวจสอบอัตโนมัติอาจเกิดความผิดพลาดและลงโทษผู้สร้างที่ใช้เสียงสังเคราะห์ด้วยเหตุผลด้านการเข้าถึง หรือใช้ AI ช่วยแปลเนื้อหาไปยังภาษาอื่น แพลตฟอร์มจึงต้องมีขั้นตอนอุทธรณ์ที่โปร่งใสและตรวจสอบโดยมนุษย์

Substack ต้องรักษาความเชื่อมั่นระหว่างนักเขียนกับผู้อ่าน

Substack ถูกสร้างขึ้นบนแนวคิดที่ผู้อ่านติดตามและจ่ายเงินโดยตรงให้กับนักเขียน เนื้อหาที่ผลิตด้วย AI จำนวนมากจึงอาจกระทบความสัมพันธ์นี้มากกว่าแพลตฟอร์มที่พึ่งโฆษณาเพียงอย่างเดียว

หากผู้อ่านสมัครสมาชิกเพราะเชื่อว่ากำลังสนับสนุนมุมมอง ประสบการณ์ และการวิเคราะห์ของบุคคลจริง แต่ภายหลังพบว่าเนื้อหาถูกสร้างอัตโนมัติเกือบทั้งหมด ความเชื่อมั่นต่อทั้งนักเขียนและแพลตฟอร์มอาจลดลง

Substack จึงต้องพิจารณาว่าควรกำหนดให้ผู้เขียนเปิดเผยการใช้ AI มากน้อยเพียงใด และจะแยกการใช้ AI ตรวจไวยากรณ์หรือช่วยจัดโครงสร้าง ออกจากการให้โมเดลสร้างบทความทั้งฉบับอย่างไร

ความแตกต่างดังกล่าวไม่สามารถตรวจสอบได้จากข้อความเพียงอย่างเดียวเสมอไป เพราะโมเดลสมัยใหม่สามารถเลียนแบบน้ำเสียงและรูปแบบการเขียนของบุคคลได้ดีขึ้นต่อเนื่อง

ป้ายกำกับ AI ยังไม่สามารถแก้ปัญหาทั้งหมด

หลายแพลตฟอร์มใช้ป้ายกำกับเพื่อแจ้งว่าเนื้อหาถูกสร้างหรือแก้ไขด้วย AI แนวทางนี้ช่วยให้ผู้ชมมีข้อมูลประกอบการตัดสินใจ โดยเฉพาะคลิปที่แสดงบุคคลจริงพูดหรือทำสิ่งที่ไม่เคยเกิดขึ้น

แต่ป้ายกำกับจะมีประสิทธิภาพก็ต่อเมื่อผู้สร้างเปิดเผยอย่างซื่อสัตย์ หรือแพลตฟอร์มมีระบบตรวจจับที่แม่นยำ เนื้อหาที่ถูกสร้างแล้วบันทึกใหม่หลายครั้งสามารถลบข้อมูล Metadata หรือร่องรอยทางเทคนิคบางส่วนออกได้

อีกปัญหาคือคำว่า “สร้างด้วย AI” ครอบคลุมการใช้งานที่แตกต่างกันมาก ตั้งแต่การปรับแสงในภาพ ไปจนถึงการสร้างบุคคลและเหตุการณ์ทั้งหมดขึ้นมาใหม่ หากใช้ป้ายเดียวกันกับทุกกรณี ผู้ชมอาจไม่ทราบว่าควรระวังเนื้อหาในระดับใด

Content Credentials อาจช่วยระบุที่มาของสื่อ

บริษัทเทคโนโลยีและผู้ผลิตกล้องบางรายสนับสนุนมาตรฐาน Content Credentials ซึ่งบันทึกประวัติการสร้างและแก้ไขสื่อไว้ในรูปแบบที่ตรวจสอบได้

แนวคิดคือให้ผู้ชมสามารถดูได้ว่าภาพถูกถ่ายด้วยกล้องรุ่นใด ผ่านโปรแกรมแก้ไขอะไร และมีการใช้ Generative AI ในขั้นตอนใด

มาตรฐานดังกล่าวช่วยสร้างหลักฐานเชิงบวกว่าสื่อมาจากแหล่งใด แทนการพยายามตรวจจับว่าภาพเป็นของปลอมจากลักษณะพิกเซลเพียงอย่างเดียว

แต่ระบบต้องได้รับการรองรับอย่างกว้างขวางจากอุปกรณ์ แอปแก้ไข และแพลตฟอร์ม หากผู้สร้างสามารถบันทึกไฟล์ใหม่โดยตัดข้อมูลเหล่านี้ออก ประโยชน์จะลดลงอย่างมาก

Deepfake สร้างความเสี่ยงสูงกว่าเนื้อหาคุณภาพต่ำทั่วไป

เนื้อหา AI คุณภาพต่ำอาจสร้างความรำคาญ แต่ Deepfake ที่เลียนแบบใบหน้าหรือเสียงของบุคคลจริงสามารถสร้างความเสียหายด้านชื่อเสียง การเงิน และความปลอดภัยได้โดยตรง

มิจฉาชีพสามารถใช้เสียงสังเคราะห์เลียนแบบผู้บริหารเพื่อสั่งโอนเงิน หรือใช้วิดีโอปลอมของบุคคลมีชื่อเสียงเพื่อโฆษณาการลงทุนที่ไม่มีอยู่จริง

ในบริบทการเมือง คลิปปลอมสามารถถูกปล่อยในช่วงเวลาก่อนการเลือกตั้งหรือเหตุการณ์สำคัญ ซึ่งอาจแพร่กระจายไปไกลก่อนผู้ตรวจสอบข้อเท็จจริงจะชี้แจงได้

แพลตฟอร์มจึงมีแนวโน้มกำหนดกฎเข้มงวดเป็นพิเศษกับเนื้อหาที่เลียนแบบบุคคลจริง โดยเฉพาะเมื่อไม่ได้รับความยินยอม หรือมีจุดประสงค์หลอกลวงและสร้างความเสียหาย

ผู้สร้างเนื้อหามืออาชีพจะได้รับผลกระทบอย่างไร

กฎที่เข้มงวดขึ้นไม่ได้หมายความว่าผู้สร้างต้องหยุดใช้ AI แต่จำเป็นต้องมีหลักฐานและกระบวนการทำงานที่โปร่งใสมากขึ้น

ผู้สร้างควรเก็บแหล่งข้อมูล ไฟล์ต้นฉบับ สคริปต์ และขั้นตอนการตัดต่อ เพื่อใช้ยืนยันว่าเนื้อหามีการค้นคว้าและสร้างสรรค์โดยมนุษย์ ไม่ใช่การคัดลอกหรือผลิตอัตโนมัติทั้งกระบวนการ

การเปิดเผยการใช้ AI อย่างเหมาะสมยังช่วยลดความเสี่ยงด้านความเชื่อมั่น เช่น ระบุว่าใช้ AI สร้างภาพประกอบ แต่เนื้อหา การวิเคราะห์ และการตรวจสอบข้อเท็จจริงดำเนินการโดยทีมบรรณาธิการ

สำหรับเว็บไซต์ข่าวและสำนักคอนเทนต์ ความรับผิดชอบต่อข้อเท็จจริงยังอยู่กับผู้เผยแพร่ แม้ข้อความหรือภาพบางส่วนจะถูกสร้างโดยเครื่องมือ AI ก็ตาม

แพลตฟอร์มต้องไม่ทำให้เนื้อหาของมนุษย์สูญหายไปจากระบบ

หากอัลกอริทึมให้ความสำคัญกับความถี่และปริมาณ ช่องที่ใช้ AI ผลิตเนื้อหาวันละหลายสิบชิ้นอาจแย่งพื้นที่จากนักข่าว ศิลปิน และผู้สร้างที่ใช้เวลาหลายวันหรือหลายสัปดาห์กับผลงานหนึ่งชิ้น

แพลตฟอร์มจึงต้องปรับระบบแนะนำให้พิจารณาความน่าเชื่อถือ ความพึงพอใจระยะยาว และความหลากหลายของแหล่งข้อมูล ไม่ใช่ดูเพียงอัตราการคลิกในช่วงแรก

การควบคุมเนื้อหา AI ที่มีประสิทธิภาพจะต้องรักษาสมดุลระหว่างการเปิดพื้นที่ให้เทคโนโลยีใหม่ กับการป้องกันไม่ให้ต้นทุนการผลิตที่ต่ำกว่าทำลายระบบเศรษฐกิจและความน่าเชื่อถือของผู้สร้างเนื้อหาเดิม