การอ้างอิงแหล่งที่มาและที่มาของสื่อกลายเป็นประเด็นสำคัญมากขึ้น โดยเฉพาะในโซเชียลมีเดียในช่วงไม่กี่ปีมานี้ ฟีดของคุณเต็มไปด้วยเนื้อหาที่สร้างโดย AI รวมถึงเสียงที่ฟังดูเหมือนบุคคลสาธารณะ วิดีโอเหตุการณ์ที่ถูกสร้างขึ้นซึ่งดูเหมือนจะมาจากแหล่งที่น่าเชื่อถือ และแม้กระทั่ง ตัวตนทั้งหมดที่สร้างขึ้นจากพิกเซลเพียงอย่างเดียวแม้ว่าเนื้อหาบางส่วนจะดูสนุกสนานและไม่มีอันตราย แต่บางส่วนก็อาจส่งผลกระทบอย่างร้ายแรงต่อชีวิตจริงได้
ขณะนี้กำลังมีการพัฒนามาตรฐานที่สำคัญอย่างหนึ่ง ซึ่งอาจส่งผลกระทบอย่างมากต่ออนาคตของเนื้อหาดิจิทัล มาตรฐานนี้คือ ซี2พีเอและปัจจุบันกำลังได้รับความนิยมเพิ่มขึ้นในอุตสาหกรรมการปกป้องข้อมูลการอ้างอิงแหล่งที่มาและที่มาของสื่อ
ความท้าทายที่เรากำลังเผชิญ
เรากำลังสูญเสียความสามารถในการไว้วางใจเนื้อหาที่เราดูและฟังทางออนไลน์เร็วกว่าที่ใครคาดคิดไว้เสียอีก
จริงอยู่ที่ผู้คนได้สร้างและเผยแพร่ข้อมูลเหล่านี้มาโดยตลอด ภาพถ่ายปลอมมีมาตั้งแต่ปี 1800เครื่องมือแก้ไขและปรับแต่งภาพขั้นสูงมีมานานกว่าสามทศวรรษแล้ว ในทำนองเดียวกัน ข้อมูลเท็จก็ถูกเผยแพร่บนแพลตฟอร์มโซเชียลมีเดียมานานก่อนที่ปัญญาประดิษฐ์เชิงสร้างสรรค์จะถือกำเนิดขึ้น อย่างไรก็ตาม ช่วงเวลานี้ถือเป็นความก้าวหน้าพร้อมกันในสามด้านหลัก:
- การสร้างสื่อสังเคราะห์นั้นมีราคาถูกลงมาก เครื่องมือราคาแพงที่เคยเข้าถึงได้ยากมากในอดีต ตอนนี้เข้าถึงได้ง่ายและสามารถใช้งานบนแล็ปท็อปหรือโทรศัพท์ได้แล้ว
- คุณภาพของแหล่งข้อมูลเหล่านี้พัฒนาไปถึงจุดที่คนทั่วไปยากที่จะแยกแยะระหว่างสื่อแท้และสื่อปลอมได้
- ประการที่สาม ช่องทางการเผยแพร่ทรัพยากรเหล่านี้ในปัจจุบันมีอยู่ทั่วไปและรวดเร็วทันใจ ทำให้สื่อปลอมหรือสื่อที่ถูกดัดแปลงสามารถเข้าถึงผู้คนนับล้านได้ก่อนที่ใครจะตั้งคำถามถึงที่มาของสื่อเหล่านั้นได้
ตัวอย่างเช่น มีบุคคลที่มีชื่อเสียงคนหนึ่ง เหตุการณ์ในฮ่องกงเมื่อต้นปี 2024พนักงานฝ่ายการเงินของบริษัทข้ามชาติแห่งหนึ่งเข้าร่วมการประชุมทางวิดีโอร่วมกับ CFO ของบริษัทและเพื่อนร่วมงานอีกหลายคน...หรืออย่างน้อยก็ดูเหมือนจะเป็นเช่นนั้น พวกเขาสั่งให้พนักงานคนนั้นโอนเงินหลายล้านดอลลาร์ไปยังบัญชีต่างๆ อย่างไรก็ตาม ต่อมาได้มีการค้นพบว่าทุกคนในการประชุมนั้น รวมถึง CFO ด้วย ล้วนเป็นบุคคลที่สร้างขึ้นมาโดยใช้เทคโนโลยีสังเคราะห์ การผสานกันของวิศวกรรมสังคมและปัญญาประดิษฐ์ที่สร้างขึ้นมาโดยใช้เทคโนโลยีสังเคราะห์ (genAI) ถือเป็นหนึ่งในความเสี่ยงด้านความปลอดภัยที่สำคัญที่สุดที่เราเคยเผชิญในสภาพแวดล้อมขององค์กร และคาดการณ์ว่าจะเติบโตอย่างรวดเร็วทั้งในด้านความเร็วและความซับซ้อน
เมื่อสาธารณชนเริ่มตระหนักมากขึ้นว่า deepfake และเนื้อหาที่ถูกสร้างขึ้นนั้นมีอยู่จริงและมีความสมจริงมากขึ้นเรื่อยๆ ผู้ไม่หวังดีก็จะได้เครื่องมือใหม่ พวกเขาสามารถอ้างได้ว่าหลักฐานจริงนั้นเป็นของปลอม ความสงสัยและการป้องกันที่ผู้คนพัฒนาขึ้นเพื่อตอบสนองต่อสื่อสังเคราะห์สามารถถูกใช้ประโยชน์ได้
เราควรลงทุนในเทคโนโลยีการตรวจจับหรือไม่?
หาก AI สามารถสร้างสื่อปลอมได้ แน่นอนว่า AI ก็สามารถตรวจจับได้เช่นกัน การลงทุนในเทคโนโลยีการตรวจจับอาจดูเหมือนเป็นคำตอบที่ชัดเจน แต่ก็เป็นคำตอบที่ผิดเช่นกัน นี่คือเหตุผล:
ประการแรก โมเดลสร้างภาพกำลังพัฒนาเร็วกว่าที่โมเดลตรวจจับจะตามทันได้ ทุกครั้งที่ตัวตรวจจับเรียนรู้เทคนิคใหม่ๆ ในการตรวจจับสื่อสังเคราะห์ ข้อมูลนั้นจะถูกป้อนเข้าสู่ชุดข้อมูลฝึกฝนรอบต่อไปสำหรับโมเดลสร้างภาพ มันคือการแข่งขันด้านอาวุธ และฝ่ายรุกมีข้อได้เปรียบเชิงโครงสร้างเหนือฝ่ายรับ โดยช่องว่างกำลังกว้างขึ้นเรื่อยๆ
ประการที่สอง แม้แต่ระบบตรวจจับระดับโลกก็ยังล้มเหลวเมื่อใช้งานในวงกว้างหากเครื่องตรวจจับมีความแม่นยำ 99% แต่ปริมาณของสื่อสังเคราะห์มีจำนวนมหาศาลถึงหลายล้านชิ้น 1% ที่หลุดรอดไปได้ก็ยังคงเป็นตัวเลขที่สูงมาก และยังคงเป็นความเสี่ยงที่สำคัญซึ่งอาจส่งผลกระทบอย่างร้ายแรงต่อประชาชนทั่วไป
ประการที่สามและสำคัญที่สุด: การตรวจจับจะใช้ได้ผลก็ต่อเมื่อเนื้อหาได้ถูกเผยแพร่ไปแล้วเท่านั้น เมื่อถึงเวลาที่ตรวจพบว่าเนื้อหาใดเป็นของปลอม สื่อชิ้นนั้นก็ถูกเห็น ถูกแชร์ และซึมซับเข้าสู่จิตสำนึกสาธารณะไปแล้ว
นอกเหนือจากวิธีการแก้ปัญหาเพียงอย่างเดียว เช่น การตรวจจับแล้ว จำเป็นต้องอาศัยความร่วมมืออย่างเป็นระบบในการตรวจจับ การลงนาม การติดแท็ก การตรวจสอบความถูกต้อง และ (ที่สำคัญที่สุด) การให้ความรู้ เพื่อต่อสู้กับความเสี่ยงที่เกี่ยวข้องกับสื่อปลอมแปลงได้อย่างมีประสิทธิภาพ
ประเด็นสำคัญที่กำลังเป็นที่ถกเถียงกันอยู่
การตรวจจับเป็นเพียงท่าทีป้องกัน และไม่สามารถแก้ไขปัญหาที่ว่าผู้คนสามารถลืมสิ่งที่เห็นหรือได้ยินได้ แม้ว่าเทคโนโลยีการตรวจจับจะดีแค่ไหนก็ตาม หากมองในแง่ดี การตรวจจับยิ่งดีขึ้นเท่าไร คำกล่าวอ้างของคนโกหกที่ว่าการตรวจจับล้มเหลวก็ยิ่งน่าเชื่อถือมากขึ้นเท่านั้น เพราะความตระหนักรู้ถึงปัญหาในตอนนี้กลับกลายเป็นพื้นฐานของการโกหกเสียเอง ลองพิจารณาสิ่งต่อไปนี้:
ศาลยุติธรรมต้องอาศัยหลักฐาน สื่อมวลชนต้องอาศัยแหล่งข่าว เอกสารเป็นสิ่งสำคัญยิ่งในอุตสาหกรรมประกันภัย การเลือกตั้งต้องอาศัยบันทึกร่วมกันว่าผู้สมัครแต่ละคนได้กล่าวอะไรไว้บ้าง ในทุกสถาบันเหล่านั้น มีหลักฐานพื้นฐานที่ทุกคนเห็นพ้องต้องกันว่ามีอยู่จริง แม้ว่าจะมีความเห็นไม่ตรงกันเกี่ยวกับความหมายก็ตาม
แต่ถ้าหากเราลบพื้นฐานนั้นออกไป เราก็จะพบกับข้อมูลที่ผิดพลาดซึ่งทวีความรุนแรงขึ้นในสังคมที่ข้อเท็จจริงที่ไม่สะดวกใจใดๆ ก็สามารถปฏิเสธได้ ความจริงที่น่าอึดอัดใจใดๆ ก็สามารถถูกปัดทิ้งไปได้ด้วยการอ้างอย่างผิดๆ ว่า “นั่นเป็นเพราะ AI” ผลที่ตามมานั้นขยายวงกว้างไปไกลกว่าเนื้อหาล่อคลิกบนโซเชียลมีเดีย แต่ยังกระตุ้นให้เกิดการกัดเซาะอย่างช้าๆ ของรากฐานที่สำคัญซึ่งสถาบันระดับโลกต้องพึ่งพาในการดำเนินงาน
คุณค่าที่มากกว่าความจริง
การพิสูจน์ว่าอะไรคือของจริงคือกลยุทธ์การโจมตีที่แท้จริง เมื่อสร้างไฟล์แล้ว คุณต้องแนบบันทึกว่าใครเป็นผู้สร้าง มาจากไหน ใช้เครื่องมืออะไร และมีการเปลี่ยนแปลงอย่างไรบ้าง บันทึกนี้จะติดไปกับไฟล์นั้น ใครๆ ก็สามารถตรวจสอบได้ และสามารถดูได้ว่าไฟล์นั้นถูกดัดแปลงหรือไม่
ที่มาของสิ่งของเป็นรากฐานของความแท้จริงมาโดยตลอด ศาลใช้ที่มาของสิ่งของในการสร้างห่วงโซ่การดูแลรักษาหลักฐาน หอศิลป์และผู้ค้างานศิลปะใช้ที่มาของสิ่งของเพื่อแยกภาพวาดของปิกัสโซของแท้จากของปลอม มูลค่าของลูกเบสบอลที่มีลายเซ็นของมิกกี้ แมนเทิล ไม่ได้อยู่ที่ตัวลูกเบสบอลเอง แต่อยู่ที่หลักฐานเอกสารที่พิสูจน์ว่าเขาเซ็นชื่อลงบนลูกเบสบอลนั้นจริง ๆ
แม้ว่าการตรวจสอบแหล่งที่มาจะไม่ใช่เรื่องใหม่ แต่การทำให้การตรวจสอบแหล่งที่มาใช้งานได้จริงกับสื่อดิจิทัลในวงกว้างนั้นเป็นเรื่องใหม่ นี่คือประเด็นทางเทคนิคที่จะได้รับการแก้ไขในอีกหลายปีข้างหน้า แม้ว่าการตรวจสอบแหล่งที่มาจะไม่สามารถยืนยันได้ว่าเนื้อหานั้นเป็นความจริง (เอกสารที่ลงนามโดยองค์กรข่าวที่ถูกต้องตามกฎหมายก็อาจบรรยายเหตุการณ์ผิดพลาดได้) แต่ก็ให้ข้อมูลที่มีประโยชน์มากกว่าความจริง นั่นคือข้อมูลที่เชื่อถือได้เกี่ยวกับแหล่งที่มา ผู้ชมมีอิสระที่จะรับชมเนื้อหาและตัดสินความน่าเชื่อถือด้วยตนเอง ในเรื่องความน่าเชื่อถือทางดิจิทัล เราต้องสามารถรับรองการสร้างหรือการแก้ไขสื่อได้
การมาถึงของ C2PA
ซี2พีเอ ย่อมาจาก Coalition for Content Provenance and Authenticity (กลุ่มพันธมิตรเพื่อแหล่งที่มาและความถูกต้องของเนื้อหา)
นับตั้งแต่เปิดตัว การปฏิบัติตามมาตรฐาน C2PA ได้เติบโตขึ้นอย่างมาก ขยายขอบเขตออกไปนอกเหนือจากสมาชิกผู้ก่อตั้ง ปัจจุบันมีองค์กรสื่อขนาดใหญ่ แพลตฟอร์ม AI สร้างสรรค์ ผู้ผลิตฮาร์ดแวร์ และหน่วยงานออกใบรับรองเข้าร่วมมากมาย รวมถึง SSL คือ CA ที่ได้รับความไว้วางใจจากสาธารณะแห่งแรกในระบบนิเวศ C2PAทุกคนล้วนเป็นผู้เข้าร่วมในขณะนี้ SSL ออกใบรับรองที่ผู้ลงนามใช้เพื่อเชื่อมโยงแหล่งที่มาที่ตรวจสอบได้กับสื่อที่พวกเขาสร้างหรือแก้ไข
หากคุณดำเนินงานหรือสร้างระบบที่ความไว้วางใจมีความสำคัญ โปรดติดต่อเรา ทีมงานของเราพร้อมให้ความช่วยเหลือคุณในการตัดสินใจอย่างแท้จริงเกี่ยวกับวิธีการใช้โซลูชันการตรวจสอบความถูกต้องของเนื้อหา เช่น SSL ซี2พีเอ และ / หรือ ใบรับรอง CAWGเหมาะสมกับงานของคุณ
บทความนี้ได้รับการย่อและเรียบเรียงใหม่จาก SSL EVP of Technology ดัสติน วอร์ดบทความต้นฉบับจากบล็อกของเขา คุณสามารถอ่านฉบับเต็มได้ที่นี่ Good Farm Animal Welfare Awardsนี่คือบทความแรกในชุดบทความที่เกี่ยวกับ C2PA (Community-to-Peer)
