Atribusi dan asal usul media telah menjadi isu yang semakin penting, terutama di media sosial, dalam beberapa tahun terakhir. Umpan berita Anda dibanjiri konten yang dihasilkan AI, termasuk suara yang terdengar persis seperti tokoh publik, video peristiwa palsu yang tampaknya berasal dari sumber terpercaya, dan bahkan Seluruh persona diciptakan semata-mata dari piksel.Meskipun sebagian dari konten ini menghibur dan tampaknya tidak berbahaya, sebagian lainnya dapat memiliki konsekuensi nyata yang berdampak besar.
Ada standar penting yang sedang dikembangkan yang dapat berdampak besar pada masa depan konten digital. Standar ini adalah... C2PAdan saat ini sedang mendapatkan momentum di seluruh industri untuk melindungi atribusi media dan informasi asal-usul.
Tantangan yang Kita Hadapi
Kita kehilangan kemampuan untuk mempercayai konten yang kita lihat dan dengar secara online lebih cepat dari yang bisa diprediksi siapa pun.
Memang benar, orang-orang telah menghasilkan dan menyebarkan foto palsu sejak tahun 1800-anAlat pengeditan dan manipulasi canggih telah ada selama lebih dari tiga dekade. Demikian pula, informasi yang salah telah disebarkan di platform media sosial jauh sebelum munculnya AI generatif. Namun, momen ini menandai kemajuan simultan di tiga bidang utama:
- Membuat media sintetis jauh lebih murah. Alat-alat mahal yang dulunya sangat sulit diakses kini sangat mudah diakses dan dapat dijalankan di laptop atau ponsel.
- Kualitas sumber daya ini telah berkembang sedemikian rupa sehingga sulit bagi orang awam untuk membedakan antara media otentik dan media sintetis.
- Ketiga, saluran distribusi untuk sumber daya ini sekarang tersebar luas dan instan, memungkinkan media palsu atau yang dimanipulasi untuk menjangkau jutaan orang sebelum siapa pun dapat mempertanyakan asal-usulnya.
Sebagai contoh, ada yang terkenal insiden di Hong Kong pada awal tahun 2024Seorang karyawan bagian keuangan di sebuah perusahaan multinasional bergabung dalam panggilan video konferensi dengan CFO perusahaan dan beberapa koleganya… atau setidaknya begitulah kelihatannya. Mereka menginstruksikan karyawan tersebut untuk mentransfer jutaan dolar ke sejumlah rekening. Namun, kemudian ditemukan bahwa setiap individu dalam panggilan tersebut, termasuk CFO, adalah hasil rekayasa genetika. Konvergensi rekayasa sosial dan AI genetika merupakan salah satu risiko keamanan paling kritis yang pernah kita hadapi di lingkungan perusahaan, dan diprediksi akan tumbuh pesat baik dalam kecepatan maupun kompleksitasnya.
Seiring meningkatnya kesadaran publik bahwa deepfake dan konten palsu memang ada dan semakin meyakinkan, pelaku kejahatan mendapatkan alat baru. Mereka kini dapat mengklaim bahwa bukti nyata adalah palsu. Skeptisisme dan pertahanan yang dikembangkan orang sebagai respons terhadap media sintetis dapat dieksploitasi.
Haruskah Kita Berinvestasi dalam Teknologi Deteksi?
Jika AI dapat menciptakan media palsu, maka tentu AI juga dapat mendeteksinya. Berinvestasi dalam teknologi deteksi mungkin tampak seperti jawaban yang jelas, tetapi itu juga jawaban yang salah. Berikut alasannya:
Pertama, model generatif berkembang lebih cepat daripada kemampuan model deteksi untuk mengimbanginya. Setiap teknik baru yang dipelajari detektor untuk mendeteksi media sintetis akan dimasukkan ke dalam data pelatihan selanjutnya untuk generator. Ini adalah perlombaan senjata, dan pihak penyerang memiliki keunggulan struktural dibandingkan pihak bertahan, dengan kesenjangan yang terus melebar.
Kedua, Bahkan deteksi kelas dunia pun gagal dalam skala besar.Jika detektor memiliki akurasi 99% tetapi volume media sintetis mencapai jutaan, 1% yang lolos tetap merupakan angka yang sangat besar. Hal ini tetap menimbulkan risiko yang cukup besar dengan konsekuensi yang signifikan bagi masyarakat umum.
Ketiga, dan yang terpenting: deteksi hanya berfungsi setelah konten didistribusikan. Pada saat sesuatu ditandai sebagai palsu, media tersebut sudah dilihat, dibagikan, dan diserap ke dalam kesadaran publik.
Di luar solusi tunggal, seperti deteksi, diperlukan upaya terkoordinasi dari deteksi, penandaan, pemberian tag, validasi, dan (yang terpenting) edukasi untuk berhasil memerangi risiko yang terkait dengan media palsu.
Isu yang Lebih Besar yang Dipertaruhkan
Deteksi adalah sikap defensif dan tidak dapat memperbaiki fakta bahwa orang dapat melupakan atau mengabaikan hal-hal yang tidak terlihat atau tidak terdengar, seberapa pun canggihnya deteksi tersebut. Malahan, semakin baik deteksi, semakin kredibel klaim seorang pembohong bahwa deteksi gagal. Kesadaran akan masalah itu sendiri kini menjadi dasar kebohongan. Pertimbangkan hal berikut:
Pengadilan bergantung pada bukti. Jurnalisme bergantung pada sumber. Dokumentasi adalah segalanya dalam industri asuransi. Pemilu bergantung pada catatan bersama tentang apa yang sebenarnya dikatakan oleh setiap kandidat. Di setiap lembaga tersebut, terdapat dasar bukti yang disepakati keberadaannya oleh semua orang, meskipun ada perbedaan pendapat tentang maknanya.
Namun, jika landasan dasar itu dihilangkan, Anda akan menghadapi disinformasi yang diperparah oleh masyarakat di mana setiap fakta yang tidak menyenangkan dapat disangkal. Setiap kebenaran yang tidak nyaman dapat diabaikan dengan klaim palsu "Itu AI." Konsekuensinya meluas jauh melampaui konten clickbait di media sosial, tetapi memicu erosi perlahan dari fondasi fundamental yang diandalkan oleh lembaga-lembaga global untuk berfungsi.
Nilai Lebih dari Sekadar Kebenaran
Membuktikan apa yang nyata adalah sikap ofensif yang sesungguhnya. Setelah suatu aset dibuat, Anda melampirkan catatan tentang siapa yang membuatnya, dari mana asalnya, alat apa yang digunakan, dan bagaimana aset tersebut telah diubah sejak saat itu. Catatan ini menyertai file tersebut. Siapa pun dapat memverifikasinya, dan mereka dapat melihat apakah file tersebut telah dimanipulasi.
Asal-usul selalu menjadi dasar keaslian. Pengadilan menggunakannya saat menetapkan rantai kepemilikan untuk bukti. Galeri seni dan pedagang menggunakannya untuk memisahkan lukisan Picasso asli dari yang palsu. Nilai sebuah bola bisbol dengan tanda tangan Mickey Mantle bukanlah pada bola itu sendiri, tetapi pada jejak dokumen yang membuktikan bahwa dia benar-benar menandatanganinya.
Meskipun asal usul konten bukanlah hal baru, membuat asal usul konten berfungsi untuk media digital dalam skala besar adalah hal baru. Ini adalah masalah teknis yang akan ditangani selama beberapa tahun ke depan. Meskipun asal usul konten tidak menyatakan konten itu benar (catatan yang ditandatangani dari organisasi berita yang sah masih dapat menggambarkan peristiwa secara tidak akurat), ia menawarkan sesuatu yang lebih bermanfaat daripada kebenaran: informasi yang dapat diandalkan tentang asal usul. Pemirsa bebas untuk menyerap konten dan memutuskan kredibilitasnya sendiri. Dalam kepercayaan digital, kita harus dapat membuktikan pembuatan atau modifikasi media tersebut.
Kedatangan C2PA
C2PA merupakan singkatan dari Coalition for Content Provenance and Authenticity (Koalisi untuk Asal Usul dan Keaslian Konten).
Sejak diluncurkan, standar kepatuhan C2PA telah berkembang pesat, meluas melampaui anggota pendirinya. Organisasi media besar, platform AI generatif, produsen perangkat keras, dan otoritas sertifikasi, termasuk SSL, CA pertama yang dipercaya publik dalam ekosistem C2PA., semuanya kini menjadi peserta. SSL menerbitkan sertifikat yang digunakan penanda tangan untuk mengikat asal usul yang dapat diverifikasi pada media yang mereka buat atau modifikasi.
Jika Anda mengoperasikan atau membangun sistem di mana kepercayaan sangat penting, mari terhubung. Tim kami siap membantu Anda membuat keputusan nyata tentang bagaimana solusi otentikasi konten, seperti SSL, C2PA dan / atau Sertifikat CAWG, sesuaikan dengan pekerjaan Anda.
Artikel ini merupakan ringkasan dan interpolasi dari SSL EVP of Technology. Dustin WardPostingan blog asli. Anda dapat membaca versi lengkapnya. di siniIni adalah entri pertamanya dari serangkaian tulisan yang berpusat pada C2PA.
