Η αναφορά και η προέλευση των μέσων ενημέρωσης έχουν γίνει ένα αυξανόμενο ζήτημα, ειδικά στα μέσα κοινωνικής δικτύωσης, τα τελευταία χρόνια. Οι ροές σας κατακλύζονται από περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, συμπεριλαμβανομένων φωνών που ακούγονται ακριβώς σαν δημόσια πρόσωπα, βίντεο κατασκευασμένων γεγονότων που φαίνεται να προέρχονται από αξιόπιστες πηγές, ακόμη και ολόκληρες περσόνες που δημιουργήθηκαν αποκλειστικά από pixelΕνώ μέρος αυτού του περιεχομένου είναι διασκεδαστικό και φαινομενικά ακίνδυνο, κάποιο από αυτό μπορεί να έχει επιπτώσεις στον πραγματικό κόσμο.
Αναπτύσσεται ένα κρίσιμο πρότυπο που θα μπορούσε να επηρεάσει βαθιά το μέλλον του ψηφιακού περιεχομένου. Αυτό το πρότυπο είναι C2PAκαι αυτή τη στιγμή κερδίζει έδαφος σε ολόκληρο τον κλάδο για την προστασία των πληροφοριών προέλευσης και προέλευσης των μέσων ενημέρωσης.
Οι προκλήσεις που αντιμετωπίζουμε
Χάνουμε την ικανότητα να εμπιστευόμαστε το περιεχόμενο που βλέπουμε και ακούμε στο διαδίκτυο πιο γρήγορα από ό,τι θα μπορούσε να προβλέψει κανείς.
Ομολογουμένως, οι άνθρωποι παράγουν και κυκλοφορούν ψεύτικες φωτογραφίες από το 1800Προηγμένα εργαλεία επεξεργασίας και χειραγώγησης υπάρχουν εδώ και περισσότερες από τρεις δεκαετίες. Ομοίως, η παραπληροφόρηση έχει διαδοθεί στις πλατφόρμες κοινωνικής δικτύωσης πολύ πριν από την άφιξη της παραγωγικής τεχνητής νοημοσύνης. Ωστόσο, αυτή η στιγμή σηματοδοτεί την ταυτόχρονη πρόοδο σε τρεις βασικούς τομείς:
- Η δημιουργία συνθετικών μέσων είναι πολύ φθηνότερη. Ακριβά εργαλεία που παλαιότερα είχαν εξαιρετικά περιορισμένη πρόσβαση είναι πλέον εύκολα προσβάσιμα και μπορούν να χρησιμοποιηθούν σε φορητούς υπολογιστές ή τηλέφωνα.
- Η ποιότητα αυτών των πόρων έχει βελτιωθεί σε σημείο που είναι δύσκολο για τον μέσο άνθρωπο να διακρίνει μεταξύ αυθεντικών και συνθετικών μέσων.
- Τρίτον, τα κανάλια διανομής αυτών των πόρων είναι πλέον πανταχού παρόντα και άμεσα, επιτρέποντας στα ψεύτικα ή χειραγωγημένα μέσα ενημέρωσης να φτάσουν σε εκατομμύρια ανθρώπους προτού κάποιος προλάβει να αμφισβητήσει την προέλευσή τους.
Για παράδειγμα, υπήρχε ένα πολύ γνωστό περιστατικό στο Χονγκ Κονγκ στις αρχές του 2024Ένας υπάλληλος οικονομικών σε μια πολυεθνική εταιρεία συμμετείχε σε μια βιντεοκλήση με τον οικονομικό διευθυντή της εταιρείας και αρκετούς συναδέλφους... ή τουλάχιστον έτσι φαινόταν. Έδωσαν εντολή στον υπάλληλο να μεταφέρει εκατομμύρια δολάρια σε μια σειρά λογαριασμών. Ωστόσο, αργότερα ανακαλύφθηκε ότι κάθε άτομο σε αυτήν την κλήση, συμπεριλαμβανομένου του χρηματοοικονομικού διευθυντή, δημιουργήθηκε συνθετικά. Η σύγκλιση της κοινωνικής μηχανικής και της γενετικής τεχνητής νοημοσύνης αντιπροσωπεύει έναν από τους πιο κρίσιμους κινδύνους ασφαλείας που έχουμε αντιμετωπίσει ποτέ στο επιχειρηματικό περιβάλλον και προβλέπεται να αυξηθεί ραγδαία τόσο σε ρυθμό όσο και σε πολυπλοκότητα.
Καθώς το κοινό συνειδητοποιεί όλο και περισσότερο ότι υπάρχουν deepfakes και κατασκευασμένο περιεχόμενο και γίνονται όλο και πιο πειστικά, οι κακόβουλοι δράστες αποκτούν ένα νέο εργαλείο. Μπορούν πλέον να ισχυρίζονται ότι τα πραγματικά στοιχεία είναι ψεύτικα. Ο σκεπτικισμός και οι άμυνες που αναπτύσσουν οι άνθρωποι ως απάντηση στα συνθετικά μέσα μπορούν να αξιοποιηθούν.
Πρέπει να επενδύσουμε σε τεχνολογία ανίχνευσης;
Αν η Τεχνητή Νοημοσύνη μπορεί να δημιουργήσει παραποιημένα μέσα, τότε σίγουρα μπορεί να τα ανιχνεύσει. Η επένδυση σε τεχνολογία ανίχνευσης μπορεί να φαίνεται σαν η προφανής απάντηση, αλλά είναι επίσης και λάθος. Να γιατί:
Καταρχάς, τα γενετικά μοντέλα βελτιώνονται ταχύτερα από ό,τι μπορούν να παρακολουθήσουν τα μοντέλα ανίχνευσης. Με κάθε νέα τεχνική που μαθαίνει ένας ανιχνευτής να εντοπίζει συνθετικά μέσα, αυτή τροφοδοτείται στον επόμενο γύρο εκπαίδευσης δεδομένων για τις γεννήτριες. Πρόκειται για έναν αγώνα εξοπλισμού και η επίθεση έχει διαρθρωτικά πλεονεκτήματα έναντι της άμυνας, με το χάσμα να διευρύνεται συνεχώς.
Δεύτερον, ακόμη και η ανίχνευση παγκόσμιας κλάσης αποτυγχάνει σε μεγάλη κλίμακαΑν ένας ανιχνευτής έχει ακρίβεια 99% αλλά ο όγκος των συνθετικών μέσων είναι εκατομμυρίων, το 1% που διαφεύγει εξακολουθεί να είναι ένα τεράστιο ποσό. Εξακολουθεί να αποτελεί σημαντικό κίνδυνο με σημαντικές συνέπειες για το ευρύ κοινό.
Τρίτον, και σημαντικότερο: η ανίχνευση λειτουργεί μόνο μετά τη διανομή του περιεχομένου. Μέχρι να επισημανθεί κάτι ως κατασκευασμένο, το δημοσιογραφικό άρθρο έχει ήδη προβληθεί, κοινοποιηθεί και απορροφηθεί από το κοινό.
Πέρα από μια μοναδική λύση, όπως η ανίχνευση, θα χρειαστεί μια συντονισμένη προσπάθεια ανίχνευσης, υπογραφής, επισήμανσης, επικύρωσης και (το πιο σημαντικό) εκπαίδευσης για την επιτυχή καταπολέμηση των κινδύνων που σχετίζονται με τα παραποιημένα μέσα.
Το Μεγαλύτερο Ζήτημα που Διακυβεύεται
Η ανίχνευση είναι μια αμυντική στάση και δεν μπορεί να διορθώσει το γεγονός ότι οι άνθρωποι μπορούν να μην βλέπουν ή να μην ακούνε πράγματα, ανεξάρτητα από το πόσο καλή γίνεται. Αν μη τι άλλο, όσο περισσότερο βελτιώνεται η ανίχνευση, τόσο πιο αξιόπιστος γίνεται ο ισχυρισμός ενός ψεύτη ότι η ανίχνευση απέτυχε. Η ίδια η επίγνωση του προβλήματος χρησιμεύει πλέον ως βάση για το ψέμα. Σκεφτείτε τα εξής:
Τα δικαστήρια βασίζονται σε αποδεικτικά στοιχεία. Η δημοσιογραφία βασίζεται σε πηγές. Η τεκμηρίωση είναι το παν στον ασφαλιστικό κλάδο. Οι εκλογές εξαρτώνται από ένα κοινό αρχείο για το τι έχει πει στην πραγματικότητα κάθε υποψήφιος. Σε κάθε ένα από αυτά τα ιδρύματα, υπάρχει μια βάση αποδεικτικών στοιχείων για την οποία όλοι μπορούν να συμφωνήσουν ότι υπάρχουν, ακόμη και αν υπάρχει διαφωνία σχετικά με το νόημά τους.
Αλλά αν αυτή η βάση αφαιρεθεί, θα έχουμε παραπληροφόρηση που επιδεινώνεται από μια κοινωνία όπου κάθε άβολο γεγονός είναι αμφισβητήσιμο. Οποιαδήποτε άβολη αλήθεια μπορεί να απορριφθεί ισχυριζόμενοι ψευδώς ότι «Αυτό είναι Τεχνητή Νοημοσύνη». Η συνέπεια εκτείνεται πολύ πέρα από το περιεχόμενο που προσελκύει κλικ στα μέσα κοινωνικής δικτύωσης, αλλά πυροδοτεί την αργή διάβρωση των θεμελιωδών θεμελίων στα οποία βασίζονται οι παγκόσμιοι θεσμοί για να λειτουργήσουν.
Περισσότερη Αξία Πέρα από την Αλήθεια
Το να αποδεικνύεις τι είναι πραγματικό αποτελεί μια πραγματικά προσβλητική στάση. Μόλις δημιουργηθεί ένα περιουσιακό στοιχείο, επισυνάπτεις ένα αρχείο που αναφέρει ποιος το έφτιαξε, από πού προήλθε, ποια εργαλεία χρησιμοποιήθηκαν και πώς έχει τροποποιηθεί έκτοτε. Αυτό το αρχείο ταξιδεύει μαζί με το αρχείο. Οποιοσδήποτε μπορεί να το επαληθεύσει και να δει αν έχει παραβιαστεί.
Η προέλευση ήταν ανέκαθεν το θεμέλιο της αυθεντικότητας. Τα δικαστήρια τη χρησιμοποιούν όταν καθιερώνουν μια αλυσίδα επιμέλειας για τα αποδεικτικά στοιχεία. Οι γκαλερί τέχνης και οι έμποροι τέχνης τη χρησιμοποιούν για να διαχωρίσουν έναν πραγματικό πίνακα του Πικάσο από μια πλαστογραφία. Η αξία μιας μπάλας του μπέιζμπολ με την υπογραφή του Μίκι Μαντλ δεν έγκειται στην ίδια την μπάλα, αλλά στο ίχνος των εγγράφων που αποδεικνύουν ότι την υπέγραψε όντως.
Ενώ η προέλευση δεν είναι κάτι καινούργιο, η αξιοποίηση της προέλευσης για τα ψηφιακά μέσα σε μεγάλη κλίμακα είναι κάτι καινούργιο. Αυτό είναι το τεχνικό ζήτημα που θα αντιμετωπιστεί τα επόμενα χρόνια. Ενώ η προέλευση δεν δηλώνει ότι το περιεχόμενο είναι αληθές (ένα υπογεγραμμένο αρχείο από έναν νόμιμο ειδησεογραφικό οργανισμό μπορεί ακόμα να περιγράφει τα γεγονότα λανθασμένα), προσφέρει κάτι πιο χρήσιμο από την αλήθεια: αξιόπιστες πληροφορίες σχετικά με την προέλευση. Ο θεατής είναι ελεύθερος να απορροφήσει το περιεχόμενο και να αποφασίσει ο ίδιος για την αξιοπιστία του. Στην ψηφιακή εμπιστοσύνη, πρέπει να είμαστε σε θέση να βεβαιώσουμε τη δημιουργία ή την τροποποίηση των μέσων ενημέρωσης.
Η άφιξη του C2PA
C2PA αντιπροσωπεύει τον Συνασπισμό για την Προέλευση και την Αυθεντικότητα Περιεχομένου.
Από την έναρξη, η συμμόρφωση C2PA έχει αυξηθεί σημαντικά, επεκταθεί πέρα από τα ιδρυτικά μέλη της. Σημαντικοί οργανισμοί μέσων ενημέρωσης, πλατφόρμες γενετικής τεχνητής νοημοσύνης, κατασκευαστές υλικού και αρχές έκδοσης πιστοποιητικών, συμπεριλαμβανομένων SSL, η πρώτη δημόσια αξιόπιστη CA στο οικοσύστημα C2PA, είναι όλοι συμμετέχοντες τώρα. Το SSL εκδίδει τα πιστοποιητικά που χρησιμοποιούν οι υπογράφοντες για να συνδέσουν επαληθεύσιμη προέλευση με τα μέσα που δημιουργούν ή τροποποιούν.
Αν λειτουργείτε ή κατασκευάζετε συστήματα όπου η εμπιστοσύνη μετράει, ας συνδεθούμε. Η ομάδα μας είναι εδώ για να σας βοηθήσει να λάβετε πραγματικές αποφάσεις σχετικά με το πώς οι λύσεις αυθεντικότητας περιεχομένου, όπως τα SSL,... C2PA και / ή Πιστοποιητικά CAWG, ταιριάζουν στην εργασία σας.
Αυτό το άρθρο είναι συντομευμένο και παρεμβαλλόμενο από το SSL EVP Τεχνολογίας Ντάστιν ΓουόρντΗ αρχική ανάρτηση ιστολογίου του. Μπορείτε να διαβάσετε την πλήρη έκδοση εδώΑυτή είναι η πρώτη του συμμετοχή σε μια σειρά που επικεντρώνεται στο C2PA.
