Η έκρηξη του deepfake περιεχομένου στο διαδίκτυο οδήγησε τη Meta στην ανάπτυξη ενός εργαλείου που θα δημιουργεί ένα διακριτικό υδατογράφημα σε βίντεο που έχουν δημιουργηθεί με χρήση τεχνητής νοημοσύνης.
Σύμφωνα με την πλατφόρμα επαλήθευσης ταυτότητας Sumsub, σημειώθηκε αύξηση 4 φορές στα deepfakes παγκοσμίως από το 2023 έως το 2024. Το 2024, τα deepfakes αντιπροσώπευαν το 7% όλων των απατών.
Το εργαλείο, που ονομάζεται Meta Video Seal, είναι διαθέσιμο σε ανοιχτό κώδικα και έχει σχεδιαστεί για να ενσωματώνεται σε υπάρχον λογισμικό. Το εργαλείο ενώνεται με τα άλλα εργαλεία υδατογράφησης της Meta, το Watermark Anything και το Audio Seal.
«Αναπτύξαμε το Video Seal για να παρέχουμε ένα πιο αποτελεσματικό σύστημα υδατογράφησης βίντεο, ιδιαίτερα για τον εντοπισμό βίντεο που δημιουργούνται από τεχνητή νοημοσύνη και την προστασία της πρωτοτυπίας», δήλωσε ο Pierre Fernandez, ερευνητής τεχνητής νοημοσύνης στο Meta, σε συνέντευξή του στο TechCrunch.
Το Video Seal δεν είναι η πρώτη τεχνολογία αυτού του είδους. Το SynthID της DeepMind μπορεί να υδατογραφήσει βίντεο και η Microsoft έχει τις δικές της μεθοδολογίες υδατογράφησης βίντεο.
Αλλά ο Fernandez ισχυρίζεται ότι πολλές υπάρχουσες προσεγγίσεις υπολείπονται.
«Ενώ υπάρχουν άλλα εργαλεία υδατογράφησης, δεν προσφέρουν επαρκή στιβαρότητα στη συμπίεση βίντεο, η οποία είναι πολύ διαδεδομένη κατά την κοινή χρήση περιεχομένου μέσω κοινωνικών πλατφορμών. δεν ήταν αρκετά αποτελεσματικοί για να τρέξουν σε κλίμακα. δεν ήταν ανοιχτά ή αναπαραγόμενα. ή προήλθαν από υδατογράφηση εικόνας, η οποία δεν είναι βέλτιστη για βίντεο», είπε ο Fernandez.
Εκτός από ένα υδατογράφημα, το Video Seal μπορεί να προσθέσει ένα κρυφό μήνυμα σε βίντεο που μπορούν αργότερα να αποκαλυφθούν για να προσδιοριστεί η προέλευσή τους. Η Meta ισχυρίζεται ότι το Video Seal είναι ανθεκτικό σε κοινές επεξεργασίες όπως το θάμπωμα και την περικοπή, καθώς και σε δημοφιλείς αλγόριθμους συμπίεσης.
Ο Fernandez παραδέχεται ότι το Video Seal έχει ορισμένους περιορισμούς, κυρίως την αντιστάθμιση μεταξύ του πόσο αντιληπτά είναι τα υδατογραφήματα του εργαλείου και της συνολικής αντοχής τους στη χειραγώγηση. Η έντονη συμπίεση και οι σημαντικές επεξεργασίες μπορεί να αλλάξουν τα υδατογραφήματα ή να τα καταστήσουν μη ανακτήσιμα, πρόσθεσε.
Το μεγαλύτερο πρόβλημα που αντιμετωπίζει το Video Seal είναι ότι οι προγραμματιστές και η βιομηχανία δεν θα έχουν πολλούς λόγους να το υιοθετήσουν, ιδιαίτερα όσοι χρησιμοποιούν ήδη τα δικά τους συστήματα. Σε μια προσπάθεια να αντιμετωπιστεί αυτό, η Meta φέρνει ένα δημόσιο leaderboard, το Meta Omni Seal Bench, αφιερωμένο στη σύγκριση της απόδοσης διαφόρων μεθόδων υδατογράφησης και στη διοργάνωση ενός workshop για την υδατογράφηση φέτος στο ICLR, ένα σημαντικό συνέδριο AI.
«Ελπίζουμε ότι όλο και περισσότεροι ερευνητές και προγραμματιστές τεχνητής νοημοσύνης θα ενσωματώσουν κάποια μορφή υδατογραφήματος στη δουλειά τους», είπε ο Fernandez. «Θέλουμε να συνεργαστούμε με τη βιομηχανία και την ακαδημαϊκή κοινότητα για να προχωρήσουμε ταχύτερα στον τομέα».