- Η προσπάθεια να ξεχωρίζει το πραγματικό ψηφιακό υλικό από εκείνο που δημιουργείται από τεχνητή νοημοσύνη περνά σε νέα φάση στην Ευρωπαϊκή Ένωση. Οι εταιρείες που αναπτύσσουν συστήματα ΑΙ καλούνται να ενσωματώνουν ειδικές ψηφιακές ενδείξεις σε περιεχόμενο που παράγεται από τα μοντέλα τους, με στόχο να περιοριστεί η χρήση της τεχνολογίας για παραπλάνηση.
Το μέτρο αφορά φωτογραφίες, βίντεο αλλά και γραπτό περιεχόμενο και συνδέεται με την εφαρμογή του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη. Η λογική πίσω από τη ρύθμιση είναι να δημιουργηθεί ένας τρόπος αναγνώρισης του συνθετικού υλικού, χωρίς να είναι απαραίτητο να υπάρχει εμφανής ένδειξη πάνω στην εικόνα ή μέσα στο κείμενο.
Η ψηφιακή σήμανση λειτουργεί ουσιαστικά σαν ένα αόρατο αποτύπωμα. Ενσωματώνεται κατά τη δημιουργία του περιεχομένου και μπορεί να χρησιμοποιηθεί από ειδικά συστήματα για να διαπιστωθεί η προέλευσή του. Για τις εταιρείες που δεν τηρούν τις προβλέψεις, οι κυρώσεις μπορεί να φτάσουν τα 15 εκατ. δολάρια ή το 3% του παγκόσμιου τζίρου τους.
Οι νέες απαιτήσεις εφαρμόζονται στα μοντέλα που κυκλοφορούν μετά τις 2 Αυγούστου, ενώ τα συστήματα που ήταν ήδη διαθέσιμα έχουν περιθώριο συμμόρφωσης μέχρι τον Δεκέμβριο.
Η τεχνολογία δεν είναι εντελώς καινούργια. Η Google χρησιμοποιεί ήδη από το 2023 το SynthID, το οποίο έχει σχεδιαστεί για την αναγνώριση περιεχομένου που δημιουργείται με εργαλεία της εταιρείας. Αντίστοιχη προσέγγιση έχει υιοθετήσει και η OpenAI για εικόνες και αρχεία ήχου που παράγονται από τα μοντέλα της.
Στο μεταξύ, η Anthropic ανακοίνωσε ότι προχωρά στην εφαρμογή ψηφιακής σήμανσης στα κείμενα που δημιουργούνται από το Claude. Η εταιρεία επισημαίνει ότι ο χρήστης δεν θα βλέπει κάποια αλλαγή στην εμφάνιση του κειμένου και ότι η διαδικασία δεν επηρεάζει ούτε το περιεχόμενο ούτε την αναγνωσιμότητά του.
Ένα ενδιαφέρον χαρακτηριστικό είναι ότι η ψηφιακή ένδειξη μπορεί να παραμένει συνδεδεμένη με το κείμενο κατά την αντιγραφή και επικόλλησή του σε διαφορετικό σημείο. Αυτό σημαίνει ότι, θεωρητικά, η προέλευση ενός κειμένου μπορεί να εξακολουθεί να ανιχνεύεται ακόμη και όταν το περιεχόμενο μεταφέρεται από τη μία πλατφόρμα στην άλλη.
Στα κείμενα, η μέθοδος βασίζεται στη στατιστική συμπεριφορά του μοντέλου. Ο αλγόριθμος επηρεάζει τον τρόπο με τον οποίο επιλέγονται ορισμένες λέξεις, δημιουργώντας ένα μοτίβο που μπορεί να αναγνωριστεί από κατάλληλο σύστημα ανίχνευσης.
Υπάρχει όμως ένα σημαντικό κενό: η Anthropic δεν έχει μέχρι στιγμής διαθέσει στο κοινό εργαλείο που να επιτρέπει τον άμεσο έλεγχο ενός κειμένου για την ύπαρξη της συγκεκριμένης σήμανσης.
Αντίστοιχες τεχνολογίες ελέγχου υπάρχουν ήδη για άλλο είδος περιεχομένου. OpenAI και Google διαθέτουν λύσεις που μπορούν να βοηθήσουν στον εντοπισμό συνθετικών εικόνων και ήχου. Στο μέλλον, τέτοια συστήματα θα μπορούσαν να χρησιμοποιηθούν και από πλατφόρμες μεγάλης κλίμακας, όπως το YouTube, ώστε να εντοπίζουν υλικό που έχει δημιουργηθεί με ΑΙ και να το επισημαίνουν κατάλληλα.
Το μεγάλο ερώτημα είναι αν ένα υδατογράφημα μπορεί πραγματικά να σταματήσει τη διάδοση ψευδούς περιεχομένου. Η απάντηση δεν είναι απόλυτα θετική. Ένα κείμενο μπορεί να τροποποιηθεί από τον χρήστη ή να υποβληθεί σε επεξεργασία από διαφορετικό μοντέλο ΑΙ, γεγονός που μπορεί να αλλοιώσει τα χαρακτηριστικά που χρησιμοποιούνται για την αναγνώρισή του.
Η ευρωπαϊκή ρύθμιση αποτελεί επομένως περισσότερο ένα εργαλείο διαφάνειας παρά μια απόλυτη λύση απέναντι στα deepfakes και στην παραπληροφόρηση. Η αποτελεσματικότητά της θα εξαρτηθεί από το κατά πόσο οι τεχνολογίες ανίχνευσης θα μπορούν να ακολουθήσουν την ταχύτητα με την οποία εξελίσσονται τα μοντέλα τεχνητής νοημοσύνης.
Η ΕΕ επιχειρεί με αυτόν τον τρόπο να ενισχύσει ακόμη περισσότερο το πλαίσιο ελέγχου του ψηφιακού περιβάλλοντος. Μετά τον GDPR για την προστασία των προσωπικών δεδομένων και τον Κανονισμό για τις Ψηφιακές Υπηρεσίες, η ρύθμιση της ΑΙ αποτελεί ακόμη ένα βήμα προς μεγαλύτερη διαφάνεια στις ψηφιακές πλατφόρμες.
0 Σχόλια
Αφήστε ένα σχόλιο