- Δεν χρειάζεται πλέον ένα κραυγαλέο fake news για να χειραγωγηθεί μια διαδικτυακή συζήτηση. Αρκεί μια απότομη αλλαγή θέματος. Από το κόστος ζωής και την οικονομία, η κουβέντα μπορεί μέσα σε λίγα σχόλια να μεταφερθεί στη μετανάστευση, στον πόλεμο ή σε μια σφοδρή πολιτική αντιπαράθεση. Και όσο η τεχνητή νοημοσύνη παράγει όλο και πιο φυσικά κείμενα, τόσο δυσκολότερο γίνεται να ξεχωρίσει κανείς τον πραγματικό χρήστη από τον αυτοματοποιημένο λογαριασμό.
Η νέα απειλή δεν βρίσκεται απαραίτητα σε μια ψευδή πληροφορία, αλλά στην κατεύθυνση που παίρνει μια συζήτηση.
Από μια απλή κουβέντα σε πολιτική «φωτιά»
Στα social media, οι συζητήσεις σπάνια ακολουθούν ευθεία γραμμή. Ένα σχόλιο μπορεί φυσιολογικά να οδηγήσει σε ένα άλλο θέμα, μέσω ενός συνειρμού ή μιας διαφορετικής οπτικής.
Υπάρχουν όμως περιπτώσεις όπου η αλλαγή κατεύθυνσης φαίνεται να γίνεται με σκοπό. Ένα σχόλιο εγκαταλείπει το αρχικό ζήτημα και εισάγει ένα πολύ πιο φορτισμένο θέμα, προκαλώντας αντιδράσεις, αντιπαραθέσεις και προσωπικές επιθέσεις.
Το αποτέλεσμα είναι ότι το αρχικό θέμα χάνεται και στη θέση του εμφανίζεται ένας νέος κύκλος πολιτικής σύγκρουσης.
Η AI κάνει την παραπληροφόρηση πιο δύσκολη στον εντοπισμό
Η εξέλιξη των συστημάτων γενετικής τεχνητής νοημοσύνης έχει αλλάξει σημαντικά τα δεδομένα. Τα σύγχρονα μοντέλα μπορούν να δημιουργούν σχόλια με φυσική γλώσσα, σωστή γραμματική και ύφος που θυμίζει πραγματικό χρήστη.
Έτσι, οι παλαιότερες μέθοδοι εντοπισμού ύποπτων λογαριασμών, οι οποίες βασίζονταν μεταξύ άλλων σε γλωσσικά λάθη ή ασυνήθιστες εκφράσεις, γίνονται λιγότερο αποτελεσματικές.
Οι αυτοματοποιημένοι λογαριασμοί μπορούν πλέον να παράγουν μαζικά περιεχόμενο σχεδιασμένο να προκαλεί αντιδράσεις και να ενισχύει τον διχασμό.
Η νέα προσέγγιση που εξετάζουν οι ερευνητές Σέαν Ρόμπερτ και Κατερίνα Κρυκόνιουκ είναι διαφορετική: δεν ψάχνει τόσο τι λέει ένα σχόλιο, αλλά αν αυτό που λέει αποτελεί φυσιολογική συνέχεια της συζήτησης.
Το «κλειδί» βρίσκεται στην εκτροπή της συζήτησης
Η λογική είναι απλή.
Αν, για παράδειγμα, μια συζήτηση αφορά μια πολιτική συνάντηση του Βολοντίμιρ Ζελένσκι με Βρετανούς πολιτικούς και ένα σχόλιο μεταφέρει την κουβέντα σε ζητήματα της βρετανικής πολιτικής, υπάρχει ακόμη σύνδεση με το αρχικό θέμα.
Αν όμως η επόμενη απάντηση εγκαταλείψει το ζήτημα και ανοίξει ξαφνικά συζήτηση για την απαγόρευση της αντιπολίτευσης στην Ουκρανία, τότε έχει σημειωθεί μια πολύ μεγαλύτερη μετατόπιση.
Το ζητούμενο, επομένως, δεν είναι μόνο αν ο νέος ισχυρισμός είναι αληθής ή ψευδής. Είναι αν απαντά πραγματικά σε αυτό που συζητούσαν οι χρήστες.
Τι αποκάλυψε η έρευνα
Οι ερευνητές ανέλυσαν περισσότερα από 1.600 σχόλια κάτω από βίντεο του BBC News στο YouTube, εξετάζοντας 25 διαφορετικά χαρακτηριστικά της διαδικτυακής συζήτησης.
Τα ευρήματα είναι ενδεικτικά:
Περίπου 36% των σχολίων που απομακρύνονταν από το αρχικό θέμα περιείχαν παραπλανητικά στοιχεία.
Περίπου 65% παρουσίαζαν λογικά άλματα.
Περίπου 20% περιείχαν προσωπικές επιθέσεις.
Τα σχόλια αυτά ήταν λιγότερο πιθανό να συνδέονται ουσιαστικά με προηγούμενες απαντήσεις ή να δείχνουν ότι ο χρήστης είχε κατανοήσει την άποψη του συνομιλητή του.
Η εικόνα που προκύπτει είναι μιας συζήτησης που δεν εξελίσσεται φυσιολογικά, αλλά μετακινείται απότομα σε άλλο και συχνά πιο συγκρουσιακό πεδίο.
Η τεχνητή νοημοσύνη ψάχνει το «φυσιολογικό» σχόλιο
Οι ερευνητές δοκίμασαν στη συνέχεια αν ένα μεγάλο γλωσσικό μοντέλο θα μπορούσε να αναγνωρίσει αυτές τις αλλαγές.
Αντί να του ζητήσουν να αποφασίσει εάν ένα σχόλιο είναι αληθινό ή ψευδές, του έδωσαν έναν διαφορετικό ρόλο: να εκτιμήσει ποια θα ήταν μια φυσιολογική απάντηση σε ένα προηγούμενο σχόλιο.
Η πραγματική απάντηση συγκρινόταν στη συνέχεια με τις πιθανές φυσιολογικές συνέχειες της συζήτησης.
Όσο μεγαλύτερη ήταν η απόσταση, τόσο ισχυρότερη ήταν η ένδειξη ότι η συζήτηση μπορεί να είχε εκτραπεί.
Η μέθοδος κατάφερε να εντοπίσει περίπου το 77% των σχολίων που είχαν προηγουμένως χαρακτηριστεί από ανθρώπους ως εκτροπές από το αρχικό θέμα.
Οι ερευνητές αναφέρουν ότι η επίδοση ήταν περίπου διπλάσια από παλαιότερες προσεγγίσεις που βασίζονταν κυρίως στο συναισθηματικό περιεχόμενο των λέξεων.
Δεν σημαίνει ότι κάθε αλλαγή θέματος είναι χειραγώγηση
Υπάρχει, ωστόσο, μια κρίσιμη παγίδα.
Μια συζήτηση που αλλάζει θέμα δεν σημαίνει αυτομάτως ότι υπάρχει παραπληροφόρηση ή οργανωμένη προσπάθεια χειραγώγησης.
Οι άνθρωποι κάνουν συνειρμούς, αλλάζουν θέμα, συνδέουν διαφορετικά γεγονότα και συχνά οδηγούν μια συζήτηση σε απρόβλεπτες κατευθύνσεις.
Γι’ αυτό η συγκεκριμένη τεχνολογία δεν μπορεί να λειτουργήσει ως «δικαστής» της αλήθειας.
Ο ρόλος της θα μπορούσε να είναι περισσότερο αυτός ενός συστήματος έγκαιρης προειδοποίησης, το οποίο θα επισημαίνει συζητήσεις με ασυνήθιστη συμπεριφορά ώστε να εξεταστούν στη συνέχεια από ανθρώπους.
Η νέα μάχη δεν είναι μόνο για το τι λέγεται
Η εξέλιξη της AI αλλάζει και τον τρόπο με τον οποίο πρέπει να αντιμετωπίζεται η παραπληροφόρηση.
Όσο πιο πειστικά γίνονται τα παραγόμενα κείμενα, τόσο δυσκολότερο είναι να εντοπιστεί ένας ύποπτος λογαριασμός μόνο από το λεξιλόγιο ή τη γραμματική του.
Το ενδιαφέρον μετατοπίζεται έτσι από το περιεχόμενο στη συμπεριφορά.
Δεν αρκεί να εξετάζεται τι γράφει ένας χρήστης. Χρειάζεται να εξετάζεται και πώς παρεμβαίνει στη συζήτηση, πότε αλλάζει θέμα και προς ποια κατεύθυνση οδηγεί τους υπόλοιπους.
Και ίσως εκεί βρίσκεται ένα από τα πιο κρίσιμα μέτωπα της επόμενης εποχής της διαδικτυακής παραπληροφόρησης: όχι μόνο στις ψεύτικες ειδήσεις, αλλά στις συζητήσεις που ξεκινούν από ένα θέμα και καταλήγουν σκόπιμα κάπου εντελώς διαφορετικά.
0 Σχόλια
Αφήστε ένα σχόλιο