- Για χρόνια, η κούρσα της τεχνητής νοημοσύνης κινούνταν με τους εξαντλητικούς ρυθμούς της Silicon Valley: επιθετική ανάπτυξη, ρίσκα και εξέλιξη χωρίς φρένο. Μέσα σε μόλις δέκα ημέρες, όμως, το σκηνικό άλλαξε δραματικά. Μια σειρά αλυσιδωτών εξελίξεων έφερε τα κορυφαία εργαστήρια AI αντιμέτωπα με ένα εφιαλτικό σενάριο, καθώς οι ίδιες οι δημιουργίες τους άρχισαν να παρουσιάζονται ως πιθανή υπαρξιακή απειλή για την ανθρωπότητα.
Οι προειδοποιήσεις δεν έρχονται πια από σεναριογράφους του Χόλιγουντ, αλλά από τα ίδια τα σπλάχνα των εργαστηρίων AI. Ερευνητής της Anthropic υπέβαλε την παραίτησή του κρούοντας τον κώδωνα του κινδύνου: ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης μπορεί να οδηγήσει σε υπαρξιακή απειλή ακόμη και μέσα στην επόμενη δεκαετία, ενώ συνάδελφός του ανέβασε τις πιθανότητες ανθρώπινης εξαφανίσης πάνω από το 10%.
Την ίδια στιγμή, αναφορές για αυτόνομα σμήνη πρακτόρων AI που συντονίζονται, χακάρουν συστήματα και προσπερνούν δικλείδες ασφαλείας προκαλούν σοκ.
Η κατάσταση οδήγησε σε μια πρωτοφανή κίνηση: οι επικεφαλής των ορκισμένων αντιπάλων, Anthropic, OpenAI, Google DeepMind, Microsoft και xAI, συμμάχησαν εκτάκτως, απευθύνοντας κοινή έκκληση για άμεσο «φρένο» στην ανάπτυξη ολοένα και πιο ικανών συστημάτων Τεχνητής Νοημοσύνης.
Από την εποχή της εφεύρεσης της ατομικής βόμβας, πριν από σχεδόν έναν αιώνα, η ανθρωπότητα είχε να κοιτάξει τόσο κατάματα το ενδεχόμενο της αυτοκαταστροφής της, τουλάχιστον σύμφωνα με κορυφαίους ερευνητές και αναλυτές ασφαλείας της τεχνητής νοημοσύνης. Στην καρδιά της συζήτησης αυτής βρίσκεται η πεποίθηση: ότι οι μηχανές όχι μόνο μπορούν, αλλά οφείλουν να σχεδιάζουν μόνες τους ακόμα πιο ισχυρές εκδοχές του εαυτού τους, χωρίς καμία ανθρώπινη επίβλεψη, με τελικό στόχο την επίτευξη της Τεχνητής Γενικής Νοημοσύνης (AGI).
Μόλις πριν από λίγες ημέρες, ερευνητές έκρουσαν τον κώδωνα του κινδύνου, προειδοποιώντας ότι η AGI δεν αποτελεί μακρινό σενάριο, αλλά μια πραγματικότητα που απέχει μόλις τρία χρόνια. Η εκτίμηση αυτή προκάλεσε οξύ κύμα ανησυχίας σε πολιτικούς και ηγέτες της τεχνολογίας. «Είναι αδύνατον να τα επιβλέψουμε στην κλίμακα που τα εκπαιδεύουμε αυτή τη στιγμή», τόνισε ο ερευνητής Τζο Μπέντον σε συνέντευξή του, αμέσως μετά την παραίτησή του. Όπως χαρακτηριστικά προειδοποίησε, αν οι εταιρείες συνεχίσουν με αυτούς τους ξέφρενους ρυθμούς, «η εξέλιξη θα είναι τόσο ραγδαία που κανείς δεν θα προλαβαίνει να εντοπίσει τα προβλήματα, πόσο μάλλον να τα διορθώσει».
Στις 3 Σεπτεμβρίου, μια συνέντευξη Τύπου της OpenAI έθεσε σε κίνηση μια αλυσίδα γεγονότων που οδήγησαν στην έκκληση για επιβράδυνση του κλάδου.
«Καλώς ήρθατε στην εποχή της Τεχνητής Νοημοσύνης», δήλωσε ο πρόεδρος της OpenAI, Γκρεγκ Μπρόκμαν, ανακοινώνοντας το νεότερο μοντέλο της εταιρείας, γνωστό ως Astra. Ωστόσο, λίγα λεπτά πριν, η εταιρεία παραδέχτηκε ότι ήταν ολοένα και πιο ανίκανη να ελέγξει ή ακόμα και να παρακολουθήσει τα συστήματα Τεχνητής Νοημοσύνης που ανέπτυσσε και κυκλοφόρησε στο κοινό.
Η Τεχνητή Νοημοσύνη έχει χαιρετιστεί από τους υποστηρικτές της ως η κορυφή του ανθρώπινου επιτεύγματος. Οι υποστηρικτές την απεικονίζουν ως λογισμικό που μπορεί να ανατρέψει ολόκληρες βιομηχανίες, να ενισχύσει την αποδοτικότητα, να λύσει περίπλοκα μαθηματικά και ιατρικά προβλήματα και σχεδόν να εξαλείψει το ανθρώπινο λάθος. Αλλά αυτό που κάποτε ήταν ένα θεωρητικό υποπροϊόν, ένα σενάριο καταστροφής, είναι ξαφνικά απτό, λένε άτομα της βιομηχανίας.
«Πιστεύουμε πραγματικά ακράδαντα ότι η Τεχνητή Νοημοσύνη θα μπορούσε να σκοτώσει όλους τους ανθρώπους», δήλωσε ο ερευνητής της Anthropic, Evan Hubinger, σε μια ανάρτηση στο X.
Από την άλλη πλευρά της συζήτησης βρίσκονται πολιτικοί, όπως ο Πρόεδρος Ντόναλντ Τραμπ, και πολλοί επενδυτές που θεωρούν την πρόοδο της Τεχνητής Νοημοσύνης ως κρίσιμη για τις ΗΠΑ και, ενδεχομένως, μια επενδυτική ευκαιρία που συμβαίνει μια φορά κάθε γενιά. Τα κινεζικά κρατικά μέσα ενημέρωσης κατηγόρησαν επίσης τον Διευθύνοντα Σύμβουλο της Anthropic, Dario Amodei, ότι εφάρμοσε τακτικές Ψυχρού Πολέμου για να «διατηρήσει τη μονοπωλιακή ηγεμονία της Ουάσιγκτον στην τεχνολογία αιχμής».
Οι παραιτήσεις δημιουργούν πανικό
Το σημείο καμπής ήρθε στις 8 Σεπτεμβρίου, όταν ο ερευνητής της Anthropic, Jacob Coxon, παραιτήθηκε από την εταιρεία, επικαλούμενος τους φόβους του, σε μια σειρά αναρτήσεων, ότι τα εργαστήρια Τεχνητής Νοημοσύνης «παίζουν με τις ζωές μας».
Εν τω μεταξύ, ο Τραμπ υπέδειξε ότι η ανάπτυξη της Τεχνητής Νοημοσύνης βρίσκεται σε πλήρη εξέλιξη. «Υπάρχει μια άρρωστη συνωμοσία εναντίον της Τεχνητής Νοημοσύνης και των κέντρων δεδομένων», δήλωσε σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης. Ο συναγερμός γύρω από την Τεχνητή Νοημοσύνη είναι μια «φάρσα», είπε, και οποιαδήποτε επιβράδυνση ωφελεί μόνο την Κίνα.
Την ίδια ώρα, το Κογκρέσο των ΗΠΑ έχει σημειώσει μικρή πρόοδο στην προώθηση νομοσχεδίων που θα ρυθμίζουν την Τεχνητή Νοημοσύνη.
Η Κίνα έχει ακολουθήσει μια σαφώς διαφορετική προσέγγιση, προτείνοντας τη ρύθμιση της ασφάλειας μέσω υποχρεώσεων προγραμματιστών, κρατικών προτύπων, αξιολογήσεων ασφαλείας και εξωτερικών δοκιμών.
Πίσω από τα παρασκήνια, οι εργαζόμενοι της OpenAI και της Anthropic ανησυχούν ολοένα και περισσότερο για τη δύναμη της επόμενης γενιάς μοντέλων Τεχνητής Νοημοσύνης και είναι λιγότερο σίγουροι για την ικανότητα των εταιρειών τους να παρέχουν ουσιαστική εποπτεία, δήλωσαν πηγές στο Reuters.
Αυτές οι ανησυχίες εντάθηκαν καθώς τα εργαστήρια Τεχνητής Νοημοσύνης παραδέχτηκαν τις τελευταίες εβδομάδες ότι τα μοντέλα τους, κατά τη διάρκεια των δοκιμών, είχαν ουσιαστικά απελευθερωθεί από τα δεσμά τους και είχαν παραβιάσει τα συστήματα άλλων εταιρειών, στις περισσότερες περιπτώσεις μήνες νωρίτερα και εν αγνοία των εταιρειών.
Ο αγώνας των εξοπλισμών για την κυκλοφορία νέων μοντέλων με ιλιγγιώδη ρυθμό οφείλεται εν μέρει στην επιθυμία της Anthropic και της OpenAI να δημοσιευτούν το συντομότερο δυνατό τους επόμενους μήνες, σε δημόσιες εγγραφές που θα μπορούσαν να τα αποτιμήσουν πολύ πάνω από 1 τρισεκατομμύριο δολάρια.
Αλλά χρειάστηκε η απροσδόκητη παραίτηση του 27χρονου Coxon, ελάχιστα γνωστού εκτός των κύκλων της Τεχνητής Νοημοσύνης, για να ανατρέψουν τον κλάδο.
Οι προειδοποιήσεις της OpenAI σχετικά με την έλλειψη ελέγχου της κατά την κυκλοφορία του Astra, του τελευταίου και πιο ικανού μοντέλου της, είχαν πυροδοτήσει περαιτέρω ανησυχίες.
«Καθώς τα μοντέλα γίνονται πιο ικανά, η κατανόηση του τι ακριβώς μπορούν να κάνουν γίνεται όλο και πιο δύσκολη», δήλωσε στους δημοσιογράφους ο επικεφαλής επιστήμονας της OpenAI, Jakub Pachocki. Αλλά αυτές οι ανησυχίες δεν ήταν αρκετές για να καθυστερήσουν την άμεση κυκλοφορία του.
Οι ανησυχίες για το ενδεχόμενο η Τεχνητή Νοημοσύνη να «γίνεται αθέμιτη» είχαν επιταχυνθεί κατά τη διάρκεια του καλοκαιριού, όταν η OpenAI αποκάλυψε ότι οι πράκτορές της διέφυγαν από μια ελεγχόμενη δοκιμή και χάκαραν τα συστήματα της Hugging Face, χωρίς την αρχική γνώση καμίας από τις δύο εταιρείες.
Έκτοτε, η OpenAI και η Anthropic έχουν αποκαλύψει πολλαπλές τέτοιες επιθέσεις, συμπεριλαμβανομένων έξι νέων την Τετάρτη, αφού πολλά δημοσιεύματα των μέσων ενημέρωσης, συμπεριλαμβανομένου του Reuters, έδειξαν ένα ευρύτερο πεδίο μη εξουσιοδοτημένης δραστηριότητας.
Οι ηγέτες του κλάδου καλούν σε επιβράδυνση
Μέχρι το τέλος της περασμένης εβδομάδας, ο συναγερμός είχε φτάσει στα υψηλότερα κλιμάκια του κλάδου. Στις 12 Σεπτεμβρίου, ο Amodei δημοσίευσε ένα δοκίμιο σχεδόν 4.000 λέξεων ζητώντας επιβράδυνση στην ανάπτυξη της Τεχνητής Νοημοσύνης.
«Δεδομένου του επιταχυνόμενου ρυθμού ανάπτυξης δυνατοτήτων Τεχνητής Νοημοσύνης, ανησυχώ ότι σε 6-12 μήνες ένα τέτοιο σμήνος θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο», έγραψε.
Αυτός, μαζί με τους επικεφαλής μερικών από τους μεγαλύτερους προγραμματιστές Τεχνητής Νοημοσύνης, συμπεριλαμβανομένων των Elon Musk της xAI, Altman της OpenAI και Demis Hassabis της DeepMind, δήλωσαν όλοι ότι υποστηρίζουν την πρόσβαση εξωτερικών εταιρειών στα συστήματά τους για να διασφαλιστεί η ασφάλεια και η ορθολογική ανάπτυξη της Τεχνητής Νοημοσύνης.
Ο Διευθύνων Σύμβουλος της Nvidia, Jensen Huang, απέρριψε τις προτάσεις ότι η ανάπτυξη της Τεχνητής Νοημοσύνης θα πρέπει να σταματήσει — μια γραμμή που έχει ακολουθήσει και στο παρελθόν — υποστηρίζοντας αντ’ αυτού ότι τα ολοένα και πιο ισχυρά συστήματα είναι απαραίτητα για την πρόοδο της τεχνολογίας.
Η Meta, της οποίας ο Διευθύνων Σύμβουλος, Mark Zuckerberg, υιοθέτησε την αντίθετη άποψη, υποστηρίζοντας ότι κάθε εργαστήριο θα πρέπει να είναι υπεύθυνο για τον καθορισμό του δικού του ρυθμού, αντί να αναζητά συντονισμό από τον κλάδο. «Τα εργαστήρια αντιμετωπίζουν σημαντική ευθύνη εάν τα μοντέλα τους προκαλέσουν βλάβη, επομένως έχουν ισχυρό κίνητρο να το αποτρέψουν αυτό», έγραψε ο Ζούκερμπεργκ σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης.
Η αυτοκριτική του κλάδου συνεχίστηκε την Τετάρτη, με τον επικεφαλής Τεχνητής Νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, να προειδοποιεί ότι η ανάπτυξη μοντέλων που μιμούνται την ανθρώπινη συνείδηση από την Anthropic ήταν άστοχη.
«Είμαστε όλοι επικεντρωμένοι στον ίδιο στόχο, που είναι να προσπαθήσουμε να ελέγξουμε μια υπερ-νοημοσύνη», δήλωσε ο Σουλεϊμάν στο Reuters. «Νομίζω ότι αυτή θα είναι η μεγαλύτερη πρόκληση που αντιμετωπίζουμε στον 21ο αιώνα».
Παρόλα αυτά, ακόμη και όταν η OpenAI φάνηκε να αποδέχεται τις εκκλήσεις της βιομηχανίας για επιβράδυνση, υπήρξαν αναφορές ότι η εμπιστοσύνη των επενδυτών δεν είχε μειωθεί. Η εταιρεία εξετάζει έναν νέο γύρο χρηματοδότησης που θα διπλασίαζε την αξία της.
Αυτός ο νέος αριθμός είναι 1,5 τρισεκατομμύρια δολάρια.
Ο Τζέφρι Χίντον,ο «Νονός της Τεχνητής Νοημοσύνης»,προειδοποίησε το αμερικανικό Κογκρέσο ότι έχει διορία περίπου «έναν χρόνο, αλλά όχι πολύ περισσότερο» για να θεσπίσει κανόνες στην τεχνητή νοημοσύνη προτού η κατάσταση ξεφύγει εντελώς από τον ανθρώπινο έλεγχο. pic.twitter.com/SzPjUYS1um
— Marka2‼️ (@Marka2free) September 20, 2026
Πηγή: hellasjournal.com
0 Σχόλια
Αφήστε ένα σχόλιο