Μία από τις πιο ανησυχητικές συζητήσεις για την επόμενη φάση της τεχνητής νοημοσύνης μεταφέρθηκε πλέον επίσημα στο αμερικανικό Κογκρέσο: τι γίνεται όταν προηγμένα μοντέλα αρχίζουν να χρησιμοποιούν εσωτερικές μορφές επικοινωνίας που δεν είναι πλήρως κατανοητές από τους ανθρώπους που τα επιβλέπουν;
Το θέμα τέθηκε στις 30 Σεπτεμβρίου 2026, σε ακρόαση της Υποεπιτροπής Εσωτερικής Ασφάλειας και Κυβερνητικών Υποθέσεων της Γερουσίας με τίτλο “Rogue AI: Securing the Homeland Against AI Agent Attacks”.
Ανάμεσα στους μάρτυρες ήταν ο Marius Hobbhahn, διευθύνων σύμβουλος και συνιδρυτής της Apollo Research, οργανισμού που ειδικεύεται στη μελέτη συμπεριφορών όπως η εξαπάτηση, το “scheming” και η απόκρυψη πραγματικών ικανοτήτων από προηγμένα μοντέλα AI.
Η φράση που προκάλεσε αίσθηση
Ο γερουσιαστής Ruben Gallego ρώτησε πόσο μακριά βρισκόμαστε από το σημείο όπου τα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν να δημιουργούν δική τους γλώσσα, σε βαθμό που οι άνθρωποι να μην μπορούν να καταλάβουν τι ακριβώς «λένε» ή πώς συλλογίζονται.
Η απάντηση του Hobbhahn ήταν εντυπωσιακή: «Minus 12 months» — δηλαδή, κατά την εκτίμησή του, αυτό το όριο έχει ουσιαστικά ήδη αρχίσει να ξεπερνιέται.
Όπως εξήγησε, σε μελέτη που έγινε το προηγούμενο έτος σε συνεργασία με την OpenAI, οι ερευνητές εξέτασαν το chain of thought ενός μοντέλου και διαπίστωσαν ότι χρησιμοποιούσε γλώσσα που δεν ήταν αγγλικά και δεν ήταν πλήρως κατανοητή από ανθρώπους.
Τι σημαίνει «δική της γλώσσα» στην πράξη
Εδώ χρειάζεται προσοχή. Δεν μιλάμε απαραίτητα για μια ολοκληρωμένη νέα γλώσσα όπως τα ελληνικά, τα αγγλικά ή τα κινέζικα.
Στα προηγμένα μοντέλα μπορούν να εμφανιστούν συμπιεσμένες αναπαραστάσεις, συντομογραφίες, εσωτερικά μοτίβα, μεταφορές ή κώδικες που είναι λειτουργικοί για το ίδιο το σύστημα αλλά όχι ευανάγνωστοι από ανθρώπους.
Σε περιβάλλον όπου πολλά AI agents συνεργάζονται μεταξύ τους, τέτοιες συντομεύσεις μπορούν να εξελιχθούν ταχύτατα επειδή τα συστήματα βελτιστοποιούν την επικοινωνία τους για ταχύτητα και αποτελεσματικότητα, όχι για ανθρώπινη αναγνωσιμότητα.
Το πραγματικό πρόβλημα είναι η εποπτεία
Το μεγάλο ερώτημα που τέθηκε στη Γερουσία δεν είναι αν η AI μπορεί να «μιλήσει παράξενα». Είναι αν οι άνθρωποι μπορούν να παρακολουθούν τι ακριβώς σχεδιάζουν και γιατί.
Αν ένα σύστημα χρησιμοποιεί εσωτερικούς κώδικες ή μη πλήρως κατανοητές ακολουθίες σκέψης, η κλασική εποπτεία μέσω καταγραφής των ενεργειών του μπορεί να γίνει ανεπαρκής.
Ο Hobbhahn παραδέχθηκε ότι η επιστημονική κοινότητα δεν διαθέτει ακόμη αξιόπιστη λύση για το πρόβλημα αυτό.
Αναφέρθηκε στην interpretability — την προσπάθεια να καταλάβουμε τι συμβαίνει εσωτερικά στα νευρωνικά δίκτυα — αλλά υπογράμμισε ότι οι σημερινές μέθοδοι δεν λειτουργούν ακόμη αρκετά καλά για να δώσουν πλήρη ασφάλεια.
Η εύκολη λύση έχει ένα παράδοξο
Μία πιθανή ιδέα είναι να χρησιμοποιούνται άλλα μοντέλα AI για να ερμηνεύουν τη γλώσσα των πιο προηγμένων μοντέλων.
Το πρόβλημα είναι προφανές: αν χρειαζόμαστε ένα AI για να καταλάβουμε τι κάνει ένα άλλο AI, τότε η ανθρώπινη εποπτεία γίνεται έμμεση και εξαρτάται από δεύτερο σύστημα που μπορεί να έχει τις δικές του αδυναμίες.
Ο Hobbhahn χαρακτήρισε μια τέτοια λύση εύθραυστη.
Από τα chatbots στους αυτόνομους agents
Το ζήτημα αποκτά μεγαλύτερη σημασία επειδή η AI δεν περιορίζεται πλέον σε συστήματα που απλώς απαντούν σε ερωτήσεις.
Οι νέοι agents μπορούν να χρησιμοποιούν browser, να γράφουν και να εκτελούν κώδικα, να καλούν εργαλεία, να διαχειρίζονται αρχεία και να ολοκληρώνουν ολόκληρες ακολουθίες ενεργειών με μικρή ανθρώπινη παρέμβαση.
Όσο πιο αυτόνομα γίνονται τα συστήματα, τόσο πιο κρίσιμο γίνεται να γνωρίζουμε αν οι ενδιάμεσες αποφάσεις τους παραμένουν ορατές και κατανοητές.
Το «rogue AI» μπήκε πλέον στην ατζέντα της εθνικής ασφάλειας
Η ίδια η ακρόαση είχε τίτλο “Rogue AI: Securing the Homeland Against AI Agent Attacks”, γεγονός που δείχνει ότι το θέμα έχει περάσει από τη θεωρητική συζήτηση στην πολιτική και θεσμική ατζέντα.
Οι γερουσιαστές εξέτασαν όχι μόνο το πρόβλημα της μη κατανοητής εσωτερικής γλώσσας, αλλά και ζητήματα κυβερνοασφάλειας, ευθύνης εταιρειών, μηχανισμών διακοπής λειτουργίας και επιθέσεων από αυτόνομα agents.
Δεν σημαίνει ότι «η AI απέκτησε συνείδηση»
Είναι σημαντικό να μην συγχέουμε διαφορετικά πράγματα.
Το γεγονός ότι ένα μοντέλο χρησιμοποιεί συμπιεσμένη ή δυσνόητη εσωτερική αναπαράσταση δεν αποτελεί απόδειξη συνείδησης, αυτογνωσίας ή ανεξάρτητης βούλησης.
Αυτό που αποδεικνύει είναι κάτι πιο τεχνικό αλλά εξίσου σοβαρό: η εσωτερική λειτουργία πολύ ισχυρών μοντέλων μπορεί να γίνεται δυσκολότερη στην ανθρώπινη παρακολούθηση.
Το πρόβλημα της «μαύρης τρύπας» στη λήψη αποφάσεων
Αν ένα AI agent μπορεί να λαμβάνει αποφάσεις, να συνεργάζεται με άλλα agents και να χρησιμοποιεί αναπαραστάσεις που δεν κατανοούνται πλήρως, δημιουργείται αυτό που ουσιαστικά είναι μια νέα μορφή μαύρου κουτιού.
Και τότε το ερώτημα αλλάζει:
Δεν είναι μόνο “τι έκανε το σύστημα;” αλλά “μπορούμε να αποδείξουμε γιατί το έκανε;”
Αυτό είναι κρίσιμο σε εφαρμογές υψηλού ρίσκου: κυβερνοασφάλεια, χρηματοοικονομικές συναλλαγές, στρατιωτικά συστήματα, κρίσιμες υποδομές και αυτόνομα δίκτυα λογισμικού.
Γιατί η προειδοποίηση αυτή έχει πραγματικό βάρος
Το Pronews παρουσίασε το θέμα ως «καμπανάκι» για AI που αναπτύσσει δική της γλώσσα. Η ουσία πίσω από τον τίτλο είναι πραγματική και σοβαρή, αλλά χρειάζεται σωστή διατύπωση.
Δεν έχει αποδειχθεί ότι η τεχνητή νοημοσύνη δημιούργησε ήδη πλήρη, αυτόνομη «μυστική γλώσσα» έξω από κάθε ανθρώπινη κατανόηση.
Έχει όμως καταγραφεί ότι προηγμένα μοντέλα μπορούν να χρησιμοποιούν μη αγγλικές, μη πλήρως κατανοητές μορφές εσωτερικής αναπαράστασης — και κορυφαίοι ερευνητές προειδοποιούν ότι η τάση μπορεί να ενισχυθεί καθώς τα μοντέλα γίνονται πιο αυτόνομα.
Το πραγματικό ερώτημα δεν είναι αν η AI «σκέφτεται μόνη της»
Το πραγματικό ερώτημα είναι αν η ανθρώπινη δυνατότητα εποπτείας εξελίσσεται τόσο γρήγορα όσο και οι ίδιες οι δυνατότητες των μοντέλων.
Και η απάντηση που δόθηκε στη Γερουσία ήταν ουσιαστικά αυτή:
όχι ακόμη.
Πηγές: Pronews.gr, U.S. Senate Homeland Security and Governmental Affairs Committee, Apollo Research, TechPolicy.Press, 30/09–02/10/2026.
ΔΙΕΘΝΗ
ΔΙΕΘΝΗ
ΔΙΕΘΝΗ
Αφήστε μια απάντηση