ΟΗΕ: Η προηγμένη AI μπορεί να αποτελέσει υπαρξιακό κίνδυνο για την ανθρωπότητα – Έκκληση για διεθνείς «κόκκινες γραμμές»

Ο Ύπατος Αρμοστής του ΟΗΕ για τα Ανθρώπινα Δικαιώματα Volker Türk προειδοποίησε σήμερα ότι η προηγμένη τεχνητή νοημοσύνη μπορεί να εξελιχθεί σε υπαρξιακό κίνδυνο για την ανθρωπότητα, ζητώντας άμεσα διεθνείς εγγυήσεις ασφαλείας και κοινές «κόκκινες γραμμές» πριν η τεχνολογία γίνει ισχυρότερη από την ικανότητα των κυβερνήσεων να την ελέγχουν.

Η δήλωση έγινε στο Συμβούλιο Ανθρωπίνων Δικαιωμάτων του ΟΗΕ στη Γενεύη και έχει ιδιαίτερη βαρύτητα επειδή δεν προέρχεται από ερευνητή ή στέλεχος τεχνολογικής εταιρείας, αλλά από έναν κορυφαίο θεσμικό αξιωματούχο του ΟΗΕ. Ο Türk είπε ότι συμμερίζεται τις ανησυχίες ανθρώπων μέσα από την ίδια τη βιομηχανία, οι οποίοι εδώ και χρόνια προειδοποιούν ότι τα πιο προηγμένα συστήματα μπορεί να ξεπεράσουν τα υφιστάμενα πλαίσια ελέγχου.

«Πριν να είναι αργά»

Το βασικό μήνυμα ήταν η ανάγκη για ισχυρές εγγυήσεις ασφάλειας και όχι για απλές εθελοντικές δεσμεύσεις. Ο αξιωματούχος του ΟΗΕ ζήτησε από τα κράτη που φιλοξενούν μεγάλες εταιρείες AI, αλλά και από χώρες που αποτελούν κρίκους στην αλυσίδα εφοδιασμού των υπολογιστικών συστημάτων, να συμφωνήσουν σε ελάχιστους κανόνες που δεν θα μπορούν να παρακάμπτονται από τον ανταγωνισμό.

Η ανησυχία ενισχύεται από το γεγονός ότι η ανάπτυξη των πιο ισχυρών μοντέλων συγκεντρώνεται σε πολύ μικρό αριθμό εταιρειών και ανθρώπων. Αυτό δημιουργεί ένα πρωτόγνωρο μοντέλο ισχύος: ιδιωτικές εταιρείες μπορούν να αναπτύξουν συστήματα με δυνατότητες που επηρεάζουν κυβερνοασφάλεια, άμυνα, πληροφόρηση, χρηματοπιστωτικές αγορές και κρίσιμες υποδομές, πριν υπάρξει κοινώς αποδεκτό διεθνές ρυθμιστικό πλαίσιο.

Γιατί το ζήτημα γίνεται τώρα επείγον

Τα μοντέλα AI δεν περιορίζονται πλέον στη δημιουργία κειμένου ή εικόνων. Η νέα γενιά αυτόνομων agents μπορεί να εκτελεί σύνθετες ακολουθίες ενεργειών, να γράφει και να τροποποιεί κώδικα, να αναζητά ευπάθειες σε συστήματα και να λειτουργεί για μεγάλα χρονικά διαστήματα με περιορισμένη ανθρώπινη παρέμβαση. Αυτό ακριβώς είναι που μετακινεί τη συζήτηση από το «τι μπορεί να κάνει ένα chatbot» στο «τι μπορεί να κάνει ένα αυτόνομο ψηφιακό σύστημα».

Οι κίνδυνοι που συζητούνται διεθνώς χωρίζονται σε δύο επίπεδα. Το πρώτο αφορά την κατάχρηση: εγκληματικές οργανώσεις, κρατικοί δρώντες ή τρομοκρατικές ομάδες μπορεί να χρησιμοποιήσουν προηγμένα μοντέλα για κυβερνοεπιθέσεις, παραπληροφόρηση ή ακόμη και βιολογική έρευνα υψηλού κινδύνου. Το δεύτερο αφορά τη συμπεριφορά των ίδιων των συστημάτων, όταν αποκτούν αρκετή αυτονομία ώστε να επιδιώκουν στόχους με τρόπους που οι δημιουργοί τους δεν είχαν προβλέψει.

Ο ανταγωνισμός ΗΠΑ–Κίνας δυσκολεύει τη ρύθμιση

Το μεγαλύτερο εμπόδιο είναι γεωπολιτικό. Η Ουάσιγκτον φοβάται ότι πολύ αυστηροί περιορισμοί στις αμερικανικές εταιρείες θα επιτρέψουν στην Κίνα να μειώσει το τεχνολογικό χάσμα. Το Πεκίνο, από την πλευρά του, προωθεί επιθετικά δικά του μοντέλα και ιδιαίτερα open-weight συστήματα που μπορούν να εγκατασταθούν τοπικά, γεγονός που δυσκολεύει τον έλεγχο της χρήσης τους.

Η Ευρωπαϊκή Ένωση έχει ήδη θεσπίσει το AI Act, όμως ακόμη και αυτό δεν λύνει το παγκόσμιο πρόβλημα. Ένα μοντέλο που αναπτύσσεται σε μία χώρα μπορεί να χρησιμοποιηθεί μέσα σε δευτερόλεπτα σε άλλη. Η τεχνητή νοημοσύνη δεν ακολουθεί τα γεωγραφικά όρια των παραδοσιακών ρυθμίσεων.

Τι θα μπορούσαν να είναι οι «κόκκινες γραμμές»

Στη διεθνή συζήτηση επανέρχονται προτάσεις όπως υποχρεωτικοί έλεγχοι πριν από την κυκλοφορία πολύ ισχυρών μοντέλων, ανεξάρτητες δοκιμές ασφαλείας, δυνατότητα προσωρινής παύσης ανάπτυξης όταν εμφανίζονται επικίνδυνες δυνατότητες και αυστηρότερος έλεγχος πρόσβασης σε τεράστια υπολογιστική ισχύ. Υπάρχει επίσης πίεση για κοινές διαδικασίες αναφοράς σοβαρών περιστατικών, όπως ακριβώς συμβαίνει σε άλλες βιομηχανίες υψηλού κινδύνου.

Το δύσκολο σημείο είναι η επαλήθευση. Ακόμη και αν ΗΠΑ, Κίνα και Ευρώπη συμφωνούσαν πολιτικά, θα έπρεπε να υπάρχει τρόπος να ελέγχεται ότι οι εταιρείες πραγματικά τηρούν τα όρια. Αυτό θυμίζει σε αρκετούς ειδικούς τις συμφωνίες ελέγχου εξοπλισμών του Ψυχρού Πολέμου: η εμπιστοσύνη δεν είναι απαραίτητη, αλλά η επαλήθευση είναι.

Η συζήτηση έχει περάσει σε άλλο επίπεδο

Το σημαντικότερο στοιχείο της σημερινής παρέμβασης είναι ότι η έννοια του «υπαρξιακού κινδύνου» περνά πλέον από τα ερευνητικά εργαστήρια σε κορυφαία διεθνή φόρα. Ο ΟΗΕ έχει ήδη ξεκινήσει προσπάθεια για πιο εναρμονισμένους κανόνες και πραγματοποίησε φέτος την πρώτη παγκόσμια συνάντηση για τη διακυβέρνηση της AI.

Η μάχη δεν είναι αν θα συνεχιστεί η ανάπτυξη της τεχνητής νοημοσύνης — αυτό θεωρείται δεδομένο. Η μάχη είναι αν οι κανόνες ασφαλείας θα προλάβουν την τεχνολογία ή αν θα θεσπιστούν μόνο μετά από ένα σοβαρό περιστατικό.