Ανεξάρτητοι έλεγχοι της τεχνητής νοημοσύνης: Ποιος αποφασίζει τι θα μάθουμε για τους κινδύνους των μοντέλων;

Οι μεγαλύτερες εταιρείες τεχνητής νοημοσύνης υποστηρίζουν δημόσια την ανάγκη εξωτερικών ελέγχων στα ισχυρότερα μοντέλα τους. Νέα έρευνα του Reuters, όμως, καταγράφει διαπραγματεύσεις γύρω από ένα κρίσιμο σημείο: ποιος έχει το τελευταίο λόγο για το τι μπορούν να δημοσιοποιούν οι ανεξάρτητοι αξιολογητές. Το ζήτημα αφορά την OpenAI και την Anthropic, ανάμεσα σε άλλους πρωταγωνιστές της αγοράς.

Τι σημαίνει ανεξάρτητη αξιολόγηση

Μια εξωτερική ομάδα μπορεί να επιχειρεί ελεγχόμενες δοκιμές για αντοχή σε χειραγώγηση, κυβερνοασφάλεια, αξιοπιστία, επιβλαβή αποτελέσματα και όρια των συστημάτων. Η χρησιμότητα των ελέγχων εξαρτάται από δύο προϋποθέσεις: επαρκή πρόσβαση στο υπό εξέταση μοντέλο και δυνατότητα δημοσίευσης ευρημάτων χωρίς αδικαιολόγητες παρεμβάσεις. Αν λείπει το πρώτο, η εξέταση μπορεί να είναι επιφανειακή. Αν λείπει το δεύτερο, ο δημόσιος έλεγχος περιορίζεται.

Η θέση των εταιρειών

Οι εταιρείες επικαλούνται πραγματικά ζητήματα εμπορικού απορρήτου, πνευματικής ιδιοκτησίας και κινδύνου να δημοσιευτούν λεπτομέρειες που διευκολύνουν κακόβουλους χρήστες. Η πλήρης και ανεξέλεγκτη δημοσιοποίηση τεχνικών ευπαθειών μπορεί πράγματι να δημιουργεί νέους κινδύνους. Οι συμβατικές διαπραγματεύσεις δεν αποδεικνύουν από μόνες τους ότι κάποια επιχείρηση απέκρυψε συγκεκριμένο αρνητικό εύρημα.

Τι φοβούνται οι ελεγκτές

Ο αντίλογος είναι ότι υπερβολικά ευρείες ρήτρες εμπιστευτικότητας ή υποχρέωση εταιρικής έγκρισης πριν από τη δημοσίευση μπορούν να μετατρέψουν τον ανεξάρτητο ελεγκτή σε σύμβουλο χωρίς ουσιαστική δημόσια φωνή. Η έρευνα του Reuters περιγράφει προτάσεις εποπτείας από προσωπικό εργαστηρίων και περιορισμούς στις παράλληλες συνεργασίες αξιολογητών με ανταγωνιστικά εργαστήρια.

Η λεπτή ισορροπία

Υπάρχει διαφορά ανάμεσα στο να αφαιρείται από μια τεχνική αναφορά μια εκμεταλλεύσιμη ακολουθία οδηγιών και στο να εξαφανίζεται από τη δημόσια περίληψη ένα αρνητικό συμπέρασμα για την ασφάλεια. Το πρώτο μπορεί να προστατεύει τους χρήστες. Το δεύτερο μπορεί να τους αφήνει ανενημέρωτους. Η διαφάνεια απαιτεί σαφείς κανόνες για το τι μπορεί να παραμείνει εμπιστευτικό, ποιος το αποφασίζει και πώς ελέγχεται αυτή η απόφαση.

Το ρυθμιστικό κενό

Το Reuters αναφέρει ότι αμερικανική πρωτοβουλία για ανεξάρτητες αξιολογήσεις περιλαμβάνει γενικές δεσμεύσεις χωρίς πλήρως καθορισμένα πρότυπα. Περισσότεροι από 200 ειδικοί ζητούν μεγαλύτερη ανεξαρτησία και διευρυμένη πρόσβαση για τους ελεγκτές. Χωρίς συγκρίσιμα κριτήρια, διαφορετικές επιχειρήσεις μπορούν να χρησιμοποιούν τον ίδιο όρο «ανεξάρτητος έλεγχος» για διαδικασίες με πολύ διαφορετικό βάθος.

Πώς θα φαινόταν ένας αξιόπιστος έλεγχος

Μια ισχυρή διαδικασία θα μπορούσε να περιλαμβάνει προδηλωμένη μεθοδολογία, εξωτερικό φορέα που δεν εξαρτάται οικονομικά από ένα και μοναδικό εργαστήριο, δημοσιοποίηση βασικών συμπερασμάτων και περιορισμένες, τεκμηριωμένες εξαιρέσεις για μυστικά ή εκμεταλλεύσιμες τεχνικές πληροφορίες. Χρειάζεται επίσης διαδικασία ένστασης όταν η εταιρεία και ο ελεγκτής διαφωνούν για το περιεχόμενο της έκθεσης.

Το ερώτημα που μας αφορά

Όσο περισσότερο οι υπηρεσίες τεχνητής νοημοσύνης μπαίνουν στην ενημέρωση, στην εκπαίδευση, στην εργασία και στις υποδομές, τόσο πιο αναγκαίο γίνεται να γνωρίζουμε ποιος αξιολογεί την αξιοπιστία τους. Το πραγματικό μέτρο εμπιστοσύνης δεν είναι μια διαφημιστική δήλωση ασφάλειας, αλλά ένας έλεγχος που μπορεί να αποκαλύπτει ουσιαστικά προβλήματα χωρίς να διακυβεύει την ασφάλεια των συστημάτων.

Πηγές

• Reuters, 13/10/2026

Κεντρική εικόνα αρχείου, ενδεικτική και όχι από το συγκεκριμένο γεγονός.