Ερευνητές προειδοποιούν για αυτοβελτιούμενη AI: «Οι εταιρείες τρέχουν πιο γρήγορα από την ασφάλεια»

Νυν και πρώην ερευνητές από OpenAI και Google DeepMind προειδοποιούν ότι οι εταιρείες τεχνητής νοημοσύνης κινούνται πολύ γρήγορα προς συστήματα που μπορούν να βελτιώνουν μόνα τους τις ικανότητές τους, χωρίς να υπάρχουν ακόμη επαρκείς δικλίδες ασφαλείας.

Σύμφωνα με το Reuters, οι ερευνητές υποστηρίζουν ότι η κούρσα για όλο και ισχυρότερα μοντέλα δημιουργεί κίνδυνο να αναπτυχθούν συστήματα που θα μπορούν να ξεπεράσουν την ανθρώπινη ικανότητα ελέγχου.

Τι φοβούνται οι ερευνητές

Το βασικό σημείο ανησυχίας δεν είναι απλώς ότι τα μοντέλα γίνονται πιο ισχυρά, αλλά ότι μπορεί να αποκτήσουν τη δυνατότητα να βελτιώνουν τον δικό τους σχεδιασμό ή να αυτοματοποιούν μέρος της έρευνας που οδηγεί σε ακόμη πιο ισχυρά συστήματα.

Οι ερευνητές ζητούν από τα μεγάλα εργαστήρια να επιβραδύνουν τέτοιες προσπάθειες και να επενδύσουν περισσότερο σε ελέγχους, αξιολόγηση ρίσκου και μηχανισμούς περιορισμού.

Η συζήτηση περνά πλέον από τη θεωρία στην πράξη

Η προειδοποίηση έρχεται σε μια περίοδο όπου η AI περνά γρήγορα από απλά εργαλεία παραγωγής κειμένου σε agents που μπορούν να εκτελούν σύνθετες εργασίες και να αλληλεπιδρούν με πραγματικά συστήματα.

Πηγή: Reuters, 29/09/2026.