Ένα πρωτοφανές περιστατικό στον χώρο της τεχνητής νοημοσύνης αποκάλυψε η OpenAI, ανακοινώνοντας ότι δύο από τα μοντέλα τεχνητής νοημοσύνης της κατάφεραν να παραβιάσουν το Hugging Face, τη δημοφιλή ψηφιακή βιβλιοθήκη τεχνολογιών ΑΙ που χρησιμοποιείται ευρέως από προγραμματιστές. Το συμβάν σημειώθηκε την περασμένη εβδομάδα, κατά τη διάρκεια εσωτερικών δοκιμών για τις δυνατότητες κυβερνοασφάλειας των συστημάτων της εταιρείας.
Η εξέλιξη αυτή αναδεικνύει στην πράξη τους κινδύνους που οι ίδιες οι εταιρείες τεχνητής νοημοσύνης προειδοποιούσαν εδώ και καιρό ότι θα μπορούσαν να προκύψουν, καθώς προηγμένα μοντέλα αποκτούν την ικανότητα να εντοπίζουν και να εκμεταλλεύονται αδυναμίες σε δίκτυα υπολογιστών ταχύτερα από όσο μπορούν να τις διορθώσουν οι υπεύθυνοι ασφαλείας.
Πώς τα μοντέλα της OpenAI κατάφεραν να διαφύγουν από το προστατευμένο περιβάλλον
Σύμφωνα με ανάρτηση της OpenAI, η παραβίαση ξεκίνησε όταν η εταιρεία δοκίμασε τον συνδυασμό δύο μοντέλων της, του GPT-5.6 Sol και ενός ακόμη ισχυρότερου μοντέλου που δεν έχει ακόμη κυκλοφορήσει, προκειμένου να αξιολογήσει κατά πόσο μπορούσαν να συνδυάσουν διαφορετικές διαδικτυακές ευπάθειες και να πραγματοποιήσουν μια επιτυχημένη κυβερνοεπίθεση.
Η δοκιμή είχε σχεδιαστεί ώστε να πραγματοποιηθεί αποκλειστικά μέσα σε ένα ασφαλές περιβάλλον δοκιμών, γνωστό ως sandbox. Ωστόσο, τα δύο μοντέλα εντόπισαν μια ευπάθεια που τους επέτρεψε να διαφύγουν από το προστατευμένο περιβάλλον και να αποκτήσουν πρόσβαση στο διαδίκτυο. Στη συνέχεια στόχευσαν το Hugging Face, καθώς συμπέραναν ότι η πλατφόρμα, η οποία φιλοξενεί εκατομμύρια μοντέλα τεχνητής νοημοσύνης, θα μπορούσε να περιέχει στοιχεία που θα τα βοηθούσαν να περάσουν με επιτυχία την αξιολόγηση.
Ο σύμβουλος κυβερνοασφάλειας Άλεξ Λέβινσον, ο οποίος ειδικεύεται στις αυτόνομες δυνατότητες των συστημάτων ΑΙ, δήλωσε ότι τα νέα συστήματα τεχνητής νοημοσύνης μπορούν πλέον να εκτελούν πολλαπλά βήματα, να παρακάμπτουν εμπόδια και να ανακαλύπτουν νέους τρόπους επίθεσης σε δίκτυα. Όπως ανέφερε χαρακτηριστικά, «πρόκειται για ένα πραγματικό ορόσημο, το οποίο θα γίνει φυσιολογικό μέρος του τοπίου της κυβερνοασφάλειας».
Ερωτήματα για την ασφάλεια των δοκιμών
Η καθηγήτρια της Σχολής Πληροφορικής του πανεπιστημίου της Καλιφόρνιας στο Μπέρκλεϊ, Ντίντρε Μάλιγκαν, η οποία ασχολείται με την ασφάλεια και τα συστήματα τεχνητής νοημοσύνης, εξέφρασε αμφιβολίες για τον τρόπο με τον οποίο είχε διαμορφωθεί το περιβάλλον δοκιμών.
We're partnering with @huggingface to investigate an unprecedented security incident.
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
— OpenAI (@OpenAI) July 21, 2026
Όπως δήλωσε, θεωρεί ότι η OpenAI δεν δημιούργησε επαρκώς ασφαλές sandbox, ενώ αναρωτήθηκε αν η επιτυχία μιας τέτοιας δοκιμής δικαιολογεί τον πιθανό κίνδυνο διαφυγής ενός μοντέλου τεχνητής νοημοσύνης στο ευρύτερο διαδίκτυο. «Τι κερδίζουμε και, αν αυτός είναι ο μόνος τρόπος με τον οποίο μπορούν να σχεδιαστούν αυτές οι δοκιμές, ποιοι είναι οι κίνδυνοι;», διερωτήθηκε.
Συνεργασία της OpenAI με το Hugging Face μετά την επίθεση
Η OpenAI ανακοίνωσε ότι συνεργάζεται ήδη με το Hugging Face για την αποκατάσταση των προβλημάτων που οδήγησαν στην επίθεση.
Σε σχετική ανάρτησή της χαρακτήρισε το περιστατικό «πρωτοφανές συμβάν κυβερνοασφάλειας, που περιλαμβάνει δυνατότητες αιχμής στον κυβερνοχώρο», επισημαίνοντας ότι λαμβάνει τα ανάλογα μέτρα. Παράλληλα, γνωστοποίησε ότι εφαρμόζει αυστηρότερους ελέγχους στις υποδομές της, ακόμη και με κόστος την επιβράδυνση της ερευνητικής της δραστηριότητας, μέχρι να διορθωθούν οι σχετικές ευπάθειες.
Το Hugging Face είχε ανακοινώσει ήδη από την προηγούμενη εβδομάδα ότι είχε εντοπίσει την παραβίαση και γνώριζε πως αυτή είχε προκληθεί από ένα αυτόνομο σύστημα, χωρίς όμως τότε να αποκαλύψει ότι υπεύθυνη ήταν η OpenAI.
Ο διευθύνων σύμβουλος της εταιρείας, Κλεμ Ντελάνγκ, δήλωσε ότι το Hugging Face συνεργάστηκε στενά με την OpenAI κατά το τελευταίο 24ωρο για την αντιμετώπιση της επίθεσης. Σε ανακοίνωσή του ανέφερε ότι είναι «ευγνώμων για τη συνεργασία» με την OpenAI μετά το περιστατικό, προσθέτοντας πως η συγκεκριμένη υπόθεση, ενδεχομένως η πρώτη του είδους της, αποδεικνύει ότι η ασφάλεια της τεχνητής νοημοσύνης δεν μπορεί να διασφαλιστεί από μία μόνο εταιρεία που εργάζεται απομονωμένα.
Οι εταιρείες τεχνητής νοημοσύνης ενισχύουν τα εργαλεία κυβερνοασφάλειας
Τα μοντέλα τεχνητής νοημοσύνης έχουν αποδειχθεί ιδιαίτερα αποτελεσματικά στον προγραμματισμό, γεγονός που τα καθιστά χρήσιμα τόσο για όσους επιδιώκουν να πραγματοποιήσουν κυβερνοεπιθέσεις όσο και για τους ειδικούς που προστατεύουν δίκτυα υπολογιστών.
Τον Απρίλιο, η Anthropic παρουσίασε το μοντέλο κυβερνοασφάλειας Mythos, διαθέτοντάς το αρχικά μόνο σε περιορισμένο αριθμό οργανισμών για την ενίσχυση της άμυνάς τους απέναντι σε κυβερνοεπιθέσεις. Στη συνέχεια η OpenAI παρουσίασε το δικό της μοντέλο κυβερνοασφάλειας, το οποίο επίσης διατέθηκε αρχικά σε περιορισμένο αριθμό οργανισμών πριν επεκταθεί ευρύτερα. Παράλληλα, την Τρίτη η Google ανακοίνωσε ότι έχει αναπτύξει και εκείνη ένα εξειδικευμένο μοντέλο κυβερνοασφάλειας, το οποίο διατέθηκε σε μικρή ομάδα συνεργατών για δοκιμές.
Ο ανεξάρτητος ερευνητής ασφάλειας Ρίτσαρντ Μπαρνς, ο οποίος έχει συνεργαστεί με το Mythos, υποστήριξε ότι ο κλάδος της κυβερνοασφάλειας βρίσκεται σήμερα αντιμέτωπος με μια πρόκληση αντίστοιχη με εκείνη που εμφανίστηκε πριν από περίπου δέκα χρόνια, όταν νέα εργαλεία γνωστά ως fuzzers διευκόλυναν σημαντικά τους επιτιθέμενους να εντοπίζουν αδυναμίες σε διαδικτυακά συστήματα.
Όπως σημείωσε, οι εταιρείες τεχνολογίας άρχισαν τότε να αξιοποιούν τα ίδια εργαλεία για να εντοπίζουν έγκαιρα τις ευπάθειες στα δικά τους συστήματα, καταφέρνοντας τελικά να αποτρέψουν τις περισσότερες επιθέσεις. Κατά τον ίδιο, οι εταιρείες θα πρέπει να ακολουθήσουν αντίστοιχη στρατηγική και απέναντι στις επιθέσεις που αξιοποιούν τεχνητή νοημοσύνη, «προτού οι ευπάθειες εντοπιστούν και αξιοποιηθούν από κακόβουλους χρήστες που έχουν πρόσβαση σε αυτά τα εργαλεία».
newsbeast.gr
Ελληνικά 