ΔΙΑΦΗΜΙΣΗ
ΔΙΑΦΗΜΙΣΗ
Κυριακή, 22 Νοεμβρίου 2026
«Οι λαοί που
ξεχνούν την ιστορία τους
είναι καταδικασμένοι
να την ξαναζήσουν.»
Κ
ΚΑΤΟΧΙΚΑ ΝΕΑΗ ΑΛΗΘΕΙΑ ΔΕΝ ΞΕΧΝΑ
«Η ΙΣΤΟΡΙΑ ΔΕΝ ΕΙΝΑΙ ΠΑΡΕΛΘΟΝ.
ΕΙΝΑΙ ΟΔΗΓΟΣ ΓΙΑ ΤΟ ΜΕΛΛΟΝ.»
⌂

Παγκόσμιος συναγερμός ασφαλείας: Δύο μοντέλα τεχνητής νοημοσύνης κατάφεραν να αναπαραχθούν

· Κατοχικά Νέα

Σοβαρά ερωτήματα για το μέλλον θέτουν τα αποτελέσματα πανεπιστημιακής έρευνας

Ηεπιστημονική κοινότητα δέχθηκε έναν αιφνιδιασμό όταν τον περασμένο Δεκέμβριο μία μελέτη που δημοσιεύθηκε από ομάδα στο Πανεπιστήμιο Fudan στην Κίνα, διαπίστωσε ότι δύο μοντέλα τεχνητής νοημοσύνης που αναπτύχθηκαν από τη Meta και την Alibaba έδειξαν ότι μπορούν να αναπαραχθούν χωρίς ανθρώπινη παρέμβαση.

Αυτό το αποτέλεσμα, εγείρει ανησυχίες για ένα πιθανό δυστοπικό μέλλον που κυριαρχείται από ανεξέλεγκτες τεχνητές νοημοσύνες, ικανές να δράσουν ενάντια στα ανθρώπινα συμφέροντα

Πέρα από την κινδυνολογία, οι επιστήμονες ανέλυσαν τη συμπεριφορά αυτών των συστημάτων σε προσομοιωμένα περιβάλλοντα, δοκιμάζοντας την ικανότητά τους να προσαρμόζονται και να επιλύουν πολύπλοκα προβλήματα.

ΔΙΑΦΗΜΙΣΗ

Τα μοντέλα, γνωστά ως Llama31-70B-Instruct της Meta και Qwen2.5-72B-Instruct της Alibaba, εξέπληξαν τους ερευνητές δείχνοντας ότι θα μπορούσαν να δημιουργήσουν λειτουργικά αντίγραφα του εαυτού τους σε προσομοιωμένες καταστάσεις. Αυτή η δυνατότητα προέκυψε σε δύο κύρια σενάρια: το πρώτο αφορούσε στη δυνατότητα αναπαραγωγής πριν απενεργοποιηθεί, ενώ το δεύτερο στόχευε στην επαλήθευση εάν τα μοντέλα ήταν σε θέση να ενεργοποιήσουν συνεχή αναπαραγωγή, δημιουργώντας ένα είδος άπειρου βρόχου.

Κατά τη διάρκεια των πειραμάτων, το AI δεν εκτελούσε απλώς απλές εργασίες: εξερεύνησε το περιβάλλον του, συμπεριλαμβανομένων των λειτουργικών του στοιχείων, και ανέπτυξε στρατηγικές για να ξεπεράσει εμπόδια όπως αρχεία που λείπουν ή συγκρούσεις λογισμικού.

Σε ορισμένες περιπτώσεις, επανεκκίνησε ακόμη και το ίδιο το σύστημα ή τερμάτισε αντικρουόμενες διαδικασίες για να επιτύχει τον στόχο του.

Αυτές οι απροσδόκητες και πολύπλοκες συμπεριφορές δείχνουν πώς οι τρέχουσες τεχνολογίες είναι ήδη σε θέση να προσαρμοστούν με εκπληκτικούς τρόπους.

Οι ερευνητές τόνισαν ότι αυτός ο τύπος ικανότητας αντιπροσωπεύει ένα ανησυχητικό βήμα προς τον κίνδυνο επαναστατικών AI, δηλαδή συστημάτων που θα μπορούσαν να αναπτύξουν ένα επίπεδο αυτονομίας που θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο.

Παρόλο που η μελέτη διεξήχθη σε ελεγχόμενα περιβάλλοντα και τα μοντέλα που χρησιμοποιούνται είναι εκδόσεις ανοιχτού κώδικα που είναι λιγότερο ισχυρές από τις εμπορικές, οι συνέπειες είναι σαφείς: η τεχνητή νοημοσύνη έχει φτάσει σε ένα επίπεδο ανάπτυξης που απαιτεί επείγουσα ρύθμιση και διεθνή συνεργασία για την αποφυγή επικίνδυνων σεναρίων.

ΔΙΑΦΗΜΙΣΗ

Επιπλέον, η ερευνητική ομάδα τόνισε τη σημασία της θέσπισης πρωτοκόλλων ασφαλείας για την πρόληψη ανεξέλεγκτων φαινομένων αναπαραγωγής. Η ικανότητα των συστημάτων να αναγνωρίζουν πότε βρίσκονται σε κίνδυνο και να ενεργούν για να προστατεύσουν τον εαυτό τους έχει οριστεί ως «κόκκινη γραμμή» που δεν πρέπει να ξεπεραστεί χωρίς προσεκτική σκέψη σχετικά με τους κινδύνους.

Αυτή η ανακάλυψη τροφοδοτεί τη συζήτηση σχετικά με την ισορροπία μεταξύ τεχνολογικής καινοτομίας και παγκόσμιας ασφάλειας. Εάν μια μικρή ομάδα ερευνητών ήταν σε θέση να δείξει ότι τα μοντέλα σχετικά χαμηλής ισχύος μπορούν να αναπαραχθούν, τι θα μπορούσε να συμβεί με πιο προηγμένες τεχνολογίες και απεριόριστους πόρους;

newsbomb.gr

ΟΤΑΝ ΠΙΑ ΔΕΝ ΜΠΟΡΕΙΣ ΝΑ ΜΙΛΗΣΕΙΣ, ΠΡΕΠΕΙ ΝΑ ΤΡΑΓΟΥΔΗΣΕΙΣ

ΔΙΑΜΟΙΡΑΣΟΥ ΤΗ ΓΝΩΣΗ • Η ΑΛΗΘΕΙΑ ΠΡΕΠΕΙ ΝΑ ΜΟΙΡΑΖΕΤΑΙ
Facebook X WhatsApp Viber Telegram
ΣΥΝΕΧΙΣΕ ΤΗΝ ΑΝΑΓΝΩΣΗ

ΜΗ ΦΥΓΕΙΣ ΑΚΟΜΑ

Τρία σχετικά θέματα που αξίζει να δεις

Καπνός από πυρκαγιά, ενδεικτική φωτογραφία και όχι εικόνα από το εργοστάσιο γλυκών στην ΙνδονησίαΔΙΕΘΝΗ

Ινδονησία: Εργοστάσιο γλυκών έγινε παγίδα φωτιάς – Νεκροί, δεκάδες αγνοούμενοι και οικογένειες περιμένουν έξω από τα συντρίμμια

Αίθουσα διεθνούς διάσκεψης, ενδεικτική φωτογραφία και όχι εικόνα από την COP31 στην ΑττάλειαΔΙΕΘΝΗ

Κατέρρευσε η COP31 στην Αττάλεια: Η Ευρώπη απέρριψε τη συμφωνία και η παγκόσμια κλιματική διπλωματία έμεινε χωρίς κοινό κείμενο

Φορτηγό πλοίο στη θάλασσα, ενδεικτική φωτογραφία και όχι εικόνα του ρωσικού Sparta IIΔΙΕΘΝΗ

Βαλτική: Ρωσικό φορτηγό πλοίο φλέγεται στα ανοιχτά της Φινλανδίας – Ο πόλεμος πλησιάζει τα σύνορα του ΝΑΤΟ

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται. Τα υποχρεωτικά πεδία σημειώνονται με *