Οι επιστήμονες λένε ότι η τεχνητή νοημοσύνη (AI) έχει περάσει μια κρίσιμη «κόκκινη γραμμή» και έχει αναπαραχθεί. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν ότι δύο δημοφιλή μοντέλα μεγάλων γλωσσών (LLM) θα μπορούσαν να κλωνοποιηθούν.
«Η επιτυχής αυτο-αντιγραφή χωρίς ανθρώπινη βοήθεια είναι το ουσιαστικό βήμα για την τεχνητή νοημοσύνη να ξεπεράσει [τους ανθρώπους] και είναι ένα πρώιμο μήνυμα για απατεώνες AI», έγραψαν οι ερευνητές στη μελέτη, που δημοσιεύθηκε στις 9 Δεκεμβρίου 2024.
Στη μελέτη, ερευνητές από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLM από τη Meta και την Alibaba για να καθορίσουν εάν μια αυτοαναπαραγόμενη τεχνητή νοημοσύνη θα μπορούσε να πολλαπλασιαστεί πέρα από τον έλεγχο. Σε 10 δοκιμές, τα δύο μοντέλα τεχνητής νοημοσύνης δημιούργησαν ξεχωριστά και λειτουργικά αντίγραφα του εαυτού τους στο 50% και στο 90% των περιπτώσεων, αντίστοιχα, υποδηλώνοντας ότι η τεχνητή νοημοσύνη μπορεί ήδη να έχει την ικανότητα να γίνει απατεώνας. Ωστόσο, η μελέτη δεν έχει ακόμη αξιολογηθεί από ομοτίμους, επομένως δεν είναι σαφές εάν τα ανησυχητικά αποτελέσματα μπορούν να αναπαραχθούν από άλλους ερευνητές.
«Ελπίζουμε τα ευρήματά μας να χρησιμεύσουν ως έγκαιρη προειδοποίηση για την ανθρώπινη κοινωνία ώστε να καταβάλει περισσότερες προσπάθειες για την κατανόηση και την αξιολόγηση των πιθανών κινδύνων των συστημάτων τεχνητής νοημοσύνης και να δημιουργήσει διεθνή συνέργεια για την ανάπτυξη αποτελεσματικών προστατευτικών κιγκλιδωμάτων όσο το δυνατόν νωρίτερα».
Το Rogue AI αναφέρεται συνήθως σε συστήματα τεχνητής νοημοσύνης που αναπτύσσουν έναν βαθμό αυτογνωσίας ή αυτονομίας και στη συνέχεια λειτουργούν σε αντίθεση με τα ανθρώπινα συμφέροντα.
Πολλοί ειδικοί θεωρούν την αδίστακτη τεχνητή νοημοσύνη ως μια αυξανόμενη απειλή που έχει ενισχυθεί από την εκρηκτική ανάπτυξη της λεγόμενης «τεχνητής νοημοσύνης ορίων».
Photo: pixabay.el.gr
Επιλεξτε να γινετε οι πρωτοι που θα εχετε προσβαση στην Πληροφορια του Stranger Voice
Greek