Ο ερευνητής ανέφερε πως οι κυβερνήσεις δεν θα πρέπει να θεωρούν δεδομένη την αξιοπιστία των προηγμένων συστημάτων Τεχνητής Νοημοσύνης

Ο κόσμος «ενδέχεται να μην έχει τον χρόνο» να προετοιμαστεί επαρκώς για τους κινδύνους ασφάλειας που ενέχουν τα πλέον προηγμένα συστήματα Τεχνητής Νοημοσύνης, προειδοποιεί ένας από τους κορυφαίους ειδικούς στον τομέα, μιλώντας στον Guardian.

Ο Ντέιβιντ Ντάλριμπλ, διευθυντής προγραμμάτων και ειδικός στην ασφάλεια της Τεχνητής Νοημοσύνης στον βρετανικό οργανισμό Aria (Advanced Research and Invention Agency), δήλωσε ότι η ταχύτητα με την οποία εξελίσσεται η τεχνολογία μπορεί να ξεπεράσει τις προσπάθειες ελέγχου και ρύθμισής της.

«Πρέπει να ανησυχούμε για συστήματα που μπορούν να εκτελούν όλες τις λειτουργίες που εκτελούν οι άνθρωποι για να ολοκληρώνουν εργασίες στον κόσμο – και μάλιστα καλύτερα», είπε. «Θα μας ξεπεράσουν σε όλους τους τομείς στους οποίους πρέπει να διατηρούμε την κυριαρχία, προκειμένου να έχουμε τον έλεγχο του πολιτισμού, της κοινωνίας και του πλανήτη μας».

Τεχνητή Νοημοσύνη: Σημαντικό χάσμα κατανόησης με τον δημόσιο τομέα
Σύμφωνα με τον ίδιο, υπάρχει σημαντικό χάσμα κατανόησης ανάμεσα στον δημόσιο τομέα και τις εταιρείες ΤΝ σχετικά με το πόσο ισχυρές μπορεί να είναι οι επικείμενες τεχνολογικές ανακαλύψεις. «Τα πράγματα κινούνται εξαιρετικά γρήγορα και μπορεί να μην προλάβουμε να προηγηθούμε από πλευράς ασφάλειας», τόνισε. Όπως εκτίμησε, «δεν είναι επιστημονική φαντασία να υποθέσει κανείς ότι μέσα στα επόμενα πέντε χρόνια, οι περισσότερες οικονομικά πολύτιμες εργασίες θα εκτελούνται από μηχανές με υψηλότερη ποιότητα και χαμηλότερο κόστος απ’ ό,τι από ανθρώπους».

Ο Ντάλριμπλ υπογράμμισε ότι οι κυβερνήσεις δεν θα πρέπει να θεωρούν δεδομένη την αξιοπιστία των προηγμένων συστημάτων ΤΝ. Το Aria, που χρηματοδοτείται από το δημόσιο αλλά λειτουργεί ανεξάρτητα από την κυβέρνηση, κατευθύνει ερευνητικά κονδύλια και αναπτύσσει μηχανισμούς προστασίας για τη χρήση της ΤΝ σε κρίσιμες υποδομές, όπως τα ενεργειακά δίκτυα.

«Δεν μπορούμε να υποθέτουμε ότι αυτά τα συστήματα είναι αξιόπιστα. Η επιστήμη που θα το εγγυόταν αυτό είναι απίθανο να προλάβει να ωριμάσει, δεδομένων των οικονομικών πιέσεων», ανέφερε. «Το επόμενο καλύτερο που μπορούμε να κάνουμε είναι να ελέγξουμε και να μετριάσουμε τις αρνητικές συνέπειες – και ίσως αυτό να προλάβουμε να το κάνουμε εγκαίρως».

Τεχνητή Νοημοσύνη: Το ενδεχόμενο να ξεπεράσει τα μέτρα ασφαλείας

Περιγράφοντας το ενδεχόμενο η τεχνολογική πρόοδος να ξεπεράσει τα μέτρα ασφαλείας ως «αποσταθεροποίηση της ασφάλειας και της οικονομίας», ο ίδιος τόνισε ότι απαιτείται πολύ περισσότερη τεχνική δουλειά για την κατανόηση και τον έλεγχο της συμπεριφοράς των πιο προηγμένων συστημάτων. «Η πρόοδος μπορεί να είναι αποσταθεροποιητική, αλλά θα μπορούσε και να αποδειχθεί θετική, αυτό ελπίζουν πολλοί στην αιχμή της τεχνολογίας», είπε. «Προσπαθώ να συμβάλω ώστε τα πράγματα να εξελιχθούν καλύτερα, όμως το ρίσκο είναι πολύ υψηλό και συνολικά η ανθρώπινη κοινωνία μοιάζει να βαδίζει υπνοβατώντας σε αυτή τη μετάβαση».

Τον ίδιο μήνα, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου (AISI) προειδοποίησε ότι οι δυνατότητες των προηγμένων μοντέλων βελτιώνονται «με ταχύτατους ρυθμούς» σε όλους τους τομείς, με την απόδοσή τους σε ορισμένες εργασίες να διπλασιάζεται κάθε οκτώ μήνες.

Σύμφωνα με τα στοιχεία του ινστιτούτου, τα κορυφαία μοντέλα μπορούν πλέον να ολοκληρώνουν εργασίες επιπέδου μαθητευόμενου, με επιτυχία κατά μέσο όρο στο 50% των περιπτώσεων, από περίπου 10% πέρυσι. Επιπλέον, τα πιο προηγμένα συστήματα είναι σε θέση να ολοκληρώνουν αυτόνομα εργασίες που θα απαιτούσαν πάνω από μία ώρα από έναν ανθρώπινο ειδικό.

Το AISI εξέτασε επίσης τον κίνδυνο της αυτοαναπαραγωγής, ένα από τα πιο σοβαρά ζητήματα ασφάλειας, καθώς αφορά την ικανότητα ενός συστήματος να αντιγράφει τον εαυτό του σε άλλες συσκευές και να καθίσταται δυσκολότερο στον έλεγχο. Οι δοκιμές έδειξαν ότι δύο προηγμένα μοντέλα πέτυχαν ποσοστά επιτυχίας άνω του 60%. Ωστόσο, το ινστιτούτο σημείωσε ότι ένα τέτοιο ακραίο σενάριο θεωρείται απίθανο στις πραγματικές συνθήκες της καθημερινότητας.

Ο Ντάλριμπλ εκτιμά τέλος ότι έως τα τέλη του 2026, τα συστήματα ΤΝ θα μπορούν να αυτοματοποιούν ισοδύναμο μιας πλήρους ημέρας εργασίας έρευνας και ανάπτυξης, κάτι που αναμένεται να επιταχύνει ακόμη περισσότερο τις εξελίξεις, καθώς η τεχνολογία θα μπορεί να βελτιώνει μόνη της τα μαθηματικά και υπολογιστικά θεμέλια πάνω στα οποία βασίζεται.

Με πληροφορίες από Guardian