Πρώην εργαζόμενη της Google προειδοποιεί ότι «φονικά ρομπότ» μπορεί να προκαλέσουν έναν… «κατά λάθος πόλεμο»

Μια νέα γενιά αυτόνομων όπλων ή «φονικών ρομπότ» θα μπορούσε να προκαλέσει πόλεμο «κατά λάθος» ή μαζικές φρικαλεότητες, προειδοποιεί μία πρώην εργαζόμενη της Google.

Η Λόρα Νόλαν παραιτήθηκε από την Google διαμαρτυρόμενη για το γεγονός ότι την έστειλαν να εργαστεί σε ένα πρότζεκτ για την ενίσχυση της τεχνολογίας των αμερικανικών στρατιωτικών drone. Η Νόλαν απευθύνει έκκληση να απαγορευτούν όλες οι μηχανές Τεχνητής Νοημοσύνης που δεν χειρίζονται από ανθρώπους και υποστηρίζει ότι τα «ρομπότ-δολοφόνοι» που δεν καθοδηγούνται από ανθρώπινο χέρι πρέπει να απαγορεύονται με διεθνή συνθήκη ανάλογη με αυτή που απαγορεύει τη χρήση χημικών όπλων.

Σε αντίθεση με τα drones, τα οποία ελέγχονται από στρατιωτικές ομάδες, η Νολάν δήλωσε ότι τα ρομπότ αυτά έχουν τη δυνατότητα να κάνουν «καταστροφικά πράγματα για τα οποία δεν είχαν αρχικά προγραμματιστεί».

Επισήμως, δεν υπάρχει καμία ένδειξη ότι η Google συμμετέχει στην ανάπτυξη αυτόνομων συστημάτων όπλων και μάλιστα τον περασμένο μήνα μια ομάδα εμπειρογνωμόνων του ΟΗΕ διαπίστωσε ότι η Google αποφεύγει τη χρήση Τεχνητής Νοημοσύνης σε συστήματα όπλων.

«Η πιθανότητα μιας καταστροφής είναι ανάλογη με το πόσες από αυτές τις μηχανές θα βρίσκονται ταυτόχρονα σε μια συγκεκριμένη περιοχή. Θα μπορούσαν να υπάρξουν ατυχήματα μεγάλης κλίμακας, επειδή τα ρομπότ θα αρχίσουν να συμπεριφέρονται με τρόπο που δεν θα είναι προβλέψιμος. Γι ‘αυτό και τα προηγμένα συστήματα όπλων πρέπει να υπόκεινται σε ανθρώπινο έλεγχο, διαφορετικά πρέπει να απαγορευτούν επειδή είναι υπερβολικά απρόβλεπτα και επικίνδυνα» δήλωσε η Νόλαν ενώπιον διπλωματών στη Νέα Υόρκη και τη Γενεύη σε ενημέρωση για τους κινδύνους από τη χρήση αυτόματων όπλων.

Η Google προσέλαβε τη Νόλαν για να εργαστεί στο Project Maven το 2017. Η ίδια λέει ότι «ανησυχούσε ολοένα και περισσότερο» για το ρόλο της στο πρόγραμμα το οποίο σχεδιάστηκε για να βοηθήσει το αμερικανικό υπουργείο Άμυνας στην τεχνολογία video recognition για drones. Αυτό που ζητήθηκε από την ίδια και άλλους εργαζόμενους ήταν να αναπτύξουν ένα σύστημα όπου η Τεχνητή Νοημοσύνη θα μπροούσε να διακρίνει ανθρώπους και αντικείμενα σε βίντεο με μεγάλη ταχύτητα. Σημειώνεται ότι η Google εγκατέλειψε το σχετικό πρότζεκτ τον Μάρτιο, αφού πάνω από 3.000 εργαζόμενοί της υπέγραψαν κείμενο κατά της εμπλοκής της εταιρείας στο συγκεκριμένο αντικείμενο.

Η Νόλαν προβλέπει πως τα αυτόνομα όπλα που αναπτύσσονται αποτελούν πολύ μεγαλύτερη απειλή για την ανθρωπότητα από ό,τι τα τηλεχειριζόμενα drones. Η ίδια έχει περιγράψει διάφορα ενδεχόμενα που θα μπορούσαν να οδηγήσουν σε καταστροφικά αποτελέσματα.

«Θα μπορούσαμε να έχουμε ένα σενάριο όπου αυτόνομα όπλα τα οποία έχουν αποσταλεί για να κάνουν μια δουλειά έρχονται αντιμέτωπα με απρόσμενα σήματα ραντάρ σε μια περιοχή όπου κάνουν έρευνες, θα μπορούσε εκεί να υπάρχουν καιρικά φαινόμενα που δεν έχουν ληφθεί υπόψιν στον προγραμματισμό, ή να πέσουν πάνω σε μια ομάδα ανθρώπων που φέρουν όπλα και θεωρηθεί ότι είναι αντάρτες, ενώ στην πραγματικότητα κυνηγούν. Η μηχανή δεν έχει τη δυνατότητα διάκρισης ή κοινής λογικής που έχει ο άνθρωπος» εξηγεί η Νόλαν.

Guardian