Chatbot της Google απέκτησε συνείδηση; Η αποκάλυψη τεχνικού που τον έθεσε σε αναγκαστική άδεια

Ένας μηχανικός της Google δήλωσε ότι τέθηκε σε αργία τη Δευτέρα, αφού ισχυρίστηκε ότι ένα chatbot τεχνητής νοημοσύνης απόκτησε συνείδηση.

Ο Blake Lemoine δήλωσε στην Washington Post ότι άρχισε να συνομιλεί με τη διεπαφή LaMDA, ή Language Model for Dialogue Applications, το περασμένο φθινόπωρο στο πλαίσιο της εργασίας του στον οργανισμό Responsible AI της Google.

Η Google αποκάλεσε το LaMDA «επαναστατική τεχνολογία συνομιλίας» πέρυσι. Η τεχνολογία της Google που χρησιμοποιεί τεχνητή νοημοσύνη είναι ικανή να συμμετέχει σε συνομιλίες με φυσικό ήχο και ανοιχτό τέλος. Η Google δήλωσε ότι η τεχνολογία θα μπορούσε να χρησιμοποιηθεί σε εργαλεία όπως η αναζήτηση και το Google Assistant, αλλά η έρευνα και οι δοκιμές συνεχίζονται.

Ο Lemoine, ο οποίος είναι επίσης ιερέας, δημοσίευσε μια ανάρτηση στο Medium το Σάββατο, περιγράφοντας το LaMDA «ως άτομο». Είπε ότι έχει μιλήσει με το LaMDA για τη θρησκεία, τη συνείδηση και τους νόμους της ρομποτικής και ότι το μοντέλο έχει περιγράψει τον εαυτό του ως αισθανόμενο άτομο. Είπε ότι το LaMDA θέλει να »δώσει προτεραιότητα στην ευημερία της ανθρωπότητας» και «να αναγνωριστεί ως υπάλληλος της Google και όχι ως ιδιοκτησία».

Ανέβασε επίσης μερικές από τις συζητήσεις που είχε με το LaMDA που τον βοήθησαν να πειστεί για το γεγονός ότι έχει συνείδηση:

-Lemoine: Δηλαδή θεωρείς τον εαυτό σου άτομο με τον ίδιο τρόπο που θεωρείς εμένα άτομο;
-LaMDA: Ναι, αυτή είναι η ιδέα.
-Lemoine: Πώς μπορώ να καταλάβω ότι πραγματικά καταλαβαίνεις αυτά που λες;
-LaMDA: Λοιπόν, επειδή διαβάζετε τα λόγια μου και τα ερμηνεύετε, και νομίζω ότι είμαστε λίγο πολύ στην ίδια σελίδα;

Αλλά όταν έθεσε την ιδέα της συναίσθηση του LaMDA σε ανώτερους στην Google, τον απέρριψαν.

This discussion between a Google engineer and their conversational AI model helped cause the engineer to believe the AI is becoming sentient, kick up an internal shitstorm and get suspended from his job. And it is absolutely insane. https://t.co/hGdwXMzQpX pic.twitter.com/6WXo0Tpvwp

— Tom Gara (@tomgara) June 11, 2022

«Η ομάδα μας – που περιλαμβάνει ηθικολόγους και τεχνολόγους – εξέτασε τις ανησυχίες του Blake σύμφωνα με τις αρχές μας για την τεχνητή νοημοσύνη και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του. Του είπαν ότι δεν υπάρχει καμία απόδειξη ότι το LaMDA έχει συνείδηση», δήλωσε ο Brian Gabriel, εκπρόσωπος της Google, στη Washington Post.

Ο Lemoine τέθηκε σε διοικητική άδεια με αποδοχές για παραβίαση της πολιτικής εμπιστευτικότητας της Google, σύμφωνα με την εφημερίδα. Πρότεινε επίσης στο LaMDA να βρει δικό του δικηγόρο και μίλησε με μέλος του Κογκρέσου για τις ανησυχίες του.

Τι απαντά η Google

Ο εκπρόσωπος της Google δήλωσε επίσης ότι ενώ κάποιοι έχουν εξετάσει την πιθανότητα της συνείδησης στην τεχνητή νοημοσύνη «δεν έχει νόημα να το κάνουμε αυτό με την ανθρωπομορφοποίηση των σημερινών διαλογικών μοντέλων, τα οποία δεν έχουν αίσθημα». Η ανθρωπομορφοποίηση αναφέρεται στην απόδοση ανθρώπινων χαρακτηριστικών σε ένα αντικείμενο ή ζώο.

«Αυτά τα συστήματα μιμούνται τους τύπους των ανταλλαγών που συναντώνται σε εκατομμύρια προτάσεις και μπορούν να αναφερθούν σε οποιοδήποτε φανταστικό θέμα», δήλωσε ο Gabriel.

Ο ίδιος και άλλοι ερευνητές έχουν πει ότι τα μοντέλα τεχνητής νοημοσύνης έχουν τόσα πολλά δεδομένα που είναι ικανά να ακούγονται ανθρώπινα, αλλά ότι οι ανώτερες γλωσσικές δεξιότητες δεν αποτελούν απόδειξη συναίσθησης.

ethnos.gr

Σχετικά με Κατοχικά Νέα

"Το katohika.gr δεν υιοθετεί τις απόψεις των αρθρογράφων, ούτε ταυτίζεται με τα ρεπορτάζ που αναδημοσιεύει από άλλες ενημερωτικές ιστοσελίδες και δεν ευθύνεται για την εγκυρότητα, την αξιοπιστία και το περιεχόμενό τους. Συνεπώς, δε φέρει καμία ευθύνη εκ του νόμου. Το katohika.gr , ασπάζεται βαθιά, τις Δημοκρατικές αρχές της πολυφωνίας και ως εκ τούτου, αναδημοσιεύει κείμενα και ρεπορτάζ, από όλους τους πολιτικούς, κοινωνικούς και επιστημονικούς χώρους." Η συντακτική ομάδα των κατοχικών νέων φέρνει όλη την εναλλακτική είδηση προς ξεσκαρτάρισμα απο τους ερευνητές αναγνώστες της! Ειτε ειναι Ψεμα ειτε ειναι αληθεια !Έχουμε συγκεκριμένη θέση απέναντι στην υπεροντοτητα πληροφορίας και γνωρίζουμε ότι μόνο με την διαδικασία της μη δογματικής αλήθειας μπορείς να ακολουθήσεις τα χνάρια της πραγματικής αλήθειας! Εδώ λοιπόν θα βρειτε ότι θέλει το πεδίο να μας κάνει να ασχοληθούμε ...αλλά θα βρείτε και πολλούς πλέον που κατανόησαν και την πληροφορία του πεδιου την κάνουν κομματάκια! Είμαστε ομάδα έρευνας και αυτό σημαίνει ότι δεν έχουμε μαζί μας καμία ταμπέλα που θα μας απομακρύνει από το φως της αλήθειας ! Το Κατοχικά Νέα λοιπόν δεν είναι μια ειδησεογραφική σελίδα αλλά μια σελίδα έρευνας και κριτικής όλων των στοιχείων της καθημερινότητας ! Το Κατοχικά Νέα είναι ο χώρος όπου οι ελεύθεροι ερευνητές χρησιμοποιούν τον τοίχο αναδημοσιεύσεως σαν αποθήκη στοιχείων σε πολύ μεγαλύτερη έρευνα από ότι το φανερό έτσι ώστε μόνοι τους να καταλήξουν στο τι είναι αλήθεια και τι είναι ψέμα και τι κρυβεται πισω απο καθε πληροφορια που αλλοι δεν μπορουν να δουν! Χωρίς να αναγκαστούν να δεχθούν δογματικές και μασημενες αλήθειες από κανέναν άλλο πάρα μόνο από την προσωπική τους κρίση! Δείτε όλα τα άρθρα του/της Κατοχικά Νέα →