Οι άνθρωποι χάνουν τον έλεγχο απέναντι στην τεχνητή νοημοσύνη

Είναι πολύ πιθανό οι άνθρωποι να μην καταφέρουν να ελέγξουν την τεχνητή νοημοσύνη σύμφωνα με έρευνα που πραγματοποιήθηκε από ομάδα του Ινστιτούτου Ανθρώπων και Μηχανών του Max-Planck .

“Μια υπερ-έξυπνη μηχανή που ελέγχει τον κόσμο ακούγεται σαν επιστημονική φαντασία”. Δήλωσε ο Manuel Cebrian, μέλος της συγγραφικής ομάδας της μελέτης και ηγέτης της ερευνητικής ομάδας. “Αλλά υπάρχουν ήδη μηχανήματα στηριζόμενα στην τεχνητή νοημοσύνη που εκτελούν συγκεκριμένες σημαντικές εργασίες ανεξάρτητα, χωρίς να κατανοούν πλήρως οι προγραμματιστές πώς το έμαθαν [sic].”

Τεχνητή νοημοσύνη και υπερ-ευφυΐα

Σύμφωνα με τη μελέτη της ερευνητικής ομάδας, που δημοσιεύθηκε στο περιοδικό Journal of Artificial Intelligence Research, θα πρέπει οπωσδήποτε να γίνει προσομοίωση μιας πιθανής υπερ-ευφυΐας ώστε να προβλεφθούν οι αντιδράσεις της.

Το ζήτημα αν θα μπορούσε να περιοριστεί μια υπερ-ευφυΐα δεν είναι καινούργιο.

Ο Manuel Alfonseca, συγγραφέας της μελέτης και επικεφαλής της ερευνητικής ομάδας στο Κέντρο Ανθρώπων και Μηχανών του Ινστιτούτου Max-Planck, δήλωσε ότι όλοι οι “αλγόριθμοι περιορισμού” δεν είναι διαφορετικοί από τον πρώτο νόμο της ρομποτικής του Asimov.

Το 1942, ο συγγραφέας επιστημονικής φαντασίας Ισαάκ Ασίμοφ παρουσίασε τους τρεις νόμους της ρομποτικής. Στο διήγημα “Runaround” ως μέρος της σειράς “I, Robot”.

Σύμφωνα με τον Asimov:

Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο ον.
Το ρομπότ πρέπει να υπακούει τις διαταγές που του δίνουν οι άνθρωποι, εκτός αν αυτές οι διαταγές έρχονται σε αντίθεση με τον πρώτο νόμο.

Το ρομπότ οφείλει να προστατεύει την ύπαρξή του, εφόσον αυτό δεν συγκρούεται με τον πρώτο και τον δεύτερο νόμο.

Η ομάδα διερεύνησε επίσης το «πρόβλημα διακοπής» του Άλαν Τούρινγκ. Καταλήγοντας στο συμπέρασμα ότι ένας «αλγόριθμος περιορισμού» ο οποίος θα «σταματούσε» με την λειτουργεία του την τεχνητή νοημοσύνη. Εάν πήγαινε να βλάψει τους ανθρώπους – θα ήταν απλώς ανέφικτος.
Το πρόβλημα διακοπής του Alan Turing

Το πρόβλημα διακοπής του Alan Turing διερευνά εάν ένα πρόγραμμα μπορεί να σταματήσει με αλγόριθμους περιορισμού ή θα συνεχίσει να λειτουργεί επ ‘αόριστον χωρίς έλεγχο.

Μια μηχανή βασιζόμενη στην τεχνητή νοημοσύνη υποβάλλεται σε διάφορες ερωτήσεις. Έτσι ώστε να δει αν καταλήγει σε τελικά συμπεράσματα ή παγιδεύεται σε έναν φαύλο κύκλο – loop.

“Μια υπερ-ευφυΐα θέτει ένα θεμελιωδώς διαφορετικό πρόβλημα από εκείνο που συνήθως μελετάμε. Υπό την σημαία της ηθικής των ρομπότ”, δήλωσαν οι ερευνητές.

Εάν η τεχνητή νοημοσύνη εκπαιδεύτηκε χρησιμοποιώντας ρομποτικούς νόμους, μπορεί να καταλήξει σε ανεξάρτητα συμπεράσματα. Αλλά αυτό δεν σημαίνει ότι μπορεί να ελεγχθεί.

«Η ικανότητα των σύγχρονων υπολογιστών να προσαρμόζονται χρησιμοποιώντας εξελιγμένους αλγόριθμους μηχανικής μάθησης καθιστά ακόμη πιο δύσκολη την πρόβλεψη για την ενδεχόμενη συμπεριφορά μιας υπερ-ευφυούς μηχανής. Η οποία στηρίζεται στην τεχνητή νοημοσύνη». Δήλωσε ο Iyad Rahwan, ένας άλλος ερευνητής της ομάδας.

Ο Rahwan προειδοποίησε ότι η τεχνητή νοημοσύνη δεν πρέπει να δημιουργηθεί εάν δεν είναι απαραίτητη. Καθώς είναι δύσκολο να χαρτογραφηθεί η πορεία της πιθανής εξέλιξής της ενώ δεν θα είμαστε σε θέση να περιορίσουμε τις ικανότητές της περαιτέρω.

Μπορεί να μην γνωρίζουμε καν πότε και αν έχουν μπει στη ζωή μας οι υπερ-ευφυείς μηχανές αφού εταιρείες όπως η Google, η Amazon και η Apple βρίσκονται στη διαδικασία διαρκούς ενσωμάτωσης της τεχνητής νοημοσύνης στις επιχειρήσεις τους – οπότε μπορεί να είναι θέμα χρόνο να έχουν μια υπερ-ευφυΐα στα χέρια τους.

Δυστυχώς, φαίνεται ότι οι ρομποτικοί νόμοι θα ήταν ανίσχυροι για να αποτρέψουν μια πιθανή «ρομποτική εξέγερση» και ότι η ανάπτυξη της τεχνητής νοημοσύνης είναι ένα πεδίο που πρέπει να εξεταστεί με προσοχή.

Με πληροφορίες από το Business Insider

techstories.gr