00:53 - 30/01/2021

Οι άνθρωποι χάνουν τον έλεγχο απέναντι στην τεχνητή νοημοσύνη

Είναι πολύ πιθανό οι άνθρωποι να μην καταφέρουν να ελέγξουν την τεχνητή νοημοσύνη σύμφωνα με έρευνα που πραγματοποιήθηκε από ομάδα του Ινστιτούτου Ανθρώπων και Μηχανών του Max-Planck .

“Μια υπερ-έξυπνη μηχανή που ελέγχει τον κόσμο ακούγεται σαν επιστημονική φαντασία”. Δήλωσε ο Manuel Cebrian, μέλος της συγγραφικής ομάδας της μελέτης και ηγέτης της ερευνητικής ομάδας. “Αλλά υπάρχουν ήδη μηχανήματα στηριζόμενα στην τεχνητή νοημοσύνη που εκτελούν συγκεκριμένες σημαντικές εργασίες ανεξάρτητα, χωρίς να κατανοούν πλήρως οι προγραμματιστές πώς το έμαθαν [sic].”

Τεχνητή νοημοσύνη και υπερ-ευφυΐα

Σύμφωνα με τη μελέτη της ερευνητικής ομάδας, που δημοσιεύθηκε στο περιοδικό Journal of Artificial Intelligence Research, θα πρέπει οπωσδήποτε να γίνει προσομοίωση μιας πιθανής υπερ-ευφυΐας ώστε να προβλεφθούν οι αντιδράσεις της.

Το ζήτημα αν θα μπορούσε να περιοριστεί μια υπερ-ευφυΐα δεν είναι καινούργιο.

Ο Manuel Alfonseca, συγγραφέας της μελέτης και επικεφαλής της ερευνητικής ομάδας στο Κέντρο Ανθρώπων και Μηχανών του Ινστιτούτου Max-Planck, δήλωσε ότι όλοι οι “αλγόριθμοι περιορισμού” δεν είναι διαφορετικοί από τον πρώτο νόμο της ρομποτικής του Asimov.

Το 1942, ο συγγραφέας επιστημονικής φαντασίας Ισαάκ Ασίμοφ παρουσίασε τους τρεις νόμους της ρομποτικής. Στο διήγημα “Runaround” ως μέρος της σειράς “I, Robot”.

Σύμφωνα με τον Asimov:

Το ρομπότ δε θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά του θα επιτρέψει να βλαφτεί ανθρώπινο ον.
Το ρομπότ πρέπει να υπακούει τις διαταγές που του δίνουν οι άνθρωποι, εκτός αν αυτές οι διαταγές έρχονται σε αντίθεση με τον πρώτο νόμο.

Το ρομπότ οφείλει να προστατεύει την ύπαρξή του, εφόσον αυτό δεν συγκρούεται με τον πρώτο και τον δεύτερο νόμο.

Η ομάδα διερεύνησε επίσης το «πρόβλημα διακοπής» του Άλαν Τούρινγκ. Καταλήγοντας στο συμπέρασμα ότι ένας «αλγόριθμος περιορισμού» ο οποίος θα «σταματούσε» με την λειτουργεία του την τεχνητή νοημοσύνη. Εάν πήγαινε να βλάψει τους ανθρώπους – θα ήταν απλώς ανέφικτος.
Το πρόβλημα διακοπής του Alan Turing

Το πρόβλημα διακοπής του Alan Turing διερευνά εάν ένα πρόγραμμα μπορεί να σταματήσει με αλγόριθμους περιορισμού ή θα συνεχίσει να λειτουργεί επ ‘αόριστον χωρίς έλεγχο.

Μια μηχανή βασιζόμενη στην τεχνητή νοημοσύνη υποβάλλεται σε διάφορες ερωτήσεις. Έτσι ώστε να δει αν καταλήγει σε τελικά συμπεράσματα ή παγιδεύεται σε έναν φαύλο κύκλο – loop.

“Μια υπερ-ευφυΐα θέτει ένα θεμελιωδώς διαφορετικό πρόβλημα από εκείνο που συνήθως μελετάμε. Υπό την σημαία της ηθικής των ρομπότ”, δήλωσαν οι ερευνητές.

Εάν η τεχνητή νοημοσύνη εκπαιδεύτηκε χρησιμοποιώντας ρομποτικούς νόμους, μπορεί να καταλήξει σε ανεξάρτητα συμπεράσματα. Αλλά αυτό δεν σημαίνει ότι μπορεί να ελεγχθεί.

«Η ικανότητα των σύγχρονων υπολογιστών να προσαρμόζονται χρησιμοποιώντας εξελιγμένους αλγόριθμους μηχανικής μάθησης καθιστά ακόμη πιο δύσκολη την πρόβλεψη για την ενδεχόμενη συμπεριφορά μιας υπερ-ευφυούς μηχανής. Η οποία στηρίζεται στην τεχνητή νοημοσύνη». Δήλωσε ο Iyad Rahwan, ένας άλλος ερευνητής της ομάδας.

Ο Rahwan προειδοποίησε ότι η τεχνητή νοημοσύνη δεν πρέπει να δημιουργηθεί εάν δεν είναι απαραίτητη. Καθώς είναι δύσκολο να χαρτογραφηθεί η πορεία της πιθανής εξέλιξής της ενώ δεν θα είμαστε σε θέση να περιορίσουμε τις ικανότητές της περαιτέρω.

Μπορεί να μην γνωρίζουμε καν πότε και αν έχουν μπει στη ζωή μας οι υπερ-ευφυείς μηχανές αφού εταιρείες όπως η Google, η Amazon και η Apple βρίσκονται στη διαδικασία διαρκούς ενσωμάτωσης της τεχνητής νοημοσύνης στις επιχειρήσεις τους – οπότε μπορεί να είναι θέμα χρόνο να έχουν μια υπερ-ευφυΐα στα χέρια τους.

Δυστυχώς, φαίνεται ότι οι ρομποτικοί νόμοι θα ήταν ανίσχυροι για να αποτρέψουν μια πιθανή «ρομποτική εξέγερση» και ότι η ανάπτυξη της τεχνητής νοημοσύνης είναι ένα πεδίο που πρέπει να εξεταστεί με προσοχή.

Με πληροφορίες από το Business Insider

techstories.gr

Σχετικά με Κατοχικά Νέα
"Το katohika.gr δεν υιοθετεί τις απόψεις των αρθρογράφων, ούτε ταυτίζεται με τα ρεπορτάζ που αναδημοσιεύει από άλλες ενημερωτικές ιστοσελίδες και δεν ευθύνεται για την εγκυρότητα, την αξιοπιστία και το περιεχόμενό τους. Συνεπώς, δε φέρει καμία ευθύνη εκ του νόμου. Το katohika.gr , ασπάζεται βαθιά, τις Δημοκρατικές αρχές της πολυφωνίας και ως εκ τούτου, αναδημοσιεύει κείμενα και ρεπορτάζ, από όλους τους πολιτικούς, κοινωνικούς και επιστημονικούς χώρους." Η συντακτική ομάδα των κατοχικών νέων φέρνει όλη την εναλλακτική είδηση προς ξεσκαρτάρισμα απο τους ερευνητές αναγνώστες της! Έχουμε συγκεκριμένη θέση απέναντι στην υπεροντοτητα πληροφορίας και γνωρίζουμε ότι μόνο με την διαδικασία της μη δογματικής αλήθειας μπορείς να ακολουθήσεις τα χνάρια της πραγματικής αλήθειας! Εδώ λοιπόν θα βρειτε ότι θέλει το πεδίο να μας κάνει να ασχοληθούμε ...αλλά θα βρείτε και πολλούς πλέον που κατανόησαν και την πληροφορία του πεδιου την κάνουν κομματάκια! Είμαστε ομάδα έρευνας και αυτό σημαίνει ότι δεν έχουμε μαζί μας καμία ταμπέλα που θα μας απομακρύνει από το φως της αλήθειας ! Το Κατοχικά Νέα λοιπόν δεν είναι μια ειδησεογραφική σελίδα αλλά μια σελίδα έρευνας και κριτικής όλων των στοιχείων της καθημερινότητας ! Το Κατοχικά Νέα είναι ο χώρος όπου οι ελεύθεροι ερευνητές χρησιμοποιούν τον τοίχο αναδημοσιεύσεως σαν αποθήκη στοιχείων σε πολύ μεγαλύτερη έρευνα από ότι το φανερό έτσι ώστε μόνοι τους να καταλήξουν στο τι είναι αλήθεια και τι είναι ψέμα ! Χωρίς να αναγκαστούν να δεχθούν δογματικές και μασημενες αλήθειες από κανέναν άλλο πάρα μόνο από την προσωπική τους κρίση!

Σχόλια Αναγνωστών (5)

  1. ΜΙΧΑ ΕΛ 369 01/30/2021 @ 1:12 ΠΜ

    ΜΕ ΕΝΑ (EMP)electromagnetic pulse ΤΕΧΝΗΤΟ Η ΦΥΣΙΚΟ ΠΡΟΕΡΧΟΜΕΝΟ ΑΠΟ ΤΟΝ ΕΛ+ΙΟ ΗΛΙΟ ΟΤΙΔΗΠΟΤΕ ΗΛΕΚΤΡΟΝΙΚΟ ΘΑ ΚΑΤΑΣΤΡΑΦΕΤΕ Η ΘΑ ΧΑΛΑΕΙ ΓΙ’ΑΥΤΟ ΜΗΝ ΧΑΙΡΕΣΤΕ ΠΟΛΥ ΕΣΕΙΣ ΤΑ ΚΑΠΙΣΤΡΟΜΕΝΑ ΜΕΛΛΟΝΤΙΚΑ ΤΣΙΠΑΡΙΣΜΕΝΑ Σ@ΤΑΝΟΠΑΙΔΑ ΤΟ ΕΧΕΤΕ ΧΑΣΕΙ ΤΟ ΠΑΙΧΝΙΔΙ ΑΠΟ ΤΗΝ ΑΡΧΗ ΤΟ ΣΧΕΔΙΟ ΤΟΥ ΘΕΟΥ ΟΛΟΙ ΑΚΟΛΟΥΘΕΙΤΑΙ ΑΠΛΑ ΔΕΝ ΤΟ ΓΝΩΡΙΖΕΤΕ ΤΟΣΟ ΒΛΑΚΕΣ ΕΙΣΤΕ ]+[

  2. ΠΡΟΓΡΑΜΜΑΤΙΣΤΗΣ ΠΡΟΒΑΤΩΝ ΟΡΑΜΑΤΩΝ ΜΕΣΩ ΤΩΝ ΟΝΕΙΡΩΝ 01/30/2021 @ 1:20 ΠΜ

    1.2.2021

    2.2.2021

    ΠΑΠΑΛΑ
    ΚΑΚΑΛΑ
    ΛΑΒΑΡΑ

  3. ονειρευτης 01/30/2021 @ 9:00 ΠΜ

    «Η ικανότητα των σύγχρονων υπολογιστών να προσαρμόζονται χρησιμοποιώντας εξελιγμένους αλγόριθμους μηχανικής μάθησης καθιστά ακόμη πιο δύσκολη την πρόβλεψη για την ενδεχόμενη συμπεριφορά μιας υπερ-ευφυούς μηχανής. Η οποία στηρίζεται στην τεχνητή νοημοσύνη». Δήλωσε ο Iyad Rahwan, ένας άλλος ερευνητής της ομάδας.
    καλα τα λεει ο rahwan..Ο Rahwan προειδοποίησε ότι η τεχνητή νοημοσύνη δεν πρέπει να δημιουργηθεί εάν δεν είναι απαραίτητη..ερωτω ειναι απαραιτητη???
    μου ηρθε στο νου ..ο πυργος της βαβελ!

  4. Ιωλκαίος 01/30/2021 @ 10:43 ΠΜ

    Η τριλογία “Terminator” τα είπε όλα, εδώ και 36 χρόνια. Αλλά ποιός άκουσε…

  5. θα την παθουν οπως ο Μιδας που δεν μπορουσε να καρπωθει τον χρυσο που εκαναν τα χερια του.μπορει και να ψοφησουν απο πεινα χαχα

Σχολιάστε

To e-mail σας δεν θα δημοσιευθεί


*