17:14 - 04/02/2021

Ένα νέο εργαλείο AI (Τεχνητή Νοημοσύνη) που καθορίζει την αξιοπιστία των ανθρώπων μπορεί να μην είναι καθόλου αξιόπιστο

Ακολουθηστε μας στο Τελεγκραμ καναλι μας, εκει δεν υπαρχει φιμωση και μπορειτε παντα να μαθαινετε την πληροφορια μας

Οι τράπεζες μπορούν πλέον να απορρίπτουν ή να εγκρίνουν δάνεια ελέγχοντας το πρόσωπο και τη φωνή ενός ατόμου χρησιμοποιώντας μια πρόσφατα αναπτυγμένη τεχνητή νοημοσύνη (AI) που έχει σχεδιαστεί για να προσδιορίσει την αξιοπιστία.

Η ιαπωνική εταιρεία τεχνολογίας “Βαθύ Σκορ” (DeepScore) παρουσίασε πρόσφατα την εφαρμογή αναγνώρισης προσώπου και φωνής, την οποία ονόμασε επίσης DeepScore, στην εμπορική έκθεση ηλεκτρονικών ειδών ευρείας κατανάλωσης (Consumer Electronics Show) στο Λας Βέγκας. Η εφαρμογή με δυνατότητα τεχνητής νοημοσύνης αναλύει μυϊκές συσπάσεις στο πρόσωπο και αλλαγές στη φωνή για να υπολογίσει το “Αληθινό Σκορ” (True Score) ενώ ο πελάτης απαντά σε ένα ερωτηματολόγιο 10 ερωτήσεων. Η εφαρμογή μπορεί να προσδιορίσει την αξιοπιστία σε μόλις ένα λεπτό.

Η εταιρεία χαρακτηρίζει το DeepScore ως «κινητήρα βαθμολόγησης επόμενης γενιάς» για χρηματοπιστωτικά ιδρύματα. Ωστόσο, οι ειδικοί της τεχνολογίας ανησυχούν ότι η εφαρμογή ενδέχεται να είναι ανακριβής και να εισάγει διακρίσεις σε άτομα με τικ ή άγχος. Άλλοι έθεσαν επίσης ανησυχίες για την προστασία της ιδιωτικής ζωής.

Η εφαρμογή αναγνώρισης προσώπου και φωνής μπορεί να είναι ανακριβής και μεροληπτική

Ο Διευθύνων Σύμβουλος του DeepScore Shirabe Ogino (Σιράμπι Ογκίνο) δήλωσε ότι η εφαρμογή βασίζεται σε περισσότερες από 200 μελέτες σχετικά με τη σχέση μεταξύ ανεντιμότητας, μικρο-κινήσεων και άγχους. «Όταν λέτε ένα ψέμα, αισθάνεστε άγχος, το μάτι ή το στόμα σας κινείται και η φωνή σας θα παρακάμψει», δήλωσε ο Ogino.

Η εταιρεία ισχυρίζεται ότι η εφαρμογή μπορεί να προσδιορίσει ψέματα με ακρίβεια 70 τοις εκατό και 30% ψευδώς-αρνητικό ποσοστό. Εάν η εφαρμογή πιστεύει ότι ο πελάτης είπε ψέματα σε οποιαδήποτε από τις ερωτήσεις, θα ειδοποιήσει τις εταιρείες να αυξήσουν τα τέλη ή να πραγματοποιήσουν πρόσθετες εξετάσεις.

Ωστόσο, οι ειδικοί της AI έχουν επιφυλάξεις για το νέο προϊόν. Ο Rumman Chowdhury (Ρούμαν Τσαοντούρι), ο ιδρυτής της αλγοριθμικής πλατφόρμας ελέγχου μεροληψίας Parity AI (Πάριτι Έϊ Άϊ), πιστεύει ότι η εφαρμογή μπορεί να είναι προκατειλημμένη έναντι ατόμων με τικ και άγχους. Είπε ότι ενώ υπάρχουν γενικά πρότυπα συμπεριφοράς κατά το ψέμα, αυτά δεν είναι πάντα αλήθεια για όλους.

«Ίσως αγγίξω τη μύτη μου γιατί είναι ένα νευρικό τικ που έχω αναπτύξει. Δεν σημαίνει ότι λέω ψέματα », είπε ο Chowdhury στη Motherboard (Μόδερμπορντ). Πρόσθεσε ότι πολλές από τις μελέτες που ανέφερε η εταιρεία αφορούσαν τη συσχέτιση των κινήσεων του προσώπου με το άγχος και όχι από μόνες τους.

Ο Amos Toh (Άμος Το), ερευνητής τεχνητής νοημοσύνης για το Παρατηρητήριο Ανθρωπίνων Δικαιωμάτων (Human Rights Watch), εξέφρασε παρόμοιες ανησυχίες.
«Η σοβαρή ανησυχία που έχω για αυτό το είδος τεχνολογίας είναι ότι δεν υπάρχει απλώς αξιόπιστη επιστήμη που να δείχνει ότι οι εκφράσεις του προσώπου ή οι εκτροπές της φωνής τους εκπροσωπούν τις εσωτερικές ψυχικές και συναισθηματικές τους καταστάσεις», δήλωσε ο Toh.

Ο Ogino παραδέχτηκε ότι κανένας αλγόριθμος δεν είναι 100 τοις εκατό ακριβής. Ωστόσο, σημείωσε ότι η εφαρμογή έχει βαθμονομηθεί για να αντιμετωπίσει τις φυσικές διαφορές και αποτελεί μόνο ένα στοιχείο της διαδικασίας λήψης αποφάσεων του δανειστή.

Η αναγνώριση προσώπου απειλεί την ιδιωτική ζωή

Οι ειδικοί ασφάλειας δεδομένων ανησυχούν επίσης για τις απειλές απορρήτου που θέτει η εφαρμογή. Ο Ιωάννης Κουβάκας, νομικός αξιωματούχος της Διεθνές Απόρρητου (Privacy International) με έδρα το Ηνωμένο Βασίλειο, δήλωσε ότι η χρήση της εφαρμογής δεν είναι πιθανώς νόμιμη στην Ευρωπαϊκή Ένωση (ΕΕ) λόγω του Γενικού Κανονισμού Προστασίας Δεδομένων (GDPR).
Σύμφωνα με τον GDPR, τα βιομετρικά δεδομένα όπως οι εικόνες προσώπου θεωρούνται «ευαίσθητα». Η επεξεργασία βιομετρικών δεδομένων για σκοπούς αναγνώρισης απαγορεύεται εκτός εάν το άτομο συναινέσει ρητά.

Ωστόσο, ορισμένες χώρες δεν διαθέτουν ολοκληρωμένους νόμους για την προστασία δεδομένων, συμπεριλαμβανομένης της Ινδονησίας και του Βιετνάμ όπου η DeepScore έχει ενεργούς πελάτες. Στις Ηνωμένες Πολιτείες, οι νόμοι αναγνώρισης προσώπου διαφέρουν ανά πολιτεία. Πολιτείες όπως το Ιλλινόις και η Ουάσιγκτον εφαρμόζουν αυστηρούς κανονισμούς, αλλά άλλες όχι. (Σχετικά: Κράτος παρακολούθησης: 1 στους 2 Αμερικανούς ενήλικες βρίσκεται ήδη στη βάση δεδομένων αναγνώρισης προσώπου του FBI.)

Ο Ogino είπε ότι οι υποψήφιοι δανειολήπτες μπορούν να εξαιρεθούν από την υπηρεσία ή να βρουν άλλο χρηματοπιστωτικό ίδρυμα για να συνεργαστούν. Αλλά η επιλογή αυτών των επιλογών συχνά παρασύρεται από μια «άδικη ισορροπία ισχύος».

«Είναι πολύ εύκολο να ισχυριστείς ότι βασίζεσαι στη συγκατάθεση, αλλά υπάρχει μια πολύ άδικη ισορροπία δύναμης», είπε ο Κουβάκας. “Είναι πολύ δύσκολο να πεις όχι στο άτομο που αποφασίζει αν θα λάβεις [τα χρήματά σου] ή όχι τον επόμενο μήνα.”

Μάθετε περισσότερα σχετικά με τις απειλές απορρήτου που θέτει η βιομηχανία τεχνολογίας στο PrivacyWatch.news.

Μετάφραση: Ξένια Ιωαννίδου

Οι πηγές περιλαμβάνουν: (Natural News)

 

Ακολουθηστε μας στο Τελεγκραμ καναλι μας, εκει δεν υπαρχει φιμωση και μπορειτε παντα να μαθαινετε την πληροφορια μας

Σχετικά με Xenia Ioannidou
Δασκάλα Εναλλακτικών Θεραπειών, Καλλιτέχνης και Ακτιβίστρια. Τον Μάιο του 2009, συνυπέγραψα μια αγωγή για εσχάτη προδοσία εναντίον των βουλευτών που έφεραν το ΔΝT, την λιτότητα και την αμετάκλητη παραχώρηση των κυριαρχικών δικαιωμάτων των Ελλήνων. Παλεύω για το σωστό και το δίκαιο και το δικαίωμα στην αυτοπραγμάτωση των ανθρώπων & λαών.

Σχόλια Αναγνωστών (2)

  1. “Φωνάζει ο κλέφτης” (αναζητώντας εργαλεία αξιοπιστίας έναντι των θυμάτων του).

  2. ΠάνοςΓέριμου 02/04/2021 @ 10:45 ΜΜ

    Εύγε Σανβέαν!

Σχολιάστε

To e-mail σας δεν θα δημοσιευθεί


*