RAND: Digital ID, βιομετρικά και AI μπορούν να μετατραπούν σε εργαλεία στοχοποίησης πολιτών

Όταν μια οργάνωση όπως η RAND Europe γράφει επίσημα ότι digital ID, βιομετρικά και AI μπορούν να χρησιμοποιηθούν για στοχοποίηση ατόμων ή ομάδων, η συζήτηση παύει να είναι θεωρία συνωμοσίας και γίνεται θεσμική προειδοποίηση.

Νέα έκθεση της RAND Europe εξετάζει τη χρήση αναδυόμενων τεχνολογιών από αστυνομία, υπηρεσίες ασφαλείας και κρατικούς φορείς. Το συμπέρασμα είναι διπλό: τα συστήματα αυτά μπορούν να προσφέρουν ταχύτητα, ακρίβεια και καλύτερη διαχείριση, αλλά μπορούν επίσης να δημιουργήσουν μηχανισμούς διακριτικής παρακολούθησης, αδιαφανούς λήψης αποφάσεων και στοχευμένης επιτήρησης.

Δεν μιλάμε πια μόνο για δακτυλικά αποτυπώματα

Στην έκθεση περιγράφεται ένα νέο οικοσύστημα βιομετρικών τεχνολογιών που ξεπερνά την κλασική αναγνώριση προσώπου. Φωνή, βάδισμα, τρόπος πληκτρολόγησης, κινήσεις στην οθόνη, ακόμη και συμπεριφορικά μοτίβα μπορούν να λειτουργήσουν ως αναγνωριστικά σήματα.

Η RAND σημειώνει ότι η τεχνολογία προχωρά προς πολυτροπικά συστήματα, όπου πολλά διαφορετικά βιομετρικά στοιχεία συνδυάζονται. Αυτό αυξάνει την αποτελεσματικότητα, αλλά ταυτόχρονα αυξάνει και τη δυνατότητα ταυτοποίησης ενός ανθρώπου σχεδόν παντού.

Digital ID: από εργαλείο ευκολίας σε κεντρικό σημείο ελέγχου

Η έκθεση αναγνωρίζει τα οφέλη των ψηφιακών ταυτοτήτων, ειδικά όταν πολίτες χρειάζονται γρήγορη πρόσβαση σε κρατικές ή οικονομικές υπηρεσίες. Χρησιμοποιεί μάλιστα παραδείγματα όπου digital ID βοήθησε ανθρώπους σε συνθήκες κρίσης.

Ταυτόχρονα όμως τονίζει το αντίστροφο σενάριο: όταν μεγάλη ποσότητα προσωπικών πληροφοριών συγκεντρώνεται γύρω από μία κρατική ή κρατικά συνδεδεμένη ταυτότητα, μια παραβίαση ή μια αλλαγή πολιτικής μπορεί να δώσει πρόσβαση σε εξαιρετικά πλούσιο προφίλ του πολίτη.

Το πρόβλημα γίνεται ακόμη μεγαλύτερο όταν η τεχνολογική υποδομή εξαρτάται από εξωτερικούς προμηθευτές. Τότε προκύπτουν τα ερωτήματα που εδώ και χρόνια επιμένουμε ότι πρέπει να τίθενται: ποιος ελέγχει την αρχιτεκτονική, πού αποθηκεύονται τα δεδομένα, ποιος έχει τεχνική πρόσβαση και τι συμβαίνει όταν αλλάξει ο σκοπός χρήσης;

Η επικίνδυνη ένωση AI και βιομετρικών

Το πλέον κρίσιμο κομμάτι είναι η σύνδεση της βιομετρικής ταυτοποίησης με AI. Ένα σύστημα δεν χρειάζεται πλέον απλώς να αναγνωρίζει ποιος είσαι. Μπορεί να αξιολογεί μοτίβα, να συσχετίζει κινήσεις, να κάνει προβλέψεις και να εισηγείται ενέργειες σε έναν ανθρώπινο χειριστή.

Η RAND προειδοποιεί ότι ακόμη και το γνωστό μοντέλο «human in the loop» δεν αρκεί από μόνο του. Οι άνθρωποι μπορεί να εμπιστεύονται υπερβολικά την απόφαση ενός αλγορίθμου, ειδικά όταν αυτή παρουσιάζεται ως τεχνικά αντικειμενική. Το φαινόμενο αυτό είναι γνωστό ως automation bias.

Το σημείο που πρέπει να κρατήσουμε

Για χρόνια η δημόσια συζήτηση γινόταν με ένα απλοϊκό δίλημμα: «αν δεν έχεις τίποτα να κρύψεις, γιατί φοβάσαι την ταυτοποίηση;». Αυτό όμως δεν είναι το πραγματικό ζήτημα.

Το ζήτημα είναι ότι όταν ταυτότητα, βιομετρικά, συμπεριφορά, online δραστηριότητα και AI ανάλυση μπορούν να ενωθούν σε ένα ενιαίο περιβάλλον, δημιουργείται τεχνικά η δυνατότητα για πολύ βαθύτερο έλεγχο από οποιοδήποτε μεμονωμένο σύστημα του παρελθόντος.

Η RAND δεν υποστηρίζει ότι κάθε digital ID είναι εργαλείο καταπίεσης. Υποστηρίζει όμως ξεκάθαρα ότι χωρίς ανεξάρτητους ελέγχους, ίχνη πρόσβασης, σαφείς κανόνες ιδιοκτησίας των δεδομένων, δυνατότητα ένστασης και πραγματική ανθρώπινη εποπτεία, τα ίδια εργαλεία μπορούν να χρησιμοποιηθούν για διακρίσεις ή σκόπιμη στοχοποίηση.

Από τη «συνωμοσία» στην επίσημη παραδοχή του κινδύνου

Αυτό είναι και το σημαντικότερο μέρος της είδησης. Δεν χρειάζεται να ισχυριστεί κανείς ότι υπάρχει ένα ενιαίο κρυφό σχέδιο. Αρκεί να δει ότι η τεχνική δυνατότητα δημιουργείται κομμάτι-κομμάτι και ότι πλέον ακόμη και θεσμικοί οργανισμοί ζητούν φραγμούς πριν αυτή η δυνατότητα καταλήξει ανεξέλεγκτη.

Η συζήτηση για το digital ID επομένως δεν πρέπει να περιορίζεται στο αν είναι «βολικό». Πρέπει να αφορά την αρχιτεκτονική εξουσίας που δημιουργείται γύρω του.

Πηγή: RAND Europe, Novel Technologies for Security Sector Governance and Management, όπως παρουσιάστηκε από το Biometric Update.