Η τεχνητή νοημοσύνη μπαίνει όλο και βαθύτερα στην ιατρική: ακτινογραφίες, ηλεκτροκαρδιογραφήματα, ηλεκτρονικοί φάκελοι και άλλα ευαίσθητα δεδομένα χρησιμοποιούνται για την ανάπτυξη συστημάτων που υπόσχονται καλύτερη διάγνωση.
Μια νέα μελέτη στο Nature, όμως, φέρνει στο προσκήνιο έναν κίνδυνο που δύσκολα βλέπει ο ασθενής: σε ορισμένες περιπτώσεις ένας επιτιθέμενος μπορεί να συμπεράνει αν τα δεδομένα συγκεκριμένου ανθρώπου χρησιμοποιήθηκαν για την εκπαίδευση ενός ιατρικού μοντέλου AI.
Τι ακριβώς έδειξαν οι ερευνητές
Η ομάδα πραγματοποίησε έναν από τους πρώτους ελέγχους ιδιωτικότητας σε επίπεδο ασθενούς για διαγνωστικά μοντέλα AI. Μελέτησε επτά μεγάλα σύνολα πραγματικών κλινικών δεδομένων, μεταξύ των οποίων ιατρικές εικόνες, ηλεκτροκαρδιογραφήματα και ηλεκτρονικοί φάκελοι υγείας.
Οι ερευνητές εξέτασαν τις λεγόμενες membership inference attacks. Η επίθεση δεν σημαίνει απαραίτητα ότι κάποιος ανοίγει και διαβάζει ολόκληρο τον ιατρικό φάκελο. Προσπαθεί να απαντήσει σε μια διαφορετική ερώτηση: «Χρησιμοποιήθηκαν τα δεδομένα αυτού του συγκεκριμένου ανθρώπου για να εκπαιδευτεί το μοντέλο;»
Και εδώ βρίσκεται το ανησυχητικό εύρημα: για ορισμένους ασθενείς η επιτυχία της επίθεσης πλησίασε το τέλειο επίπεδο, παρότι οι συγκεντρωτικοί μέσοι όροι μπορούσαν να κάνουν τον συνολικό κίνδυνο να φαίνεται πολύ μικρότερος.
Γιατί ακόμη και ένα «ναι» μπορεί να αποκαλύπτει κάτι ιατρικό
Αν ένα AI έχει εκπαιδευτεί σε έναν πολύ συγκεκριμένο πληθυσμό ασθενών, η αποκάλυψη ότι κάποιος συμμετείχε στο training set μπορεί από μόνη της να αποκαλύψει ευαίσθητη πληροφορία. Οι συγγραφείς δίνουν χαρακτηριστικό παράδειγμα: αν ένα μοντέλο έχει εκπαιδευτεί αποκλειστικά σε δεδομένα συγκεκριμένης νόσου, η επιβεβαίωση συμμετοχής μπορεί να λειτουργήσει ως έμμεση ένδειξη για την κατάσταση υγείας ενός ανθρώπου.
Ο μέσος όρος μπορεί να κρύβει τον πραγματικό κίνδυνο
Αυτό είναι ίσως το σημαντικότερο σημείο της μελέτης. Μέχρι σήμερα πολλές αξιολογήσεις ιδιωτικότητας κοιτούσαν τη συνολική επιτυχία μιας επίθεσης σε ολόκληρο το dataset. Όμως ο κίνδυνος δεν κατανέμεται ομοιόμορφα.
Κάποιοι ασθενείς ήταν ουσιαστικά πολύ πιο ευάλωτοι από άλλους. Επιπλέον, οι ερευνητές διαπίστωσαν δυσανάλογα υψηλή ευπάθεια σε ορισμένες υποεκπροσωπούμενες ομάδες, όταν τα δεδομένα χωρίστηκαν ανά κατάσταση νόσου, αυτοδηλούμενη φυλή, ασφάλιση, φύλο ή πρωτόκολλο απεικόνισης.
Ο «ελέφαντας στο δωμάτιο»
Η δημόσια συζήτηση γύρω από την ιατρική AI επικεντρώνεται συνήθως στο πόσο καλά μπορεί να διαγνώσει μια ασθένεια. Υπάρχει όμως ένα δεύτερο ερώτημα που δεν είναι τόσο εντυπωσιακό, αλλά αφορά κάθε άνθρωπο που δίνει ιατρικά δεδομένα:
Τι μπορεί να μάθει κάποιος για εμάς εξετάζοντας το ίδιο το μοντέλο που εκπαιδεύτηκε πάνω σε αυτά;
Η ανωνυμοποίηση ενός dataset δεν σημαίνει αυτομάτως ότι εξαφανίζονται όλοι οι κίνδυνοι. Τα μοντέλα μαθαίνουν στατιστικά μοτίβα από πραγματικούς ανθρώπους και η νέα έρευνα δείχνει ότι η αξιολόγηση της ιδιωτικότητας πρέπει να γίνεται και στο επίπεδο του κάθε ασθενούς.
Δεν σημαίνει ότι κάθε ιατρικό AI «διαρρέει τον φάκελό σου»
Χρειάζεται μια σημαντική διευκρίνιση. Η μελέτη δεν αποδεικνύει ότι οποιοδήποτε σύστημα AI μπορεί να εμφανίσει τον πλήρη ιατρικό φάκελο οποιουδήποτε ανθρώπου. Εξετάζει συγκεκριμένο είδος επίθεσης και συγκεκριμένα μοντέλα και datasets.
Οι ίδιοι οι ερευνητές αναφέρουν ότι παραμένει ανοικτό ερώτημα κατά πόσο οι άνισοι κίνδυνοι που παρατήρησαν επεκτείνονται και σε άλλα είδη επιθέσεων.
Υπάρχει τρόπος προστασίας;
Οι συγγραφείς προτείνουν αυστηρούς ελέγχους πρόσβασης και τεχνικές με μαθηματικά επαληθεύσιμες εγγυήσεις, όπως η differential privacy. Στα πειράματά τους, ισχυρότερη προστασία differential privacy μείωσε αποτελεσματικά την επιτυχία των membership inference attacks.
Η ιατρική τεχνητή νοημοσύνη μπορεί να προσφέρει τεράστια οφέλη. Αλλά για να λειτουργήσει χρειάζεται κάτι που δεν δημιουργείται με έναν αλγόριθμο: εμπιστοσύνη των ανθρώπων που παραδίδουν τα δεδομένα τους.
Και ίσως το ερώτημα της επόμενης δεκαετίας να μην είναι μόνο «τι μπορεί να μάθει η AI από τον ιατρικό μου φάκελο;».
Θα είναι και: τι μπορεί να μάθει κάποιος για εμένα από την AI που εκπαιδεύτηκε με αυτόν;
Πηγή: Nature, «Disparate privacy risks from medical AI», 24 Ιουνίου 2026.
Κατοχικά Νέα
Ελληνικά 