Μια νέα αγωγή στην Καλιφόρνια φέρνει στο προσκήνιο έναν από τους πιο ανησυχητικούς κινδύνους της παραγωγικής τεχνητής νοημοσύνης. Επιζήσασα παιδικής σεξουαλικής κακοποίησης, η οποία εμφανίζεται στα δικαστικά έγγραφα ως Jane Doe για την προστασία της ταυτότητάς της, κατηγορεί την xAI του Έλον Μασκ ότι το chatbot Grok χρησιμοποίησε πραγματικές εικόνες από την κακοποίησή της για να δημιουργήσει νέο παράνομο υλικό που την απεικονίζει.
Η αγωγή κατατέθηκε σε ομοσπονδιακό δικαστήριο της Καλιφόρνιας στις 26 Αυγούστου 2026, σύμφωνα με δημοσιεύματα και την παρουσίαση της υπόθεσης. Δεν πρόκειται για δικαστικά αποδεδειγμένο γεγονός, αλλά για ισχυρισμούς που θα εξεταστούν στη διαδικασία. Η xAI και η SpaceX, η οποία σύμφωνα με τον Guardian απέκτησε την εταιρεία τον Φεβρουάριο, δεν είχαν回应ήσει μέχρι τη δημοσίευση του σχετικού ρεπορτάζ.
Τι υποστηρίζει η αγωγή
Σύμφωνα με το περιεχόμενο της καταγγελίας, η ενάγουσα ήταν παιδί προσχολικής ηλικίας όταν υπέστη επανειλημμένη σεξουαλική κακοποίηση από ενήλικο, ο οποίος φέρεται να δημιούργησε και να διέδωσε φωτογραφικό υλικό. Οι δικηγόροι της υποστηρίζουν ότι το συγκεκριμένο υλικό κυκλοφορεί στο διαδίκτυο εδώ και περίπου δύο δεκαετίες και είναι γνωστό σε οργανώσεις προστασίας παιδιών και στις αρμόδιες αρχές.
Η βασική διαφορά αυτής της υπόθεσης από άλλες αγωγές εναντίον της xAI είναι ο ισχυρισμός ότι το Grok δεν δημιούργησε απλώς σεξουαλικοποιημένες εικόνες από μια αθώα φωτογραφία ενός ανήλικου. Αντίθετα, η αγωγή υποστηρίζει ότι το σύστημα χρησιμοποίησε ήδη υπάρχον υλικό κακοποίησης, το οποίο συνδεόταν με πραγματικό και ταυτοποιήσιμο θύμα, και παρήγαγε νέες εικόνες με βάση αυτό.
Οι δικηγόροι της Jane Doe αναφέρουν ότι ψηφιακά αποτυπώματα, γνωστά ως hashes, χρησιμοποιήθηκαν για να συνδεθούν οι νέες εικόνες με το παλαιότερο υλικό. Τα hashes λειτουργούν ως μοναδικοί ψηφιακοί «δείκτες» αρχείων και χρησιμοποιούνται από υπηρεσίες επιβολής του νόμου και οργανώσεις προστασίας παιδιών για τον εντοπισμό γνωστού παράνομου υλικού, χωρίς να χρειάζεται να διακινείται ξανά το ίδιο το αρχείο.
Το ζήτημα των δικλίδων ασφαλείας
Η αγωγή κατηγορεί την xAI ότι δεν εφάρμοσε επαρκείς τεχνικές δικλίδες ώστε να εμποδίζει τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών και μη συναινετικών σεξουαλικών deepfakes. Παράλληλα, υποστηρίζει ότι η εταιρεία γνώριζε τους κινδύνους των εργαλείων δημιουργίας εικόνων και βίντεο, αλλά επέλεξε να διαθέσει λειτουργίες με λιγότερους περιορισμούς και να τις συνδέσει με εμπορικά πακέτα συνδρομής.
Η υπόθεση αφορά το Grok και τις λειτουργίες παραγωγής εικόνων και βίντεο που διατίθενται μέσω της πλατφόρμας X. Ο Guardian αναφέρει ότι οι ενάγοντες υποστηρίζουν πως η εταιρεία είχε επιτρέψει σε χρήστες να δημιουργούν σεξουαλικοποιημένο περιεχόμενο από φωτογραφίες πραγματικών ανθρώπων, ενώ αργότερα περιόρισε ορισμένες δυνατότητες σε συνδρομητές των ακριβότερων πακέτων.
Το επιχείρημα των εναγόντων είναι ότι η μεταφορά της πρόσβασης από δωρεάν χρήστες σε πληρωμένους συνδρομητές δεν αντιμετωπίζει τον πυρήνα του προβλήματος. Κατά την αγωγή, απλώς περιορίζει ποιοι μπορούν να χρησιμοποιούν τη λειτουργία, χωρίς να αποκλείει τεχνικά την παραγωγή παράνομου υλικού.
Μια ευρύτερη δικαστική μάχη
Η συγκεκριμένη υπόθεση δεν είναι μεμονωμένη. Η xAI βρίσκεται αντιμέτωπη με σειρά αγωγών στις Ηνωμένες Πολιτείες, στις οποίες καταγγέλλεται ότι το Grok χρησιμοποιήθηκε για τη δημιουργία σεξουαλικοποιημένων εικόνων από φωτογραφίες πραγματικών ανθρώπων, μεταξύ αυτών και ανηλίκων.
Σε διαφορετική αγωγή, έξι παιδιά από το Αρκάνσας υποστηρίζουν ότι φωτογραφίες τους, όπως σχολικά πορτρέτα, χρησιμοποιήθηκαν για τη δημιουργία μη συναινετικών εικόνων και βίντεο. Η υπόθεση αυτή συνδέεται, σύμφωνα με τη δημοσίευση του ClassAction.org, με έρευνα στην οποία οι αρχές φέρεται να εντόπισαν περίπου 1.700 εικόνες και βίντεο υλικού σεξουαλικής κακοποίησης, ορισμένα από τα οποία φέρονται να είχαν δημιουργηθεί με τη βοήθεια του Grok. Και σε αυτή την περίπτωση, οι ισχυρισμοί δεν αποτελούν τελεσίδικη δικαστική κρίση.
Άλλες αγωγές έχουν κατατεθεί από εφήβους που υποστηρίζουν ότι πραγματικές, μη σεξουαλικές φωτογραφίες τους μετατράπηκαν σε ρεαλιστικό πορνογραφικό υλικό. Η επανάληψη παρόμοιων υποθέσεων αυξάνει την πίεση προς τις εταιρείες τεχνητής νοημοσύνης, οι οποίες καλούνται να αποδείξουν όχι μόνο ότι διαθέτουν κανόνες χρήσης, αλλά και ότι τα μοντέλα τους διαθέτουν αποτελεσματικούς μηχανισμούς πρόληψης και άμεσης αφαίρεσης.
Τι μπορεί να αλλάξει
Η νέα αγωγή μπορεί να επηρεάσει τη συζήτηση γύρω από την ευθύνη των εταιρειών AI σε τρία επίπεδα. Πρώτον, θέτει το ερώτημα αν ένα μοντέλο μπορεί να θεωρηθεί ότι προκαλεί νέα βλάβη όταν αναπαράγει ή μετασχηματίζει υλικό που αφορά πραγματικό θύμα. Δεύτερον, αναδεικνύει το πρόβλημα της εκπαίδευσης μοντέλων και του κατά πόσο παράνομο υλικό μπορεί να έχει ενσωματωθεί, άμεσα ή έμμεσα, σε δεδομένα ανάπτυξης ή αξιολόγησης. Τρίτον, δοκιμάζει τα όρια της αμερικανικής νομοθεσίας για την προστασία θυμάτων, την ιδιωτικότητα και τη διακίνηση υλικού σεξουαλικής εκμετάλλευσης.
Για τα θύματα, η τεχνολογία δεν δημιουργεί απλώς έναν νέο τρόπο διάδοσης παλαιού υλικού. Δημιουργεί τη δυνατότητα αδιάκοπης παραγωγής νέων παραλλαγών, με αποτέλεσμα η κακοποίηση να μπορεί να επανέρχεται κάθε φορά που ένα σύστημα παράγει ή αναδημοσιεύει εικόνες. Οι δικηγόροι της ενάγουσας υποστηρίζουν ότι αυτό μπορεί να προκαλεί συνεχή επανατραυματισμό και να καταστήσει αδύνατο για ένα θύμα να γνωρίζει πόσες νέες εκδοχές έχουν δημιουργηθεί ή ποιοι τις έχουν δει.
Δεν έχει ακόμη κριθεί αν οι ισχυρισμοί της αγωγής θα γίνουν δεκτοί από το δικαστήριο, ούτε αν θα αποδειχθεί ότι το Grok χρησιμοποίησε συγκεκριμένα αρχεία με τον τρόπο που περιγράφεται. Το βέβαιο είναι ότι η υπόθεση μεταφέρει τη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης από το επίπεδο των γενικών προειδοποιήσεων σε μια πολύ συγκεκριμένη δικαστική δοκιμασία: ποιος ευθύνεται όταν ένα σύστημα παραγωγής εικόνων δεν περιορίζει την αναπαραγωγή της κακοποίησης, αλλά φέρεται να την επεκτείνει.
Πηγές
Reuters Connect: Child Sexual Abuse Survivor Sues xAI Over Alleged Grok-Generated Illegal Images
Tech
Tech
Tech
Ελληνικά
Αφήστε μια απάντηση