Τεχνητή νοημοσύνη: τι συμβαίνει στο “μαύρο κουτί”;

Τεχνητή νοημοσύνη: τι συμβαίνει στο “μαύρο κουτί”;

Τι είναι το “μαύρο κουτί”: Τα δίκτυα τεχνητής νοημοσύνης που βασίζονται στον ανθρώπινο εγκέφαλο (brain-based artificial networks) πολύ συχνά αναφέρονται ως “μαύρο κουτί”. Και αυτό επειδή ακόμα και οι ερευνητές αδυνατούν να προσδιορίσουν τον τρόπο με τον οποίο “μαθαίνουν” και κάνουν “προβλέψεις”. Το πιο ανησυχητικό, όμως, είναι το γεγονός πως η αντίληψη της τεχνητής νοημοσύνης για το ανθρώπινο DNA δεν είναι εκείνη που περίμεναν οι ερευνητές!

Ο καθηγητής Peter Koo και ο συνεργάτης του Matt Ploenzke, του Cold Spring Harbor Laboratory (CSHL), ανέφεραν στοιχεία για τη μελέτη και έρευνά τους. Βρήκαν έναν τρόπο να εκπαιδεύσουν μηχανές τεχνητής νοημοσύνης για να προβλέψουν τη λειτουργία των αλληλουχιών DNA. Χρησιμοποίησαν “νευρικά δίχτυα”, έναν τύπο τεχνητής νοημοσύνης (AI) που χρησιμοποιείται συνήθως για την ταξινόμηση εικόνων. Η διδασκαλία του νευρικού δικτύου, για την πρόβλεψη της λειτουργίας των βραχέων τμημάτων του DNA, του επέτρεψε να λειτουργήσει μέχρι την αποκρυπτογράφηση μεγαλύτερων μοτίβων. Οι ερευνητές ελπίζουν να αναλύσουν πιο σύνθετες αλληλουχίες DNA που ρυθμίζουν τη γονιδιακή δραστηριότητα. Έτσι, σκοπεύουν να εξελίξουν το DNA και να προλάβουν πιθανές ασθένειες.

Τα πράγματα, όμως, φαίνεται να έχουν διαφορετική εξέλιξη

Οι ερευνητές μπορούν να εκπαιδεύσουν έναν υπολογιστή “νευρωνικού δικτύου” που μοιάζει με εγκέφαλο, να αναγνωρίσει αντικείμενα. Όπως γάτες ή αεροπλάνα. Δείχνοντάς του πολλές εικόνες από το καθένα, συνέχεια. Αφού δείξουν πολλές διαφορετικές εικόνες στο μηχάνημα τεχνητής νοημοσύνης, ελέγχουν στη συνέχεια αν αυτό “έμαθε” να τα ξεχωρίζει. Στο επόμενο βήμα, δείχνουν στο μηχάνημα μία νέα φωτογραφία μιας γάτας ή αεροπλάνου που δεν έχει ξαναδεί. Το αποτέλεσμα είναι εκπληκτικό, καθώς πάντα το μηχάνημα μπορούσε να ξεχωρίσει τι έβλεπε, ακόμη και αν ήταν καινούριο! Και μάλιστα μπορούσε να το κατηγοριοποιήσει βάσει πολύ εξειδικευμένων χαρακτηριστικών.

Ωστόσο, τα πράγματα ήταν πολύ διαφορετικά όταν οι ερευνητές προσπάθησαν να εφαρμόσουν αυτή την τεχνολογία στην ανάλυση των μοτίβων DNA. Οι άνθρωποι δεν μπορούν να αναγνωρίσουν τα μοτίβα με γυμνό μάτι. Ο εγκέφαλός μας δεν έχει δει ποτέ στην πραγματικότητα το DNA του. Συνεπώς δεν έχουμε “μάθει” να ξεχωρίζουμε τέτοια μοτίβα. Αυτές οι μηχανές τεχνητής νοημοσύνης που βασίζονται στον ανθρώπινο εγκέφαλο, επίσης δεν θα έπρεπε να μπορούν να το αναγνωρίσουν.

Κι όμως, τα μηχανήματα φαίνεται να αντιλαμβάνονται αυτά τα μοτίβα!

Οι ερευνητές δεν είναι σε θέση να καταλάβουν αν τα ΑΙ έχουν αντιληφθεί σωστά ή όχι αυτά τα μοτίβα ανθρώπινου DNA. Τα νευρικά δίκτυα μαθαίνουν και λαμβάνουν αποφάσεις ανεξάρτητα από τους ανθρώπινους προγραμματιστές τους! Οι ερευνητές αναφέρονται σε αυτή την κρυφή διαδικασία ως “το μαύρο κουτί.” Είναι δύσκολο να εμπιστευθούμε τις εξόδους και τα αποτελέσματα του μηχανήματος αν δεν γνωρίζουμε τι συμβαίνει μέσα στο ίδιο το πρόγραμμα!

“Ταΐζουν” ανθρώπινο DNA στο μηχάνημα τεχνητής νοημοσύνης!

Ο Koo και η ομάδα του τροφοδοτούσαν DNA (γονιδιωματικής αλληλουχίας) σε ένα συγκεκριμένο είδος νευρωνικού δικτύου που ονομάζεται convolutional neural network (CNN). Το οποίο μοιάζει με τον τρόπο με τον οποίο οι εγκέφαλοι των ζώων επεξεργάζονται εικόνες.

Ο Koo αναφέρει:

“Μπορεί να είναι αρκετά εύκολο να ερμηνεύσουμε αυτά τα νευρωνικά δίκτυα. Επειδή θα δείχνουν απλώς, ας πούμε, τα μουστάκια μιας γάτας. Και γι ‘ αυτό διαλέξαμε μια τόσο μεγάλη σύγκριση: γάτα και αεροπλάνο. Διότι το μηχάνημα μπορεί εύκολα να διαχωρίσει τα χαρακτηριστικά. Στη γονιδιωματική, δεν είναι τόσο απλό όμως. Επειδή οι γονιδιωματικές αλληλουχίες δεν είναι σε μια μορφή όπου οι άνθρωποι πραγματικά κατανοούν κάποιο από τα πρότυπα που δείχνουν αυτά τα νευρωνικά δίκτυα.”

Η έρευνα του Koo

Η έρευνα του Koo, που αναφέρθηκε στο περιοδικό Nature Machine Intelligence, εισήγαγε μια νέα μέθοδο για να διδάξει σημαντικά πρότυπα DNA σε ένα στρώμα του CNN του. Αυτό επέτρεψε στο νευρωνικό του δίκτυο να βασιστεί στα δεδομένα για να εντοπίσει πιο περίπλοκα μοτίβα. Η ανακάλυψη του Koo καθιστά εφικτό πλέον να “δούμε” τι γίνεται μέσα στο μαύρο κουτί. Καθώς και τον εντοπισμό ορισμένων βασικών χαρακτηριστικών που οδηγούν στη διαδικασία λήψης αποφάσεων της τεχνητής νοημοσύνης.

Αλλά ο Koo έχει ένα μεγαλύτερο στόχο για τον τομέα της τεχνητής νοημοσύνης. Υπάρχουν δύο τρόποι βελτίωσης ενός νευρικού δικτύου: η ερμηνευτικότητα και η ευρωστία. Η ερμηνευσιμότητα αναφέρεται στην ικανότητα των ανθρώπων να αποκρυπτογραφούν τους λόγους που οι μηχανές δίνουν μια συγκεκριμένη πρόβλεψη. Η ικανότητα να παράγει μια απάντηση ακόμη και με λάθη στα δεδομένα ονομάζεται ευρωστία. Συνήθως, οι ερευνητές επικεντρώνονται μόνο σε ένα από τα δυο.

Ο Koo αναφέρει:

“Αυτό που προσπαθεί να κάνει η έρευνά μου είναι να γεφυρώσει αυτά τα δύο μαζί. Δεν νομίζω ότι είναι ξεχωριστοί παράμετροι. Νομίζω ότι έχουμε καλύτερη ερμηνευσιμότητα εάν τα μοντέλα μας είναι πιο ισχυρά.”

Ο Koo ελπίζει ότι εάν μια μηχανή μπορεί να βρει ισχυρά και ερμηνεύσιμα πρότυπα DNA που σχετίζονται με τη γονιδιακή ρύθμιση, θα βοηθήσει τους γενετιστές να καταλάβουν πώς οι μεταλλάξεις επηρεάζουν τον καρκίνο και άλλες ασθένειες. Ωστόσο, το γεγονός πως υπάρχουν μηχανές τεχνητής νοημοσύνης που “λαμβάνουν” αποφάσεις τις οποίες δεν μπορούν να αντιληφθούν οι ίδιοι οι ερευνητές, δεν είναι καλό σημάδι! Τα επόμενα βήματα της εξέλιξης της τεχνητής νοημοσύνης καθώς και το τι ακριβώς συμβαίνει στο “μαύρο κουτί” θα πρέπει να έχουν πολύ προσεκτική διαχείριση!

*Από την έρευνα του Cold Spring Harbor Laboratory