Η AI στην CIA

Τα άκρως απόρρητα εργαλεία.

Σύμφωνα με τους στόχους διακυβέρνησης AI του οργανισμού, η CIA δημιούργησε το Συμβούλιο Διακυβέρνησης AI το 2023. Ο οργανισμός εργάζεται επί του παρόντος σε ένα μνημόνιο εθνικής ασφάλειας που θα αντιμετωπίσει τις μοναδικές προκλήσεις της ανάπτυξης και της διαχείρισης της τεχνητής νοημοσύνης στον τομέα της εθνικής ασφάλειας.

Το 2023, η CIA ανέλαβε την πρωτοβουλία να δημιουργήσει μια κοινή πλατφόρμα κοινών υπηρεσιών και από τότε συνέχισε να αναπτύσσει μοντέλα και δεδομένα καταλογογράφησης. Βασιζόμενη σε αυτές τις προσπάθειες, η CIA αναπτύσσει επίσης μια πλατφόρμα models-as-a-service για να υποστηρίξει ένα περιβάλλον πολλαπλών ενοικιαστών για την φιλοξενία μικροϋπηρεσιών ώστε να συγκεντρώσει την ανάπτυξη και την συντήρηση των μοντέλων AI.

Με μια κεντρική πλατφόρμα models-as-a-service, οι ομάδες επιστήμης δεδομένων της CIA θα έχουν μια κοινή προσέγγιση για την ανάπτυξη και την φιλοξενία μοντέλων AI-as-a-service και οι ομάδες ανάπτυξης εφαρμογών θα έχουν μια κεντρική τοποθεσία από την οποία θα ενσωματώνουν υπηρεσίες AI στις εφαρμογές τους. Αυτή την στιγμή βρίσκεται υπό ενεργό ανάπτυξη.

Η CIA Αγκαλιάζει την Γενετική Τεχνητή Νοημοσύνη.

«Η συνήθως μυστικοπαθής CIA ενδιαφέρεται για την γενετική τεχνητή νοημοσύνη όσο και ο υπόλοιπος κόσμος και μπορεί να γίνεται πιο τολμηρή συζητώντας δημόσια πώς χρησιμοποιεί την εκκολαπτόμενη τεχνολογία για την βελτίωση των επιχειρήσεων πληροφοριών», γράφουν οι αναλυτές Nextgov/FCW.

«Είμαστε παγιδευμένοι στην γενεσιουργή τεχνητή τεχνητή νοημοσύνη, όπως ήταν ο υπόλοιπος κόσμος πριν από μερικά χρόνια», δήλωσε ο Lakshmi Raman, διευθυντής καινοτομίας τεχνητής νοημοσύνης της CIA, στις 26 Ιουνίου 2024, στην Σύνοδο Κορυφής Υπηρεσιών Ιστού της Amazon στην Ουάσιγκτον.

Ο Raman είπε επίσης ότι οι αναλυτές πληροφοριών των ΗΠΑ χρησιμοποιούν τώρα την γενετική τεχνητή νοημοσύνη σε απόρρητες ρυθμίσεις για να βοηθήσουν στην αναζήτηση και τον εντοπισμό, την βοήθεια στην γραφή, την δημιουργία ιδεών, τον καταιγισμό ιδεών και την δημιουργία αντεπιχειρημάτων. Αυτές οι νέες χρήσεις της γενετικής τεχνητής νοημοσύνης βασίζονται στις υπάρχουσες δυνατότητες των υπηρεσιών πληροφοριών που είναι παλαιότερες από μια δεκαετία, συμπεριλαμβανομένης της μετάφρασης, της μεταγραφής και της επεξεργασίας δεδομένων ανθρώπινης γλώσσας.

Ως λειτουργικός διευθυντής πληροφοριών ανοιχτού κώδικα της κοινότητας πληροφοριών, ο Raman είπε ότι η CIA στρέφεται στην γενετική τεχνητή νοημοσύνη για να παρακολουθεί, για παράδειγμα, «όλες τις ειδήσεις που έρχονται κάθε λεπτό της ημέρας απ’ όλο τον κόσμο». Η τεχνητή νοημοσύνη, είπε ο Raman, βοηθά τους αναλυτές πληροφοριών να διερευνήσουν τεράστιες ποσότητες δεδομένων για να εξάγουν πληροφορίες που μπορούν να χρησιμοποιηθούν για τους υπεύθυνους χάραξης πολιτικής.

«Σε μια τεράστια θημωνιά, η τεχνητή νοημοσύνη βοηθά στον εντοπισμό της βελόνας. Στον χώρο μας ανοιχτού κώδικα, είχαμε επίσης μεγάλη επιτυχία με το Generative AI, και χρησιμοποιήσαμε το Generative AI για να βοηθήσουμε στην ταξινόμηση συμβάντων ανοιχτού κώδικα για να βοηθήσουμε στην αναζήτηση, την ανακάλυψη και την εκτέλεση επιπέδων ερωτημάτων φυσικής γλώσσας σε αυτά τα δεδομένα», είπε ο Ραμάν.

Τι Ακολουθεί για την CIA και την Γενετική Τεχνητή Νοημοσύνη;

Ο Raman έχει μερικές ενδιαφέρουσες σκέψεις για το μέλλον της γενετικής τεχνητής νοημοσύνης στην CIA. Πιστεύει ότι θα μπορούσε να γίνει τακτικό μέλος καθεμιάς από τις πέντε διευθύνσεις του οργανισμού. Τελικά, ωστόσο, δεν το βλέπει να αλλάζει την αποστολή της CIA, αλλά θα χρησιμεύσει μόνο ως «ένα άλλο εργαλείο στην εργαλειοθήκη μας για να βοηθήσει στην διαχείριση των αλληλεπιδράσεων ανθρώπου-μηχανής που είναι πλέον τόσο απαραίτητες για να κάνουμε την δουλειά μας».

«Δεν βλέπουμε την τεχνητή νοημοσύνη ή την τεχνολογία ως κάτι που θα αντικαταστήσει το εργατικό δυναμικό μας. Αλλά ως κάτι που θα βελτιώσει σημαντικά το εργατικό δυναμικό μας και θα μας βοηθήσει να επιταχύνουμε τις καθημερινές μας εργασίες ενώ μπορούμε να χρησιμοποιήσουμε το μυαλό μας για εργασίες ανώτερης τάξης. Επομένως, σίγουρα εξετάζουμε την τεχνητή νοημοσύνη και ειδικότερα την γενετική τεχνητή νοημοσύνη, ως κάτι που μπορεί να ενσωματωθεί στις ροές εργασιών σε όλη την εταιρεία για να μας βοηθήσει να ενισχύσουμε την δική μας κρίση και να προχωρήσουμε στις ροές εργασίας μας πιο γρήγορα».

Για το σκοπό αυτό, ο Raman αναμένει ότι οι θέσεις εργασίας με επίκεντρο την τεχνητή νοημοσύνη θα διεισδύσουν σε όλα τα μέρη της CIA.

«Έχουμε μια πολύ ευρεία αποστολή στην CIA. Έχουμε πέντε διευθύνσεις που κάνουν τα πάντα, από την δημιουργία αντικειμενικής ανάλυσης έως την συλλογή πληροφοριών, την δημιουργία μοναδικών, εξελιγμένων τεχνικών εργαλείων, την εστίαση της προσοχής μας στο ψηφιακό τοπίο και την εκτέλεση διοικητικών και υλικοτεχνικών λειτουργιών. Σκεφτόμαστε πολύ τους κινδύνους και ένας από αυτούς είναι πώς οι χρήστες μας θα μπορούν να χρησιμοποιούν αυτές τις τεχνολογίες με ασφαλή, ασφαλή και αξιόπιστο τρόπο.»

Μια Στοχαστική Προσέγγιση της AI.

Οι οικονομολόγοι πιστεύουν ότι η γενετική τεχνητή νοημοσύνη θα μπορούσε να προσθέσει τρισεκατομμύρια δολάρια στην παγκόσμια οικονομία κάθε χρόνο. Ωστόσο, αυτή η τεχνολογία δεν είναι χωρίς κινδύνους. Αμέτρητες αναφορές έχουν δείξει τις αποκαλούμενες «ψευδαισθήσεις» ή ανακριβείς απαντήσεις, που παράγονται από λογισμικό παραγωγής τεχνητής νοημοσύνης. Σε ένα περιβάλλον εθνικής ασφάλειας, οι παραισθήσεις AI θα μπορούσαν να έχουν καταστροφικές συνέπειες. Ανώτεροι αξιωματούχοι πληροφοριών αναγνωρίζουν τις δυνατότητες αυτής της τεχνολογίας, αλλά πρέπει να σταθμίσουν υπεύθυνα τους κινδύνους της.

«Είμαστε ενθουσιασμένοι που βλέπουμε την ευκαιρία που έχει η γενετική τεχνητή νοημοσύνη», δήλωσε η επικεφαλής πληροφοριών της κοινότητας πληροφοριών Adele Merritt σε μια συνέντευξη τον Απρίλιο του 2024. «Και θέλουμε να βεβαιωθούμε ότι είμαστε προσεκτικοί σχετικά με το πώς χρησιμοποιούμε αυτή την νέα τεχνολογία».

Ο Merritt επιβλέπει την ανάπτυξη στρατηγικής τεχνολογίας πληροφοριών για τις 18 υπηρεσίες της κοινότητας πληροφοριών. Συναντιέται τακτικά με άλλους ανώτερους αξιωματούχους πληροφοριών, συμπεριλαμβανομένης της Υπεύθυνης Δεδομένων της Κοινότητας Πληροφοριών, Λόρι Γουέιντ, του νεοδιορισθέντος Διευθυντή Τεχνητής Νοημοσύνης της Κοινότητας Πληροφοριών, Τζον Μπέιλερ, και της Ρεμπέκα Ρίτσαρντς , η οποία ηγείται του Γραφείου του Διευθυντή Πολιτικών Ελευθεριών, Προστασίας Προσωπικών Δεδομένων και Διαφάνειας της Εθνικής Υπηρεσίας Πληροφοριών και διασφαλίζουν ότι οι προσπάθειες τεχνητής νοημοσύνης είναι ασφαλείς και συμβατές με τα πρότυπα απορρήτου και άλλες πολιτικές.

«Αναγνωρίζουμε επίσης ότι υπάρχει τεράστιο τεχνικό δυναμικό που πρέπει ακόμα να αξιοποιήσουμε για να βεβαιωθούμε ότι θα ξεπεράσουμε την διαφημιστική εκστρατεία και θα καταλάβουμε τι συμβαίνει και πώς μπορούμε να το φέρουμε στις δομές μας», είπε ο Merritt.

Επειδή οι απαιτήσεις ασφάλειας στην κοινότητα πληροφοριών είναι τόσο αυστηρές, πολύ λιγότερα εργαλεία παραγωγής τεχνητής νοημοσύνης είναι αρκετά ασφαλή για χρήση στον μη κερδοσκοπικό χώρο. Οι αναλυτές πληροφοριών δεν μπορούν, για παράδειγμα, να έχουν πρόσβαση σε ένα εμπορικό εργαλείο παραγωγής τεχνητής νοημοσύνης όπως το ChatGPT, στο μυστικό κέντρο πληροφοριών όπου εκτελούνται ορισμένες από τις πιο ευαίσθητες εργασίες τους.

Ωστόσο, ένας αυξανόμενος αριθμός εργαλείων τεχνητής νοημοσύνης που δημιουργούνται πληρούν αυτά τα πρότυπα και ήδη επηρεάζουν τις αποστολές.

Τον Μάρτιο του 2024, ο Gary Novotny, επικεφαλής της διαχείρισης προγράμματος ServiceNow στην CIA, εξήγησε πώς τουλάχιστον ένα εργαλείο δημιουργίας τεχνητής νοημοσύνης συμβάλλει στην μείωση του χρόνου που χρειάζονται οι αναλυτές για να ολοκληρώσουν αιτήματα πληροφοριών. Οι παρατηρήσεις του ακολούθησαν μια έκθεση του 2023 ότι η CIA έφτιαχνε το δικό της μεγάλο γλωσσικό μοντέλο.

Τον Μάιο του 2024, η Microsoft ανακοίνωσε την διαθεσιμότητα του GPT-4 στους χρήστες του Azure Government Top Secret cloud, το οποίο περιλαμβάνει πελάτες στους τομείς της άμυνας και των πληροφοριών. Οι αξιωματούχοι της Microsoft σημείωσαν ότι η διαπίστευση ασφαλείας διήρκεσε 18 μήνες, υπογραμμίζοντας πόσο δύσκολη μπορεί να είναι η επαλήθευση της ασφάλειας του λογισμικού στο υψηλότερο επίπεδο, ακόμη και για τους τεχνολογικούς γίγαντες.

Καθένας από τους μεγαλύτερους εμπορικούς παρόχους cloud αναλαμβάνει παρόμοιες δεσμεύσεις. Το Google Cloud φέρνει πολλές από τις εμπορικές του προσφορές τεχνητής νοημοσύνης σε ορισμένους ασφαλείς κρατικούς φόρτους εργασίας, συμπεριλαμβανομένης της δημοφιλής πλατφόρμας ανάπτυξης Vertex AI. Ομοίως, η υποδομή cloud της Oracle και τα σχετικά εργαλεία τεχνητής νοημοσύνης είναι πλέον διαθέσιμα στο cloud για τις κυβερνητικές υπηρεσίες των ΗΠΑ.

Ταυτόχρονα, η AWS, ο πρώτος εμπορικός πάροχος cloud που εξυπηρετεί την κοινότητα πληροφοριών, στοχεύει να αξιοποιήσει την ηγετική της θέση στην αγορά του cloud computing για να ανταποκριθεί καλύτερα στην αυξανόμενη ζήτηση των πελατών για τεχνητή νοημοσύνη.

«Η πραγματικότητα της γενετικής τεχνητής νοημοσύνης είναι ότι πρέπει να έχετε τα θεμέλια του υπολογιστικού νέφους», δήλωσε ο Αντιπρόεδρος του Παγκόσμιου Δημόσιου Τομέα της AWS, Dave Levy, σε μια συνέντευξη στο Nextgov/FCW στις 26 Ιουνίου 2024 στη σύνοδο κορυφής AWS. «Πρέπει να διατηρείτε τα δεδομένα σας σε ένα μέρος όπου μπορείτε πραγματικά να κάνετε κάτι με αυτά.»

Στην σύνοδο κορυφής, ο Levy ανακοίνωσε την Πρωτοβουλία AWS “Public Sector Generative AI Impact Initiative”, μια διετούς επένδυση 50 εκατομμυρίων δολαρίων για να βοηθήσει την κυβέρνηση και τα εκπαιδευτικά ιδρύματα να αντιμετωπίσουν τις γενεσιουργές προκλήσεις τεχνητής νοημοσύνης, συμπεριλαμβανομένης της εκπαίδευσης και της τεχνικής υποστήριξης.

«Η δουλειά μας είναι να βοηθήσουμε τους πελάτες να κατανοήσουν αυτό το ταξίδι», είπε ο Levy.

Στις 26 Ιουνίου 2024 , ο διευθύνων σύμβουλος της εταιρείας τεχνητής νοημοσύνης Anthropic ‘s Dario Amodei και ο Levy ανακοίνωσαν από κοινού την διαθεσιμότητα των μοντέλων Claude 3 Sonnet και Claude 3 Haiku της Anthropic στις υπηρεσίες πληροφοριών των ΗΠΑ. Εμπορικά δημοφιλή εργαλεία παραγωγής τεχνητής νοημοσύνης είναι πλέον διαθέσιμα μέσω του AWS Marketplace της κοινότητας πληροφοριών των ΗΠΑ , το οποίο είναι ουσιαστικά μια ταξινομημένη έκδοση της εμπορικής αγοράς cloud.

Αν και η Anthropic είναι υπεύθυνη για την ασφάλεια του μεγάλου γλωσσικού μοντέλου, συνεργάζεται με την AWS λόγω των ανώτερων προτύπων ασφάλειας cloud και της φήμης της ως ηγέτης του δημόσιου τομέα στο cloud computing. Η αγορά των απόρρητων διαφημίσεων, η οποία επιτρέπει στους κυβερνητικούς πελάτες να εκτελούν και να δοκιμάζουν λογισμικό πριν το αγοράσουν, διευκολύνει επίσης τις προμήθειες για την κυβέρνηση, είπε η Amodei. Και αυτό δίνει στις υπηρεσίες πληροφοριών την ευκαιρία να χρησιμοποιήσουν τα ίδια εργαλεία με τους αντιπάλους.

«Το Intelligence Community Marketplace το κάνει πιο εύκολο επειδή το AWS έχει δουλέψει με αυτήν την πλατφόρμα πολλές φορές στο παρελθόν, επομένως δεν χρειάζεται να εφεύρουμε ξανά τον τροχό», είπε ο Amodei.

Η Χρήση της Τεχνητής Νοημοσύνης στη CIA Απαιτεί Σκέψη Έξω από το Κουτί

Ο Chief Technology Officer της CIA Nand Mulchandani διαχειρίζεται τεχνολογικά εργαλεία. Πρώην Διευθύνων Σύμβουλος της Silicon Valley που έχει ηγηθεί επιτυχημένων startups, ο Mulchandani διορίστηκε στη θέση το 2022 αφού εργάστηκε στο Joint AI Center του Πενταγώνου.

Μεταξύ των έργων που επιβλέπει είναι και μια γενετική εφαρμογή AI παρόμοια με το ChatGPT που χρησιμοποιεί δεδομένα ανοιχτού κώδικα (δηλαδή μη ταξινομημένα, δημόσια ή εμπορικά διαθέσιμα). Χιλιάδες αναλυτές από 18 υπηρεσίες πληροφοριών των ΗΠΑ το χρησιμοποιούν.

Σε πρόσφατη συνέντευξη του στο Milwaukee Independent ο Mulchandani ερωτήθηκε:

-Πρόσφατα είπατε ότι η γενετική τεχνητή νοημοσύνη πρέπει να αντιμετωπίζεται σαν «τρελός, μεθυσμένος φίλος». Θα μπορούσατε να μας πείτε περισσότερα για αυτό;

Nand Mulchandani: Όταν αυτά τα γεννητικά συστήματα AI παράγουν «παραισθήσεις», μπορεί μερικές φορές να λειτουργήσουν σαν τον μεθυσμένο φίλο σας στο μπαρ που μπορεί να πει κάτι που θα σας ωθήσει πέρα ​​από τα κανονικά εννοιολογικά όριά σας και θα πυροδοτήσει την ασυνήθιστη σκέψη. Να θυμάστε ότι αυτά τα συστήματα που βασίζονται σε τεχνητή νοημοσύνη είναι πιθανολογικού χαρακτήρα, επομένως δεν είναι ακριβή (είναι επιρρεπή σε παραποίηση). Επομένως, για δημιουργικές εργασίες όπως η τέχνη, η ποίηση και η ζωγραφική, αυτά τα συστήματα είναι εξαιρετικά. Αλλά δεν θα χρησιμοποιούσα ακόμη αυτά τα συστήματα για ακριβείς υπολογισμούς ή τον σχεδιασμό ενός αεροπλάνου ή ενός ουρανοξύστη – σε αυτούς τους τύπους δραστηριοτήτων τα συστήματα δεν λειτουργούν με «αρκετή ακρίβεια». Μπορούν επίσης να είναι προκατειλημμένα και στενόμυαλα, το οποίο αποκαλώ πρόβλημα της «τρύπας του κουνελιού».

– Η μόνη χρήση ενός μεγάλου γλωσσικού μοντέλου σε κλίμακα CIA που γνωρίζω αυτή την στιγμή είναι ένα AI ανοιχτού κώδικα που ονομάζεται Osiris, το οποίο δημιουργήθηκε για ολόκληρη την κοινότητα πληροφοριών. Αυτό είναι αλήθεια;

Nand Mulchandani: Αυτό είναι το μόνο πράγμα που έχουμε αποκαλύψει δημόσια. Ήταν ένα απόλυτο home run για εμάς. Ωστόσο, πρέπει να διευρύνουμε τη συζήτηση πέρα ​​από το LLM – για παράδειγμα, επεξεργαζόμαστε τεράστιους όγκους ξενόγλωσσου περιεχομένου σε διάφορους τύπους μέσων, συμπεριλαμβανομένων και βίντεο και χρησιμοποιούμε άλλους αλγόριθμους και εργαλεία τεχνητής νοημοσύνης για την επεξεργασία τους.

-Το Special Competitive Research Project, μια συμβουλευτική ομάδα που επικεντρώνεται στην τεχνητή νοημοσύνη και στην εθνική ασφάλεια, δημοσίευσε μια έκθεση λέγοντας ότι οι υπηρεσίες πληροφοριών των ΗΠΑ θα πρέπει να ενσωματώσουν γρήγορα την γενετική τεχνητή νοημοσύνη στο έργο τους, δεδομένου του δυναμικού της. Το έργο θέτει ένα χρονοδιάγραμμα δύο ετών για να προχωρήσετε πέρα ​​από τα πειράματα και τους περιορισμούς και να «ανάπτύξετε εργαλεία παραγωγής AI σε όλη την κοινότητα πληροφοριών». Είναι έτσι;

Nand Mulchandani: Η CIA χρησιμοποιεί 100% αυτές τις τεχνολογίες και τις κλιμακώνει. Το λαμβάνουμε αυτό τόσο σοβαρά όσο πιθανώς παίρνουμε οποιοδήποτε άλλο τεχνολογικό ζήτημα. Πιστεύουμε ότι είμαστε πολύ μπροστά από το αρχικό μας χρονοδιάγραμμα, καθώς χρησιμοποιούμε ήδη τα εργαλεία Gen AI στην παραγωγή. Η βαθύτερη απάντηση είναι ότι βρισκόμαστε στα πρώτα στάδια ενός τεράστιου αριθμού σταδιακών αλλαγών και μεγάλο μέρος της δουλειάς έγκειται στην ευρύτερη ενσωμάτωση της τεχνολογίας στις εφαρμογές και τα συστήματά μας. Αυτό είναι μόνο η αρχή.

-Μπορείτε να ονομάσετε τους συνεργάτες σας στο μοντέλο της μεγάλης γλώσσας;

Nand Mulchandani: Δεν είμαι σίγουρος ότι είναι σωστό να αναφέρω τους συνεργάτες τώρα. Αυτή την στιγμή υπάρχει εκρηκτική αύξηση στον αριθμό των LLMs στην αγορά. Ως έξυπνος πελάτης, δεν συνδέουμε το σκάφος μας με ένα συγκεκριμένο σύνολο LLM ή ένα συγκεκριμένο σύνολο παρόχων. Αξιολογούμε και χρησιμοποιούμε ουσιαστικά όλα τα LLM υψηλής απόδοσης, τόσο εμπορικά όσο και ανοιχτού κώδικα. Δεν θεωρούμε την αγορά LLM ως την μόνη όπου ένα εργαστήριο είναι καλύτερο από άλλα.

-Ποιες είναι οι πιο σημαντικές περιπτώσεις χρήσης μεγάλων γλωσσικών μοντέλων στη CIA;

Nand Mulchandani: Το σημαντικότερο είναι η άθροιση. Ένας απλός αναλυτής ανοιχτού κώδικα της CIA δεν μπορεί να αφομοιώσει τις τεράστιες ποσότητες πληροφοριών που συλλέγουμε καθημερινά. Έτσι, έχει αλλάξει το παιχνίδι για την κατανόηση του συναισθήματος και των παγκόσμιων τάσεων. Στην συνέχεια, οι αναλυτές εμβαθύνουν στις λεπτομέρειες. Πρέπει να είναι σε θέση -με απόλυτη σιγουριά- να σχολιάζουν και να εξηγούν τα δεδομένα στα οποία αναφέρονται και πώς καταλήγουν στα αντίστοιχα συμπεράσματα. Η τέχνη μας δεν έχει αλλάξει. Το πρόσθετο υλικό δίνει στους αναλυτές μια πολύ ευρύτερη προοπτική τόσο για το ταξινομημένο όσο και για το μη ταξινομημένο υλικό που συλλέγουμε.

-Ποιες είναι οι μεγαλύτερες προκλήσεις της υιοθέτησης της γενετικής τεχνητής νοημοσύνης σε έναν οργανισμό;

Nand Mulchandani: Δεν υπάρχει μεγάλη πολιτιστική αντίσταση στην χώρα. Οι υπάλληλοί μας βιώνουν καθημερινά την ανταγωνιστική τεχνητή νοημοσύνη. Είναι σαφές ότι ολόκληρος ο κόσμος αγκαλιάζεται από αυτές τις νέες τεχνολογίες και τις εκπληκτικές αυξήσεις στην παραγωγικότητα και την αποτελεσματικότητά τους. Το κόλπο είναι να αντιμετωπίσουμε τους περιορισμούς που έχουμε στην διαίρεση των πληροφοριών και στον τρόπο κατασκευής των συστημάτων. Σε πολλές περιπτώσεις, ο διαχωρισμός δεδομένων δεν συμβαίνει για λόγους ασφαλείας, αλλά για νομικούς λόγους. Αναδύονται πραγματικά ενδιαφέρουσες τεχνολογίες που μας βοηθούν να συγκεντρώνουμε δεδομένα με τρόπους που παρέχουν κρυπτογράφηση και ελέγχους απορρήτου.

-Η Generative AI είναι επί του παρόντος αρκετά περίπλοκη. Η ΑΙ, από την άλλη πλευρά, είναι πιο απλή. Πώς ταιριάζει η γενιά του AI σε αυτό το έργο;

Nand Mulchandani: Αρχικά, ας τονίσουμε ότι ο ανθρώπινος αναλυτής έχει την πρωτοκαθεδρία. Απασχολούμε κορυφαίους ειδικούς στον κόσμο στους τομείς τους. Και σε πολλές περιπτώσεις, οι εισερχόμενες πληροφορίες απαιτούν τεράστια ποσότητα ανθρώπινης κρίσης για να σταθμιστεί η σημασία τους, συμπεριλαμβανομένων εκείνων που μπορούν να τις παρέχουν. Δεν έχουμε μηχανές που να μπορούν να το αναπαράγουν αυτό. Και δεν αναζητούμε υπολογιστές για να κάνουν την δουλειά των ειδικών του τομέα. Αυτό που εξετάζουμε είναι το μοντέλο συγκυβερνήτη. Πιστεύουμε ότι η γενιά της τεχνητής νοημοσύνης μπορεί να έχει τεράστιο αντίκτυπο στον καταιγισμό ιδεών για την εύρεση νέων ιδεών, καθώς επίσης και στην αύξηση της παραγωγικότητας και της διορατικότητας. Πρέπει να είμαστε πολύ αποφασιστικοί στο πώς το κάνουμε αυτό, γιατί όταν χρησιμοποιούνται σωστά, αυτοί οι αλγόριθμοι είναι μια δύναμη για καλό. Αλλά αν τα χειριστείτε λανθασμένα, μπορεί πραγματικά να σας βλάψουν.

Microsoft AI για τη CIA.

Η Microsoft έχει αναπτύξει ένα μοντέλο παραγωγής τεχνητής νοημοσύνης για τη CIA και άλλες υπηρεσίες πληροφοριών των ΗΠΑ για την ανάλυση άκρως απόρρητων πληροφοριών, αναφέρει το Bloomberg. Η Microsoft ανακοίνωσε την προσφορά AI στο 2024 “SCSP AI Expo for National Competitiveness” στην Ουάσιγκτον, στις 7 Μαΐου 2024. Το μοντέλο που βασίζεται στο GPT-4 σχεδιάστηκε για να είναι εντελώς ξεχωριστό από το Διαδίκτυο, επιτρέποντας την ασφαλή επεξεργασία ευαίσθητων δεδομένων.

“Είναι η πρώτη φορά που έχουμε μια έκδοση sandboxed – όπου sandboxed σημαίνει ότι δεν είναι συνδεδεμένη στο Διαδίκτυο – και είναι σε ένα ειδικό δίκτυο στο οποίο έχει πρόσβαση μόνο η κυβέρνηση των ΗΠΑ”, δήλωσε ο William Chappell, επικεφαλής τεχνολογίας της Microsoft για τις στρατηγικές αποστολές και τεχνολογίες.”

Η κοινότητα των πληροφοριών χρειαζόταν απεγνωσμένα ένα προϊόν όπως το ChatGPT, αλλά οι κίνδυνοι για την ασφάλεια με τα παραγωγικά προϊόντα τεχνητής νοημοσύνης είναι πολύ υψηλοί. Ο Chappell είπε στο Bloomberg ότι το νέο μοντέλο είναι ασφαλές χάρη στο περιβάλλον cloud του, το οποίο το απομονώνει από το Διαδίκτυο. Ενώ τα περισσότερα μοντέλα AI εκπαιδεύονται με βάση τα αρχεία που τροφοδοτούνται σε αυτά, αυτό το μοντέλο κατασκοπείας GPT-4 δεν το κάνει. Με αυτόν τον τρόπο, η κυβέρνηση μπορεί να διατηρήσει το μοντέλο καθαρό και να αποτρέψει τη διαρροή ευαίσθητων πληροφοριών στην πλατφόρμα.

Φαίνεται να είναι το πρώτο μοντέλο τεχνητής νοημοσύνης στον κόσμο που έχει κατασκευαστεί ειδικά για ταξινομημένους φόρτους εργασίας, καθώς και το πρώτο σημαντικό μοντέλο γλώσσας που λειτουργεί εντελώς ανεξάρτητα από το Διαδίκτυο.

Το 2023, η CIA ανέπτυξε το δικό της εργαλείο τεχνητής νοημοσύνης τύπου ChatGPT για να περιηγηθεί σε βουνά από δημόσιες πληροφορίες. Ωστόσο, αυτό το μοντέλο AI δεν έχει χρησιμοποιηθεί σε καμία διαβαθμισμένη τεκμηρίωση.

Η ανάπτυξη του μοντέλου AI για άκρως απόρρητους φόρτους εργασίας έρχεται σε μια κρίσιμη στιγμή για την φήμη της Microsoft στον κυβερνοχώρο. Το Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ δημοσίευσε πρόσφατα μια καυστική ανασκόπηση των πρακτικών ασφαλείας της Microsoft, κατηγορώντας τον πάροχο cloud ότι αποκάλυψε μηνύματα ηλεκτρονικού ταχυδρομείου από ανώτερους κυβερνητικούς αξιωματούχους. Η έκθεση αναφέρει ότι η κουλτούρα ασφαλείας της Microsoft “απαιτεί μια γενική αναθεώρηση”. Αυτό ώθησε τον CEO Satya Nadella να πει στους υπαλλήλους ότι η ασφάλεια είναι πλέον η «ύψιστη προτεραιότητα» της Microsoft.

Ταυτόχρονα, η Microsoft δεν ντρέπεται να αναπτύξει εργαλεία τεχνητής νοημοσύνης για κυβερνητικούς φορείς. Μια αναφορά τον Απρίλιο του 2024 από το The Intercept αποκάλυψε ότι η έκδοση του DALL-E του Microsoft Azure έχει εισαχθεί ως εργαλείο πεδίου μάχης από το Υπουργείο Άμυνας των ΗΠΑ . Η Microsoft έχει μακρά ιστορία συνεργασίας με στρατιωτικούς και κυβερνητικούς φορείς, αν και η χρήση της τεχνητής νοημοσύνης είναι σχετικά νέα.

Επισκόπηση Έργου Guardian.

Το Project Guardian της Microsoft είναι ένα μοντέλο τεχνητής νοημοσύνης τελευταίας τεχνολογίας που έχει σχεδιαστεί ειδικά για υπηρεσίες πληροφοριών των ΗΠΑ, συμπεριλαμβανομένης της CIA. Βασισμένο στην προηγμένη αρχιτεκτονική GPT-4, αυτό το μοντέλο λειτουργεί σε ένα απόλυτα αυτόνομο περιβάλλον, απομονωμένο από τον έξω κόσμο, διασφαλίζοντας το υψηλότερο επίπεδο ασφάλειας. Η ανάπτυξη του Project Guardian έγινε από τον William Chappell.

Το μοντέλο φιλοξενείται σε ένα στατικό νέφος, αποσυνδεδεμένο από το Διαδίκτυο, το οποίο το εμποδίζει να απορροφήσει ή να μάθει από εξωτερικά δεδομένα, προστατεύοντας έτσι ευαίσθητες πληροφορίες από απειλές στον κυβερνοχώρο και μη εξουσιοδοτημένη πρόσβαση.

Το Project Guardian έχει σχεδιαστεί για να διαβάζει και να αναλύει αρχεία χωρίς να μαθαίνει από τα δεδομένα που υποβάλλονται σε επεξεργασία, διατηρώντας έτσι την ακεραιότητα και την ασφάλεια των πληροφοριών. Μπορεί να απαντά σε ερωτήματα και να δημιουργεί κώδικα, παρέχοντας ισχυρά εργαλεία για την ανάλυση δεδομένων στην κοινότητα πληροφοριών.

Το μοντέλο είναι επί του παρόντος λειτουργικό και υποβάλλεται σε εκτεταμένες δοκιμές και αξιολόγηση από διάφορες υπηρεσίες πληροφοριών των ΗΠΑ. Η διαδικασία διαπίστευσης που απαιτείται για την επίσημη διάθεσή του δεν έχει ακόμη ολοκληρωθεί.

***
@OWL – Ion Maggos /terrapapers.com / 2009 – 2024