Οι Αμερικανοί αξιωματούχοι θέλουν έγκαιρη πρόσβαση στην προηγμένη τεχνητή νοημοσύνη και οι μεγάλες εταιρείες έχουν συμφωνήσει
Η Microsoft, η Google DeepMind και η xAI του Elon Musk προσφέρθηκαν να επιτρέψουν στην κυβέρνηση των ΗΠΑ να έχει πρόσβαση σε νέα μοντέλα τεχνητής νοημοσύνης πριν από την γενική τους κυκλοφορία, γεγονός που σηματοδοτεί μια νέα φάση στη συχνά τεταμένη σχέση της Silicon Valley με τον φόβο της κυβέρνησης των ΗΠΑ για τις απειλές της τεχνητής νοημοσύνης, με βάση το... Τελευταία έκθεση για εταιρείες τεχνητής νοημοσύνης που προσφέρουν μοντέλα σε Αμερικανούς αξιωματούχους στο όνομα της αναθεώρησης της ασφάλειας, με την ελπίδα ότι οι κυβερνητικοί αναλυτές θα μπορέσουν να ελέγξουν τα συστήματα τεχνητής νοημοσύνης αιχμής για απειλές ασφαλείας, όπως κυβερνοεπιθέσεις και στρατιωτική χρήση, προτού εκτεθούν για δημόσια κατανάλωση από προγραμματιστές και χρήστες και, αναπόφευκτα, από εκείνους που δεν θα έπρεπε να έχουν καμία δουλειά να έχουν στα χέρια τους ένα οπλισμένο μοντέλο τεχνητής νοημοσύνης.
Οι αξιολογήσεις θα διεξάγονται από το Κέντρο Προτύπων και Καινοτομίας Τεχνητής Νοημοσύνης του Υπουργείου Εμπορίου, ή CAISI, το οποίο αναφέρει ότι η εταιρεία... συνεργασία με την Google DeepMind, τη Microsoft και την xAI του δίνει την ευκαιρία να ελέγξει μοντέλα Τεχνητής Νοημοσύνης (ΤΝ) στη φάση πριν από την ανάπτυξη, να διεξάγει έρευνα σε συγκεκριμένους τομείς και να τα επανεξετάσει μετά την κυκλοφορία τους στην παραγωγή.
Αυτό μπορεί να ακούγεται βαρετό, αλλά δεν είναι. Αυτή είναι η κυβέρνηση που ζητά να αφαιρεθεί το κάλυμμα από το καπό πριν το αυτοκίνητο βγει στο δρόμο, και αυτό το καπό ζεσταίνεται μέρα με τη μέρα.
Μένει να δούμε, αλλά υπάρχει ένας κατανοητός φόβος ότι η εξαιρετικά ανεπτυγμένη τεχνητή νοημοσύνη θα βοηθήσει τους κυβερνο-κακούς να γίνουν ακόμη πιο αποτελεσματικοί στα εγκλήματά τους. «Οι Αμερικανοί αξιωματούχοι έχουν αρχίσει να βλέπουν τα αναδυόμενα μοντέλα στα αρχικά στάδια με καχυποψία και ανησυχία, σημειώνοντας ότι ορισμένα έχουν αυξήσει τα επίπεδα άγχους των υψηλόβαθμων κυβερνητικών αξιωματούχων», έγραψε το Reuters.
Ένα από τα εργαλεία τεχνητής νοημοσύνης που έχει προκαλέσει τη μεγαλύτερη ανησυχία είναι το Mythos της Anthropic, ένα πρόσφατα αποκαλυφθέν μοντέλο. Το πρόβλημα δεν είναι ότι η τεχνητή νοημοσύνη θα μπορούσε να εντοπίσει κενά ασφαλείας που οι άνθρωποι δεν βλέπουν. Είναι ότι ένα εργαλείο μπορεί να επιτρέπει στους υπεύθυνους ασφαλείας να εντοπίζουν κενά ασφαλείας και ένας εισβολέας θα μπορούσε επίσης να βρει κενά ασφαλείας.
Η Microsoft έχει εισέλθει στη συζήτηση για την Τεχνητή Νοημοσύνη. Η Microsoft έχει υποσχεθεί να «συνεργαστεί με επιστήμονες από τις ΗΠΑ και το Ηνωμένο Βασίλειο για να εντοπίσει και να μετριάσει τις ακούσιες συνέπειες των μοντέλων Τεχνητής Νοημοσύνης και να συμβάλει στην ανάπτυξη κοινών συνόλων δεδομένων και μεθόδων αξιολόγησης για την ασφάλεια και την απόδοση των μοντέλων», σύμφωνα με το δελτίο τύπου της.
Σε ένα παράδειγμα αυτού του είδους συνεργασίας, Η Microsoft υπέγραψε συμφωνία αυτόν τον μήνα με το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου να συνεργαστούν με αξιωματούχους και από τις δύο χώρες για να συνεργαστούν για τη διαχείριση των κινδύνων της Τεχνητής Νοημοσύνης. Αυτό υποδηλώνει ότι αυτό το θέμα έχει σημασία πέρα από τα όρια της αμερικανικής πρωτεύουσας.
Το CAISI δεν ξεκινάει από το μηδέν. Ο οργανισμός ισχυρίζεται ότι έχει ήδη διεξάγει πάνω από 40 αξιολογήσεις, συμπεριλαμβανομένων εκείνων για πρωτοποριακά, ακυκλοφόρητα μοντέλα. Οι προγραμματιστές μερικές φορές μοιράζονται εκδόσεις με μειωμένη ή αφαιρεμένη προστασία, προκειμένου να αποκαλύψουν τους χειρότερους κινδύνους εθνικής ασφάλειας. Ναι, αυτό ακούγεται δυσοίωνο, και έτσι ακριβώς ακούγεται. Άλλωστε, δεν επιβεβαιώνεις την αποτελεσματικότητα μιας κλειδαριάς απλώς παρακαλώντας την πόρτα να παραμείνει κλειστή.
Επιπλέον, οι νέες συμφωνίες επεκτείνουν την προηγούμενη πρόσβαση της κυβέρνησης σε μοντέλα που διατίθενται από την OpenAI και την Anthropic. ξεχωριστά, Η OpenAI παρέδωσε στην κυβέρνηση των ΗΠΑ το GPT-5.5 για αξιολόγηση σε πλαίσια εθνικής ασφάλειας, σύμφωνα με τον Chris Lehane της OpenAI. Συνδυάστε αυτά τα στοιχεία και αρχίζει να αναδύεται μια ξεκάθαρη εικόνα: τα πιο ικανά εργαστήρια Τεχνητής Νοημοσύνης εισάγονται σε ένα κυβερνητικό περιβάλλον ελέγχου εκ των προτέρων, προτού οι τεχνολογίες τους τεθούν σε λειτουργία.
Υπάρχουν κάποιες ενδιαφέρουσες (και ακατάστατες) πολιτικές που παίζουν ρόλο εδώ. Ως επί το πλείστον, η κυβέρνηση Τραμπ έχει επικεντρώσει τη στρατηγική της για την Τεχνητή Νοημοσύνη στην επιτάχυνση, την απορρύθμιση και την κυριαρχία της Αμερικής στην παγκόσμια σκηνή. Αλλά οποιαδήποτε προοδευτική στρατηγική για την Τεχνητή Νοημοσύνη πρέπει επίσης να αντιμετωπίσει την ακατάστατη πραγματικότητα ότι τα πρωτοποριακά μοντέλα δεν είναι απλώς εργαλεία παραγωγικότητας.
Η διοίκηση του Trump Σχέδιο Δράσης για την Τεχνητή Νοημοσύνη της Αμερικής στοχεύει κυρίως στην ενίσχυση της καινοτομίας, στην οικοδόμηση της απαραίτητης υποδομής για τη διατήρησή της και στην προώθηση της ηγετικής θέσης των ΗΠΑ στη διεθνή διπλωματία και ασφάλεια της Τεχνητής Νοημοσύνης. Αυτό το τελευταίο κομμάτι κουβαλάει πραγματικά το βάρος.
Υπάρχει επίσης μια αμυντική συνιστώσα που δεν μπορεί να παραβλεφθεί. Λίγες μέρες πριν ανακοινωθούν αυτές οι συμφωνίες αναθεώρησης μοντέλων, το Πεντάγωνο έκλεινε συμφωνίες με κορυφαίες εταιρείες τεχνητής νοημοσύνης και τεχνολογίας για να έχει πρόσβαση στα καλύτερα συστήματα σε απόρρητα δίκτυα, σύμφωνα με δημοσιεύματα στο... προσπάθεια των ενόπλων δυνάμεων να ενσωματώσουν εμπορική Τεχνητή Νοημοσύνη σε κυβερνητικές επιχειρήσεις.
Η Τεχνητή Νοημοσύνη στις στρατιωτικές ροές εργασίας φέρνει μια σειρά από νέες προκλήσεις και συνέπειες. Ένα σφάλμα δεν χρειάζεται να είναι σφάλμα. Ένα λανθασμένο αποτέλεσμα μπορεί να είναι πολύ περισσότερο από αδέξιο. Μπορεί να είναι λειτουργικό και μπορεί να είναι δαπανηρό.
Φυσικά, το ζήτημα είναι ότι αυτό θα μπορούσε να εμποδίσει την καινοτομία. Οι εταιρείες τεχνολογίας θα υποστηρίξουν ότι χρειάζονται περιθώριο κέρδους. Και σίγουρα έχουν δίκιο ότι η Τεχνητή Νοημοσύνη είναι επί του παρόντος μια μάχη με μαχαίρια σε έναν τηλεφωνικό θάλαμο, με γρήγορες επαναλήψεις, επιθετικούς ανταγωνισμούς, τεράστια έξοδα για υπολογιστικές υποδομές και μια παγκόσμια πρόκληση για την Κίνα.
Αν κάθε νέο μοντέλο τεχνητής νοημοσύνης καθυστερεί για μήνες πριν μπορέσει να εισαχθεί, οι αμερικανικές τεχνολογικές εταιρείες σίγουρα θα κατηγορήσουν την Ουάσινγκτον ότι κάνει ένα δώρο με μια μεγάλη υπόκλιση στους αντιπάλους μας.
Αλλά μπορεί να ειπωθεί ότι οι ΗΠΑ θα ήθελαν να αποφύγουν την πρώτη ουσιαστική δημόσια επίδειξη μιας ιδιαίτερα απειλητικής ή επικίνδυνης ικανότητας της Τεχνητής Νοημοσύνης να είναι μια δημόσια ανακοίνωση, καθώς έτσι καταλήγεις να κυβερνάς μέσω της απολογίας.
Η αξιολόγηση πριν από την ανάπτυξη και την κυκλοφορία του δεν θα είναι συναρπαστική και πιθανότατα θα είναι ενοχλητική για ορισμένους ή για όλους, κάτι που συνήθως αποτελεί καλό σημάδι ότι η ρύθμιση έχει βρεθεί κάπου στη μέση.
Η πρόκληση θα είναι να διατηρηθεί η εστίαση. Ο έλεγχος κάθε κυκλοφορίας chatbot δεν θα είχε νόημα, αλλά ο έλεγχος των πιο προηγμένων μοντέλων αιχμής, ιδίως εκείνων με στρατιωτικές ή κυβερνο-, βιολογικές ή χημικές επιπτώσεις, είναι ένα άλλο ζήτημα.
Δεν πρόκειται για την έγκριση της αυτόματης συμπλήρωσης από έναν κυβερνητικό αξιωματούχο, αλλά μάλλον για την αξιολόγηση του πυραύλου από έναν μηχανικό πριν από την εκτόξευσή του. Πιθανώς δεν είναι τόσο εντυπωσιακό, αλλά είναι παρόμοιο.
Υπάρχει επίσης ένα πρόβλημα εμπιστοσύνης εδώ. Οι τεχνολογικοί γίγαντες έχουν πει στις ρυθμιστικές αρχές ότι μπορούν να αυτορρυθμίζονται, ενώ οι τελευταίες έχουν πει στις τεχνολογικές εταιρείες ότι δεν έχουν καταφέρει να συμβαδίσουν με την ταχέως εξελισσόμενη τεχνολογία.
Το αποτέλεσμα είναι αυτή η άβολη μέση λύση, όπου οι εταιρείες προσφέρουν έγκαιρη πρόσβαση σε μοντέλα τεχνητής νοημοσύνης, οι ομοσπονδιακοί ερευνητές διεξάγουν ανεξάρτητες δοκιμές και όλοι ελπίζουν ότι η διαδικασία θα φιλτράρει τα χειρότερα αποτελέσματα, αλλά δεν θα καταλήξει να κολλάει στη γραφειοκρατία.
Είναι δύσκολο να μην νιώσει κανείς ότι αυτή η στιγμή ήταν αναπόφευκτη. Μόλις τα μοντέλα Τεχνητής Νοημοσύνης έφτασαν σε ένα σημείο όπου ήταν αρκετά ισχυρά ώστε να επηρεάσουν τομείς όπως η κυβερνοασφάλεια, η εθνική ασφάλεια και οι υποδομές, δεν θα είχε ποτέ νόημα για αυτές τις εταιρείες να δοκιμάζουν απλώς τα μοντέλα τους μόνες τους για το υπόλοιπο της αιωνιότητας.
Ο μέσος άνθρωπος μπορεί να μην γνωρίζει τις περιπλοκές ενός benchmark ή μιας έκθεσης της Red Team, αλλά σίγουρα γνωρίζει ότι η απλή ικανότητα αυτών των συστημάτων να προκαλούν απτή βλάβη τα καθιστά άξια ελέγχου πριν βγουν στην αγορά.
Και ενώ οι μεγάλες τεχνολογικές εταιρείες εξακολουθούν να θέλουν να τρέχουν μπροστά και η Ουάσινγκτον εξακολουθεί να θέλει να αποφύγει να αιφνιδιαστεί, οι δύο πλευρές φαίνεται να έχουν ευθυγραμμιστεί, τουλάχιστον προς το παρόν, σε μια εφικτή πορεία δράσης: Να ανοίξουν τα μοντέλα τεχνητής νοημοσύνης πριν βρυχηθεί η μηχανή.
Ποια είναι η αντίδρασή σας;
μπορεί να σου αρέσει επίσης
