I funzionari statunitensi vogliono un accesso anticipato all'intelligenza artificiale avanzata e le grandi aziende hanno acconsentito.
Microsoft, Google DeepMind e xAI di Elon Musk hanno offerto al governo degli Stati Uniti l'accesso a nuovi modelli di IA prima del loro rilascio generale, il che segna una nuova fase nel rapporto spesso conflittuale della Silicon Valley con la paura del governo degli Stati Uniti delle minacce dell'IA, basata sul Secondo le ultime notizie, alcune aziende di intelligenza artificiale offrirebbero modelli ai funzionari statunitensi in nome di una revisione della sicurezza., nella speranza che gli analisti governativi possano vagliare i sistemi di IA all'avanguardia per individuare minacce alla sicurezza come attacchi informatici e usi militari prima che vengano resi pubblici a sviluppatori e utenti e, inevitabilmente, a coloro che non dovrebbero avere accesso a un modello di IA utilizzabile a fini bellici.
Le revisioni saranno condotte dal Center for AI Standards and Innovation, o CAISI, del Dipartimento del Commercio, che afferma che l'azienda collaborare con Google DeepMind, Microsoft e xAI Offre la possibilità di valutare i modelli di intelligenza artificiale nella fase di pre-implementazione, condurre ricerche in aree specifiche e rivederli dopo il loro lancio in produzione.
Può sembrare noioso, ma non lo è. È il governo che chiede di togliere il velo dal cofano prima che l'auto possa circolare su strada, e quel cofano si sta surriscaldando di giorno in giorno.
Resta da vedere, ma c'è il comprensibile timore che un'intelligenza artificiale altamente sviluppata possa aiutare i criminali informatici a diventare ancora più efficaci nei loro crimini. "I funzionari statunitensi hanno iniziato a guardare con sospetto e apprensione ai modelli di frontiera emergenti nelle fasi iniziali, notando che alcuni hanno innalzato i livelli di stress dei più alti funzionari governativi", ha scritto Reuters.
Uno degli strumenti di intelligenza artificiale che ha destato maggiore preoccupazione è Mythos di Anthropic, un modello recentemente reso pubblico. Il problema non è che l'IA possa identificare falle di sicurezza che gli esseri umani non vedono. Il problema è che un singolo strumento potrebbe consentire agli addetti alla sicurezza di trovare falle di sicurezza, e allo stesso tempo permettere a un malintenzionato di trovarle a sua volta.
Microsoft è entrata nel dibattito sull'intelligenza artificiale. Secondo il suo comunicato stampa, Microsoft ha promesso di "collaborare con scienziati statunitensi e britannici per identificare e mitigare le conseguenze indesiderate dei modelli di IA e contribuire allo sviluppo di set di dati condivisi e metodi di valutazione per la sicurezza e le prestazioni dei modelli".
In un esempio di questo tipo di collaborazione, Questo mese Microsoft ha firmato un accordo con l'Istituto britannico per la sicurezza dell'IA. collaborare con i funzionari di entrambi i paesi per lavorare insieme alla gestione dei rischi legati all'IA. Ciò suggerisce che questo argomento ha rilevanza anche al di fuori dei confini della capitale americana.
La CAISI non parte da zero. L'agenzia afferma di aver già condotto oltre 40 valutazioni, comprese quelle di modelli all'avanguardia non ancora rilasciati; a volte gli sviluppatori condividono versioni con protezioni ridotte o attenuate al fine di evidenziare i peggiori rischi per la sicurezza nazionale. Sì, suona minaccioso, ed è proprio questo l'intento; dopotutto, non si verifica l'efficacia di una serratura semplicemente implorando la porta di rimanere chiusa.
Inoltre, i nuovi accordi ampliano l'accesso governativo precedente ai modelli resi disponibili da OpenAI e Anthropic; separatamente, OpenAI ha consegnato al governo statunitense GPT-5.5 per la valutazione in contesti di sicurezza nazionale.Secondo Chris Lehane di OpenAI, mettendo insieme questi elementi emerge un quadro ben preciso: i laboratori di intelligenza artificiale più promettenti vengono sottoposti a un processo di verifica governativa prima che le loro tecnologie vengano lanciate sul mercato.
Qui si intrecciano dinamiche politiche interessanti (e complesse). Per lo più, l'amministrazione Trump ha incentrato la sua strategia sull'IA sull'accelerazione, la deregolamentazione e il predominio americano sulla scena mondiale. Ma qualsiasi strategia lungimirante in materia di IA deve anche confrontarsi con la complessa realtà che i modelli di frontiera non sono solo strumenti di produttività.
L'amministrazione di Trump Piano d'azione americano per l'intelligenza artificiale L'obiettivo principale è quello di stimolare l'innovazione, costruire le infrastrutture necessarie a sostenerla e promuovere la leadership statunitense nella diplomazia e nella sicurezza internazionale in materia di intelligenza artificiale. Quest'ultimo aspetto è davvero determinante.
C'è anche una componente di difesa che non può essere trascurata. Solo pochi giorni prima che venissero annunciati questi accordi di revisione dei modelli, il Pentagono stava stringendo accordi con aziende leader nel settore dell'IA e della tecnologia per accedere ai migliori sistemi sulle reti classificate, secondo quanto riportato da L'impegno delle forze armate per integrare l'intelligenza artificiale commerciale nelle operazioni governative.
L'intelligenza artificiale nei flussi di lavoro militari comporta una serie di nuove sfide e conseguenze. Un errore non deve necessariamente rimanere tale; un output errato può essere molto più di un semplice inconveniente. Può avere ripercussioni operative e può risultare molto costoso.
Naturalmente, il problema è che questo potrebbe ostacolare l'innovazione. Le aziende tecnologiche sosterranno di aver bisogno di margine di manovra; e hanno certamente ragione nel dire che l'intelligenza artificiale al momento è una lotta all'ultimo sangue in una cabina telefonica, con iterazioni rapide, rivalità aggressive, ingenti spese per le infrastrutture informatiche e una sfida globale alla Cina.
Se ogni nuovo modello di intelligenza artificiale viene tenuto in sospeso per mesi prima di poter essere presentato, le aziende tecnologiche statunitensi accuseranno sicuramente Washington di aver fatto un regalo troppo gradito ai nostri avversari.
Si può però affermare che gli Stati Uniti vorrebbero evitare che la prima dimostrazione pubblica significativa di una capacità particolarmente minacciosa o pericolosa dell'IA avvenga tramite una divulgazione pubblica, poiché è così che si finisce per governare attraverso le scuse.
La valutazione prima dell'implementazione e del rilascio non sarà entusiasmante e probabilmente risulterà fastidiosa per alcuni o per tutti, il che in genere è un buon segno che la regolamentazione si è collocata in una posizione intermedia.
La sfida sarà quella di mantenere la concentrazione. Controllare ogni singola versione di chatbot non avrebbe senso, ma esaminare attentamente i modelli di frontiera più avanzati, in particolare quelli con implicazioni militari, informatiche, biologiche o chimiche, è tutt'altra cosa.
Non si tratta di un funzionario governativo che approva il completamento automatico, ma piuttosto di un ingegnere che esamina il razzo prima del lancio. Probabilmente non è altrettanto spettacolare, ma il concetto è simile.
C'è anche un problema di fiducia. I giganti della tecnologia hanno affermato alle autorità di regolamentazione di essere in grado di autoregolamentarsi, mentre queste ultime hanno accusato le aziende tecnologiche di non essere riuscite a stare al passo con la rapida evoluzione tecnologica.
Il risultato è questa situazione di incertezza in cui le aziende offrono accesso anticipato ai modelli di intelligenza artificiale, i ricercatori federali conducono test indipendenti e tutti sperano che la procedura elimini i risultati peggiori, ma che non si impantani nella burocrazia.
È difficile non pensare che questo momento fosse inevitabile. Una volta che i modelli di intelligenza artificiale hanno raggiunto un livello di potenza tale da influenzare settori come la sicurezza informatica, la sicurezza nazionale e le infrastrutture, non avrebbe più avuto senso per queste aziende continuare a testare i propri modelli in autonomia per sempre.
La persona media potrebbe non conoscere i dettagli di un benchmark o di un report di red teaming, ma è certamente consapevole che la semplice capacità di questi sistemi di causare danni tangibili li rende meritevoli di un'attenta analisi prima della loro immissione sul mercato.
E mentre le grandi aziende tecnologiche vogliono ancora correre in vantaggio e Washington vuole evitare di essere colta di sorpresa, le due parti sembrano essersi allineate, almeno per ora, su una linea d'azione praticabile: rendere pubblici i modelli di intelligenza artificiale prima che il motore ruggisca.
Qual è la tua reazione?
Potrebbero anche interessarti
