"L'intelligenza artificiale potrebbe costare miliardi alle banche": l'Europa mette in guardia contro una minaccia informatica di nuova generazione.

L'allarme non è stato lanciato a gran voce con le sirene spiegate; tuttavia, probabilmente avrebbe dovuto. Sembra che in alcuni degli ambienti più riservati e nei frettolosi bollettini interni degli organismi europei di vigilanza bancaria e finanziaria, le autorità stiano iniziando a sospettare qualcosa di inquietante. L'imminente apocalisse finanziaria potrebbe non essere causata da nessuno dei nostri simili.

Innanzitutto, si tratta di un modello di intelligenza artificiale in grado di testare un sistema, individuarne le vulnerabilità e, in determinate condizioni, sfruttarle. Secondo diverse fonti anonime del settore, la BCE ha iniziato a contattare le banche per chiedere loro come percepiscono l'esposizione a questo nuovo tipo di rischio. Un processo che è già in corso e di cui potete trovare maggiori dettagli in questo articolo: I funzionari della BCE stanno valutando il rischio che le istituzioni finanziarie possano essere sfruttate da modelli di intelligenza artificiale agentiva.

Certo, si parla sempre della minaccia del rischio informatico derivante da un attacco informatico, e ovviamente questa minaccia è sempre esistita. Ma non si tratta del solito tizio con la felpa in cantina. Si tratta di codice con passaggi che può elaborare, azioni che può concatenare e, in alcuni test, attacchi complessi. È questo che li preoccupa.

Ed ora arriviamo alla parte più bizzarra di questa storia. Alcuni di questi dirigenti hanno dichiarato pubblicamente di essere "iperconsapevoli" dei rischi; ovvero, non dormono molto bene la notte. Sistemi di intelligenza artificiale simili a Mythos di Anthropic Sembra che siano già stati in grado di eseguire autonomamente simulazioni di attacchi informatici in più fasi senza intervento umano. Se questo non vi sembra abbastanza spaventoso.

Ma questo non è tutto. Ci sono anche segnalazioni secondo cui Mythos sarebbe una versione embrionale di agenti di intelligenza artificiale. In generale, l'evoluzione dell'IA sta passando da un chatbot in grado di generare testo, a uno capace di eseguire fasi di pianificazione e ragionamento, fino ad arrivare ad agenti di IA in grado di attuare concretamente i piani che generano. Gli enti regolatori sono sempre più preoccupati per gli agenti di IA e stanno discutendo su quali tipi di regolamentazione potrebbero essere necessari.

Quindi, dove ci porta tutto questo? In una sorta di limbo tra stupore e timore. Da un lato, immaginiamo un'intelligenza artificiale in grado di individuare le falle di sicurezza e correggerle prima che lo facciano i malintenzionati. Dall'altro... immaginiamo che siano i malintenzionati a scoprirle per primi.

Poi c'è la questione della fiducia, che raramente riceve molta attenzione da parte dei media. Se le banche, tra le organizzazioni più avverse al rischio al mondo, sono titubanti, cosa dovremmo pensare noi altri? Vi fidereste di un'intelligenza artificiale con i vostri soldi se questa ha la capacità di rubare a qualcun altro?

Alcuni ritengono che sia già in corso una "corsa all'intelligenza artificiale", in cui nazioni e aziende si affrettano a sviluppare sistemi di difesa con la stessa rapidità con cui vedono che l'attacco viene utilizzato.

In definitiva, questa non è solo un'altra storia di tecnologia; è uno dei tanti segnali del futuro.