« Une IA pourrait coûter des milliards aux banques » : l’Europe met en garde contre une cybermenace de nouvelle génération

L'alerte n'a pas été donnée à grand renfort de sirènes ; pourtant, elle aurait sans doute dû l'être. Il semblerait que, dans certains cercles décisionnels plus fermés et dans les bulletins internes, souvent rédigés à la hâte, des organismes européens de surveillance bancaire et financière, les autorités commencent à soupçonner quelque chose d'effrayant. L'apocalypse financière imminente pourrait bien ne pas être provoquée par l'un de nos semblables.

Il s'agit tout d'abord d'un modèle d'IA capable de tester un système, d'identifier ses vulnérabilités et, dans certaines conditions, de les exploiter. Selon plusieurs sources anonymes du secteur, la BCE a commencé à contacter les banques pour connaître leur ressenti face à ce nouveau type de risque. Ce processus est déjà en cours et détaillé dans cet article : Les responsables de la BCE examinent le risque que les institutions financières soient exploitées par des modèles d'IA agents.

Bien sûr, on parle toujours de la menace que représentent les cyberattaques, et ce risque a toujours existé. Mais il ne s'agit pas d'un simple pirate informatique retranché dans sa cave. Il s'agit d'un code capable de raisonner, d'enchaîner des actions et, dans certains tests, de mener des attaques complexes. C'est cela qui les inquiète.

Et voici maintenant la partie la plus étrange de cette histoire. Certains de ces dirigeants ont déclaré publiquement être « extrêmement conscients » des risques ; autrement dit, ils ne dorment pas très bien la nuit. Des systèmes d'IA similaires à Mythos d'Anthropic Il semblerait que des équipes aient déjà réussi à mener des exercices de simulation de cyberattaques autonomes en plusieurs étapes, sans intervention humaine. De quoi faire froid dans le dos.

Mais le tableau est plus complexe. Il semblerait également que Mythos soit une version préliminaire d'agents d'IA. De manière générale, l'évolution de l'IA se fait d'un chatbot capable de générer du texte à un système capable de planifier et de raisonner, puis à des agents d'IA capables d'exécuter les plans qu'ils élaborent. Les autorités de régulation s'inquiètent de plus en plus de ces agents d'IA et examinent les réglementations nécessaires.

Où cela nous mène-t-il ? À un entre-deux, entre émerveillement et crainte. D’un côté, imaginons une IA capable de détecter et de corriger les failles de sécurité avant les cybercriminels. De l’autre… imaginons des cybercriminels les découvrant en premier.

Il y a ensuite la question de la confiance, un sujet rarement abordé. Si les banques, parmi les organisations les plus prudentes au monde, sont inquiètes, que devrions-nous penser ? Ferions-nous confiance à une IA capable de voler notre argent ?

Certains pensent qu’une « course à l’IA » est déjà en cours, où les nations et les entreprises s’efforcent de développer des systèmes de défense aussi rapidement que les systèmes offensifs sont utilisés.

Au final, il ne s'agit pas simplement d'une histoire technologique de plus ; c'est l'un des nombreux signes de l'avenir.