"AI kan banken miljarden kosten": Europa waarschuwt voor een cyberdreiging van de volgende generatie

Het alarm werd niet met sirenes afgekondigd; hoewel dat misschien wel had gemoeten. Het lijkt erop dat in sommige van de meer afgesloten beleidsruimtes en in de haastig opgestelde interne bulletins van Europese bank- en financiële toezichtsorganen de autoriteiten iets angstaanjagends beginnen te vermoeden. De dreigende financiële apocalyps wordt mogelijk niet veroorzaakt door onze medemens.

Allereerst is het een AI-model dat een systeem kan testen, de kwetsbaarheden ervan kan opsporen en deze onder bepaalde omstandigheden kan uitbuiten. Volgens meerdere anonieme bronnen in de sector is de ECB begonnen met het benaderen van banken om te vragen hoe zij aankijken tegen de blootstelling aan dit nieuwe risico. Dit gebeurt al en in dit artikel kunt u er meer over lezen: Functionarissen van de ECB onderzoeken het risico dat financiële instellingen het slachtoffer kunnen worden van AI-modellen die als agenten opereren.

Natuurlijk hebben we het altijd over de dreiging van cyberaanvallen, en die hebben we natuurlijk altijd al gehad. Maar dit is niet zomaar een kerel in een hoodie in de kelder. Dit is code met stappen die het kan doorlopen, acties die het aan elkaar kan koppelen en in bepaalde tests zelfs complexe aanvallen. Dát baart hen zorgen.

En nu komen we bij het meest bizarre deel van dit verhaal. Sommige van die managers hebben publiekelijk verklaard dat ze zich "hyperbewust" zijn van de risico's; oftewel, ze slapen 's nachts niet zo goed. AI-systemen vergelijkbaar met Anthropic's Mythos Er wordt beweerd dat ze al in staat zijn geweest om autonome, meerstaps simulaties van cyberaanvallen uit te voeren zonder menselijke tussenkomst. Klinkt dat niet ontzettend eng?

Maar dat is niet het hele verhaal. Er zijn ook berichten dat Mythos een vroege versie van AI-agenten is. Over het algemeen gaat de evolutie van AI van een chatbot die tekst kan genereren, naar een chatbot die plannings- en redeneerstappen kan uitvoeren, naar AI-agenten die de plannen die ze genereren daadwerkelijk kunnen uitvoeren. Regelgevers maken zich steeds meer zorgen over AI-agenten en bespreken welke regelgeving nodig zou kunnen zijn.

Waar brengt dat ons dan? In een soort mengeling van verbazing en angst. Stel je aan de ene kant een AI voor die beveiligingslekken kan vinden en repareren voordat kwaadwillenden dat doen. Stel je aan de andere kant voor dat kwaadwillenden ze als eerste vinden.

Dan is er nog de kwestie van vertrouwen, die zelden in de media komt. Als banken, een van de meest risicomijdende organisaties ter wereld, al huiverig zijn, wat moeten wij er dan van denken? Vertrouw je een AI je geld toe als die de mogelijkheid heeft om van iemand anders te stelen?

Sommigen geloven dat er al een 'AI-wedloop' gaande is, waarbij landen en bedrijven zich haasten om defensieve middelen te ontwikkelen in hetzelfde tempo als ze offensieve middelen zien worden ingezet.

Uiteindelijk is dit niet zomaar weer een technologisch verhaal; het is een van de vele tekenen van de toekomst.