”AI kan kosta banker miljarder”: Europa varnar för nästa generations cyberhot

Varningen utlöstes inte med sirener; men den borde förmodligen ha gjort det. Det verkar som att myndigheterna i några av de mer avskilda policyrummen och i de hastiga interna bulletinerna från europeiska bank- och finanstillsynsorgan börjar misstänka något skrämmande. Den kommande finansiella apokalypsen kanske inte är skapad av någon av våra medmänniskor homo sapiens.

Först och främst är det en AI-modell som kan testa ett system, identifiera dess sårbarheter och under vissa omständigheter utnyttja dem. Enligt flera anonyma branschkällor har ECB börjat kontakta banker för att fråga dem hur de känner sig inför exponeringen för denna typ av nya risker. Vilket redan sker, och som beskrivs i den här artikeln kan du läsa mer om: ECB-tjänstemän undersöker risken för att finansinstitut kan utnyttjas av agentbaserade AI-modeller.

Naturligtvis pratar vi alltid om hotet om cyberrisk från en cyberattack, och det har vi ju alltid haft. Men det här är inte den vanliga killen i källartröja. Det här är kod med steg den kan tänka igenom, åtgärder den kan kedja och i vissa tester komplexa attacker. Det här är vad som oroar dem.

Och nu kommer vi till den mer bisarra delen av historien. Några av dessa chefer har offentligt sagt att de är "hypermedvetna" om riskerna; dvs. de sover inte särskilt bra på natten. AI-system liknande Anthropics Mythos rapporteras redan ha kunnat köra autonoma simuleringsövningar för cyberattacker i flera steg utan mänsklig inblandning. Om det här inte låter väldigt skrämmande.

Men det är inte hela bilden. Det finns också rapporter om att Mythos är en tidig version av AI-agenter. Generellt sett går utvecklingen av AI från en chatbot som kan generera text, till en som kan utföra planerings- och resonemangssteg, till AI-agenter som faktiskt kan genomföra de planer de genererar. Tillsynsmyndigheter är alltmer oroade över AI-agenter och diskuterar vilken typ av regleringar som kan vara nödvändiga.

Så var lämnar det oss? I en slags halvt "förvånad", halvt rädd plats. Å ena sidan, föreställ dig en AI som kan hitta säkerhetshål och åtgärda dem innan onda aktörer gör det. Å andra sidan... föreställ dig onda aktörer som hittar dem först.

Sedan finns det frågan om förtroende, som aldrig får mycket press. Om banker, några av de mest riskaversa organisationerna i världen, är skygga, vad ska vi andra tycka? Litar du på en AI med dina pengar om den har förmågan att stjäla från någon annan?

Vissa tror att en ”AI-kapplöpning” redan pågår, där nationer och företag kämpar för att utveckla försvar lika snabbt som de ser offensiv användas.

I slutändan är detta inte bara ytterligare en teknikhistoria; det är ett av många tecken på framtiden.