«En AI kan koste banker milliarder»: Europa advarer om en neste generasjons cybertrussel

Varselet ble ikke utløst med sirener, men det burde det nok ha blitt. Det ser ut til at myndighetene i noen av de mer lukkede policyrommene og i de hastige interne bulletinene til europeiske bank- og finanstilsynsorganer begynner å mistenke noe skremmende. Den kommende finansapokalypsen er kanskje ikke skapt av noen av våre homo sapiens-feller.

Først og fremst er det en AI-modell som kan teste et system, finne ut av dets sårbarheter og under visse omstendigheter utnytte dem. Ifølge flere anonyme bransjekilder har ECB begynt å kontakte banker for å spørre dem hvordan de føler om eksponeringen for denne typen ny risiko. Noe som allerede skjer, og detaljert i denne artikkelen kan du lære mer om: ECB-tjenestemenn ser på risikoen for at finansinstitusjoner kan bli utnyttet av agentiske AI-modeller.

Selvfølgelig snakker vi alltid om trusselen fra cyberrisiko fra et cyberangrep, og det har vi selvfølgelig alltid hatt. Men dette er ikke den vanlige fyren i kjellerhettegenser. Dette er kode med trinn den kan tenke gjennom, handlinger den kan kjede og i visse tester komplekse angrep. Det er dette som bekymrer dem.

Og nå kommer vi til den mer bisarre delen av denne historien. Noen av disse lederne har offentlig uttalt at de er «hyperbevisste» på risikoene; dvs. de sover ikke så godt om natten. AI-systemer som ligner på Anthropics Mythos rapporteres allerede å ha vært i stand til å kjøre autonome flertrinns simuleringsøvelser for cyberangrep uten menneskelig inngripen. Hvis ikke dette høres veldig skummelt ut.

Men det er ikke hele bildet. Det finnes også rapporter om at Mythos er en tidlig versjon av AI-agenter. Generelt sett går utviklingen av AI fra en chatbot som kan generere tekst, til en som kan utføre planleggings- og resonneringstrinn, til AI-agenter som faktisk kan gjennomføre planene de genererer. Regulatorer er stadig mer bekymret for AI-agenter og diskuterer hva slags reguleringer som kan være nødvendige.

Så hvor etterlater det oss? I et slags halvt «forbløffet», halvt redd sted. På den ene siden, tenk deg en AI som kan finne sikkerhetshull og fikse dem før onde aktører gjør det. På den andre ... tenk deg at onde aktører finner dem først.

Så er det spørsmålet om tillit, som aldri får mye presseomtale. Hvis banker, noen av de mest risikoaverse organisasjonene i verden, er sky, hva burde resten av oss tenke? Stoler du på en AI med pengene dine hvis den har evnen til å stjele fra noen andre?

Noen tror at det allerede pågår et «AI-kappløp», der nasjoner og selskaper kjemper for å utvikle forsvar like raskt som de ser at angrep blir brukt.

Til syvende og sist er ikke dette bare nok en teknologihistorie; det er et av de mange tegnene på fremtiden.