„Sztuczna inteligencja może kosztować banki miliardy”: Europa ostrzega przed cyberzagrożeniem nowej generacji

Alarm nie został ogłoszony syrenami, choć prawdopodobnie powinien. Wygląda na to, że w niektórych bardziej zamkniętych gabinetach politycznych i w pospiesznych komunikatach wewnętrznych europejskich organów nadzoru bankowego i finansowego, władze zaczynają podejrzewać coś przerażającego. Nadchodząca finansowa apokalipsa może nie być dziełem żadnego z naszych homo sapiens.

Przede wszystkim jest to model sztucznej inteligencji, który może testować system, identyfikować jego luki w zabezpieczeniach i w określonych warunkach je wykorzystywać. Według wielu anonimowych źródeł branżowych, EBC zaczął kontaktować się z bankami, pytając, jak reagują na narażenie na ten rodzaj nowego ryzyka. Ryzyko to już występuje, a w tym artykule można dowiedzieć się więcej na ten temat: Przedstawiciele EBC biorą pod uwagę ryzyko wykorzystania instytucji finansowych przez modele sztucznej inteligencji oparte na agentach.

Oczywiście, zawsze mówimy o zagrożeniu cyberatakiem i oczywiście zawsze je mieliśmy. Ale to nie jest zwykły facet w piwnicznej bluzie z kapturem. To kod z krokami, które może przemyśleć, działaniami, które może połączyć w łańcuch, a w niektórych testach z atakiem złożonym. To właśnie ich niepokoi.

A teraz dochodzimy do bardziej kuriozalnej części tej historii. Niektórzy z tych dyrektorów publicznie oświadczyli, że są „hiperświadomi” ryzyka; czyli że nie śpią zbyt dobrze w nocy. Systemy sztucznej inteligencji podobne do Mythos firmy Anthropic Podobno udało im się już przeprowadzić autonomiczne, wieloetapowe symulacje cyberataków bez ingerencji człowieka. Jeśli to nie brzmi zbyt przerażająco.

Ale to nie jest pełny obraz sytuacji. Pojawiają się również doniesienia, że ​​Mythos to wczesna wersja agentów AI. Ogólnie rzecz biorąc, ewolucja AI przechodzi od chatbota, który potrafi generować tekst, do takiego, który potrafi planować i wnioskować, a następnie do agentów AI, którzy potrafią faktycznie realizować generowane przez siebie plany. Regulatorzy są coraz bardziej zaniepokojeni agentami AI i dyskutują nad tym, jakie regulacje mogą być konieczne.

Gdzie to nas zostawia? W stanie pół-zaskoczenia, pół-przerażenia. Z jednej strony, wyobraźmy sobie sztuczną inteligencję, która potrafi znaleźć luki w zabezpieczeniach i naprawić je, zanim zrobią to źli aktorzy. Z drugiej… wyobraźmy sobie, że źli aktorzy znajdą je pierwsi.

Jest jeszcze kwestia zaufania, która nigdy nie jest szeroko omawiana w prasie. Skoro banki, jedne z najbardziej niechętnych ryzyku organizacji na świecie, są nieufne, co my wszyscy powinniśmy o tym myśleć? Czy powierzysz swoje pieniądze sztucznej inteligencji, skoro potrafi ona je ukraść?

Niektórzy uważają, że trwa już „wyścig sztucznej inteligencji”, w ramach którego państwa i firmy starają się rozwijać obronę tak szybko, jak szybko obserwują rozwój ataku.

Ostatecznie nie jest to po prostu kolejna historia dotycząca technologii; to jeden z wielu znaków przyszłości.