„Egy mesterséges intelligencia milliárdokba kerülhet a bankoknak”: Európa egy új generációs kiberfenyegetésre figyelmeztet

A riasztást nem szirénázták, pedig valószínűleg kellett volna. Úgy tűnik, hogy az európai banki és pénzügyi felügyeleti szervek zártabb politikai szobáiban és sietve megjelenő belső közleményeiben a hatóságok valami ijesztő dologra gyanakodni kezdenek. A közelgő pénzügyi apokalipszist talán nem homo sapiens társaink egyike sem idézte elő.

Először is, ez egy mesterséges intelligencia modell, amely képes tesztelni egy rendszert, kideríteni annak sebezhetőségeit, és bizonyos körülmények között kihasználni azokat. Több anonim iparági forrás szerint az EKB megkereste a bankokat, hogy megkérdezze tőlük, mit gondolnak az ilyen típusú új kockázatoknak való kitettségről. Ez már folyamatban van, és ebben a cikkben részletesen is kifejtjük, hogy miről tudhat meg többet: Az EKB tisztviselői vizsgálják annak kockázatát, hogy a pénzügyi intézményeket ügynöki mesterséges intelligencia modellek kihasználhatják.

Természetesen mindig a kibertámadások jelentette kiberfenyegetésről beszélünk, és ez természetesen mindig is így volt. De ez nem a szokásos fickó a pincében lévő kapucnis pulóverben. Ez egy olyan kód, ami lépéseken keresztül tud gondolkodni, műveleteken keresztül tud láncolni, és bizonyos tesztekben összetett támadásokat is képes végrehajtani. Ez az, ami aggasztja őket.

És most elérkeztünk a történet bizarrabb részéhez. Ezen vezetők közül néhányan nyilvánosan kijelentették, hogy „hiper-tudatosak” a kockázatokkal kapcsolatban; azaz nem alszanak túl jól éjszaka. Az Anthropic Mythosához hasonló mesterséges intelligencia rendszerek a beszámolók szerint már képesek voltak emberi beavatkozás nélküli autonóm, többlépcsős kibertámadás-szimulációs gyakorlatokat lefuttatni. Ha ez nem hangzik túl ijesztően.

De ez nem a teljes kép. Vannak jelentések arról is, hogy a Mythos a mesterséges intelligencia által vezérelt ágensek egy korai változata. Általánosságban elmondható, hogy a mesterséges intelligencia fejlődése a szöveget generáló chatbotoktól a tervezési és érvelési lépéseket végrehajtó, majd a terveket ténylegesen végrehajtó mesterséges intelligencia által vezérelt ágensekig terjed. A szabályozó hatóságok egyre inkább aggódnak a mesterséges intelligencia által vezérelt ágensek miatt, és megvitatják, hogy milyen szabályozásokra lehet szükség.

Szóval, mi lesz így velünk? Egy félig „meglepett”, félig ijedt állapotban. Egyrészt képzeljünk el egy mesterséges intelligenciát, amely képes biztonsági réseket találni és kijavítani, mielőtt a rosszindulatú szereplők ezt megtennék. Másrészt… képzeljük el, hogy a rosszindulatú szereplők találják meg őket először.

Aztán ott van a bizalom kérdése, ami sosem kap sok sajtóvisszhangot. Ha a bankok, a világ legkockázatkerülőbb szervezetei közé tartoznak, félénkek, mit gondoljunk erről nekünk, többieknek? Rábízzuk-e a pénzünket egy mesterséges intelligenciára, ha az képes ellopni valaki mástól?

Vannak, akik úgy vélik, hogy már folyamatban van egy „mesterséges intelligencia verseny”, ahol a nemzetek és a vállalatok igyekeznek a lehető leggyorsabban fejleszteni a védelmet, amint látják, hogy a támadójátékot alkalmazzák.

Végső soron ez nem csupán egy újabb technológiai történet; ez a jövő számos jelének egyike.