“La IA podría costar miles de millones a los bancos”: Europa advierte sobre una amenaza cibernética de próxima generación.

La alerta no se anunció con sirenas, aunque probablemente debería haberse hecho. Parece que en algunos de los círculos políticos más herméticos y en los apresurados boletines internos de los organismos europeos de supervisión bancaria y financiera, las autoridades empiezan a sospechar algo alarmante. El inminente apocalipsis financiero podría no ser obra de ninguno de nuestros semejantes.

En primer lugar, se trata de un modelo de IA capaz de probar un sistema, detectar sus vulnerabilidades y, en determinadas condiciones, explotarlas. Según diversas fuentes anónimas del sector, el BCE ha comenzado a contactar con los bancos para preguntarles su opinión sobre la exposición a este nuevo tipo de riesgo. Este riesgo ya está presente y se detalla en este artículo, donde podrá obtener más información. Los funcionarios del BCE están analizando el riesgo de que las instituciones financieras puedan ser explotadas por modelos de IA con capacidad de gestión de agentes.

Por supuesto, siempre hablamos de la amenaza del riesgo cibernético que supone un ciberataque, y claro, siempre ha existido. Pero no se trata del típico atacante callejero escondido en un sótano. Es código con pasos que puede analizar, acciones que puede encadenar y, en ciertas pruebas, ataques complejos. Esto es lo que les preocupa.

Y ahora llegamos a la parte más extraña de esta historia. Algunos de esos ejecutivos han declarado públicamente que son "hiperconscientes" de los riesgos; es decir, no duermen muy bien por la noche. Sistemas de IA similares a Mythos de Anthropic Según se informa, ya han podido ejecutar simulacros de ciberataques multietapa autónomos sin intervención humana. Si esto no suena muy aterrador...

Pero esa no es toda la historia. También hay informes que indican que Mythos es una versión temprana de los agentes de IA. En general, la evolución de la IA está pasando de un chatbot que puede generar texto a uno que puede realizar pasos de planificación y razonamiento, hasta llegar a agentes de IA que pueden ejecutar los planes que generan. Los reguladores están cada vez más preocupados por los agentes de IA y están debatiendo qué tipo de regulaciones podrían ser necesarias.

¿Y esto en qué situación nos deja? En una especie de estado entre la admiración y el temor. Por un lado, imaginemos una IA capaz de detectar fallos de seguridad y solucionarlos antes de que lo hagan los ciberdelincuentes. Por otro… imaginemos que los ciberdelincuentes los detectan primero.

Luego está el tema de la confianza, que rara vez recibe atención mediática. Si los bancos, algunas de las organizaciones más reacias al riesgo del mundo, se muestran recelosos, ¿qué deberíamos pensar los demás? ¿Confiarías tu dinero a una IA si tiene la capacidad de robarle a otra persona?

Algunos creen que ya se está produciendo una "carrera por la IA", en la que las naciones y las empresas se apresuran a desarrollar sistemas de defensa tan rápido como ven que se utilizan los sistemas ofensivos.

En definitiva, no se trata de una simple historia sobre tecnología; es uno de los muchos indicios del futuro.