¿Demasiado inteligente para nuestra tranquilidad? Los reguladores luchan por controlar un nuevo tipo de amenaza de IA.

No es precisamente un buen momento para los reguladores. El sentimiento general es: ¿Acaso las cosas han empeorado más rápido de lo esperado?

En este momento, los reguladores del Reino Unido están buscando frenéticamente controlar lo que parece ser un salto alarmante en el uso de la IA. Un modelo creado por Antrópico Al parecer, se ha logrado descubrir un gran número de vulnerabilidades de software, lo que está generando preocupación entre la población.

Esto no es ciencia ficción. Es real.

Tras una evaluación interna, dado que el modelo aún se encuentra en fase de pruebas iniciales, los reguladores comenzaron a preguntarse si este nuevo sistema de IA podría tener efectos negativos para el Reino Unido. El hecho de que se dijera que el modelo era capaz de detectar miles de vulnerabilidades en un entorno determinado generó alarma.

Los reguladores británicos, incluido el Banco de Inglaterra, respondieron. Los detalles de lo sucedido y las reacciones de los reguladores se pueden consultar en el siguiente informe:

Pero detengámonos un momento. Ahí reside la dificultad. No se trata de malas noticias. Al fin y al cabo, identificar vulnerabilidades es una herramienta increíblemente valiosa en el campo de la IA.

Cuanto más rápido se apliquen los parches, menor será el número de vulnerabilidades iniciales. Esto resulta útil para los profesionales de la ciberseguridad. El problema radica en que también beneficia a quienes desean explotar dichas vulnerabilidades.

Ese es el problema del doble uso que ha sido tan frecuente en la IA a medida que ha evolucionado rápidamente.

Un análisis del potencial de la IA en la ciberseguridad también revela los posibles inconvenientes de esta tecnología: algunos expertos ya susurran que estamos entrando en una fase en la que la IA no solo ayuda a los hackers, sino que podría superar por completo a los defensores humanos.

Es una idea aterradora, pero ¿es cierta? Ya sabemos que algunas tecnologías de IA son capaces de identificar e incluso explotar vulnerabilidades del sistema. Es solo cuestión de tiempo antes de que podamos hacerlo automáticamente.

He hablado con algunos desarrolladores durante el último año y se percibe un cambio sutil en el tono. Como bromeó uno de ellos: «Creamos herramientas para que nos ayudaran... ahora comprobamos si necesitan supervisión, como si fueran becarios que nunca duermen».

Estoy seguro de que habremos escuchado más de los responsables políticos a medida que lidian con los rápidos avances de las tecnologías de IA a nivel mundial:

Paralelamente, empresas como Google y OpenAI continúan su trayectoria de desarrollo propio hacia sistemas cada vez más potentes en una competencia bastante discreta.

Esta competición no es de las que arman un gran revuelo, sino más bien de las que, con cada mejora, elevan el nivel mínimo y máximo de lo que es posible. Esto plantea otra pregunta que la gente suele evitar.

¿Estamos construyendo más rápido de lo que podemos comprender los resultados? Dado que las regulaciones ya se esfuerzan por mantenerse actualizadas, ¿qué sucederá dentro de seis meses?

Otro artículo que analiza la aceleración de la IA y por qué la regulación no es capaz de seguirle el ritmo refuerza este punto.

En realidad, no hay un final feliz para todo esto. Hemos llegado a un punto en el que la rápida aceleración es una realidad y el futuro es incierto. Es un momento importante para todos nosotros.

La IA ya no es solo una herramienta. Se está convirtiendo en un actor clave en sistemas que apenas controlamos por completo. Es un momento decisivo, y las respuestas probablemente varíen según la perspectiva de cada uno.