La Casa Blanca sopesa los controles de IA antes de su lanzamiento público, advierte Silicon Valley.
La Casa Blanca del presidente Donald Trump está sopesando si se debería permitir al gobierno estadounidense examinar los modelos de IA más potentes antes de que estén disponibles para el público, lo que supone un cambio significativo con respecto a su anterior enfoque de no intervención en la industria de la IA.
En la más Noticia reciente sobre la evaluación de modelos de IA en la Casa Blanca.El debate se reduce a si el gobierno debería intervenir antes de que los sistemas de vanguardia con capacidades de codificación o ciberseguridad se distribuyan al público. No se trata de un cambio sutil. Es Washington preguntándose si la carrera armamentística de la IA ha evolucionado hasta el punto en que la estrategia de "lanzarlo y ver qué pasa" ya no es suficiente.
La propuesta que se está considerando implica una orden ejecutiva que podría establecer un grupo de trabajo integrado por funcionarios públicos y ejecutivos del sector tecnológico para analizar cómo podría funcionar la regulación.
Según otros informes sobre las conversaciones de la administraciónLa conversación se ha centrado principalmente en modelos sofisticados que podrían facilitar los ciberataques o ayudar a identificar vulnerabilidades del software.
Eso sí que es un cambio radical. La administración que prometió eliminar las barreras al desarrollo de la IA ahora parece dispuesta a imponer una. Quizás no un muro, quizás solo una puerta.
Esto surge a raíz de la preocupación generada por el último sistema de Anthropic, Mythos, que, según se informa, inquietó a los expertos en ciberseguridad debido a su sofisticada codificación y sus capacidades de detección de vulnerabilidades. Los medios también informaron que se estaba considerando un enfoque para evaluar los modelos con implicaciones para la seguridad nacional antes de su lanzamiento general.
La preocupación es bastante lógica: si un modelo puede utilizarse para detectar errores con mayor rapidez, probablemente también ayudará a los hackers a detectarlos aún más rápido. Ese es el punto delicado de este argumento.
Para Trump, esto supone un importante cambio de rumbo. Cuando firmó una orden ejecutiva para reducir los obstáculos al dominio de la IA en enero de 2025, desmanteló las políticas sobre IA previamente implementadas por su gobierno, las cuales, según él, obstaculizaban la innovación.
En aquel entonces nos dijo: construyan rápido, limiten la supervisión gubernamental y saldrán victoriosos. Esta vez el mensaje parece más complejo: construyan rápido, pero no le den a todo el mundo un soplete cibernético sin antes comprobar el interruptor de seguridad.
Esa fricción es precisamente la razón por la que este artículo es importante. Las empresas de IA buscan velocidad, ya que atrae usuarios, financiación e influencia geopolítica. Las autoridades de seguridad exigen prudencia porque, cada vez más, los modelos de IA más sofisticados se asemejan a sistemas de codificación y análisis de propósito general, e incluso a sistemas de ciberguerra. Ambas posturas son acertadas. Y, lamentablemente, por eso resulta difícil establecer normas.
La estrategia general de IA de la administración se centra principalmente en acelerar las cosas. El Plan de Acción de IA de Estados Unidos divide la política de IA estadounidense en tres categorías:
- impulsar la innovación
- construir infraestructura de IA
- Liderar en diplomacia y seguridad globales.
El último punto está teniendo una gran repercusión en estos momentos. Cuando los modelos de IA son cruciales para la ciberseguridad, el armamento, la inteligencia y la infraestructura crítica, dejan de ser una simple tecnología de consumo para convertirse en activos y, a la vez, en problemas para la seguridad nacional.
Ya existen algunas bases tecnológicas para pensar en términos de riesgo. Washington simplemente está debatiendo la escala apropiada de aplicación. El Instituto Nacional de Estándares y Tecnología ha publicado un Marco de gestión de riesgos de IA para ayudar a las organizaciones a afrontar los riesgos para las personas, las empresas y las comunidades.
No es obligatorio. No se requieren licencias. Sin embargo, este marco ofrece a los funcionarios gubernamentales un nuevo lenguaje para hablar sobre la compleja tarea de identificar daños, evaluar riesgos, mitigar fallas y determinar responsabilidades cuando las cosas salen mal.
Todo esto también está ocurriendo al mismo tiempo que la IA se integra cada vez más en el gobierno y la defensa. Días antes de la reciente conversación sobre la verificación, el Pentágono acordó incorporar tecnologías de IA a los sistemas clasificados como parte de acuerdos con varias grandes empresas tecnológicas, como se informó en El ejército estadounidense anuncia nuevas alianzas en materia de inteligencia artificial..
Una vez que los modelos de vanguardia se integran en operaciones gubernamentales delicadas, las reglas del juego cambian. Un error se convierte en algo más que una demostración fallida. Un percance se convierte en algo más que una mala noticia. La realidad se impone rápidamente.
La industria tecnológica no apreciará esa incertidumbre. Hay que reconocer que, cuando Washington empieza a hablar de comités de revisión, no se oyen muchos aplausos.
Algunos argumentarán que las pruebas previas al lanzamiento pueden ralentizar la innovación, provocar filtraciones de información técnica sensible o la aparición de un competidor extranjero con intereses diferentes. Lo cierto es que ninguna de estas preocupaciones es infundada. En inteligencia artificial, un retraso de varios meses puede ser comparable a presentarse a la Fórmula 1 en bicicleta.
Sin embargo, ese argumento resulta cada vez más difícil de ignorar. Si la próxima generación de modelos se va a utilizar para facilitar ciberataques, acelerar la investigación biológica, fabricar fraudes más sofisticados o automatizar campañas de desinformación, entonces la frase «confíen en nosotros, lo hemos probado nosotros mismos en el laboratorio» podría dejar de convencer al público por mucho tiempo. La demanda no se basa en una pasión por la burocracia, sino en la magnitud de las consecuencias.
Eso es lo más probable, al menos en los próximos años, en lugar de un sistema de licencias gubernamentales para todos los modelos de IA, lo cual sería imposible de ejecutar en la práctica.
En cambio, las autoridades podrían centrar la regulación únicamente en los sistemas más avanzados, incluidos aquellos con capacidad para realizar ciberataques a gran escala o que puedan ser utilizados directamente por el gobierno. Consideremos, por ejemplo, la exigencia de que los desarrolladores de IA respondan a algunas preguntas antes de poder vender sistemas de alta potencia a cualquier persona con tarjeta de crédito.
Aun así, sigue siendo un hito. La Casa Blanca está enviando un mensaje contundente al sector privado: la IA de vanguardia podría haber superado la etapa en la que representaba solo una prometedora herramienta tecnológica para convertirse en un riesgo estratégico. Esto, por supuesto, no significa el fin del auge de la IA, para que quede claro. Más bien, indica que la IA ha desarrollado algunas vulnerabilidades.
Silicon Valley lleva tiempo diciéndole a Washington que Estados Unidos necesita acelerar el paso para mantener su liderazgo. Parece que Washington quiere responder: «Vale, primero enséñanos a frenar».
Cual es tu reaccion?
También te puede gustar
