Los funcionarios estadounidenses desean tener acceso anticipado a la IA avanzada, y las grandes empresas han dado su consentimiento.
Microsoft, Google DeepMind y xAI de Elon Musk se han ofrecido a permitir que el gobierno de EE. UU. acceda a nuevos modelos de IA antes de su lanzamiento general, lo que establece una nueva fase en la a menudo conflictiva relación de Silicon Valley con el temor del gobierno de EE. UU. a las amenazas de la IA, basada en el Último informe sobre empresas de IA que ofrecen modelos a funcionarios estadounidenses en nombre de la revisión de seguridad.con la esperanza de que los analistas gubernamentales puedan examinar los sistemas de IA de vanguardia en busca de amenazas a la seguridad, como ciberataques y uso militar, antes de que se expongan al público, tanto desarrolladores y usuarios como, inevitablemente, aquellos que no deberían tener acceso a un modelo de IA convertido en arma.
Las revisiones serán realizadas por el Centro de Estándares e Innovación de IA del Departamento de Comercio, o CAISI, que dice que la empresa Acuerdo con Google DeepMind, Microsoft y xAI Esto le brinda la oportunidad de evaluar los modelos de IA en la fase previa a su implementación, realizar investigaciones en áreas específicas y revisarlos después de su lanzamiento a producción.
Puede que suene aburrido, pero no lo es. Se trata del gobierno pidiendo que se levante la tapa del capó antes de que el coche salga a la carretera, y la tensión aumenta día a día.
Aún está por verse, pero existe un temor comprensible de que la IA altamente desarrollada ayude a los ciberdelincuentes a ser aún más eficaces en sus crímenes. «Los funcionarios estadounidenses han comenzado a observar con recelo y aprensión los modelos emergentes de vanguardia en sus primeras etapas, señalando que algunos han aumentado los niveles de estrés de los más altos funcionarios del gobierno», escribió Reuters.
Una de las herramientas de IA que más preocupación ha suscitado es Mythos de Anthropic, un modelo recientemente revelado. El problema no radica en que la IA pueda identificar fallos de seguridad que las personas no perciben, sino en que una herramienta podría permitir a los expertos en seguridad encontrar fallos de seguridad, y un atacante también podría descubrirlos.
Microsoft se ha sumado al debate sobre la IA. Según su comunicado de prensa, Microsoft se ha comprometido a "colaborar con científicos estadounidenses y británicos para identificar y mitigar las consecuencias no deseadas de los modelos de IA y contribuir al desarrollo de conjuntos de datos compartidos y métodos de evaluación para la seguridad y el rendimiento de los modelos".
En un ejemplo de este tipo de colaboración, Microsoft firmó este mes un acuerdo con el Instituto de Seguridad de la IA del Reino Unido. Colaborar con funcionarios de ambos países para gestionar conjuntamente los riesgos de la IA. Esto sugiere que este tema tiene relevancia más allá de los límites de la capital estadounidense.
CAISI no parte de cero. La agencia afirma haber realizado ya más de 40 evaluaciones, incluidas las de modelos de vanguardia aún no publicados; los desarrolladores a veces comparten versiones con protecciones reducidas o desactivadas para exponer los peores riesgos para la seguridad nacional. Sí, suena inquietante, y esa es la intención; al fin y al cabo, no se comprueba la eficacia de una cerradura simplemente pidiéndole a la puerta que permanezca cerrada.
Además, los nuevos pactos amplían el acceso previo del gobierno a los modelos puestos a disposición por OpenAI y Anthropic; por separado, OpenAI entregó al gobierno estadounidense GPT-5.5 para su evaluación en contextos de seguridad nacional.Según Chris Lehane de OpenAI, al combinar estos elementos se empieza a vislumbrar una imagen clara: los laboratorios de IA más capaces están siendo sometidos a un proceso de evaluación gubernamental con antelación, antes incluso de que sus tecnologías se pongan en marcha.
Aquí hay una política interesante (y compleja) en juego. En general, la administración Trump ha centrado su estrategia de IA en la aceleración, la desregulación y el dominio de Estados Unidos en el escenario mundial. Pero cualquier estrategia de IA con visión de futuro también debe lidiar con la compleja realidad de que los modelos de vanguardia no son solo herramientas de productividad.
La administración de Trump Plan de acción de inteligencia artificial de Estados Unidos Su objetivo principal es impulsar la innovación, construir la infraestructura necesaria para sostenerla y promover el liderazgo de Estados Unidos en la diplomacia y la seguridad internacionales en materia de IA. Este último aspecto es fundamental.
También hay un componente de defensa que no se puede pasar por alto. Solo unos días antes de que se anunciaran estos acuerdos de revisión de modelos, el Pentágono estaba cerrando tratos con empresas líderes en IA y tecnología para acceder a los mejores sistemas en redes clasificadas, según informes sobre el Esfuerzo de las fuerzas armadas por incorporar inteligencia artificial comercial en las operaciones gubernamentales.
La IA en los flujos de trabajo militares plantea numerosos desafíos y consecuencias. Un error no tiene por qué ser solo un error; un resultado erróneo puede ser mucho más que un inconveniente. Puede afectar al funcionamiento del sistema y resultar costoso.
Naturalmente, el problema radica en que esto podría frenar la innovación. Las empresas tecnológicas argumentarán que necesitan margen de maniobra; y sin duda tienen razón al afirmar que la IA es actualmente una lucha encarnizada, con iteraciones rápidas, rivalidades agresivas, enormes gastos en infraestructura informática y un desafío global para China.
Si cada nuevo modelo de IA se retrasa meses antes de su lanzamiento, las empresas tecnológicas estadounidenses seguramente acusarán a Washington de hacerles un regalo en bandeja a nuestros adversarios.
Pero cabe decir que Estados Unidos querría evitar que la primera demostración pública significativa de una capacidad particularmente amenazante o peligrosa de la IA fuera un lanzamiento público, ya que así es como se termina gobernando a través de disculpas.
La evaluación previa a su implementación y lanzamiento no será emocionante, y probablemente resultará molesta para algunos o para todos, lo cual suele ser una buena señal de que la regulación ha encontrado un punto intermedio.
El reto consistirá en mantener el enfoque. Revisar cada lanzamiento de chatbot no tendría sentido, pero analizar detenidamente los modelos más avanzados y vanguardistas, especialmente aquellos con implicaciones militares, cibernéticas, biológicas o químicas, es otra cuestión.
No se trata de que un funcionario del gobierno apruebe tu autocompletado, sino más bien de que un ingeniero revise el cohete antes de su lanzamiento. Probablemente no sea tan dramático, pero es similar.
Aquí también existe un problema de confianza. Los gigantes tecnológicos han dicho a los reguladores que pueden autorregularse, mientras que estos últimos han dicho a las empresas tecnológicas que no han logrado mantenerse al día con la tecnología en constante evolución.
El resultado es este incómodo punto intermedio en el que las empresas ofrecen acceso anticipado a modelos de IA, los investigadores federales realizan pruebas independientes y todos esperan que el procedimiento filtre los peores resultados, pero que no acabe atascado en la burocracia.
Es difícil no sentir que este momento era inevitable. Una vez que los modelos de IA alcanzaron un nivel de poder suficiente para influir en sectores como la ciberseguridad, la seguridad nacional y la infraestructura, ya no tenía sentido que estas empresas se limitaran a probar sus modelos por su cuenta indefinidamente.
Es posible que la persona promedio desconozca las complejidades de una prueba de rendimiento o un informe de un equipo rojo, pero sin duda es consciente de que la mera capacidad de estos sistemas para causar daños tangibles hace que valga la pena examinarlos detenidamente antes de que salgan al mercado.
Y si bien las grandes tecnológicas aún quieren ir a toda velocidad y Washington todavía quiere evitar ser tomado por sorpresa, ambas partes parecen haberse puesto de acuerdo, al menos por ahora, en un plan de acción factible: abrir los modelos de IA antes de que el motor ruge.
Cual es tu reaccion?
También te puede gustar
