Les autorités américaines souhaitent un accès anticipé à l'IA avancée, et les grandes entreprises ont donné leur accord.
Microsoft, Google DeepMind et xAI d'Elon Musk ont proposé au gouvernement américain d'accéder à de nouveaux modèles d'IA avant leur publication officielle, ce qui marque une nouvelle étape dans les relations souvent conflictuelles entre la Silicon Valley et le gouvernement américain, ce dernier craignant les menaces que représente l'IA. Dernier rapport sur les entreprises d'IA proposant des modèles à des responsables américains au nom d'une évaluation de sécurité, dans l'espoir que les analystes gouvernementaux puissent examiner les systèmes d'IA de pointe afin de déceler les menaces à la sécurité telles que les cyberattaques et l'utilisation militaire avant qu'ils ne soient exposés au public par les développeurs et les utilisateurs, et, inévitablement, par ceux qui ne devraient pas avoir accès à un modèle d'IA militarisé.
Les évaluations seront menées par le Centre pour les normes et l'innovation en IA du département du Commerce (CAISI), qui affirme que l'entreprise collaborer avec Google DeepMind, Microsoft et xAI Cela lui donne l'opportunité de valider les modèles d'IA en phase de pré-déploiement, de mener des recherches dans des domaines spécifiques et de les examiner après leur mise en production.
Cela peut paraître ennuyeux, mais ça ne l'est pas. Le gouvernement demande simplement à lever le voile avant même que la voiture ne prenne la route, et la situation devient de plus en plus tendue.
L'avenir nous le dira, mais la crainte que des IA très perfectionnées permettent aux cybercriminels d'être encore plus efficaces dans leurs crimes est compréhensible. « Les responsables américains ont commencé à observer avec suspicion et appréhension les modèles émergents à leurs débuts, notant que certains ont accru le stress des plus hauts responsables gouvernementaux », a écrit Reuters.
Parmi les outils d'IA qui suscitent le plus d'inquiétude, on trouve Mythos d'Anthropic, un modèle récemment dévoilé. Le problème n'est pas tant que l'IA puisse identifier des failles de sécurité invisibles pour l'humain, mais plutôt qu'un même outil puisse permettre aux experts en sécurité de les repérer, et qu'un attaquant puisse également les découvrir.
Microsoft s'est engagé dans le débat sur l'IA. Selon son communiqué de presse, Microsoft a promis de « collaborer avec des scientifiques américains et britanniques afin d'identifier et d'atténuer les conséquences imprévues des modèles d'IA et de contribuer au développement d'ensembles de données partagés et de méthodes d'évaluation de la sécurité et des performances des modèles ».
À titre d'exemple de ce type de collaboration, Microsoft a signé ce mois-ci un accord avec l'Institut britannique de sécurité de l'IA Collaborer avec des représentants des deux pays pour gérer ensemble les risques liés à l'IA. Cela indique que ce sujet dépasse le cadre de la capitale américaine.
CAISI ne part pas de zéro. L'agence affirme avoir déjà mené plus de 40 évaluations, y compris sur des modèles de pointe non encore commercialisés ; les développeurs partagent parfois des versions dont les protections sont désactivées ou réduites afin de mettre en évidence les risques les plus graves pour la sécurité nationale. Certes, cela paraît inquiétant, et c'est voulu ; après tout, on ne vérifie pas l'efficacité d'une serrure en se contentant de demander à la porte de rester fermée.
En outre, les nouveaux accords élargissent l'accès antérieur des gouvernements aux modèles mis à disposition par OpenAI et Anthropic ; séparément, OpenAI a remis au gouvernement américain le modèle GPT-5.5 pour évaluation dans des contextes de sécurité nationale.D'après Chris Lehane d'OpenAI, si l'on rassemble ces éléments, une image claire se dessine : les laboratoires d'IA les plus performants sont soumis à un processus de vérification gouvernemental avant même la mise en service de leurs technologies.
Il y a là des enjeux politiques intéressants (et complexes). Dans l'ensemble, l'administration Trump a axé sa stratégie en matière d'IA sur l'accélération, la déréglementation et la domination américaine sur la scène internationale. Mais toute stratégie d'IA novatrice doit aussi composer avec la réalité complexe selon laquelle les modèles de pointe ne sont pas que de simples outils de productivité.
L'administration de Trump Plan d'action américain pour l'IA Il vise principalement à stimuler l'innovation, à mettre en place l'infrastructure nécessaire à son maintien et à promouvoir le leadership américain en matière de diplomatie et de sécurité internationales liées à l'IA. C'est ce dernier point qui est crucial.
Il existe également un volet défense qu'il ne faut pas négliger. Quelques jours seulement avant l'annonce de ces accords d'examen de modèles, le Pentagone concluait des accords avec des entreprises de pointe en IA et en technologies afin d'accéder aux meilleurs systèmes sur des réseaux classifiés, selon des informations parues dans la presse. Les efforts des forces armées pour intégrer l'IA commerciale dans les opérations gouvernementales.
L'intégration de l'IA dans les processus militaires soulève de nombreux défis et conséquences. Un dysfonctionnement n'est pas forcément un simple bug ; un résultat erroné peut avoir des conséquences bien plus graves qu'un simple désagrément. Il peut affecter le fonctionnement et s'avérer très coûteux.
Le problème, bien sûr, est que cela pourrait freiner l'innovation. Les entreprises technologiques rétorqueront qu'elles ont besoin de marge de manœuvre ; et elles ont certainement raison de dire que l'IA est actuellement une lutte acharnée, marquée par des itérations rapides, des rivalités féroces, des coûts d'infrastructure informatique colossaux et un défi mondial pour la Chine.
Si chaque nouveau modèle d'IA est retenu pendant des mois avant de pouvoir être introduit, les entreprises technologiques américaines accuseront certainement Washington d'offrir un cadeau empoisonné à nos adversaires.
Mais on peut dire que les États-Unis souhaiteraient éviter que la première démonstration publique significative d'une capacité particulièrement menaçante ou dangereuse de l'IA ne prenne la forme d'une diffusion publique, car c'est ainsi qu'on finit par gouverner par l'excuse.
L'évaluation préalable au déploiement et à la publication ne sera pas passionnante et risque même d'agacer certains ou tous, ce qui est généralement bon signe et indique que la réglementation a trouvé un juste milieu.
Le défi sera de rester concentré sur l'essentiel. Vérifier chaque nouvelle version de chatbot n'aurait aucun sens, mais examiner attentivement les modèles les plus avancés, notamment ceux ayant des implications militaires, cybernétiques, biologiques ou chimiques, est une autre affaire.
Il ne s'agit pas ici d'un fonctionnaire approuvant votre saisie automatique, mais plutôt d'un ingénieur examinant la fusée avant son lancement. C'est sans doute moins spectaculaire, mais l'idée est similaire.
Il y a aussi un problème de confiance. Les géants de la tech ont affirmé aux autorités de régulation qu'ils pouvaient s'autoréguler, tandis que ces dernières ont reproché aux entreprises technologiques de ne pas avoir su suivre le rythme de l'évolution rapide des technologies.
Il en résulte cette situation intermédiaire délicate où les entreprises offrent un accès anticipé aux modèles d'IA, les chercheurs fédéraux effectuent des tests indépendants et chacun espère que la procédure permettra d'éliminer les pires résultats sans pour autant s'enliser dans la bureaucratie.
Il est difficile de ne pas avoir l'impression que ce moment était inévitable. Dès lors que les modèles d'IA ont atteint un niveau de puissance suffisant pour influencer des secteurs comme la cybersécurité, la sécurité nationale et les infrastructures, il était évident que ces entreprises ne pouvaient plus se permettre de tester leurs modèles seules indéfiniment.
Le consommateur moyen ne connaît peut-être pas les subtilités d'un benchmark ou d'un rapport d'équipe rouge, mais il est certainement conscient que la simple capacité de ces systèmes à causer des dommages concrets justifie un examen approfondi avant leur mise sur le marché.
Et tandis que les géants de la tech veulent toujours prendre de l'avance et que Washington veut toujours éviter d'être pris au dépourvu, les deux camps semblent s'être alignés, du moins pour l'instant, sur une ligne de conduite réalisable : ouvrir les modèles d'IA avant que le moteur ne rugisse.
Quelle est votre réaction ?
Encore
