La Maison Blanche examine les contrôles de l'IA avant sa publication, la Silicon Valley met en garde
La Maison Blanche du président Donald Trump examine actuellement la possibilité d'autoriser le gouvernement américain à examiner les modèles d'IA les plus puissants avant leur mise à la disposition du public, ce qui représente un changement significatif par rapport à son approche antérieure de laissez-faire en matière d'industrie de l'IA.
Dans la plupart Article récent sur la vérification des modèles d'IA de la Maison BlancheEn résumé, le débat porte sur la question de savoir si le gouvernement doit intervenir avant que des systèmes de pointe dotés de capacités de programmation ou de cybersécurité ne soient mis à la disposition du public. Il s'agit d'un changement de taille. Washington se demande si la course à l'IA a atteint un stade où la stratégie du « déploiement et observation » n'est plus acceptable.
La proposition à l'étude porte sur un décret exécutif qui pourrait créer un groupe de travail composé de fonctionnaires et de dirigeants du secteur technologique afin d'examiner les modalités de mise en œuvre de cette réglementation.
D'après d'autres informations sur les discussions de l'administrationLa conversation s'est largement concentrée sur des modèles sophistiqués qui pourraient permettre des cyberattaques ou aider à identifier les failles des logiciels.
C'est un revirement de situation assez brutal, évidemment. L'administration qui s'était engagée à lever les obstacles au développement de l'IA semble désormais prête à en ériger un. Peut-être pas un mur, peut-être juste une barrière.
Cette situation fait suite aux inquiétudes suscitées par Mythos, le dernier système d'Anthropic, qui aurait perturbé les experts en cybersécurité en raison de la sophistication de son codage et de ses capacités de détection des vulnérabilités. Les médias ont également rapporté que l'entreprise envisageait une méthode de vérification des modèles ayant des implications pour la sécurité nationale avant leur diffusion publique.
Cette inquiétude est tout à fait justifiée : si un modèle permet de détecter plus rapidement les bogues, il risque aussi d’aider les pirates informatiques à les trouver encore plus vite. C’est là tout le nœud du problème.
Pour Trump, il s'agit d'un important revirement de cap. Lorsqu'il a signé un décret visant à réduire les obstacles à la domination de l'IA en janvier 2025, il a démantelé les politiques en matière d'IA précédemment mises en place par son gouvernement, qu'il jugeait néfastes pour l'innovation.
À l'époque, il nous avait dit : « Construisez vite, limitez le contrôle gouvernemental, et vous gagnerez. » Cette fois, le message semble plus complexe : construisez vite, certes, mais ne donnez pas à tous un pouvoir cybernétique abusif sans avoir préalablement vérifié les mesures de sécurité.
Cette friction explique précisément l'importance de cet article. Les entreprises d'IA recherchent la rapidité, car elle attire les utilisateurs, les investissements et l'influence géopolitique. Les autorités de sécurité, quant à elles, privilégient la prudence car, de plus en plus, les modèles d'IA les plus performants ressemblent davantage à des systèmes de programmation et d'analyse à usage général, voire à des systèmes de cyberguerre. Les deux camps ont raison. Et c'est précisément pour cela, et c'est là le problème, que l'élaboration de règles s'avère complexe.
La stratégie globale de l'administration en matière d'IA vise principalement à accélérer le processus. Le plan d'action américain pour l'IA structure la politique américaine en trois axes :
- stimuler l'innovation
- construire une infrastructure d'IA
- chef de file en matière de diplomatie et de sécurité mondiales
Ce dernier point est crucial actuellement. Lorsque les modèles d'IA sont essentiels à la cybersécurité, à l'armement, au renseignement et aux infrastructures critiques, ils deviennent bien plus qu'une simple technologie grand public. Ils deviennent à la fois des atouts et des problèmes pour la sécurité nationale.
Il existe déjà des bases technologiques pour une approche par les risques. Washington débat actuellement du niveau de contrôle approprié. L'Institut national des normes et de la technologie a publié un rapport. Cadre de gestion des risques liés à l'IA pour aider les organisations à gérer les risques qui pèsent sur les personnes, les entreprises et les collectivités.
Ce n'est pas obligatoire. Aucune licence n'est requise. Ce cadre offre néanmoins aux responsables gouvernementaux un nouveau langage pour aborder la complexité de l'évaluation des préjudices, des risques, des mesures d'atténuation des défaillances et de la détermination des responsabilités en cas de problème.
Tout cela se déroule parallèlement à l'intégration croissante de l'IA au sein des gouvernements et de la défense. Quelques jours avant la récente discussion sur l'examen des dossiers, le Pentagone a accepté d'intégrer des technologies d'IA dans ses systèmes classifiés dans le cadre d'accords conclus avec plusieurs grandes entreprises technologiques, comme l'ont rapporté les médias. L'armée américaine annonce de nouveaux partenariats en matière d'IA.
Dès lors que les modèles de pointe sont intégrés aux opérations gouvernementales sensibles, la donne change. Une erreur devient bien plus qu'une simple démonstration ratée. Un incident prend une autre dimension qu'une simple mauvaise nouvelle. La réalité nous rattrape brutalement.
Le secteur technologique n'appréciera pas cette incertitude. Il faut bien l'avouer, quand Washington évoque les commissions d'examen, les réactions sont loin d'être enthousiastes.
D'aucuns affirment que les vérifications préalables à la mise sur le marché peuvent freiner l'innovation, entraîner des fuites d'informations techniques sensibles ou l'émergence d'un concurrent étranger aux motivations différentes. En réalité, aucune de ces craintes n'est infondée. En intelligence artificielle, un retard de plusieurs mois peut s'avérer aussi problématique que d'arriver à un Grand Prix de Formule 1 à vélo.
Pourtant, cet argument devient de plus en plus difficile à ignorer. Si la prochaine génération de modèles doit servir à faciliter les cyberattaques, accélérer la recherche en biologie, orchestrer des fraudes plus élaborées ou automatiser les campagnes de désinformation, alors l'argument « faites-nous confiance, nous l'avons testé nous-mêmes en laboratoire » risque de ne plus convaincre le public très longtemps. Il ne s'agit pas d'une passion pour la bureaucratie, mais bien de l'ampleur des conséquences.
C’est ce qui est le plus probable, du moins au cours des prochaines années, plutôt qu’un système de licences gouvernementales pour tous les modèles d’IA, qui serait impossible à mettre en œuvre en pratique.
Les autorités pourraient plutôt concentrer la réglementation sur les systèmes les plus sophistiqués, notamment ceux capables de mener des cyberattaques de grande envergure ou d'être utilisés directement par le gouvernement. On pourrait envisager d'exiger des développeurs d'IA qu'ils répondent à quelques questions avant de pouvoir vendre des systèmes performants à toute personne possédant une carte de crédit.
Il s'agit néanmoins d'une étape importante. La Maison Blanche envoie un message clair au secteur privé : l'IA de pointe pourrait avoir dépassé le stade d'un simple outil technologique prometteur pour devenir un risque stratégique. Bien entendu, cela ne signifie pas la fin de l'essor de l'IA, il convient de le préciser. Cela indique plutôt que l'IA a développé quelques failles.
La Silicon Valley répète depuis longtemps à Washington que les États-Unis doivent accélérer le rythme pour conserver leur leadership. Il semblerait que Washington veuille répondre : « Très bien, montrez-nous d’abord où vous freinez. »
Quelle est votre réaction ?
Encore
