Amerikanska tjänstemän vill ha tidig tillgång till avancerad AI, och de stora företagen har gått med på det.
Microsoft, Google DeepMind och Elon Musks xAI har erbjudit sig att låta den amerikanska regeringen få tillgång till nya AI-modeller innan de släpps allmänt, vilket inleder en ny fas i Silicon Valleys ofta splittrade förhållande till den amerikanska regeringens rädsla för AI-hot, baserat på ... senaste rapporten om AI-företag som erbjuder modeller till amerikanska tjänstemän i säkerhetsgranskningens namn, i hopp om att statliga analytiker kan granska AI-system i gränsområden för säkerhetshot som cyberattacker och militär användning innan de exponeras för offentlig konsumtion av utvecklare och användare, och oundvikligen de som inte borde ha någon anledning att lägga vantarna på en vapenbaserad AI-modell.
Granskningarna kommer att genomföras av handelsdepartementets Center for AI Standards and Innovation, eller CAISI, som säger att företagets hantera Google DeepMind, Microsoft och xAI ger den en chans att granska AI-modeller i förberedelsefasen, bedriva forskning inom specifika områden och granska dem efter att de har lanserats i produktion.
Det kanske låter tråkigt, men det är det inte. Det här är regeringen som ber om att få locket borttaget från motorhuven innan bilen sätter sig på vägarna, och motorhuven värms upp för varje dag.
Det återstår att se, men det finns en förståelig rädsla för att högt utvecklad AI kommer att hjälpa cyberbrottslingar att bli ännu mer effektiva i sina brott. ”Amerikanska tjänstemän har börjat titta på nya gränsmodeller i tidiga skeden med misstänksamhet och bävan, och noterat att vissa har höjt stressnivåerna hos de högsta regeringstjänstemännen”, skrev Reuters.
Ett av de AI-verktyg som har väckt mest oro är Anthropics Mythos, en nyligen avslöjad modell. Problemet är inte att AI kan identifiera säkerhetsbrister som folk inte ser. Det är att ett verktyg kan göra det möjligt för säkerhetspersonal att hitta säkerhetsbrister och en angripare kan också hitta säkerhetsbrister.
Microsoft har gett sig in i AI-debatten. Microsoft har lovat att "arbeta med amerikanska och brittiska forskare för att identifiera och mildra oavsiktliga konsekvenser av AI-modeller och bidra till utvecklingen av delade datamängder och utvärderingsmetoder för modellsäkerhet och prestanda", enligt deras pressmeddelande.
I ett exempel på den här typen av samarbete, Microsoft skrev denna månad under ett avtal med det brittiska AI-säkerhetsinstitutet. att samarbeta med tjänstemän från båda länderna för att arbeta tillsammans för att hantera AI-risker. Detta tyder på att detta ämne har relevans även utanför den amerikanska huvudstadens gränser.
CAISI kommer inte från ett blankt blad. Myndigheten hävdar att de redan har genomfört över 40 utvärderingar, inklusive av banbrytande, ännu outgivna modeller; utvecklare delar ibland versioner med nedskalade eller minskade skydd för att avslöja de värsta tänkbara nationella säkerhetsriskerna. Ja, det låter olycksbådande, och det är meningen; man bekräftar trots allt inte ett låss effektivitet genom att bara be dörren att förbli stängd.
Dessutom utökar de nya avtalen tidigare statlig tillgång till modeller som gjorts tillgängliga genom OpenAI och Anthropic; separat, OpenAI överlämnade GPT-5.5 till den amerikanska regeringen för utvärdering i nationella säkerhetssammanhang, enligt OpenAIs Chris Lehane. Genom att sammanfoga dessa element börjar en tydlig bild framträda: de allra mest kapabla AI-labben dras in i en statlig granskningsmiljö i förväg innan deras teknik tas i bruk.
Det finns en del intressant (och rörig) politik på gång här. Trump-administrationen har till största delen centrerat sin AI-strategi kring acceleration, avreglering och USA:s dominans på världsscenen. Men varje framåtlutande AI-strategi måste också brottas med den röriga verkligheten att frontmodeller inte bara är produktivitetsverktyg.
Trumpadministrationens Amerikas AI-handlingsplan är främst inriktat på att främja innovation, bygga den infrastruktur som behövs för att upprätthålla den och främja USA:s ledarskap inom internationell AI-diplomati och säkerhet. Den sista delen bär verkligen bördan.
Det finns också en försvarskomponent som inte kan förbises. Bara några dagar innan dessa modellöversynsavtal tillkännagavs, ingick Pentagon avtal med ledande AI- och teknikföretag för att få tillgång till de bästa systemen på hemligstämplade nätverk, enligt rapporter om De väpnade styrkornas ansträngningar att införliva kommersiell AI i statliga operationer.
AI i militära arbetsflöden medför en mängd nya utmaningar och konsekvenser. En bugg behöver inte vara en bugg; en felaktig utdata kan vara mycket mer än bara besvärlig. Den kan vara operativ och kostsam.
Problemet är naturligtvis att detta kan hämma innovation. Teknikföretag kommer att hävda att de behöver spelrum; och de har säkerligen rätt i att AI för närvarande är en knivkamp i en telefonkiosk, med snabba iterationer, aggressiv rivalitet, massiva kostnader för datorinfrastruktur och en global utmaning för Kina.
Om varje ny AI-modell väntar i månader innan den kan introduceras, kommer amerikanska teknikföretag säkerligen att anklaga Washington för att ge en present med en stor bugning till våra motståndare.
Men man kan säga att USA vill undvika att den första meningsfulla offentliga demonstrationen av en särskilt hotfull eller farlig AI-förmåga ska offentliggöras, eftersom det är så man styr genom att be om ursäkt.
Utvärdering innan den driftsätts och släpps kommer inte att vara spännande, och kommer sannolikt att vara irriterande för vissa eller alla, vilket vanligtvis är ett gott tecken på att regleringen har landat någonstans mittemellan.
Utmaningen blir att hålla fokus. Att kontrollera varje enskild chatbot-lansering skulle inte vara meningsfullt, men att granska de mest avancerade frontmodellerna, särskilt de med militära eller cyber-, bio- eller kemiimplikationer är en annan sak.
Det här handlar inte om att en myndighetsperson godkänner din autofyllning, utan snarare om att en ingenjör granskar raketen innan den skjuts upp. Det är förmodligen inte lika dramatiskt, men det är liknande.
Det finns också ett förtroendeproblem här. Teknikjättar har sagt till tillsynsmyndigheter att de kan självreglera, medan de senare har sagt till teknikföretag att de inte har lyckats hålla jämna steg med den snabbt utvecklande tekniken.
Resultatet är denna obekväma medelväg där företag erbjuder tidig tillgång till AI-modeller, federala forskare utför oberoende tester och alla hoppas att proceduren filtrerar bort de sämsta resultaten men inte fastnar i byråkrati.
Det är svårt att inte känna att det här ögonblicket var oundvikligt. När AI-modeller väl nått en punkt där de var tillräckligt kraftfulla för att påverka sektorer som cybersäkerhet, nationell säkerhet och infrastruktur, skulle det aldrig vara meningsfullt för dessa företag att helt enkelt testa sina modeller på egen hand för resten av evigheten.
Den genomsnittliga personen kanske inte känner till invecklade detaljer i ett riktmärke eller en rapport från ett red-team, men de är säkert medvetna om att dessa systems blotta förmåga att orsaka påtaglig skada gör dem värda att granskas noggrant innan de går ut på marknaden.
Och medan Big Tech fortfarande vill tävla i ledningen och Washington fortfarande vill undvika att bli överraskade, verkar de två sidorna ha enats, åtminstone för tillfället, om en genomförbar handlingsplan: Öppna upp AI-modeller innan motorn vrålar.
Vad är din reaktion?
