Vita huset överväger AI-kontroller innan offentliggörande, varnade Silicon Valley
President Donald Trumps Vita hus överväger huruvida den amerikanska regeringen ska tillåtas att granska de mest kraftfulla AI-modellerna innan de blir tillgängliga för allmänheten, ett betydande skifte från hans tidigare laissez-faire-inställning till AI-industrin.
I de flesta den senaste artikeln om granskning av Vita husets AI-modell, debatten kokar ner till huruvida regeringen bör ingripa innan gränssystem med kodning eller cyberkapacitet distribueras till allmänheten. Det är inte en subtil förändring. Det är Washington som frågar sig om kapprustningen mot AI har utvecklats till det stadium där "leverera det och se vad som händer" inte längre räcker.
Förslaget som behandlas innefattar en exekutiv order som kan inrätta en arbetsgrupp bestående av offentliganställda och chefer inom teknikbranschen för att undersöka hur regleringen skulle kunna fungera.
Enligt annan rapportering om administrationens samtal, har samtalet till stor del kretsat kring sofistikerade modeller som skulle kunna möjliggöra cyberattacker eller hjälpa till att identifiera svagheter i programvara.
Det är lite whiplash, såklart. Administrationen som lovade att riva ner hindren för AI-utveckling verkar nu vara villig att sätta upp ett. Kanske inte en mur, kanske bara en grind.
Detta följer på oro kring Anthropics senaste system, Mythos, som enligt uppgift oroade cyberexperter på grund av dess sofistikerade kodnings- och sårbarhetsdetekteringsförmåga. Medierna rapporterade också att det inkluderade överväganden om en metod för att granska modeller med nationella säkerhetskonsekvenser innan de lanseras allmänt.
Oron är ganska logisk: om en modell kan användas för att hitta buggar snabbare, kommer den sannolikt också att hjälpa hackare att hitta dem ännu snabbare. Det är den obehagliga knuten i det här argumentet.
För Trump är det en viktig vändning. När han undertecknade en exekutiv order för att minska hindren för AI-dominans i januari 2025, avvecklade han den AI-politik som tidigare införts av hans regering, vilken han sa hindrade innovation.
Vid den tidpunkten sa han till oss, bygg snabbt, begränsa den statliga tillsynen, så kommer ni att segra. Den här gången verkar budskapet mer komplicerat: bygg snabbt, men ge inte alla en cyberbrännare utan att först kontrollera säkerhetsbrytaren.
Den friktionen är just anledningen till att den här artikeln är viktig. AI-företag önskar snabbhet, eftersom det attraherar användare, pengar och geopolitiskt inflytande. Säkerhetsmyndigheter vill vara försiktiga eftersom de smartaste AI-modellerna i allt större utsträckning mer liknar allmän kodning och analys och kanske cyberkrigssystem. Båda har rätt. Och det är frustrerande nog därför det är svårt att skapa regler.
Administrationens övergripande AI-strategi fokuserar till stor del på att påskynda saker och ting. Amerikas AI-handlingsplan delar upp USA:s AI-politik i tre kategorier:
- öka innovationen
- bygga AI-infrastruktur
- ledande inom global diplomati och säkerhet
Den sista punkten bär en hel del belastning just nu. När AI-modeller är viktiga för cyberskydd, vapen, underrättelser och kritisk infrastruktur blir de mer än bara ytterligare en konsumentteknik. De blir nationella säkerhetstillgångar och nationella säkerhetsproblem.
Det finns redan en del teknisk grund för att tänka risker. Washington diskuterar just den lämpliga omfattningen av verkställigheten. National Institute of Standards and Technology har släppt en AI Risk Management Framework för att hjälpa organisationer att hantera risker för människor, företag och samhällen.
Det är inte obligatoriskt. Det finns inga licenser inblandade. Ändå erbjuder ramverket myndighetspersoner ett nytt språk för att tala om det röriga arbetet med att kartlägga skador, bedöma risker, mildra misslyckanden och fastställa ansvarsskyldighet när saker går fel.
Allt detta sker också i takt med att AI blir alltmer integrerat inom regering och försvar. Dagarna före det senaste granskningssamtal gick Pentagon med på att integrera AI-teknik i hemligstämplade system som en del av avtal med flera stora teknikföretag, vilket rapporterats i Amerikansk militär tillkännager nya AI-partnerskap.
När frontmodeller integreras i känsliga statliga verksamheter förändras spelet. Ett fel blir mer än bara en misslyckad demonstration. Ett missöde blir mer än bara en dålig nyhet. Verkligheten slår snabbt igenom.
Teknikbranschen kommer inte att uppskatta den osäkerheten. Visserligen hör man inte många jubelrop när Washington börjar prata om granskningsnämnder.
De som kommer att hävda att förhandskontroller kan leda till långsam innovation, läckor av känslig teknisk information eller en utländsk konkurrent med andra incitament. Sanningen är att ingen av dessa farhågor är ogrundade. Inom AI kan en försening på flera månader vara jämförbar med att dyka upp till Formel 1-loppet på cykel.
Ändå blir det argumentet allt svårare att ignorera. Om nästa generations modeller ska användas för att underlätta cyberattacker, snabba upp biologisk forskning, fabricera bättre bedrägerier eller automatisera desinformationskampanjer, då kanske "lita på oss, vi testade det själva i labbet" helt enkelt inte går hem hos allmänheten särskilt länge. Kravet handlar inte om en passion för byråkrati. Det handlar om storleken på explosionsradien.
Det är vad som är mest troligt, åtminstone under de närmaste åren, snarare än ett statligt licenssystem för alla AI-modeller, vilket skulle vara omöjligt att genomföra i praktiken.
Istället kan tjänstemän fokusera regleringen endast på de mest avancerade systemen, inklusive de som har kapacitet att utföra storskaliga cyberattacker eller användas direkt av regeringen. Överväg ett krav på att AI-utvecklare först ska svara på några frågor innan de kan sälja kraftfulla system till någon med ett kreditkort.
Det är ändå en milstolpe. Vita huset skickar ett starkt budskap till den privata sektorn att den avancerade AI-tekniken kan ha gått förbi det stadium där den bara representerar ett lovande tekniskt verktyg för att bli en strategisk risk, vilket naturligtvis inte betyder slutet på AI-boomen, bara för att vara tydlig. Snarare signalerar det att AI har utvecklat några dåliga känslor.
Silicon Valley har länge sagt till Washington att USA måste rusa framåt för att behålla sin ledning. Det verkar som att Washington vill svara: Okej, visa oss era bromsar först.
Vad är din reaktion?
Du kanske också gillar
