Silicon Valley advarte Det hvite hus om å vurdere AI-kontroller før offentliggjøring
President Donald Trumps Det hvite hus vurderer om den amerikanske regjeringen skal få lov til å screene de kraftigste AI-modellene før de blir tilgjengelige for offentligheten, et betydelig skifte fra hans tidligere laissez-faire-tilnærming til AI-bransjen.
I de fleste nylig artikkel om vurdering av AI-modeller i Det hvite hus, koker debatten ned til hvorvidt myndighetene bør gripe inn før grensesystemer med koding eller cyberfunksjoner distribueres til offentligheten. Det er ikke en subtil endring. Det er Washington som spør om våpenkappløpet mot AI har utviklet seg til det stadiet hvor «send det og se hva som skjer» ikke lenger holder.
Forslaget som vurderes innebærer en presidentordre som kan opprette en arbeidsgruppe bestående av offentlig ansatte og teknologiledere for å se på hvordan reguleringen kan fungere.
I følge annen rapportering om administrasjonens samtaler, har samtalen i stor grad dreid seg om sofistikerte modeller som kan muliggjøre cyberangrep eller bidra til å identifisere programvaresvakheter.
Det er litt av en piskesleng, selvsagt. Administrasjonen som lovet å fjerne barrierene for AI-utvikling, ser nå ut til å være villig til å sette opp en. Kanskje ikke en mur, kanskje bare en port.
Dette følger bekymring rundt Anthropics nyeste system, Mythos, som angivelig skremte cybereksperter på grunn av dets sofistikerte kodings- og sårbarhetsdeteksjonsevner. Mediene rapporterte også at det inkluderte vurderinger av en tilnærming til å granske modeller med nasjonale sikkerhetsmessige implikasjoner før de ble lansert generelt.
Angsten er ganske logisk: hvis en modell kan brukes til å finne feil raskere, vil den sannsynligvis også hjelpe hackere med å finne dem enda raskere. Det er den vanskelige knuten i denne diskusjonen.
For Trump er dette en viktig retningsvending. Da han signerte en presidentordre for å redusere hindringer for AI-dominans i januar 2025, demonterte han politikken for AI som tidligere var innført av regjeringen hans, som han sa hindret innovasjon.
Den gangen sa han til oss: bygg raskt, begrens myndighetenes tilsyn, så vil dere seire. Denne gangen virker budskapet mer komplisert: bygg raskt, men ikke gi alle en cyber-blåsebrenner uten først å sjekke sikkerhetsbryteren.
Denne friksjonen er nettopp grunnen til at denne artikkelen er viktig. AI-firmaer ønsker hastighet, ettersom det tiltrekker seg brukere, penger og geopolitisk innflytelse. Sikkerhetsmyndigheter ønsker forsiktighet fordi de smarteste AI-modellene i økende grad ser mer ut som generell koding og analyse, og kanskje cyberkrigføringssystemer. Begge har rett. Og det er frustrerende nok derfor det er vanskelig å lage regler.
Administrasjonens større AI-strategi fokuserer i stor grad på å få fart på ting. Amerikas AI-handlingsplan deler amerikansk AI-politikk inn i tre kategorier:
- øke innovasjonen
- bygge AI-infrastruktur
- ledende innen global diplomati og sikkerhet
Det siste elementet bærer en ganske stor byrde for øyeblikket. Når AI-modeller er viktige for cyberbeskyttelse, våpen, etterretning og kritisk infrastruktur, blir de mer enn bare en forbrukerteknologi. De blir nasjonale sikkerhetsressurser og nasjonale sikkerhetsproblemer.
Det finnes allerede noe teknologisk grunnlag for å tenke risiko. Washington diskuterer akkurat det passende omfanget av håndheving. National Institute of Standards and Technology har publisert en AI Risk Management Framework for å hjelpe organisasjoner med å håndtere risikoer for mennesker, bedrifter og lokalsamfunn.
Det er ikke obligatorisk. Det er ingen lisenser involvert. Likevel gir rammeverket myndighetspersoner et nytt språk for å snakke om den rotete oppgaven med å kartlegge skade, vurdere risiko, redusere feil og finne ut ansvarlighet når ting går galt.
Alt dette skjer også i takt med at AI i økende grad blir integrert i myndigheter og forsvar. Dager før den nylige vurderingssamtalen gikk Pentagon med på å bringe AI-teknologier inn i klassifiserte systemer som en del av avtaler med flere store teknologiselskaper, som rapportert i Det amerikanske militæret kunngjør nye AI-partnerskap.
Når frontmodeller integreres i sensitive offentlige operasjoner, endrer spillet seg. En feil blir mer enn bare en mislykket demonstrasjon. Et uhell blir mer enn bare en dårlig nyhetshistorie. Virkeligheten slår raskt inn.
Teknologibransjen vil ikke sette pris på den usikkerheten. Riktignok hører man ikke mange jubelrop når Washington begynner å snakke om evalueringsråd.
De som vil hevde at forhåndssjekker kan føre til treg innovasjon, lekkasjer av sensitiv teknisk informasjon eller en utenlandsk konkurrent med andre insentiver. Sannheten er at ingen av disse bekymringene er useriøse. Innen kunstig intelligens kan en forsinkelse på flere måneder sammenlignes med å møte opp til Formel 1-løpet på sykkel.
Likevel blir dette argumentet vanskeligere og vanskeligere å ignorere. Hvis neste generasjon modeller skal brukes til å legge til rette for cyberangrep, fremskynde biologisk forskning, lage bedre svindel eller automatisere desinformasjonskampanjer, kan det hende at «stol på oss, vi testet det selv i laboratoriet» rett og slett ikke går an hos publikum særlig lenge. Kravet handler ikke om en lidenskap for byråkrati. Det handler om størrelsen på eksplosjonsradiusen.
Det er det som er mest sannsynlig, i hvert fall de neste årene, snarere enn et statlig lisenssystem for alle AI-modeller, noe som ville være umulig å gjennomføre i praksis.
I stedet kan det hende at myndighetene fokuserer reguleringen kun på de mest avanserte systemene, inkludert de som har kapasitet til å utføre storskala cyberangrep eller kan brukes direkte av myndighetene. Vurder et krav om at AI-utviklere først må svare på noen spørsmål før de kan selge kraftige systemer til noen med kredittkort.
Det er likevel en milepæl. Det hvite hus sender et sterkt budskap til privat sektor om at frontlinje-AI kan ha beveget seg forbi stadiet der den bare representerer et lovende teknologisk verktøy til å bli en strategisk risiko, noe som selvfølgelig ikke betyr slutten på AI-boomen, bare for å være tydelig. Snarere signaliserer det at AI har utviklet noen dårlige tenner.
Silicon Valley har lenge fortalt Washington at USA må løpe fremover for å beholde lederskapet. Det ser ut som Washington vil svare: OK, vis oss bremsene først.
Hva er din reaksjon?
Kan hende du også liker
