Washington forbereder seg på å bremse ned AI. Og dette har ingenting med politikk å gjøre

Noe merkelig skjer i Washington. Og nei, det er ikke en ny skandale. Myndighetspersoner har det hektisk iherdig med å håndtere det ukjente og uforutsigbare, ikke økonomien, men kunstig intelligente dataprogrammer som kanskje blir litt for gode.

Hvis du skumleser gjennom dagens nyheter, som rapporten om Det hvite hus forsøker å begrense farlig avansert AI, vil du få en følelse av hva som skjer. Regjeringen, bankfolk og AI-ledere er alle i hastesamtaler om noe.

Hvorfor møtes de så raskt? Flere nåværende toppmoderne AI-modeller er ikke bare i stand til å skrive brev eller lage bilder, de er i stand til å skrive programvare, finne sikkerhetsfeil og gjøre folk litt bekymret.

Det overraskende med dette er at dette ikke er noe som skjer et sted i fremtiden. Det skjer akkurat nå. Noen sa at alt skjedde «raskere enn vi forventet», som er en annen måte å si at vi kanskje ikke handler raskt nok.

Men la oss ta et skritt tilbake et øyeblikk. Dette var ikke en plutselig overraskelse. Hvis du fulgte med på teknologiens utvikling eller noe i den pågående debatten om de riktige måtene å kontrollere og etisk bruke AI på, ville du visst at hver ny milepæl har generert en «vent litt, la oss vente»-respons. Og likevel har reaksjonen aldri vært sterk nok.

Det som skiller dette ut er at atmosfæren har blitt anspent. Den er ikke håpefull og engstelig; den er fryktfull. For å gjøre dette klart: hvis AI kan avdekke sikkerhetssårbarheter uten hjelp i viktige systemer, så er det ikke bare en effektivitetsfaktor, det er en trussel. Det er mitt syn, og jeg vet at de ansvarlige er redde for det.

I mellomtiden står ikke teknologiselskapene stille. De jobber raskt med å forbedre sin AI. Vel, hvorfor skulle de ikke det? Pengene er fantastiske. Som overskriftene om kappløpet om AI-dominans viser, behandler land og selskaper AI som om det er noe nytt, og det vil bli en katastrofe hvis de er for sent ute.

Men det er denne merkelige uroen som ikke snakkes om: Hva om maskinene blir for smarte til å holde dem i sjakk? Ikke versjonen med at «KI kommer til å drepe oss alle», men versjonen uten alarmer, men enda mer skremmende.

Innretninger som tar avgjørelser vi ikke kan forstå, verktøy som kan bevæpnes raskere enn vi kan stoppe dem. Det er som om vi ga innbyggerne våre splitter nye superbiler, men det fantes ingen nye veier å håndtere dem på, eller noen måte å stoppe dem på.

Det er ikke Amerika. Land overalt sliter med det samme dilemmaet. I EU prøver ledere å innføre en ny forskrift i et forsøk på å implementere EUs KI-lov. Ulike tilnærminger, samme spørsmål: Hvordan bruker man det beste verktøyet, uten at det går over styr?

For meg er det der vi er nå. Spenningen er ikke borte; angsten har bare begynt. Det var i internettets tidlige dager, ingen visste hvor det skulle, men alle syntes det var en enorm forandring. Bare kanskje det føles mer alvorlig nå.

Så hva gjenstår å gjøre? Det ser ut til at vi må finne en måte å balansere mellom innovasjon og forsiktighet, og balansere begge sider uten å falle i et hull. Ut fra det vi kan se fra alle disse møtene i Det hvite hus, virker det som om de som har makten allerede ser hvor delikat denne balansen er.