Amerikaanse functionarissen willen vroegtijdige toegang tot geavanceerde AI, en de grote bedrijven hebben daarmee ingestemd.
Microsoft, Google DeepMind en Elon Musks xAI hebben de Amerikaanse overheid aangeboden om toegang te krijgen tot nieuwe AI-modellen vóór hun algemene release. Dit luidt een nieuwe fase in de vaak gespannen relatie tussen Silicon Valley en de Amerikaanse overheid in, die vreest voor AI-dreigingen. Het meest recente rapport meldt dat AI-bedrijven modellen aan Amerikaanse functionarissen aanbieden onder het mom van een veiligheidsbeoordeling.In de hoop dat overheidsanalisten geavanceerde AI-systemen kunnen screenen op veiligheidsrisico's zoals cyberaanvallen en militair gebruik, voordat ze openbaar worden gemaakt voor ontwikkelaars en gebruikers, en onvermijdelijk ook voor degenen die eigenlijk geen toegang zouden mogen hebben tot een AI-model dat voor militaire doeleinden wordt ingezet.
De beoordelingen zullen worden uitgevoerd door het Center for AI Standards and Innovation (CAISI) van het Amerikaanse ministerie van Handel, dat stelt dat het bedrijf deals met Google DeepMind, Microsoft en xAI Dit geeft het de mogelijkheid om AI-modellen te testen in de fase voorafgaand aan de implementatie, onderzoek te doen op specifieke gebieden en ze te evalueren nadat ze in productie zijn genomen.
Dat klinkt misschien saai, maar dat is het niet. De overheid vraagt hier om de afdekking van de motorkap te verwijderen voordat de auto de weg op gaat, en die motorkap wordt met de dag warmer.
Het valt nog te bezien, maar er bestaat een begrijpelijke angst dat hoogontwikkelde AI cybercriminelen zal helpen om nog effectiever te worden in hun misdaden. "Amerikaanse functionarissen bekijken opkomende grensverleggende modellen in een vroeg stadium met argwaan en bezorgdheid, en merken op dat sommige de stressniveaus van de hoogste overheidsfunctionarissen hebben verhoogd", schreef Reuters.
Een van de AI-tools die de meeste bezorgdheid heeft gewekt, is Mythos van Anthropic, een recent onthuld model. Het probleem is niet dat AI beveiligingslekken kan opsporen die mensen niet zien. Het probleem is dat een tool beveiligingsmedewerkers in staat kan stellen beveiligingslekken te vinden, terwijl een aanvaller die lekken ook kan ontdekken.
Microsoft heeft zich in het AI-debat gemengd. Volgens een persbericht heeft Microsoft beloofd "samen te werken met wetenschappers uit de VS en het VK om onbedoelde gevolgen van AI-modellen te identificeren en te beperken, en bij te dragen aan de ontwikkeling van gedeelde datasets en evaluatiemethoden voor de veiligheid en prestaties van modellen".
Een voorbeeld van dit soort samenwerking is... Microsoft heeft deze maand een overeenkomst getekend met het Britse AI Security Institute. Om samen te werken met functionarissen uit beide landen om de risico's van AI te beheersen. Dit suggereert dat dit onderwerp relevant is buiten de grenzen van de Amerikaanse hoofdstad.
CAISI begint niet helemaal vanaf nul. Het agentschap beweert al meer dan 40 beoordelingen te hebben uitgevoerd, waaronder die van geavanceerde, nog niet uitgebrachte modellen; ontwikkelaars delen soms versies met minder of geen beveiliging om de ergste risico's voor de nationale veiligheid aan het licht te brengen. Ja, dat klinkt onheilspellend, en dat is ook de bedoeling; je bevestigt immers niet de effectiviteit van een slot door simpelweg te vragen of de deur dicht wil blijven.
Daarnaast breiden de nieuwe overeenkomsten de eerdere toegang van de overheid tot modellen die beschikbaar werden gesteld door OpenAI en Anthropic uit; afzonderlijk daarvan, OpenAI heeft GPT-5.5 aan de Amerikaanse overheid ter beschikking gesteld voor evaluatie in nationale veiligheidscontexten.Aldus Chris Lehane van OpenAI. Als je die elementen combineert, ontstaat er een duidelijk beeld: de meest geavanceerde AI-laboratoria worden voorafgaand aan de lancering van hun technologieën onderworpen aan een screening door de overheid.
Er spelen hier interessante (en ingewikkelde) politieke spelletjes. De Trump-administratie heeft haar AI-strategie grotendeels gericht op versnelling, deregulering en de dominantie van Amerika op het wereldtoneel. Maar elke vooruitstrevende AI-strategie moet ook rekening houden met de complexe realiteit dat grensverleggende modellen niet alleen productiviteitstools zijn.
De Trump-administratie Amerika's AI-actieplan Het is vooral gericht op het stimuleren van innovatie, het opbouwen van de infrastructuur die nodig is om die innovatie te ondersteunen en het bevorderen van Amerikaans leiderschap in internationale AI-diplomatie en -veiligheid. Dat laatste onderdeel is echt doorslaggevend.
Er is ook een defensiecomponent die niet over het hoofd gezien mag worden. Slechts enkele dagen voordat deze overeenkomsten voor modelbeoordeling werden aangekondigd, sloot het Pentagon deals met toonaangevende AI- en technologiebedrijven om toegang te krijgen tot de beste systemen op geclassificeerde netwerken, aldus berichten van de De poging van de strijdkrachten om commerciële AI te integreren in overheidsoperaties.
Het gebruik van AI in militaire werkprocessen brengt een hele reeks nieuwe uitdagingen en gevolgen met zich mee. Een fout hoeft niet per se een fout te zijn; een onjuiste output kan veel meer dan alleen ongemak veroorzaken. Het kan operationele problemen opleveren en bovendien kostbaar zijn.
Het probleem is natuurlijk dat dit innovatie kan belemmeren. Technologiebedrijven zullen beweren dat ze die ruimte nodig hebben; en ze hebben zeker gelijk dat AI momenteel een gevecht op leven en dood is, met snelle iteraties, felle concurrentie, enorme kosten voor computerinfrastructuur en een wereldwijde uitdaging voor China.
Als elk nieuw AI-model maandenlang geheim wordt gehouden voordat het geïntroduceerd kan worden, zullen Amerikaanse technologiebedrijven Washington er ongetwijfeld van beschuldigen dat ze onze tegenstanders een cadeautje met een grote strik geven.
Maar je zou kunnen zeggen dat de VS er alles aan willen doen om te voorkomen dat de eerste betekenisvolle publieke demonstratie van een bijzonder bedreigende of gevaarlijke AI-capaciteit een openbare publicatie is, want zo kom je uiteindelijk terecht in een regerend systeem van excuses.
De evaluatie voorafgaand aan de implementatie en release zal niet bepaald spannend zijn en waarschijnlijk voor sommigen of zelfs iedereen irritant, wat doorgaans een goed teken is dat de regelgeving een middenweg heeft gevonden.
De uitdaging is om de focus te behouden. Het zou niet zinvol zijn om elke nieuwe chatbot te controleren, maar het nauwkeurig onderzoeken van de meest geavanceerde modellen, met name die met militaire, cyber-, biologische of chemische implicaties, is een ander verhaal.
Het gaat hier niet om een overheidsfunctionaris die je automatische aanvulling goedkeurt, maar eerder om een ingenieur die de raket controleert voordat deze wordt gelanceerd. Het is misschien niet zo dramatisch, maar het komt erop neer.
Er is hier ook een vertrouwensprobleem. Techreuzen hebben toezichthouders verteld dat ze zichzelf kunnen reguleren, terwijl die toezichthouders de techbedrijven op hun beurt hebben verteld dat ze de snel evoluerende technologie niet hebben bijgehouden.
Het resultaat is een ongemakkelijke tussenfase waarin bedrijven vroegtijdige toegang bieden tot AI-modellen, federale onderzoekers onafhankelijke tests uitvoeren en iedereen hoopt dat de procedure de slechtste resultaten eruit filtert, maar niet verzandt in bureaucratie.
Het is moeilijk om niet het gevoel te hebben dat dit moment onvermijdelijk was. Toen AI-modellen eenmaal zo krachtig waren geworden dat ze sectoren als cyberbeveiliging, nationale veiligheid en infrastructuur konden beïnvloeden, was het voor deze bedrijven niet langer zinvol om hun modellen voor de rest van hun leven zelfstandig te blijven testen.
De gemiddelde persoon kent wellicht niet de fijne kneepjes van een benchmark of een red-teamrapport, maar is zich er zeker van bewust dat het feit dat deze systemen aantoonbare schade kunnen veroorzaken, ze het waard maakt om nauwkeurig te onderzoeken voordat ze op de markt komen.
En hoewel Big Tech nog steeds een voorsprong wil nemen en Washington nog steeds wil voorkomen dat het verrast wordt, lijken beide partijen het, in ieder geval voorlopig, eens te zijn over een haalbare aanpak: AI-modellen openstellen voordat de motor op volle toeren draait.
Wat is jouw reactie?
Aanbevolen producten
