Az amerikai tisztviselők korai hozzáférést akarnak a fejlett mesterséges intelligenciához, és a nagyvállalatok egyetértettek
A Microsoft, a Google DeepMind és Elon Musk xAI-ja felajánlotta, hogy az Egyesült Államok kormánya hozzáférhet az új MI-modellekhez azok általános megjelenése előtt, ami új szakaszt nyit a Szilícium-völgy és az Egyesült Államok kormányának MI-fenyegetésektől való félelmével. A legfrissebb jelentés szerint mesterséges intelligencia alapú cégek biztonsági felülvizsgálat nevében modelleket kínálnak az amerikai tisztviselőknek., abban a reményben, hogy a kormányzati elemzők át tudják vizsgálni a határterületen működő mesterséges intelligencia rendszereket biztonsági fenyegetések, például kibertámadások és katonai felhasználás szempontjából, mielőtt azokat a fejlesztők és felhasználók, és elkerülhetetlenül azok számára is elérhetővé tennék, akiknek semmi közük nem lenne egy fegyveres mesterséges intelligencia modellhez.
A felülvizsgálatokat a Kereskedelmi Minisztérium MI Szabványügyi és Innovációs Központja, vagyis a CAISI fogja lefolytatni, amely szerint a vállalat... megállapodás a Google DeepMinddel, a Microsofttal és az xAI-val lehetőséget ad arra, hogy a telepítés előtti fázisban ellenőrizze a mesterséges intelligencia modelleket, kutatásokat végezzen meghatározott területeken, és az éles környezetben való bevezetést követően felülvizsgálja azokat.
Ez unalmasan hangozhat, de nem az. A kormány kéri, hogy a motorháztetőt levegyék, mielőtt az autó útra kel, és a motorháztető napról napra melegszik.
Még várat magára, de érthető a félelem, hogy a fejlett mesterséges intelligencia segíteni fog a kiberbűnözőknek abban, hogy még hatékonyabbá váljanak bűncselekményeikben. „Az amerikai tisztviselők gyanakvással és aggodalommal kezdték szemlélni a feltörekvő határmodelleket a korai szakaszban, megjegyezve, hogy némelyikük megnövelte a legmagasabb kormánytisztviselők stressz-szintjét” – írta a Reuters.
Az egyik legnagyobb aggodalmat keltő mesterséges intelligencia eszköz az Anthropic nemrégiben nyilvánosságra hozott Mythos modellje. A probléma nem az, hogy a mesterséges intelligencia olyan biztonsági hibákat is képes azonosítani, amelyeket az emberek nem látnak. Hanem az, hogy az egyik eszköz lehetővé teszi a biztonsági szakemberek számára, hogy biztonsági hibákat találjanak, és egy támadó is megtalálhatja azokat.
A Microsoft beszállt a mesterséges intelligencia vitájába. A Microsoft sajtóközleménye szerint ígéretet tett arra, hogy „együttműködik az amerikai és brit tudósokkal az MI-modellek nem szándékolt következményeinek azonosítása és enyhítése érdekében, valamint hozzájárul a megosztott adatkészletek és a modellek biztonságát és teljesítményét értékelő módszerek fejlesztéséhez”.
Az ilyen együttműködés egy példájaként, A Microsoft ebben a hónapban megállapodást írt alá a brit MI Biztonsági Intézettel. hogy mindkét ország tisztviselőivel együttműködve közösen kezeljék a mesterséges intelligencia jelentette kockázatokat. Ez arra utal, hogy ez a téma az amerikai főváros határain túl is releváns.
A CAISI nem nulláról indul. Az ügynökség azt állítja, hogy már több mint 40 értékelést végzett, beleértve a legmodernebb, még kiadatlan modellek értékelését is; a fejlesztők néha olyan verziókat is megosztanak, amelyek védelme csökkentett vagy lecsökkentett, hogy felfedjék a legrosszabb nemzetbiztonsági kockázatokat. Igen, ez baljóslatúan hangzik, és annak is szánták; végül is nem igazoljuk egy zár hatékonyságát azzal, hogy egyszerűen csak könyörögünk az ajtó zárva tartására.
Ezenkívül az új paktumok kiterjesztik a kormányok korábbi hozzáférését az OpenAI és az Anthropic által külön-külön elérhetővé tett modellekhez, Az OpenAI átadta az amerikai kormánynak a GPT-5.5-öt, hogy nemzetbiztonsági szempontból értékelje az eredményeket.Chris Lehane, az OpenAI munkatársa szerint. Ha ezeket az elemeket összeillesztjük, egy világos kép kezd kirajzolódni: a legképzettebb MI-laboratóriumokat még azelőtt bevonják egy kormányzati átvilágítási környezetbe, hogy technológiáik élesbe kerülnének.
Érdekes (és kusza) politikai kérdések húzódnak meg a háttérben. A Trump-adminisztráció nagyrészt a gyorsítás, a dereguláció és Amerika világszintű dominanciája köré építette mesterséges intelligencia stratégiáját. De minden előremutató MI-stratégiának szembe kell néznie azzal a kusza valósággal is, hogy a határmodellek nem csupán termelékenységi eszközök.
A Trump adminisztrációja Amerika mesterséges intelligencia akcióterve elsősorban az innováció fellendítésére, a fenntartásához szükséges infrastruktúra kiépítésére és az USA vezető szerepének előmozdítására irányul a nemzetközi MI-diplomácia és -biztonság terén. Ez az utolsó darab cipeli igazán a terhet.
Van egy védelmi összetevő is, amelyet nem szabad figyelmen kívül hagyni. Alig néhány nappal a modell-felülvizsgálati megállapodások bejelentése előtt a Pentagon megállapodásokat kötött vezető mesterséges intelligencia és technológiai vállalatokkal, hogy hozzáférjenek a legjobb rendszerekhez a titkosított hálózatokon, a ...-ról szóló jelentések szerint. a fegyveres erők erőfeszítései a kereskedelmi célú mesterséges intelligencia kormányzati műveletekbe való beépítésére.
A katonai munkafolyamatokban alkalmazott mesterséges intelligencia számos új kihívást és következményt hoz magával. Egy hibának nem kell hibának lennie; egy hibás kimenet sokkal több lehet, mint kellemetlen. Működőképes és költséges is lehet.
Természetesen a probléma az, hogy ez akadályozhatja az innovációt. A technológiai vállalatok azzal fognak érvelni, hogy mozgástérre van szükségük; és minden bizonnyal igazuk van abban, hogy a mesterséges intelligencia jelenleg egy telefonfülkében zajló késpárbaj, gyors iterációkkal, agresszív rivalizálással, a számítástechnikai infrastruktúra hatalmas költségeivel és Kína számára globális kihívással.
Ha minden új MI-modellt hónapokig várnak a bevezetése előtt, az amerikai technológiai cégek biztosan azzal fogják vádolni Washingtont, hogy nagy meghajlással ajándékozza meg ellenfeleinket.
De elmondható, hogy az USA szeretné elkerülni, hogy a mesterséges intelligencia egy különösen fenyegető vagy veszélyes képességének első érdemi nyilvános demonstrációja nyilvános bejelentés legyen, mivel így vezet a bocsánatkérésen alapuló kormányzáshoz.
A telepítés és kiadás előtti értékelés nem lesz izgalmas, és valószínűleg bosszantó lesz néhányuk vagy mindenki számára, ami általában jó jel arra, hogy a szabályozás valahol a kettő között landolt.
A kihívás az lesz, hogy a dolgok fókuszban maradjanak. Nem lenne értelme minden egyes chatbot-kiadást ellenőrizni, de a legfejlettebb határmodellek, különösen a katonai vagy kibernetikus, biológiai vagy kémiai vonatkozásúak vizsgálata már más kérdés.
Ez nem arról szól, hogy egy kormánytisztviselő jóváhagyja az automatikus kiegészítésedet, hanem inkább arról, hogy egy mérnök átnézi a rakétát, mielőtt felbocsátják. Valószínűleg nem ennyire drámai, de hasonló a helyzet.
Itt bizalmi probléma is felmerül. A technológiai óriások azt mondták a szabályozó hatóságoknak, hogy önszabályozhatják a piacot, míg utóbbiak azt mondták a technológiai vállalatoknak, hogy nem tudnak lépést tartani a gyorsan fejlődő technológiával.
Az eredmény egy nehézkes középút, amelyben a vállalatok korai hozzáférést kínálnak a mesterséges intelligencia modelljeihez, a szövetségi kutatók független teszteket végeznek, és mindenki abban reménykedik, hogy az eljárás kiszűri a legrosszabb eredményeket, de nem ragad bele a bürokráciába.
Nehéz nem úgy érezni, hogy ez a pillanat elkerülhetetlen volt. Amint a mesterséges intelligencia modelljei elértek egy olyan pontot, ahol elég erősek voltak ahhoz, hogy olyan ágazatokat is befolyásoljanak, mint a kiberbiztonság, a nemzetbiztonság és az infrastruktúra, soha nem lett volna értelme ezeknek a vállalatoknak egyszerűen az örökkévalóságig magukon tesztelni a modelljeiket.
Az átlagember talán nem ismeri egy benchmark vagy egy „red team” jelentés bonyolultságát, de minden bizonnyal tisztában van azzal, hogy pusztán az a képességük, hogy ezek a rendszerek kézzelfogható kárt okozhatnak, érdemessé teszi őket a piacra kerülés előtt alaposan megvizsgálni.
És míg a Big Tech továbbra is előre akar törni, Washington pedig továbbra is el akarja kerülni, hogy váratlanul érje őket, a két fél látszólag egyetértett – legalábbis egyelőre – egy megvalósítható cselekvési irányt illetően: nyissák meg a mesterséges intelligencia modelljeit, mielőtt a motor felbőgne.
Mi a reakciód?
Ami még érdekelhet
