Bílý dům zvažuje kontroly umělé inteligence před zveřejněním, varoval Silicon Valley
Bílý dům prezidenta Donalda Trumpa zvažuje, zda by americká vláda měla mít možnost prověřovat nejvýkonnější modely umělé inteligence před jejich zpřístupněním veřejnosti, což je významný posun od jeho dříve laissez-faire přístupu k odvětví umělé inteligence.
Nejvíc nedávný článek o prověřování modelů umělé inteligence v Bílém doměDebata se redukuje na to, zda by vláda měla zasáhnout dříve, než budou pohraniční systémy s kódováním nebo kybernetickými schopnostmi distribuovány veřejnosti. To není nenápadná změna. Washington se tedy ptá, zda se závody ve zbrojení směrem k umělé inteligenci vyvinuly do fáze, kdy už nestačí argument „dodat a uvidíme, co se stane“.
Zvažovaný návrh zahrnuje výkonné nařízení, které by mohlo zřídit pracovní skupinu složenou z veřejných úředníků a vedoucích pracovníků v oblasti technologií, která by se zabývala tím, jak by mohla regulace fungovat.
Podle dalších zpráv o jednáních administrativy, diskuse se z velké části soustředila na sofistikované modely, které by mohly umožnit kybernetické útoky nebo pomoci identifikovat slabiny softwaru.
To je samozřejmě trochu nepříjemné. Administrativa, která slíbila odstranit překážky rozvoje umělé inteligence, se nyní zdá být ochotna nějakou postavit. Možná ne zeď, možná jen bránu.
Toto následuje po obavách z nejnovějšího systému společnosti Anthropic, Mythos, který údajně znepokojil kybernetické experty kvůli svému sofistikovanému kódování a schopnostem detekce zranitelností. Média také informovala, že systém zahrnoval úvahy o přístupu k prověřování modelů s dopady na národní bezpečnost před jejich všeobecným vydáním.
Tato obava je celkem logická: pokud lze model použít k rychlejšímu nalezení chyb, pravděpodobně pomůže hackerům je najít ještě dříve. To je ten nepříjemný uzel v této hádce.
Pro Trumpa je to důležitý obrat. Když v lednu 2025 podepsal výkonný příkaz ke snížení překážek bránících dominanci umělé inteligence, zrušil politiku týkající se umělé inteligence, kterou dříve zavedla jeho vláda a která podle něj bránila inovacím.
Tehdy nám řekl: stavte rychle, omezte vládní dohled a zvítězíte. Tentokrát se zdá, že sdělení je složitější: stavte rychle, ale nedávejte každému kybernetický hořák, aniž byste nejprve zkontrolovali bezpečnostní spínač.
Právě toto tření je důvodem, proč je tento článek důležitý. Firmy zabývající se umělou inteligencí touží po rychlosti, protože ta přitahuje uživatele, peníze a geopolitický vliv. Bezpečnostní orgány chtějí obezřetnost, protože nejchytřejší modely umělé inteligence stále více vypadají spíše jako univerzální kódování a analýza a možná i systémy kybernetické války. Oba mají pravdu. A to je, bohužel, důvod, proč je vytváření pravidel obtížné.
Širší strategie administrativy v oblasti umělé inteligence se zaměřuje převážně na urychlení věcí. Americký akční plán pro umělou inteligenci rozděluje americkou politiku v oblasti umělé inteligence do tří kategorií:
- podpořit inovace
- vybudovat infrastrukturu umělé inteligence
- vůdčí osobnost v oblasti globální diplomacie a bezpečnosti
Poslední položka v tuto chvíli nese poměrně velkou zátěž. Když modely umělé inteligence hrají roli v kybernetické ochraně, zbraních, zpravodajských službách a kritické infrastruktuře, stávají se více než jen další spotřebitelskou technologií. Stávají se aktivy národní bezpečnosti a problémy národní bezpečnosti.
Již existují určité technologické základy pro uvažování o riziku. Washington zatím diskutuje o vhodném rozsahu vymáhání. Národní institut pro standardy a technologie zveřejnil AI rámec řízení rizik pomáhat organizacím vypořádat se s riziky pro lidi, firmy a komunity.
Není to povinné. Nejsou k tomu žádné licence. Přesto tento rámec nabízí vládním úředníkům nový jazyk, jak hovořit o chaotické záležitosti mapování škod, posuzování rizik, zmírňování selhání a určování odpovědnosti, když se něco pokazí.
To vše se děje v souladu s tím, že se umělá inteligence stále více začleňuje do vlády a obrany. Jen několik dní před nedávnou prověřovací konverzací se Pentagon dohodl na zavedení technologií umělé inteligence do utajovaných systémů v rámci dohod s několika velkými technologickými společnostmi, jak uvádí... Americká armáda oznamuje nová partnerství s umělou inteligencí.
Jakmile jsou hraniční modely integrovány do citlivých vládních operací, hra se mění. Chyba se stává víc než jen neúspěšnou demonstrací. Nehoda se stává víc než jen špatnou zprávou. Realita se rychle projeví.
Technologický průmysl tuto nejistotu neocení. Je pravda, že když Washington začne mluvit o hodnotících komisích, moc jásotu neslyšíte.
Ti, kteří budou argumentovat, že předběžné kontroly mohou vést k pomalým inovacím, únikům citlivých technických informací nebo zahraničnímu konkurentovi s jinými pobídkami,... Pravdou je, že žádná z těchto obav není bezvýznamná. V oblasti umělé inteligence může být zpoždění v délce několika měsíců srovnatelné s účastí na závodě Formule 1 na kole.
Tento argument je však stále těžší a těžší ignorovat. Pokud bude nová generace modelů použita k usnadnění kybernetických útoků, urychlení biologického výzkumu, vytváření lepších podvodů nebo automatizaci dezinformačních kampaní, pak tvrzení „věřte nám, sami jsme si to otestovali v laboratoři“ u veřejnosti možná dlouho neobstojí. Poptávka se netýká vášně pro byrokracii. Jde o velikost poloměru výbuchu.
To je nejpravděpodobnější, alespoň v příštích několika letech, spíše než vládní licenční systém pro všechny modely umělé inteligence, který by v praxi nebylo možné realizovat.
Úředníci by místo toho mohli zaměřit regulaci pouze na nejpokročilejší systémy, včetně těch, které mají schopnost provádět rozsáhlé kybernetické útoky nebo které může přímo používat vláda. Zvažte požadavek, aby vývojáři umělé inteligence nejprve odpověděli na několik otázek, než budou moci prodávat vysoce výkonné systémy komukoli s kreditní kartou.
I tak se jedná o milník. Bílý dům vysílá soukromému sektoru jasný signál, že umělá inteligence na hranici možností překročila fázi, kdy představuje pouze slibný technologický nástroj a stává se strategickým rizikem, což samozřejmě neznamená konec boomu umělé inteligence, jen aby bylo jasno. Spíše to signalizuje, že si umělá inteligence vypěstovala pár špatných stránek.
Silicon Valley již dlouho říká Washingtonu, že USA se musí rychle vydat vpřed, aby si udržely své vedoucí postavení. Zdá se, že Washington chce reagovat: Dobře, nejdřív nám ukažte brzdy.
Jaká je vaše reakce?
Mohlo by se vám také líbit
