Američtí úředníci chtějí brzký přístup k pokročilé umělé inteligenci a velké společnosti s tím souhlasily
Společnosti Microsoft, Google DeepMind a Elon Muskova xAI nabídly americké vládě přístup k novým modelům umělé inteligence před jejich všeobecným uvedením na trh, což zahajuje novou fázi v často napjatém vztahu Silicon Valley s americkou vládou, která se obává hrozeb umělé inteligence. Nejnovější zpráva o společnostech s umělou inteligencí, které nabízejí modely americkým úředníkům pod záminkou bezpečnostní kontroly... v naději, že vládní analytici budou moci prověřit hraniční systémy umělé inteligence z hlediska bezpečnostních hrozeb, jako jsou kybernetické útoky a vojenské využití, než budou zveřejněny vývojářům a uživatelům a nevyhnutelně i těm, kteří by neměli mít právo se dotknout zbraňového modelu umělé inteligence.
Kontroly bude provádět Centrum pro standardy a inovace v oblasti umělé inteligence (CAISI) Ministerstva obchodu, které uvádí, že společnost... obchodovat s Google DeepMind, Microsoft a xAI dává mu šanci prověřit modely umělé inteligence ve fázi před nasazením, provést výzkum v konkrétních oblastech a zkontrolovat je po jejich spuštění do produkčního prostředí.
To může znít nudně, ale není. Tohle je vláda, která žádá, aby byl před vyjetím auta na silnici sundán kryt z kapoty, a ta kapota se den ode dne zahřívá.
To se teprve uvidí, ale existuje pochopitelná obava, že vysoce rozvinutá umělá inteligence pomůže kybernetickým zločincům stát se ve svých zločinech ještě efektivnějšími. „Američtí představitelé začali s podezřením a obavami sledovat nově vznikající hraniční modely v raných fázích a poznamenali, že některé z nich zvýšily úroveň stresu u nejvyšších vládních úředníků,“ napsala agentura Reuters.
Jedním z nástrojů umělé inteligence, který vyvolal největší obavy, je nedávno zveřejněný model Mythos od společnosti Anthropic. Problém není v tom, že by umělá inteligence dokázala identifikovat bezpečnostní chyby, které lidé nevidí. Problém je v tom, že jeden nástroj by mohl umožnit bezpečnostním pracovníkům najít bezpečnostní chyby a útočník by je mohl najít také.
Společnost Microsoft se zapojila do debaty o umělé inteligenci. Podle tiskové zprávy slíbila, že bude „spolupracovat s americkými a britskými vědci na identifikaci a zmírňování nezamýšlených důsledků modelů umělé inteligence a přispěje k vývoji sdílených datových sad a metod hodnocení bezpečnosti a výkonu modelů“.
V příkladu tohoto druhu spolupráce, Společnost Microsoft tento měsíc podepsala dohodu s britským Institutem pro bezpečnost umělé inteligence (AI Security Institute). spolupracovat s úředníky obou zemí na řízení rizik spojených s umělou inteligencí. To naznačuje, že toto téma má význam i za hranicemi amerického hlavního města.
CAISI se nebuduje z ničeho nic. Agentura tvrdí, že již provedla přes 40 hodnocení, včetně hodnocení nejmodernějších, dosud nevydaných modelů; vývojáři někdy sdílejí verze s omezenou nebo omezenou ochranou, aby odhalili nejhorší možné hrozby pro národní bezpečnost. Ano, to zní zlověstně a tak to má být; koneckonců, účinnost zámku nepotvrdíte pouhým prosením o zavření dveří.
Nové pakty navíc rozšiřují předchozí přístup vlád k modelům zpřístupněným společnostmi OpenAI a Anthropic; OpenAI předala americké vládě GPT-5.5 k vyhodnocení v kontextu národní bezpečnosti, podle Chrise Lehana z OpenAI. Spojením těchto prvků se začíná rýsovat zřetelný obraz: ty nejschopnější laboratoře umělé inteligence jsou před spuštěním svých technologií vtahovány do vládního prověřovacího prostředí.
V praxi se tu projevuje zajímavá (a chaotická) politika. Trumpova administrativa se ve své strategii v oblasti umělé inteligence z velké části soustředila na akceleraci, deregulaci a dominanci Ameriky na světové scéně. Jakákoli progresivní strategie v oblasti umělé inteligence se však musí také vypořádat s chaotickou realitou, že hraniční modely nejsou jen nástroji produktivity.
Trumpova administrativa Americký akční plán pro umělou inteligenci je primárně zaměřen na podporu inovací, budování infrastruktury potřebné k jejich udržení a prosazování vedoucího postavení USA v mezinárodní diplomacii a bezpečnosti v oblasti umělé inteligence. Poslední část nese skutečně to nejdůležitější.
Nelze přehlédnout i obrannou složku. Jen několik dní před oznámením těchto dohod o revizi modelů uzavíral Pentagon dohody s předními společnostmi v oblasti umělé inteligence a technologií o přístup k nejlepším systémům v utajovaných sítích, uvádějí zprávy na... snaha ozbrojených sil o zavedení komerční umělé inteligence do vládních operací.
Umělá inteligence ve vojenských pracovních postupech přináší řadu nových výzev a důsledků. Chyba nemusí být nutně chybou; chybný výstup může být mnohem víc než jen nepříjemný. Může být provozní a může být nákladný.
Problém je samozřejmě v tom, že by to mohlo bránit inovacím. Technologické společnosti budou argumentovat, že potřebují volnost; a jistě mají pravdu, že umělá inteligence je v současnosti soubojem na nože v telefonní budce s rychlými iteracemi, agresivní rivalitou, masivními výdaji na výpočetní infrastrukturu a globální výzvou pro Čínu.
Pokud bude každý nový model umělé inteligence před jeho zavedením čekat měsíce, americké technologické firmy jistě obviní Washington z toho, že našim protivníkům věnuje dárek s velkou úklonou.
Dá se ale říci, že USA by se rády vyhnuly tomu, aby první smysluplnou veřejnou demonstrací obzvláště hrozivého nebo nebezpečného potenciálu umělé inteligence bylo její zveřejnění, protože takhle nakonec vládnou skrze omluvu.
Hodnocení před nasazením a vydáním nebude vzrušující a pravděpodobně bude pro některé nebo všechny otravné, což je obvykle dobré znamení, že regulace se ocitla někde uprostřed.
Výzvou bude udržet si soustředěnost. Kontrolovat každé jednotlivé vydání chatbota by nedávalo smysl, ale zkoumat nejpokročilejší hraniční modely, zejména ty s vojenskými, kybernetickými, biologickými nebo chemickými důsledky, je věc jiná.
Nejde o to, aby vládní úředník schválil vaše automatické dokončování, ale spíše o to, aby inženýr kontroloval raketu před jejím startem. Pravděpodobně to není tak dramatické, ale je to podobné.
Je zde také problém s důvěrou. Technologičtí giganti sdělili regulačním orgánům, že se mohou regulovat sami, zatímco ti technologickým společnostem sdělili, že nedokázaly držet krok s rychle se vyvíjejícími technologiemi.
Výsledkem je tato nepříjemná střední cesta, v níž firmy nabízejí včasný přístup k modelům umělé inteligence, federální výzkumníci provádějí nezávislé testy a všichni doufají, že postup odfiltruje nejhorší výsledky, ale nakonec se nezamotá do byrokracie.
Je těžké se ubránit pocitu, že tento okamžik byl nevyhnutelný. Jakmile modely umělé inteligence dosáhly bodu, kdy byly dostatečně silné na to, aby ovlivnily odvětví, jako je kybernetická bezpečnost, národní bezpečnost a infrastruktura, pro tyto společnosti už nikdy nedávalo smysl, aby své modely jednoduše testovaly samy po zbytek věčnosti.
Průměrný člověk sice nemusí znát složitosti benchmarků nebo zpráv o rudých týmech, ale jistě si je vědom toho, že pouhá schopnost těchto systémů způsobit hmatatelnou škodu je činí užitečnými pro zkoumání před uvedením na trh.
A přestože velké technologické firmy stále chtějí závodit opřed a Washington se stále chce vyhnout zaskočení, obě strany se zdánlivě shodly, alespoň prozatím, na proveditelném postupu: Otevřít modely umělé inteligence dříve, než motor zařve.
Jaká je vaše reakce?
Mohlo by se vám také líbit
