Oficialii americani doresc acces timpuriu la inteligența artificială avansată, iar marile companii au fost de acord
Microsoft, Google DeepMind și xAI-ul lui Elon Musk s-au oferit să permită guvernului SUA accesul la noi modele de inteligență artificială înainte de lansarea lor generală, ceea ce deschide o nouă fază în relația adesea tensionată dintre Silicon Valley și teama guvernului SUA de amenințările legate de inteligența artificială, bazată pe... Cel mai recent raport despre companiile de inteligență artificială care oferă modele oficialilor americani în numele unei analize de securitate, în speranța că analiștii guvernamentali pot verifica sistemele de inteligență artificială de frontieră pentru amenințări la adresa securității, cum ar fi atacurile cibernetice și utilizarea militară, înainte ca acestea să fie expuse spre consum public de către dezvoltatori și utilizatori și, inevitabil, de către cei care nu ar trebui să aibă dreptul să pună mâna pe un model de inteligență artificială transformat în armă.
Evaluările vor fi efectuate de Centrul pentru Standarde și Inovație în domeniul Inteligenței Artificiale (CAISI) din cadrul Departamentului Comerțului, care susține că... gestionează Google DeepMind, Microsoft și xAI îi oferă șansa de a verifica modelele de inteligență artificială în faza de pre-implementare, de a efectua cercetări în domenii specifice și de a le revizui după lansarea lor în producție.
Poate suna plictisitor, dar nu este. Guvernul cere să se ridice capacul de pe capotă înainte ca mașina să plece pe șosea, iar capota se încălzește pe zi ce trece.
Rămâne de văzut, dar există o teamă de înțeles că inteligența artificială extrem de dezvoltată îi va ajuta pe infractorii cibernetici să devină și mai eficienți în infracțiunile lor. „Oficialii americani au început să privească modelele emergente de frontieră în stadiile incipiente cu suspiciune și trepidație, observând că unele au crescut nivelurile de stres ale celor mai înalți oficiali guvernamentali”, a scris Reuters.
Unul dintre instrumentele de inteligență artificială care a stârnit cea mai mare îngrijorare este Mythos de la Anthropic, un model dezvăluit recent. Problema nu este că inteligența artificială ar putea identifica defecte de securitate pe care oamenii nu le văd. Ci că un instrument ar putea permite specialiștilor în securitate să găsească defecte de securitate, iar un atacator ar putea găsi și el defecte de securitate.
Microsoft a intrat în dezbaterea despre inteligența artificială. Conform comunicatului său de presă, compania a promis că „va colabora cu oamenii de știință din SUA și Marea Britanie pentru a identifica și atenua consecințele neintenționate ale modelelor de inteligență artificială și va contribui la dezvoltarea de seturi de date comune și metode de evaluare pentru siguranța și performanța modelelor”.
Într-un exemplu al acestui tip de colaborare, Microsoft a semnat luna aceasta un acord cu Institutul de Securitate a Inteligenței Artificiale din Marea Britanie să colaboreze cu oficiali din ambele țări pentru a gestiona împreună riscurile legate de inteligența artificială. Acest lucru sugerează că acest subiect are relevanță dincolo de limitele capitalei americane.
CAISI nu vine de la zero. Agenția susține că a efectuat deja peste 40 de evaluări, inclusiv cele ale unor modele de ultimă generație, încă nelansate; dezvoltatorii distribuie uneori versiuni cu protecții eliminate sau reduse pentru a expune cele mai grave pericole la adresa securității naționale. Da, asta sună amenințător și este menit să sune; la urma urmei, nu confirmi eficacitatea unei încuietori pur și simplu implorând ușa să rămână închisă.
În plus, noile pacte extind accesul anterior al guvernelor la modelele puse la dispoziție de OpenAI și Anthropic; separat, OpenAI a înmânat guvernului SUA standardul GPT-5.5 pentru evaluare în contexte de securitate națională, potrivit lui Chris Lehane de la OpenAI. Combinând aceste elemente, începe să apară o imagine distinctă: cele mai capabile laboratoare de inteligență artificială sunt atrase într-un mediu de verificare guvernamentală înainte ca tehnologiile lor să fie lansate pe piață.
Există o politică interesantă (și complicată) la mijloc aici. În cea mai mare parte, administrația Trump și-a centrat strategia IA pe accelerare, dereglementare și dominația Americii pe scena mondială. Dar orice strategie IA orientată spre viitor trebuie să se confrunte și cu realitatea complicată că modelele de frontieră nu sunt doar instrumente de productivitate.
Administrația Trump Planul de acțiune al Americii privind inteligența artificială este orientat în principal spre stimularea inovației, construirea infrastructurii necesare pentru susținerea acesteia și promovarea poziției de lider a SUA în diplomația și securitatea internațională bazate pe inteligența artificială. Această ultimă piesă este, de fapt, cea care poartă sarcina.
Există, de asemenea, o componentă de apărare care nu poate fi trecută cu vederea. Cu doar câteva zile înainte de anunțarea acestor acorduri de revizuire a modelelor, Pentagonul încheia acorduri cu companii de top din domeniul inteligenței artificiale și tehnologiei pentru a accesa cele mai bune sisteme din rețelele clasificate, conform relatărilor despre... efortul forțelor armate de a integra inteligența artificială comercială în operațiunile guvernamentale.
Inteligența artificială în fluxurile de lucru militare aduce o serie de noi provocări și consecințe. O eroare nu trebuie să fie o eroare; un rezultat eronat poate fi mult mai mult decât incomod. Poate fi operațional și poate fi costisitor.
Bineînțeles, problema este că acest lucru ar putea împiedica inovația. Companiile de tehnologie vor argumenta că au nevoie de libertate; și au cu siguranță dreptate că IA este în prezent o luptă cu cuțitul într-o cabină telefonică, cu iterații rapide, rivalități agresive, cheltuieli masive pentru infrastructura de calcul și o provocare globală pentru China.
Dacă fiecare nou model de inteligență artificială este reținut luni de zile înainte de a putea fi introdus, firmele de tehnologie americane cu siguranță vor acuza Washingtonul că le-ar oferi adversarilor un cadou cu o plecăciune uriașă.
Dar se poate spune că SUA ar dori să evite ca prima demonstrație publică semnificativă a unei capacități deosebit de amenințătoare sau periculoase a inteligenței artificiale să fie o lansare publică, deoarece așa ajungi să guvernezi prin scuze.
Evaluarea înainte de implementare și lansare nu va fi interesantă și probabil va fi enervantă pentru unii sau pentru toți, ceea ce este de obicei un semn bun că reglementarea a ajuns undeva la mijloc.
Provocarea va fi menținerea concentrarii. Verificarea fiecărei versiuni a chatbot-ului nu ar avea sens, dar examinarea atentă a celor mai avansate modele de frontieră, în special a celor cu implicații militare sau cibernetice, bio sau chimice, este o altă problemă.
Nu este vorba despre un oficial guvernamental care aprobă completarea automată, ci mai degrabă despre un inginer care verifică racheta înainte de lansare. Probabil nu este la fel de dramatic, dar este similar.
Există și o problemă de încredere aici. Giganții tehnologici le-au spus autorităților de reglementare că se pot autoreglementa, în timp ce aceștia din urmă le-au spus companiilor tehnologice că nu au reușit să țină pasul cu tehnologia în rapidă evoluție.
Rezultatul este această cale de mijloc dificilă în care companiile oferă acces timpuriu la modele de inteligență artificială, cercetătorii federali efectuează teste independente și toată lumea speră că procedura elimină cele mai slabe rezultate, dar nu se va împotmoli în birocrație.
E greu să nu simți că acest moment a fost inevitabil. Odată ce modelele de inteligență artificială au ajuns la un punct în care au fost suficient de puternice pentru a influența sectoare precum securitatea cibernetică, securitatea națională și infrastructura, nu a mai avut sens ca aceste companii să-și testeze pur și simplu modelele pe cont propriu pentru tot restul eternității.
O persoană obișnuită poate să nu cunoască complexitatea unui benchmark sau a unui raport al echipei roșii, dar este cu siguranță conștientă de faptul că simpla capacitate a acestor sisteme de a provoca daune tangibile le face demne de analizat înainte de a fi lansate pe piață.
Și, deși marile companii tehnologice vor încă să fie în frunte, iar Washingtonul vrea să evite să fie luat prin surprindere, cele două părți par să se fi aliniat, cel puțin deocamdată, asupra unei acțiuni fezabile: Deschiderea modelelor de inteligență artificială înainte ca motoarele să urle.
Care este reacția ta?
Ați putea dori, de asemenea
