Casa Albă analizează verificările inteligenței artificiale înainte de lansarea publică, avertizează Silicon Valley
Casa Albă a președintelui Donald Trump analizează dacă guvernului SUA ar trebui să i se permită să examineze cele mai puternice modele de inteligență artificială înainte ca acestea să devină disponibile publicului, o schimbare semnificativă față de abordarea sa anterioară laissez-faire față de industria inteligenței artificiale.
În cele mai multe știre recentă despre verificarea modelului de inteligență artificială de la Casa Albă, dezbaterea se reduce la întrebarea dacă guvernul ar trebui să intervină înainte ca sistemele de frontieră cu capabilități de codare sau cibernetice să fie distribuite publicului. Aceasta nu este o schimbare subtilă. Washingtonul se întreabă dacă cursa înarmărilor către inteligența artificială a evoluat până la stadiul în care „expediați-o și vedeți ce se întâmplă” nu mai este suficientă.
Propunerea analizată implică un ordin executiv care ar putea înființa un grup de lucru format din funcționari publici și directori din domeniul tehnologiei pentru a analiza modul în care ar putea funcționa reglementarea.
Conform altor relatări despre discuțiile administrației, conversația s-a concentrat în mare măsură pe modele sofisticate care ar putea permite atacuri cibernetice sau ar putea ajuta la identificarea punctelor slabe ale software-ului.
Evident, e un pic de atac de bici. Administrația care s-a angajat să elimine barierele în calea dezvoltării inteligenței artificiale pare acum dispusă să pună la punct barierele. Poate nu un zid, poate doar o poartă.
Aceasta vine în urma anxietății legate de cel mai recent sistem al Anthropic, Mythos, care se pare că i-a deranjat pe experții în domeniul cibernetic din cauza codării sale sofisticate și a abilităților de detectare a vulnerabilităților. Mass-media a relatat, de asemenea, că a inclus luări în considerare ale unei abordări de verificare a modelelor cu implicații de securitate națională înainte de lansarea lor generală.
Anxietatea este destul de logică: dacă un model poate fi folosit pentru a ajuta la găsirea erorilor mai devreme, probabil că îi va ajuta și pe hackeri să le găsească și mai repede. Acesta este nodul neliniștitor al acestei dispute.
Pentru Trump, este o importantă inversare de direcție. Când a semnat un ordin executiv pentru a reduce impedimentele în calea dominației inteligenței artificiale în ianuarie 2025, a demontat politicile privind inteligența artificială instituite anterior de guvernul său, despre care a spus că obstrucționează inovația.
La vremea respectivă ne-a spus: construiți rapid, limitați supravegherea guvernamentală și veți fi victorioși. De data aceasta, mesajul pare mai complicat: construiți rapid, dar nu le dați tuturor o torță cibernetică fără să verificați mai întâi comutatorul de siguranță.
Această fricțiune este tocmai motivul pentru care acest articol este important. Firmele de inteligență artificială își doresc viteză, deoarece aceasta atrage utilizatori, bani și influență geopolitică. Autoritățile de securitate doresc prudență deoarece, într-o măsură din ce în ce mai mare, cele mai inteligente modele de inteligență artificială seamănă mai mult cu programe de codare și analiză de uz general și poate cu sisteme de război cibernetic. Ambele au dreptate. Și acesta este, în mod frustrant, motivul pentru care este dificil să se stabilească reguli.
Strategia mai amplă a administrației privind inteligența artificială se concentrează în mare măsură pe accelerarea lucrurilor. Planul de acțiune american privind inteligența artificială împarte politica americană privind inteligența artificială în trei categorii:
- stimula inovația
- construiește infrastructură de inteligență artificială
- lider în diplomația și securitatea globală
Ultimul element poartă o povară destul de mare în acest moment. Atunci când modelele de inteligență artificială sunt importante pentru protecția cibernetică, arme, informații și infrastructură critică, acestea devin mai mult decât o altă tehnologie de consum. Devin active de securitate națională și probleme de securitate națională.
Există deja o bază tehnică pentru a gândi în funcție de risc. Washingtonul dezbate abia acum amploarea adecvată a aplicării legii. Institutul Național de Standarde și Tehnologie a publicat un... Cadrul de management al riscului AI pentru a ajuta organizațiile să gestioneze riscurile la adresa oamenilor, afacerilor și comunităților.
Nu este obligatoriu. Nu implică licențe. Totuși, cadrul oferă oficialilor guvernamentali un nou limbaj pentru a discuta despre afacerea complicată de cartografiere a daunelor, evaluare a riscurilor, atenuare a eșecurilor și stabilire a responsabilității atunci când lucrurile merg prost.
Toate acestea se întâmplă, de asemenea, în concordanță cu integrarea tot mai mare a inteligenței artificiale în guvern și apărare. Cu câteva zile înainte de recenta discuție de verificare, Pentagonul a fost de acord să includă tehnologiile de inteligență artificială în sistemele clasificate, ca parte a acordurilor cu mai multe companii mari de tehnologie, așa cum se relatează în Armata americană anunță noi parteneriate cu inteligența artificială.
Odată ce modelele de frontieră sunt integrate în operațiuni guvernamentale sensibile, jocul se schimbă. O eroare devine mai mult decât o simplă demonstrație eșuată. Un incident devine mai mult decât o simplă știre proastă. Realitatea intervine rapid.
Industria tehnologică nu va aprecia această incertitudine. Trebuie să recunoaștem că, atunci când Washingtonul începe să vorbească despre comisiile de evaluare, nu se aud prea multe urale.
Cei care vor argumenta că verificările pre-lansare pot duce la inovații lente, scurgeri de informații tehnice sensibile sau la un concurent străin cu stimulente diferite. Adevărul este că niciuna dintre aceste preocupări nu este frivolă. În inteligența artificială, o întârziere de câteva luni poate fi comparabilă cu prezentarea la cursa de Formula 1 pe bicicletă.
Totuși, acest argument devine din ce în ce mai greu de ignorat. Dacă următoarea generație de modele va fi utilizată pentru a facilita atacurile cibernetice, a accelera cercetarea biologică, a fabrica fraude mai eficiente sau a automatiza campaniile de dezinformare, atunci ideea de „credeți-ne, am testat-o singuri în laborator” s-ar putea să nu mai fie pe placul publicului mult timp. Cererea nu are legătură cu pasiunea pentru birocrație. Ci cu dimensiunea razei exploziei.
Asta e ceea ce este cel mai probabil, cel puțin în următorii câțiva ani, decât un sistem guvernamental de licențiere pentru toate modelele de inteligență artificială, care ar fi imposibil de implementat în practică.
În schimb, oficialii s-ar putea concentra reglementările doar asupra celor mai avansate sisteme, inclusiv asupra celor care posedă capacitatea de a efectua atacuri cibernetice la scară largă sau de a fi utilizate direct de către guvern. Luați în considerare o cerință ca dezvoltatorii de inteligență artificială să răspundă mai întâi la câteva întrebări înainte de a putea vinde sisteme puternice oricui are un card de credit.
Chiar și așa, este încă o piatră de hotar. Casa Albă transmite un mesaj puternic sectorului privat că inteligența artificială de frontieră ar putea să fi depășit stadiul în care reprezenta doar un instrument tehnologic promițător pentru a deveni un risc strategic, ceea ce, desigur, nu înseamnă sfârșitul boom-ului inteligenței artificiale, ca să fim clari. Mai degrabă, semnalează că inteligența artificială a dezvoltat câteva probleme.
Silicon Valley a transmis de mult timp Washingtonului că SUA trebuie să avanseze rapid pentru a-și menține poziția de lider. Se pare că Washingtonul vrea să răspundă: OK, arată-ne mai întâi ce frânezi.
Care este reacția ta?
Ați putea dori, de asemenea
