Nagbabala ang Silicon Valley na Tinimbang ng White House ang mga Pagsusuri sa AI Bago Ilabas sa Publiko
Pinag-iisipan ng White House ni Pangulong Donald Trump kung dapat bang payagan ang gobyerno ng US na suriin ang pinakamalakas na modelo ng AI bago pa man ito maging available sa publiko, isang malaking pagbabago mula sa dati niyang laissez-faire na diskarte sa industriya ng AI.
Sa karamihan kamakailang balita tungkol sa pagsusuri ng modelo ng AI sa White House, ang debate ay bumabaling sa kung dapat bang makialam ang gobyerno bago maipamahagi sa publiko ang mga sistemang pang-probinsya na may coding o mga kakayahan sa cyber. Hindi iyon isang banayad na pagbabago. Iyan ay ang pagtatanong ng Washington kung ang karera ng armas patungo sa AI ay umunlad na sa yugto kung saan ang 'ipadala ito at tingnan kung ano ang mangyayari' ay hindi na sapat.
Ang panukalang isinasaalang-alang ay kinabibilangan ng isang utos ehekutibo na maaaring magtatag ng isang working group ng mga pampublikong lingkod-bayan at mga ehekutibo sa teknolohiya upang suriin kung paano maaaring gumana ang regulasyon.
Ayon sa iba pang ulat tungkol sa mga pag-uusap ng administrasyon, ang pag-uusap ay higit na nakasentro sa mga sopistikadong modelo na maaaring magbigay-daan sa mga cyberattack o makatulong na matukoy ang mga kahinaan ng software.
Medyo malaking problema iyan, siyempre. Ang administrasyong nangakong babawiin ang mga hadlang sa pagpapaunlad ng AI ay tila handa na ngayong maglagay nito. Siguro hindi isang pader, marahil isang tarangkahan lang.
Ito ay kasunod ng pagkabalisa tungkol sa pinakabagong sistema ng Anthropic, ang Mythos, na naiulat na ikinabahala ng mga eksperto sa cyber dahil sa sopistikadong kakayahan nito sa pag-coding at pagtuklas ng kahinaan. Iniulat din ng media na kasama rito ang mga pagsasaalang-alang sa isang paraan ng pagsusuri sa mga modelo na may mga implikasyon sa pambansang seguridad bago ang mga ito sa pangkalahatang paglabas.
Medyo lohikal ang pagkabalisa: kung magagamit ang isang modelo upang makatulong na mas mabilis na mahanap ang mga bug, malamang na makakatulong din ito sa mga hacker na mas mabilis na mahanap ang mga ito. Iyan ang hindi mapakaling buhol sa loob ng argumentong ito.
Para kay Trump, ito ay isang mahalagang pagbaligtad ng direksyon. Nang pumirma siya ng isang executive order upang mabawasan ang mga hadlang sa pangingibabaw ng AI noong Enero 2025, binasura niya ang mga patakaran sa AI na dating ipinatupad ng kanyang gobyerno, na aniya ay humahadlang sa inobasyon.
Noong panahong iyon, sinabi niya sa amin, magtayo nang mabilis, limitahan ang pangangasiwa ng gobyerno, at kayo ang magtatagumpay. Sa pagkakataong ito, tila mas kumplikado ang mensahe: magtayo nang mabilis, ngunit huwag bigyan ang lahat ng cyber blowtorch nang hindi muna tinitingnan ang safety switch.
Ang alitan na iyan ang siyang dahilan kung bakit mahalaga ang artikulong ito. Nais ng mga kompanya ng AI ang bilis, dahil umaakit ito ng mga gumagamit, pera, at impluwensyang heopolitikal. Nais ng mga awtoridad sa seguridad ang pagiging maingat dahil, sa lalong nagiging lawak, ang pinakamatatalinong mga modelo ng AI ay mas mukhang pangkalahatang-gamit na coding at pagsusuri at marahil mga sistema ng cyber warfare. Pareho silang tama. At nakakadismaya, iyon ang dahilan kung bakit mahirap gumawa ng mga patakaran.
Ang mas malaking estratehiya ng administrasyon sa AI ay nakatuon nang malaki sa pagpapabilis ng mga bagay-bagay. Ang AI Action Plan ng Amerika ay naghahati sa patakaran ng US sa AI sa tatlong pangkat:
- palakasin ang inobasyon
- bumuo ng AI infrastructure
- manguna sa pandaigdigang diplomasya at seguridad
Ang huling bagay ay may malaking karga sa ngayon. Kapag mahalaga ang mga modelo ng AI para sa proteksyon sa cyber, mga armas, intelihensiya, at kritikal na imprastraktura, ang mga ito ay nagiging higit pa sa isang teknolohiyang pangkonsumo. Ang mga ito ay nagiging mga asset ng pambansang seguridad, at mga problema sa pambansang seguridad.
Mayroon nang ilang pundasyong teknikal para sa pag-iisip tungkol sa panganib. Pinagdedebatihan pa lamang ng Washington ang naaangkop na saklaw ng pagpapatupad. Naglabas ang National Institute of Standards and Technology ng isang AI Risk Management Framework upang matulungan ang mga organisasyon na harapin ang mga panganib sa mga tao, negosyo, at komunidad.
Hindi ito sapilitan. Walang kasamang lisensya. Ngunit ang balangkas ay nag-aalok sa mga opisyal ng gobyerno ng isang bagong wika upang pag-usapan ang magulong gawain ng pagmamapa ng pinsala, pagtatasa ng panganib, pagpapagaan ng mga pagkabigo, at pag-alam ng pananagutan kapag may nangyaring mali.
Nangyayari rin ang lahat ng ito kasabay ng lalong pag-eenrol ng AI sa gobyerno at depensa. Ilang araw bago ang kamakailang pag-uusap tungkol sa pagsusuri, sumang-ayon ang Pentagon na isama ang mga teknolohiya ng AI sa mga classified system bilang bahagi ng mga kasunduan sa ilang malalaking kumpanya ng teknolohiya, gaya ng iniulat sa Inanunsyo ng militar ng US ang mga bagong pakikipagsosyo sa AI.
Kapag naisama na ang mga modelo ng hangganan sa mga sensitibong operasyon ng gobyerno, magbabago ang takbo ng usapin. Ang isang pagkakamali ay nagiging higit pa sa isang bigong demo. Ang isang aksidente ay nagiging higit pa sa isang masamang balita. Mabilis na lumilitaw ang katotohanan.
Hindi pahahalagahan ng industriya ng teknolohiya ang kawalan ng katiyakang iyan. Totoo, kapag nagsimulang pag-usapan ng Washington ang tungkol sa mga review board, hindi ka makakarinig ng maraming hiyawan.
Yaong mga nangangatwiran na ang mga pre-release check ay maaaring magresulta sa mabagal na inobasyon, pagtagas ng sensitibong teknikal na impormasyon, o isang dayuhang kakumpitensya na may iba't ibang insentibo. Ang totoo, wala sa mga alalahaning iyon ang walang kabuluhan. Sa AI, ang pagkaantala ng ilang buwan ay maaaring maihahambing sa pagdalo sa karera ng Formula One sakay ng bisikleta.
Gayunpaman, ang argumentong iyan ay lalong nagiging mahirap balewalain. Kung ang susunod na henerasyon ng mga modelo ay gagamitin upang mapadali ang mga pag-atake sa cyber, mapabilis ang pananaliksik sa bio, gumawa ng mas mahusay na pandaraya, o i-automate ang mga kampanya ng disinformation, ang "magtiwala ka sa amin, sinubukan namin ito mismo sa laboratoryo" ay maaaring hindi magtatagal sa publiko. Ang demand ay hindi tungkol sa pagkahilig sa burukrasya. Ito ay tungkol sa laki ng radius ng pagsabog.
Iyan ang malamang, kahit man lang sa susunod na mga taon, sa halip na isang sistema ng paglilisensya ng gobyerno para sa lahat ng modelo ng AI, na imposibleng maisagawa sa pagsasagawa.
Sa halip, maaaring ituon lamang ng mga opisyal ang regulasyon sa mga pinaka-modernong sistema, kabilang ang mga may kakayahang magsagawa ng malawakang pag-atake sa cyber o direktang gamitin ng gobyerno. Isaalang-alang ang isang kinakailangan na sagutin muna ng mga developer ng AI ang ilang mga katanungan bago sila makapagbenta ng mga high-powered na sistema sa sinumang may credit card.
Isa pa rin itong mahalagang pangyayari. Nagpapadala ang White House ng malakas na mensahe sa pribadong sektor na maaaring lumampas na ang hangganang AI sa yugto kung saan ito ay kumakatawan lamang sa isang promising teknolohikal na kagamitan upang maging isang estratehikong panganib, na siyempre ay hindi nangangahulugang katapusan ng pag-usbong ng AI, para lamang maging malinaw. Sa halip, ipinapahiwatig nito na ang AI ay nagkaroon ng ilang mga hindi magandang katangian.
Matagal nang sinasabi ng Silicon Valley sa Washington na kailangang sumulong ang US upang mapanatili ang pamumuno nito. Mukhang gustong tumugon ng Washington: Sige, ipakita mo muna sa amin ang iyong mga preno.
Ano ang iyong reaksyon?
Maaari mo rin tulad
