Rumah Putih Menimbang Pemeriksaan AI Sebelum Siaran Awam, Silicon Valley Diberi Amaran
Rumah Putih Presiden Donald Trump sedang mempertimbangkan sama ada kerajaan AS harus dibenarkan menapis model AI yang paling berkuasa sebelum ia tersedia kepada orang ramai, satu perubahan ketara daripada pendekatan laissez-faire beliau sebelum ini terhadap industri AI.
Paling banyak cerita terbaru tentang pemeriksaan model AI Rumah Putih, perdebatan ini berkisar kepada sama ada kerajaan harus campur tangan sebelum sistem sempadan dengan keupayaan pengekodan atau siber diedarkan kepada orang ramai. Itu bukanlah perubahan yang halus. Washington sedang mempersoalkan sama ada perlumbaan senjata ke arah AI telah berkembang ke peringkat di mana 'hantarkannya dan lihat apa yang berlaku' tidak lagi sesuai.
Cadangan yang sedang dipertimbangkan melibatkan perintah eksekutif yang mungkin menubuhkan kumpulan kerja penjawat awam dan eksekutif teknologi untuk mengkaji bagaimana peraturan boleh beroperasi.
Menurut laporan lain mengenai rundingan pentadbiran, perbualan itu sebahagian besarnya tertumpu pada model canggih yang boleh membolehkan serangan siber atau membantu mengenal pasti kelemahan perisian.
Itu sudah tentu sedikit gegaran. Pentadbiran yang berjanji untuk merobohkan halangan kepada pembangunan AI kini nampaknya bersedia untuk meletakkannya. Mungkin bukan tembok, mungkin hanya pintu pagar.
Ia susulan kebimbangan terhadap sistem terbaharu Anthropic, Mythos, yang dilaporkan telah mengejutkan pakar siber kerana bakat pengekodan dan pengesanan kerentanannya yang canggih. Media juga melaporkan bahawa ia merangkumi pertimbangan pendekatan untuk menapis model dengan implikasi keselamatan negara sebelum pelancaran umum mereka.
Kebimbangan itu agak logik: jika model boleh digunakan untuk membantu mencari pepijat lebih awal, ia mungkin juga akan membantu penggodam mencarinya lebih awal. Itulah simpulan yang tidak selesa dalam hujah ini.
Bagi Trump, ia merupakan pembalikan hala tuju yang penting. Apabila beliau menandatangani perintah eksekutif untuk mengurangkan halangan kepada dominasi AI pada Januari 2025, beliau telah memansuhkan dasar-dasar mengenai AI yang sebelum ini dilaksanakan oleh kerajaannya, yang menurutnya menghalang inovasi.
Pada masa itu dia memberitahu kami, bina pantas, hadkan pengawasan kerajaan, dan anda akan menang. Kali ini mesejnya kelihatan lebih rumit: bina pantas, tetapi jangan berikan semua orang obor siber tanpa terlebih dahulu memeriksa suis keselamatan.
Pergeseran itulah yang menjadi sebab pentingnya artikel ini. Firma AI menginginkan kelajuan, kerana ia menarik pengguna, wang dan pengaruh geopolitik. Pihak berkuasa keselamatan mahukan kebijaksanaan kerana, pada tahap yang semakin meningkat, model AI yang paling pintar kelihatan lebih seperti pengekodan dan analisis tujuan umum dan mungkin sistem peperangan siber. Kedua-duanya betul. Dan, yang mengecewakan, itulah sebabnya membuat peraturan adalah sukar.
Strategi AI pentadbiran yang lebih besar memberi tumpuan besar kepada mempercepatkan sesuatu. Pelan Tindakan AI Amerika meletakkan dasar AI AS dalam tiga kelompok:
- meningkatkan inovasi
- membina infrastruktur AI
- menerajui diplomasi dan keselamatan global
Perkara terakhir membawa beban yang agak besar pada masa ini. Apabila model AI penting untuk perlindungan siber, senjata, risikan dan infrastruktur kritikal, ia menjadi lebih daripada sekadar teknologi pengguna lain. Ia menjadi aset keselamatan negara, dan masalah keselamatan negara.
Sudah ada beberapa asas teknologi untuk berfikir tentang risiko. Washington hanya sedang membahaskan skala penguatkuasaan yang sesuai. Institut Piawaian dan Teknologi Kebangsaan telah mengeluarkan Rangka Kerja Pengurusan Risiko AI untuk membantu organisasi menangani risiko kepada manusia, perniagaan dan komuniti.
Ia tidak wajib. Tiada lesen yang terlibat. Namun, rangka kerja ini menawarkan pegawai kerajaan bahasa baharu untuk membincangkan urusan yang kucar-kacir iaitu memetakan bahaya, menilai risiko, mengurangkan kegagalan dan memikirkan akauntabiliti apabila keadaan menjadi tidak kena.
Semua ini juga berlaku seiring dengan AI yang semakin tertanam dalam kerajaan dan pertahanan. Beberapa hari sebelum perbincangan pemeriksaan baru-baru ini, Pentagon bersetuju untuk membawa teknologi AI ke dalam sistem sulit sebagai sebahagian daripada perjanjian dengan beberapa syarikat teknologi besar, seperti yang dilaporkan dalam Tentera AS mengumumkan kerjasama AI baharu.
Sebaik sahaja model sempadan disepadukan ke dalam operasi kerajaan yang sensitif, permainan akan berubah. Kesilapan menjadi lebih daripada sekadar demo yang gagal. Kemalangan menjadi lebih daripada sekadar berita buruk. Realiti berlaku dengan pantas.
Industri teknologi tidak akan menghargai ketidakpastian itu. Diakui, apabila Washington mula bercakap tentang lembaga semakan, anda tidak akan mendengar banyak sorakan.
Mereka yang akan berhujah bahawa semakan pra-keluaran boleh mengakibatkan inovasi yang perlahan, kebocoran maklumat teknikal yang sensitif atau pesaing asing dengan insentif yang berbeza. Sebenarnya, tiada satu pun daripada kebimbangan itu yang remeh. Dalam AI, kelewatan selama beberapa bulan mungkin setanding dengan menghadiri perlumbaan Formula Satu dengan basikal.
Namun begitu, hujah itu semakin sukar untuk diabaikan. Jika model generasi akan datang akan digunakan untuk memudahkan serangan siber, mempercepatkan penyelidikan bio, mereka-reka penipuan yang lebih baik atau mengautomasikan kempen maklumat salah, maka "percayalah, kami telah mengujinya sendiri di makmal" mungkin tidak akan diterima oleh orang ramai untuk masa yang lebih lama. Permintaan itu bukanlah tentang keghairahan terhadap birokrasi. Ia tentang saiz jejari letupan.
Itulah yang kemungkinan besar akan berlaku, sekurang-kurangnya dalam beberapa tahun akan datang, bukannya sistem pelesenan kerajaan untuk semua model AI, yang mustahil untuk dilaksanakan dalam praktiknya.
Sebaliknya, pegawai mungkin menumpukan pengawalseliaan hanya pada sistem yang paling canggih, termasuk sistem yang mempunyai kapasiti untuk menjalankan serangan siber berskala besar atau digunakan secara langsung oleh kerajaan. Pertimbangkan satu keperluan bahawa pembangun AI terlebih dahulu menjawab beberapa soalan sebelum mereka boleh menjual sistem berkuasa tinggi kepada sesiapa sahaja yang mempunyai kad kredit.
Walaupun begitu, ia masih merupakan satu peristiwa penting. Rumah Putih sedang menghantar mesej yang kuat kepada sektor swasta bahawa AI sempadan mungkin telah melepasi peringkat di mana ia hanya mewakili alat teknologi yang berpotensi untuk menjadi risiko strategik, yang sudah tentu tidak bermakna berakhirnya ledakan AI, sekadar untuk lebih jelas. Sebaliknya, ia menandakan bahawa AI telah membangunkan beberapa kelemahan.
Silicon Valley telah lama memberitahu Washington bahawa AS perlu berlumba ke hadapan untuk mengekalkan kepimpinannya. Nampaknya Washington mahu menjawab: Baiklah, tunjukkan brek anda dahulu.
Apakah reaksi anda?
