Pegawai AS Mahu Akses Awal kepada AI Lanjutan, dan Syarikat Besar Telah Bersetuju
Microsoft, Google DeepMind dan xAI milik Elon Musk telah menawarkan untuk membenarkan kerajaan AS mengakses model AI baharu menjelang pelancaran umum mereka, yang mewujudkan fasa baharu dalam hubungan Silicon Valley yang sering berpecah belah dengan ketakutan kerajaan AS terhadap ancaman AI, berdasarkan laporan terkini syarikat AI yang menawarkan model kepada pegawai AS atas nama semakan keselamatan, dengan harapan penganalisis kerajaan dapat memeriksa sistem AI sempadan untuk ancaman keselamatan seperti serangan siber dan kegunaan ketenteraan sebelum ia didedahkan kepada penggunaan awam oleh pembangun dan pengguna, dan, tidak dapat tidak, mereka yang sepatutnya tidak mempunyai perniagaan untuk memiliki model AI yang dipersenjatai.
Semakan tersebut akan dijalankan oleh Pusat Piawaian dan Inovasi AI Jabatan Perdagangan, atau CAISI, yang mengatakan syarikat itu berurusan dengan Google DeepMind, Microsoft dan xAI memberinya peluang untuk menyemak model AI dalam fasa pra-pelaksanaan, menjalankan penyelidikan dalam bidang tertentu dan menyemaknya selepas ia dilancarkan ke dalam pengeluaran.
Itu mungkin kedengaran membosankan, tetapi sebenarnya tidak. Ini adalah kerajaan yang meminta penutup hud kereta dibuka sebelum kereta digunakan di jalan raya, dan hud kereta itu semakin panas dari hari ke hari.
Ia masih belum dapat dilihat, tetapi terdapat kebimbangan yang difahami bahawa AI yang sangat maju akan membantu penjahat siber menjadi lebih berkesan dalam jenayah mereka. “Pegawai AS telah mula memerhatikan model sempadan yang baru muncul pada peringkat awal dengan syak wasangka dan kebimbangan, dengan menyatakan bahawa sesetengahnya telah meningkatkan tahap tekanan pegawai kerajaan tertinggi,” tulis Reuters.
Salah satu alat AI yang paling menimbulkan kebimbangan ialah Mythos Anthropic, model yang baru-baru ini didedahkan. Masalahnya bukanlah AI boleh mengenal pasti kelemahan keselamatan yang tidak dilihat oleh orang ramai. Tetapi satu alat mungkin membolehkan kakitangan keselamatan mencari kelemahan keselamatan dan penyerang juga boleh menemui kelemahan keselamatan.
Microsoft telah memasuki perdebatan AI. Microsoft telah berjanji untuk “bekerjasama dengan saintis AS dan UK untuk mengenal pasti dan mengurangkan akibat yang tidak diingini daripada model AI dan menyumbang kepada pembangunan set data yang dikongsi dan kaedah penilaian untuk keselamatan dan prestasi model,” menurut siaran akhbarnya.
Dalam contoh kerjasama sebegini, Microsoft menandatangani perjanjian bulan ini dengan Institut Keselamatan AI UK untuk bekerjasama dengan pegawai dari kedua-dua negara bagi menguruskan risiko AI. Ini menunjukkan bahawa topik ini mempunyai kaitan di luar batasan ibu kota Amerika.
CAISI tidak muncul begitu sahaja. Agensi itu mendakwa ia telah menjalankan lebih 40 penilaian, termasuk model canggih yang belum dikeluarkan; pembangun kadangkala berkongsi versi dengan perlindungan yang dilucutkan atau dikurangkan untuk mendedahkan bahaya keselamatan negara yang paling teruk. Ya, itu kedengaran tidak menyenangkan, dan memang sepatutnya begitu; lagipun, anda tidak mengesahkan keberkesanan kunci dengan hanya merayu pintu untuk kekal tertutup.
Di samping itu, pakatan baharu ini memperluaskan akses kerajaan terdahulu kepada model yang disediakan oleh OpenAI dan Anthropic; secara berasingan, OpenAI menyerahkan GPT-5.5 kepada kerajaan AS untuk dinilai dalam konteks keselamatan negara, menurut Chris Lehane dari OpenAI. Gabungkan elemen-elemen tersebut dan gambaran yang jelas mula muncul: makmal AI yang paling berkemampuan sedang ditarik ke dalam persekitaran pemeriksaan kerajaan terlebih dahulu sebelum teknologi mereka mula beroperasi.
Terdapat beberapa politik yang menarik (dan kucar-kacir) yang sedang berlaku di sini. Sebahagian besarnya, pentadbiran Trump telah memusatkan strategi AInya pada pecutan, penyahkawalseliaan dan dominasi Amerika di pentas dunia. Tetapi sebarang strategi AI yang bercondong ke hadapan juga perlu bergelut dengan realiti kucar-kacir bahawa model sempadan bukan sekadar alat produktiviti.
Pentadbiran Trump Pelan Tindakan AI Amerika terutamanya ditujukan untuk meningkatkan inovasi, membina infrastruktur yang diperlukan untuk mengekalkannya dan mempromosikan kepimpinan AS dalam diplomasi dan keselamatan AI antarabangsa. Bahagian terakhir itu benar-benar memikul beban tersebut.
Terdapat juga komponen pertahanan yang tidak boleh diabaikan. Hanya beberapa hari sebelum perjanjian semakan model ini diumumkan, Pentagon telah membuat perjanjian dengan syarikat AI dan teknologi terkemuka untuk mengakses sistem terbaik pada rangkaian sulit, menurut laporan mengenai usaha angkatan tentera untuk menerapkan AI komersial ke dalam operasi kerajaan.
AI dalam aliran kerja ketenteraan membawa pelbagai cabaran dan akibat baharu. Pepijat tidak semestinya pepijat; output yang salah boleh jadi lebih daripada sekadar janggal. Ia boleh beroperasi, dan ia boleh menjadi mahal.
Sememangnya, isunya ialah ini boleh menghalang inovasi. Syarikat teknologi akan berhujah bahawa mereka memerlukan kelonggaran; dan mereka sememangnya betul bahawa AI kini merupakan pertarungan pisau di pondok telefon, dengan lelaran pantas, persaingan agresif, perbelanjaan besar-besaran infrastruktur pengkomputeran, dan cabaran global kepada China.
Jika setiap model AI baharu ditahan selama berbulan-bulan sebelum ia dapat diperkenalkan, firma teknologi AS pasti akan mendakwa Washington kerana menghadiahkan hadiah dengan hormat kepada musuh kita.
Tetapi boleh dikatakan bahawa AS ingin mengelakkan demonstrasi awam pertama yang bermakna tentang keupayaan AI yang amat mengancam atau berbahaya daripada disiarkan secara terbuka, kerana begitulah cara anda akhirnya mentadbir melalui permohonan maaf.
Penilaian sebelum ia digunakan dan dikeluarkan tidak akan menarik, dan mungkin akan menjengkelkan sesetengah atau semua, yang biasanya merupakan petanda baik bahawa peraturan telah berada di tengah-tengah.
Cabarannya adalah untuk memastikan semuanya tertumpu. Memeriksa setiap keluaran chatbot tidak masuk akal, tetapi meneliti model sempadan yang paling canggih, terutamanya yang mempunyai implikasi ketenteraan atau siber, bio atau kimia adalah perkara lain.
Ini bukan tentang pegawai kerajaan yang meluluskan auto-lengkap anda, tetapi sebaliknya lebih kepada seorang jurutera yang menyemak roket sebelum ia dilancarkan. Ia mungkin tidak begitu dramatik, tetapi ia serupa.
Terdapat juga masalah kepercayaan di sini. Syarikat gergasi teknologi telah memberitahu pengawal selia bahawa mereka boleh mengawal selia sendiri, manakala syarikat teknologi memberitahu syarikat teknologi bahawa mereka gagal mengikuti perkembangan teknologi yang pesat.
Hasilnya adalah jalan tengah yang tidak selesa di mana syarikat menawarkan akses awal kepada model AI, penyelidik persekutuan menjalankan ujian bebas dan semua orang berharap prosedur itu menapis keputusan terburuk tetapi tidak berakhir dengan karenah birokrasi.
Sukar untuk tidak merasakan detik ini tidak dapat dielakkan. Sebaik sahaja model AI mencapai tahap di mana ia cukup berkuasa untuk mempengaruhi sektor seperti keselamatan siber, keselamatan negara dan infrastruktur, adalah tidak masuk akal bagi syarikat-syarikat ini untuk hanya menguji model mereka sendiri untuk selama-lamanya.
Orang biasa mungkin tidak mengetahui selok-belok penanda aras atau laporan pasukan merah, tetapi mereka sememangnya sedar bahawa keupayaan sistem ini untuk menyebabkan kemudaratan ketara menjadikannya berbaloi untuk diteliti sebelum ia dipasarkan.
Dan sementara Big Tech masih mahu mendahului dan Washington masih mahu mengelak daripada terperangkap dalam keadaan tidak terkawal, kedua-dua pihak nampaknya telah sejajar, sekurang-kurangnya buat masa ini, dalam tindakan yang boleh dilaksanakan: Buka model AI sebelum enjin menderu.
Apakah reaksi anda?
Awak juga mungkin menyukai
