OpenAI Melancarkan Program Bug Bounty untuk Melindungi ChatGPT

OpenAI, makmal penyelidikan terkemuka dalam bidang kecerdasan buatan (AI), telah baru-baru ini diperkenalkan program hadiah pepijat yang bertujuan untuk menangani risiko keselamatan siber yang semakin meningkat yang dikaitkan dengan model bahasa yang berkuasa seperti model bahasanya sendiri SembangGPT. Program itu, yang dijalankan dengan kerjasama firma keselamatan siber sumber ramai Bugcrowd, menjemput penyelidik bebas untuk mengenal pasti kelemahan dalam sistem OpenAI dan menawarkan ganjaran kewangan antara $200 hingga $20,000 bergantung pada keterukan isu itu.

OpenAI telah menyatakan bahawa program itu adalah sebahagian daripada komitmennya untuk membangunkan AI yang selamat dan maju, dan sebagai tindak balas kepada kebimbangan tentang kelemahan dalam sistem AI yang boleh menjana teks sintetik, imej dan media lain. Menurut firma keselamatan siber AI DarkTrace, terdapat peningkatan sebanyak 135% dalam serangan kejuruteraan sosial yang didayakan AI sejak penggunaan ChatGPT pada bulan Januari.

Walaupun sesetengah pakar mengalu-alukan pengumuman OpenAI, yang lain percaya bahawa program hadiah pepijat tidak akan menangani sepenuhnya pelbagai risiko keselamatan siber yang ditimbulkan oleh teknologi AI yang semakin canggih. Program ini terhad dalam skop dan hanya meliputi kelemahan yang boleh memberi kesan secara langsung kepada sistem dan rakan kongsi OpenAI, tanpa menangani kebimbangan yang lebih meluas mengenai penggunaan teknologi sedemikian seperti penyamaran, media sintetik atau alat penggodaman automatik.

Walaupun terhad, program hadiah pepijat menawarkan OpenAI peluang untuk menangani kelemahan dalam ekosistem produknya dan meletakkan dirinya sebagai organisasi yang secara aktif berusaha untuk menangani risiko keselamatan yang diperkenalkan oleh AI generatif. Kemunculan jailbreak GPT4 baru-baru ini yang membolehkan pengguna membangunkan arahan tentang cara menggodam komputer dan penyelidik menemui penyelesaian untuk pengguna "bukan teknikal" untuk mencipta e-mel perisian hasad dan pancingan data telah menekankan lagi keperluan untuk inisiatif sedemikian.

Walau bagaimanapun, adalah penting untuk ambil perhatian bahawa halaman rasmi program bounty pepijat dengan jelas menyatakan bahawa isu yang berkaitan dengan kandungan gesaan dan respons model adalah di luar skop, melainkan ia mempunyai kesan keselamatan tambahan yang boleh disahkan secara langsung pada perkhidmatan dalam skop. Oleh itu, program ini mungkin tidak berkesan dalam menangani risiko keselamatan yang lebih luas yang berkaitan dengannya AI generatif dan GPT-4 untuk masyarakat pada umumnya.

Kesimpulannya, program hadiah pepijat OpenAI adalah satu langkah ke arah yang betul ke arah meningkatkan keselamatan sistem AI. Walau bagaimanapun, ia terhad dalam skop dan mungkin tidak menangani sepenuhnya kebimbangan yang lebih luas mengenai penggunaan berniat jahat teknologi sedemikian. Adalah penting untuk pembangunan AI yang selamat dan maju bahawa inisiatif seperti ini disokong, dan usaha yang lebih komprehensif dibuat untuk menangani risiko keselamatan siber yang lebih luas yang ditimbulkan oleh AI generatif.