Bagaimana Dasar AI di Afrika Selatan Merosakkan Dirinya Sendiri
Draf dasar kecerdasan buatan kebangsaan pertama Afrika Selatan telah dihapuskan susulan penemuan petikan rekaan dalam dokumen yang kelihatan seperti dijana oleh AI.
Penarikan balik itu, yang muncul selepas rujukan palsu draf dasar itu didedahkan, lebih daripada sekadar klip birokrasi; ia adalah jenis kesilapan yang mungkin menyebabkan seseorang menjatuhkan cawan mereka separuh ke bibir mereka.
Anda perlu bertanya kepada diri sendiri: Tunggu, dasar yang bertujuan untuk mengawal selia AI baru sahaja dilemahkan oleh AI? Itu memang memalukan, tetapi juga memberi pengajaran kerana ia merupakan kisah amaran.
Menteri komunikasi dan teknologi digital Afrika Selatan Solly Malatsi memberitahu hadirin minggu lalu bahawa beliau mengesyaki bahawa petikan yang dijana AI telah dimasukkan secara tidak sengaja dalam draf dokumen dasar tanpa pengesahan dan semakan yang sewajarnya.
“Integriti draf dasar telah terjejas,” kata Malatsi dalam satu kenyataan mengenai perkara itu, yang menunjukkan bahawa anda tidak memerlukan AI untuk menyedari apabila ia bukan idea yang baik untuk melakukan sesuatu, seperti menggunakannya tanpa pengawasan manusia. Penyeliaan itu adalah tali pinggang keledar: Hanya apabila anda mengalami kemalangan kereta, barulah anda menyedari bahawa anda sebenarnya memakai tali pinggang keledar.
Draf dasar itu mempunyai cita-cita yang serius: Awal bulan ini, Afrika Selatan mencadangkan pelbagai institusi dan insentif baharu bertujuan untuk memupuk pembangunan dan inovasi AI di negaranya, termasuk penubuhan Suruhanjaya AI Kebangsaan, Lembaga Etika AI dan Pihak Berkuasa Kawal Selia AI, selain daripada penyediaan insentif cukai, geran dan subsidi yang mungkin memberi insentif kepada pembangunan AI tempatan.
Dalam erti kata lain, Pretoria mahu berada di barisan hadapan penerapan kecerdasan buatan di Afrika, sesuatu yang bukan sahaja memerlukan kerajaan untuk memastikan semuanya berjalan lancar, tetapi juga untuk mengelakkan kesan bertindak pantas tanpa pengesahan yang betul.
Penggera berbunyi selepas News24 mendedahkan bahawa beberapa petikan dalam draf itu nampaknya direka-rekaIni adalah masalah besar kerana rujukan palsu bukan sahaja menjadikan petikan lebih sukar untuk dicari atau disahkan.
Sebaliknya, mereka memberikan dakwaan palsu yang mempunyai kredibiliti akademik, memberikan alasan untuk tingkah laku buruk dan mengelirukan orang ramai untuk mempercayai bahawa sesuatu dasar itu berasaskan fakta sedangkan ia sebenarnya hanyalah bayangan semata-mata.
Bagi sebidang dasar mengenai etika, berat sebelah, kedaulatan data dan hak digital, ia bukanlah kecacatan yang remeh, ia akan menjadi noda yang akan meninggalkan kesan dalam ingatan ramai orang.
Perkara yang lebih besar bukanlah Afrika Selatan harus berhenti cuba mentadbir kecerdasan buatan. Jauh sekali. Afrika Selatan telah mula membina kapasiti dan infrastruktur institusi yang diperlukan, melalui Rangka Kerja Dasar AI Kebangsaan, dibuka kepada komen awam pada tahun 2024 untuk membincangkan peluang ekonomi dan dilema tadbir urus AI. Kita tidak seharusnya melupakan perkara itu.
Walaupun terdapat semua isu yang mungkin berkaitan dengan draf yang ditarik balik itu, keperluan untuk mentadbir AI masih kekal. AI sudah memberi kesan kepada kewangan, pendidikan, sektor awam dan media kita; berharap peraturan hanya boleh menunggu hanyalah ilusi yang diselindungkan sebagai kesabaran.
Ini juga menekankan pertimbangan penting bagi setiap agensi kerajaan, firma guaman, universiti dan bilik berita yang mempertimbangkan untuk menggunakan AI generatif. Pastikan anda menjadi barisan pertahanan terakhir dalam apa sahaja yang anda kemukakan. Saya tahu ia agak mudah, tetapi pada masa itulah keadaan menjadi kucar-kacir.
Jika draf kelihatan baik, rujukan kelihatan akademik dan bahasanya kelihatan kuat, terdapat kecenderungan untuk semua orang berfikir ia mesti telah disemak. Dan pada masa itulah semuanya akan kembali menggigit anda.
Kredibiliti mudah musnah, dan sebaik sahaja draf dasar disyaki berdasarkan fiksyen, perdebatan bukan sahaja menjadi tentang "apa" yang dikatakan oleh dasar itu tetapi tentang "siapa yang mengesahkan" bahan sumbernya.
Apa yang mungkin tidak dikesan? Oleh itu, isunya adalah kredibiliti, bukannya rasa malu politik, walaupun terdapat banyak rasa malu politik.
Walau bagaimanapun, pilihan Malatsi untuk membatalkan draf cadangan dasar adalah pilihan yang betul, walaupun tindakan itu menyebabkan rasa malu dan kesakitan politik. Pendekatan yang lebih baik adalah strategi kecerdasan buatan (AI) kebangsaan diasaskan pada sumber yang kukuh dan bukannya pada petikan yang salah yang tidak dipersoalkan oleh sesiapa pun. Sudah tentu, seperti yang ditunjukkan oleh contoh di atas.
Afrika Selatan berpeluang untuk menjadikan situasi yang memalukan itu sebagai kelebihannya dengan memastikan draf cadangan dasar melalui pemeriksaan rujukan bebas dan log sejarah semakan dasar dihebahkan.
Di samping itu, intervensi manusia harus diwajibkan berlaku pada peringkat akhir proses penggubalan bagi memastikan dokumen akhir adalah betul sebelum ia dirujuk secara terbuka.
Afrika Selatan juga memerlukan garis panduan yang lebih ketat tentang bagaimana dan bila AI boleh digunakan dalam cadangan dasar. Ia mungkin tidak menjadi tajuk utama, tetapi ia penting untuk tadbir urus dasar, terutamanya dalam tadbir urus AI.
Apakah reaksi anda?
