“Pengesan Keserupaan” Baharu YouTube Menyasarkan Deepfakes — Tetapi Adakah Cukup untuk Menghentikan Permainan Tiruan?

Ia akhirnya berlaku. YouTube telah menutup tirai pada alat baharu yang berkuasa yang direka bentuk untuk membantu pencipta melawan banjir palsu yang semakin meningkat — video yang AI meniru wajah atau suara seseorang dengan baik sehingga menakutkan.

Percubaan terkini platform, yang dikenali sebagai a "sistem pengesanan keserupaan," berjanji untuk memaklumkan pencipta apabila identiti mereka digunakan tanpa persetujuan dalam kandungan yang dijana AI — dan memberi mereka cara untuk mengambil tindakan.

Pada pandangan pertama, ini kelihatan seperti jubah superhero untuk identiti digital.

As The Daily Star dilaporkan, sistem YouTube secara automatik mengimbas muat naik dan membenderakan kemungkinan padanan dengan wajah atau suara pencipta yang diketahui.

Pencipta yang merupakan sebahagian daripada Program Rakan Kongsi kemudiannya boleh menyemak video yang dibenderakan dalam papan pemuka "Pengesanan Kandungan" baharu dan meminta pengalihan keluar jika mereka menemui sesuatu yang tidak jelas.

Kedengaran mudah, bukan? Tetapi cabaran sebenar ialah pemalsuan AI berkembang lebih cepat daripada peraturan untuk menghentikannya.

Maksud saya, siapa yang tidak terjumpa video "Tom Cruise" di TikTok atau YouTube yang kelihatan terlalu nyata untuk menjadi nyata?

Ternyata, anda tidak membayangkan sesuatu. Pencipta Deepfake telah menyempurnakan kraf mereka, mendorong platform seperti Ambang The untuk memanggil langkah ini sebagai langkah yang sudah lama tertunggak.

Ia adalah sejenis permainan kucing-dan-tikus digital — dan pada masa ini, tikus mempunyai laser.

Sistem baharu YouTube mewakili usaha awam yang jarang dilakukan oleh gergasi teknologi untuk memberi pengguna peluang berjuang.

Sudah tentu, tidak semua orang bertepuk tangan. Sesetengah pencipta bimbang ini akan menjadi satu lagi sakit kepala "penyederhanaan automatik", di mana parodi atau ulasan yang sah boleh terperangkap dalam internet.

Lain-lain, seperti pakar dasar digital yang dipetik dalam Liputan Reuters mengenai cadangan pelabelan AI baharu India, lihat langkah YouTube sebagai sebahagian daripada peralihan yang lebih luas — kerajaan dan platform menyedari bahawa ketelusan AI tidak boleh menjadi pilihan lagi.

Peraturan baharu India, misalnya, menuntut agar semua media sintetik dilabel dengan jelas sedemikian, satu konsep yang semakin mendapat tarikan di peringkat global.

Di sinilah ia menjadi rumit. Teknologi pengesanan tidak mudah. Seperti yang baru-baru ini Kajian ABC News menunjukkan, walaupun manusia gagal untuk mengesan deepfakes hampir satu pertiga daripada masa. Dan jika kita - dengan gerak hati dan keraguan kita - sedang bergelut, apakah yang dikatakan tentang algoritma yang cuba melakukannya pada skala? Agak-agak macam nak tangkap asap pakai jaring.

Tetapi inilah sedikit optimistik. Setiap langkah utama seperti ini — daripada papan pemuka pengesanan YouTube kepada EU Peruntukan Akta Perkhidmatan Digital mengenai ketelusan AI — membina tekanan untuk internet yang lebih bertanggungjawab.

Saya telah bercakap dengan beberapa pencipta yang melihat ini sebagai "roda latihan" untuk jenis celik media baharu.

Sebaik sahaja orang mula menyemak sama ada klip itu benar, mungkin kita semua akan berhenti mengambil kandungan virus pada nilai muka.

Namun, saya tidak dapat menghilangkan perasaan bahawa kami berlumba-lumba mendaki bukit. Teknologi yang mencipta deepfakes tidak menjadi perlahan; ia berlari pecut.

Langkah YouTube adalah permulaan yang kukuh, kenyataan bahawa "kami melihat anda, penyamar AI."

Tetapi seperti seorang pencipta bergurau di utas Discord yang saya ikuti, "Apabila YouTube menangkap seorang yang palsu saya, akan ada tiga lagi yang sedang melakukan temu bual."

Jadi ya, saya berharap - tetapi berhati-hati. AI sedang menulis semula peraturan amanah dalam talian.

Alat YouTube mungkin tidak menamatkan deepfakes dalam sekelip mata, tetapi sekurang-kurangnya seseorang meletakkan kakinya pada brek sebelum semuanya hilang dari tebing.