Güney Afrika'da Yapay Zeka Politikası Kendi Kendini Nasıl Mahvediyor?
Güney Afrika'nın ilk ulusal yapay zekâ politikası taslağı geri çekildi. Belgede yapay zeka tarafından oluşturulmuş gibi görünen sahte alıntıların keşfedilmesinin ardından.
Taslak politikanın sahte referanslarının ortaya çıkmasının ardından gündeme gelen geri çağırma, bürokratik bir aksaklıktan daha fazlası; tam da bir insanın bardağını dudaklarına götürürken düşürmesine neden olabilecek türden bir gaf.
Kendinize şu soruyu sormanız gerekiyor: Durun bir dakika, yapay zekayı düzenlemeyi amaçlayan politika yapay zeka tarafından mı baltalandı? Bu elbette utanç verici, ancak aynı zamanda ibretlik bir ders niteliğinde olduğu için de öğretici.
Güney Afrika iletişim ve dijital teknolojiler bakanı Solly Malatsi bir dinleyici kitlesine hitap etti. Geçtiğimiz hafta, yapay zekâ tarafından oluşturulan alıntıların, uygun doğrulama ve inceleme yapılmadan taslak politika belgesine yanlışlıkla dahil edildiğinden şüphelendiğini belirtti.
Malatsi konuyla ilgili yaptığı açıklamada, "Taslak politikanın bütünlüğü tehlikeye atıldı" dedi ve bu da bir şeyin iyi bir fikir olup olmadığını anlamak için yapay zekaya ihtiyaç duymadığınızı gösteriyor; örneğin, insan gözetimi olmadan kullanmak gibi. Bu gözetim, emniyet kemeri gibidir: Ancak bir araba kazası geçirdiğinizde emniyet kemeri taktığınızı fark edersiniz.
Taslak politika ciddi hedefler içeriyordu: Bu ayın başlarında, Güney Afrika bir dizi yeni kurum ve teşvik önerdi. Ülkesinde yapay zeka gelişimini ve inovasyonunu teşvik etmeyi amaçlayan bu girişim, Ulusal Yapay Zeka Komisyonu, Yapay Zeka Etik Kurulu ve Yapay Zeka Düzenleme Kurumu'nun kurulmasının yanı sıra, yerel yapay zeka gelişimini teşvik edebilecek vergi teşvikleri, hibeler ve sübvansiyonlar sağlanmasını da içermektedir.
Başka bir deyişle, Pretoria Afrika'da yapay zekanın benimsenmesinde ön saflarda yer almak istiyordu; bu da hükümetin sadece hazırlıklarını tamamlamasını değil, aynı zamanda gerekli doğrulama yapılmadan aceleci davranma izleniminden de kaçınmasını gerektirecek bir durum.
Alarm çaldıktan sonra News24'ün ortaya çıkardığı bilgilere göre, taslaktaki bazı alıntılar uydurmaymış.Bu çok önemli çünkü sahte referanslar, alıntıların bulunmasını veya doğrulanmasını zorlaştırmakla kalmıyor.
Bunun yerine, asılsız iddialara akademik güvenilirlik kazandırıyorlar, kötü davranışlar için bahaneler üretiyorlar ve kamuoyunu bir politikanın gerçeklere dayandığına inandırarak yanıltıyorlar; oysa gerçekte bu sadece göz boyamadan ibaret.
Etik, önyargı, veri egemenliği ve dijital haklar üzerine bir politika metni için bu, önemsiz bir leke değil, birçok insanın hafızasında iz bırakacak bir leke olurdu.
Asıl mesele, Güney Afrika'nın yapay zekayı yönetme çabalarından vazgeçmesi gerektiği değil. Tam tersine. Güney Afrika, gerekli kurumsal kapasiteyi ve altyapıyı oluşturmaya çoktan başladı bile. Ulusal Yapay Zeka Politikası ÇerçevesiYapay zekanın ekonomik fırsatlarını ve yönetişim ikilemlerini tartışmak üzere 2024 yılında kamuoyunun görüşüne açıldı. Bunu unutmamalıyız.
Geri çekilen taslakla ilgili olası tüm sorunlara rağmen, yapay zekayı yönetme ihtiyacı devam etmektedir. Yapay zeka halihazırda finans, eğitim, kamu sektörü ve medyamızı etkiliyor; düzenlemelerin bekleyebileceğini ummak, sabır maskesi altında gizlenmiş bir yanılsama olacaktır.
Bu durum, üretken yapay zekayı kullanmayı düşünen her devlet kurumu, hukuk bürosu, üniversite ve haber merkezi için önemli bir hususu da vurguluyor. Gönderdiğiniz her şeyde son savunma hattı olduğunuzdan emin olun. Biliyorum, çok basit bir şey ama işler tam da bu noktada ters gidiyor.
Taslak iyi görünüyorsa, referanslar akademikse ve dil güçlü ise, herkes bunun kontrol edilmiş olduğunu düşünme eğilimindedir. Ve işte o zaman her şey başınıza bela olmaya başlar.
Güvenilirlik kolayca sarsılabilir ve bir politika taslağının kurguya dayalı olduğundan şüphelenildiğinde, tartışma sadece politikanın "ne" söylediğiyle ilgili olmaktan çıkıp, kaynak materyali "kimin doğruladığı"yla ilgili hale gelir.
Neler gözden kaçmış olabilir? Öyleyse mesele, siyasi utançtan ziyade güvenilirlik meselesidir, her ne kadar ortada bolca siyasi utanç olsa da.
Bununla birlikte, Malatsi'nin taslak politika önerisini geri çekme kararı, utanç verici ve siyasi sıkıntılara yol açsa bile, doğru bir karardı. Daha iyi bir yaklaşım, ulusal bir yapay zeka (YZ) stratejisinin, kimsenin sorgulamadığı hatalı alıntılara değil, sağlam kaynaklara dayanmasıdır. Elbette, yukarıdaki örneklerin de gösterdiği gibi, bunlar hatalıydı.
Güney Afrika, taslak politika önerilerinin bağımsız referans kontrollerinden geçmesini ve politika revizyon geçmişi kayıtlarının kamuoyuna açıklanmasını sağlayarak bu utanç verici durumu kendi lehine çevirme fırsatına sahip.
Ayrıca, nihai belgenin kamuoyuna sunulmadan önce doğru olduğundan emin olmak için, taslak hazırlama sürecinin son aşamalarında insan müdahalesinin zorunlu hale getirilmesi gerekmektedir.
Güney Afrika'nın ayrıca, yapay zekanın politika önerilerinde nasıl ve ne zaman kullanılabileceğine dair daha sıkı yönergelere ihtiyacı var. Bu belki manşetlere çıkmayabilir, ancak özellikle yapay zeka yönetimi açısından politika yönetimi için hayati önem taşıyor.
Tepkiniz nedir?
Bunlara ne dersiniz?
