ABD yetkilileri gelişmiş yapay zekâya erken erişim istiyor ve büyük şirketler de bunu kabul etti.
Microsoft, Google DeepMind ve Elon Musk'ın xAI şirketleri, yeni yapay zeka modellerine genel kullanıma sunulmadan önce ABD hükümetinin erişmesine izin vermeyi teklif etti. Bu durum, Silikon Vadisi'nin ABD hükümetiyle olan ve yapay zeka tehditlerine ilişkin korkularıyla sıklıkla gergin olan ilişkisinde yeni bir aşama başlatıyor. Yapay zeka şirketlerinin güvenlik incelemesi bahanesiyle ABD yetkililerine modeller sunduğuna dair son rapor.Hükümet analistlerinin, siber saldırılar ve askeri kullanım gibi güvenlik tehditlerine karşı sınırda bulunan yapay zeka sistemlerini, geliştiriciler ve kullanıcılar tarafından kamuoyunun kullanımına sunulmadan önce inceleyebilmeleri umuduyla; ve kaçınılmaz olarak, silahlandırılmış bir yapay zeka modeline sahip olmaması gereken kişilerin eline geçmesini önlemek amacıyla.
İncelemeler, Ticaret Bakanlığı'na bağlı Yapay Zeka Standartları ve İnovasyon Merkezi (CAISI) tarafından yürütülecek ve merkez, şirketin Google DeepMind, Microsoft ve xAI ile anlaşma Bu, yapay zeka modellerini devreye alınmadan önceki aşamada test etme, belirli alanlarda araştırma yapma ve üretime geçtikten sonra gözden geçirme şansı verir.
Bu kulağa sıkıcı gelebilir, ama değil. Bu, hükümetin aracın yola çıkmadan önce kaputun üzerindeki örtünün kaldırılmasını istemesi ve o kaputun her geçen gün daha da ısınıyor olması anlamına geliyor.
Henüz belli değil, ancak son derece gelişmiş yapay zekanın siber suçluların suçlarında daha da etkili olmalarına yardımcı olacağına dair anlaşılabilir bir korku var. Reuters'ın yazdığına göre, "ABD yetkilileri, bazı modellerin en üst düzey hükümet yetkililerinin stres seviyesini yükselttiğini belirterek, gelişmekte olan sınır modellerine erken aşamalarda şüphe ve endişeyle bakmaya başladı."
En çok endişe yaratan yapay zeka araçlarından biri de yakın zamanda açıklanan Anthropic'in Mythos modeli. Sorun, yapay zekanın insanların göremediği güvenlik açıklarını tespit edebilmesi değil. Sorun şu ki, bir araç güvenlik uzmanlarının güvenlik açıklarını bulmasına olanak sağlarken, bir saldırgan da güvenlik açıklarını bulabilir.
Microsoft yapay zeka tartışmasına dahil oldu. Şirketin basın açıklamasına göre Microsoft, "yapay zeka modellerinin istenmeyen sonuçlarını belirlemek ve azaltmak için ABD ve İngiltere'deki bilim insanlarıyla birlikte çalışmayı ve model güvenliği ve performansı için ortak veri kümelerinin ve değerlendirme yöntemlerinin geliştirilmesine katkıda bulunmayı" taahhüt etti.
Bu tür işbirliklerine bir örnek olarak, Microsoft bu ay İngiltere Yapay Zeka Güvenlik Enstitüsü ile bir anlaşma imzaladı. Yapay zekâ risklerini yönetmek için her iki ülkenin yetkilileriyle iş birliği yapılması. Bu, konunun Amerikan başkentinin sınırlarının ötesinde de önem taşıdığını gösteriyor.
CAISI sıfırdan başlamıyor. Ajans, henüz piyasaya sürülmemiş, en son teknolojiye sahip modeller de dahil olmak üzere 40'tan fazla değerlendirme yaptığını iddia ediyor; geliştiriciler bazen en kötü senaryodaki ulusal güvenlik tehlikelerini ortaya çıkarmak için koruma önlemleri kaldırılmış veya azaltılmış sürümleri paylaşıyor. Evet, bu kulağa uğursuz geliyor ve öyle olması amaçlanıyor; sonuçta, bir kilidin etkinliğini sadece kapının kapalı kalmasını isteyerek doğrulayamazsınız.
Ek olarak, yeni anlaşmalar, OpenAI ve Anthropic tarafından kullanıma sunulan modellere hükümetin daha önceki erişimini genişletiyor; ayrı olarak, OpenAI, GPT-5.5'i ulusal güvenlik bağlamında değerlendirmek üzere ABD hükümetine teslim etti.OpenAI'den Chris Lehane'e göre, bu unsurları bir araya getirdiğimizde belirgin bir tablo ortaya çıkıyor: En yetenekli yapay zeka laboratuvarları, teknolojileri kullanıma sunulmadan önce hükümetin inceleme ortamına çekiliyor.
Burada ilginç (ve karmaşık) bir siyaset dönüyor. Trump yönetimi, yapay zeka stratejisini büyük ölçüde hızlandırma, serbestleştirme ve Amerika'nın dünya sahnesindeki hakimiyeti üzerine kurdu. Ancak ileriye dönük her yapay zeka stratejisi, sınır modellerinin sadece verimlilik araçları olmadığı gerçeğiyle de yüzleşmek zorundadır.
Trump yönetimi Amerika'nın Yapay Zeka Eylem Planı Öncelikle inovasyonu artırmaya, onu sürdürmek için gerekli altyapıyı kurmaya ve uluslararası yapay zeka diplomasisi ve güvenliğinde ABD'nin liderliğini teşvik etmeye yöneliktir. Bu son kısım gerçekten de yükü taşıyor.
Göz ardı edilemeyecek bir savunma boyutu da var. Bu model inceleme anlaşmaları duyurulmadan sadece birkaç gün önce, Pentagon'un gizli ağlardaki en iyi sistemlere erişmek için önde gelen yapay zeka ve teknoloji şirketleriyle anlaşmalar yaptığı bildiriliyor. Silahlı kuvvetlerin ticari yapay zekayı hükümet operasyonlarına entegre etme çabası.
Askeri iş akışlarında yapay zekanın kullanımı, bir dizi yeni zorluk ve sonuç doğuruyor. Bir hata sadece bir hata olmak zorunda değil; hatalı bir çıktı, sadece rahatsız edici olmaktan çok daha fazlası olabilir. Operasyonel olabilir ve maliyetli olabilir.
Doğal olarak, sorun şu ki bu durum inovasyonu engelleyebilir. Teknoloji şirketleri, hareket özgürlüğüne ihtiyaç duyduklarını savunacaklardır; ve yapay zekanın şu anda hızlı yinelemeler, agresif rekabetler, devasa bilgi işlem altyapısı harcamaları ve Çin için küresel bir meydan okuma ile adeta bir telefon kulübesinde bıçaklı bir dövüşe benzediği konusunda kesinlikle haklılar.
Her yeni yapay zeka modelinin piyasaya sürülmeden önce aylarca bekletilmesi durumunda, ABD teknoloji firmaları Washington'ı düşmanlarımıza büyük bir kurdeleyle süslenmiş bir hediye vermekle suçlayacaklardır.
Ancak ABD'nin, yapay zekanın özellikle tehdit edici veya tehlikeli bir yeteneğinin ilk anlamlı kamuoyu gösteriminin, kamuoyuna açık bir şekilde duyurulması şeklinde olmasını istemediği söylenebilir; zira bu, özür dileme yoluyla yönetmeye yol açar.
Uygulamaya konulmadan ve piyasaya sürülmeden önce yapılacak değerlendirme heyecan verici olmayacak ve muhtemelen bazıları veya herkes için can sıkıcı olacaktır; bu da genellikle düzenlemenin orta noktada yer aldığının iyi bir işaretidir.
Buradaki zorluk, odak noktasını korumak olacak. Her chatbot sürümünü kontrol etmek mantıklı olmazdı, ancak özellikle askeri, siber, biyolojik veya kimyasal etkileri olan en gelişmiş öncü modelleri incelemek başka bir konu.
Bu, bir devlet yetkilisinin otomatik tamamlama özelliğinizi onaylamasıyla ilgili değil, daha çok bir mühendisin roket fırlatılmadan önce onu incelemesiyle ilgili. Belki o kadar dramatik değil, ama benzer.
Burada ayrıca bir güven sorunu da var. Teknoloji devleri düzenleyicilere kendi kendilerini denetleyebileceklerini söylerken, düzenleyiciler de teknoloji şirketlerinin hızla gelişen teknolojiye ayak uyduramadıklarını belirtiyor.
Sonuç olarak, şirketlerin yapay zeka modellerine erken erişim imkanı sunduğu, federal araştırmacıların bağımsız testler yaptığı ve herkesin bu sürecin en kötü sonuçları elemesini umduğu ancak bürokratik engellere takılmamasını hedeflediği, huzursuz bir orta yol ortaya çıkıyor.
Bu anın kaçınılmaz olduğunu düşünmemek zor. Yapay zeka modelleri siber güvenlik, ulusal güvenlik ve altyapı gibi sektörleri etkileyebilecek kadar güçlü bir noktaya ulaştığında, bu şirketlerin modellerini sonsuza dek kendi başlarına test etmeleri asla mantıklı olmayacaktı.
Ortalama bir kişi, kıyaslama ölçütlerinin veya kırmızı ekip raporunun inceliklerini bilmeyebilir, ancak bu sistemlerin somut zarara yol açabilme yeteneklerinin, piyasaya sürülmeden önce incelenmeye değer olduklarını kesinlikle farkındadır.
Büyük teknoloji şirketleri hâlâ öne geçmek isterken ve Washington da hazırlıksız yakalanmaktan kaçınmak isterken, iki taraf en azından şimdilik uygulanabilir bir yol üzerinde uzlaşmış gibi görünüyor: Motor gürlemeden önce yapay zeka modellerini açmak.
Tepkiniz nedir?
Bunlara ne dersiniz?
