Google DeepMind CEO’su Demis Hassabis, gelişmiş yapay zekâ modellerinin güvenliğini denetleyecek yeni standart yapısının ABD öncülüğünde oluşturulması gerektiğini söyledi. Hassabis, yapay genel zekâya (AGI) beklenenden daha hızlı yaklaşıldığını savunurken sınır (frontier) yapay zekâ modellerinin yayımlanmadan önce bağımsız güvenlik testlerinden geçirilmesini önerdi. Açıklama, yapay zekâ düzenlemeleri konusunda ABD Çin arasında farklı yaklaşımların öne çıktığı dönemde yeni tartışma başlattı.
Hassabis Frontier Modeller İçin Ortak Test Mekanizması ÖnerdiDemis Hassabis, sosyal medya üzerinden yaptığı açıklamada ABD’nin teknik kapasitesi ekonomik gücü sayesinde uluslararası ölçekte kabul görebilecek başlangıç modeli oluşturabileceğini ifade. Öneriye göre geliştirilen çerçeve zamanla küresel ölçekte ortak yapay zekâ güvenlik standartları oluşturulmasına zemin hazırlayabilir. Hassabis, yapay zekânın tüm dünyayı etkileyecek teknoloji hâline geldiğini belirterek en ciddi risklerin ortak kurallarla yönetilmesi gerektiğini savundu. Öneri yalnızca güvenlik kontrollerini değil, yapay zekânın sunduğu fırsatlara daha geniş erişimi kapsıyor. Hassabis’e göre uluslararası uzlaşı sağlanabilirse güvenlik yenilik arasında daha dengeli yapı kurulabilir.
Hassabis’in çağrısı son dönemde benzer açıklamalar yapan Anthropic CEO’su Dario Amodei OpenAI CEO’su Sam Altman’ın görüşlerini destekliyor. ABD yönetimi uzun süredir gelişmiş yapay zekâ modellerinin piyasaya sürülmeden yaklaşık 30 gün önce resmî test süreçlerinden geçirilmesini savunuyor. Buna karşılık Çin, tüm ülkelerin katılımına açık küresel yapay zekâ kuruluşunun oluşturulmasını öneriyor. farklı yaklaşım, yapay zekâ standartları konusunda uluslararası uzlaşının kolay olmayacağını gösteriyor. Uzmanlar ayrıca ABD merkezli değerlendirme mekanizmasının ülkelerde geliştirilen modeller tarafından ne ölçüde kabul göreceğinin henüz netleşmediğine dikkat çekiyor.
Hassabis’in planına göre yeni standart kuruluşu kamu özel sektörün birlikte görev aldığı model üzerine inşa edilebilir. ABD Ulusal Laboratuvarları ilgili federal kurumların desteğini alacak yapı, ulusal güvenliği ilgilendiren risk alanlarında gelişmiş modelleri test etmekten sorumlu olacak. Yapay zekâ güvenliği değerlendirmeleri kapsamında biyolojik tehditler, siber güvenlik riskleri güvenlik önlemlerini aşmaya yönelik girişimler düzenli olarak analiz edilecek.
Frontier model geliştiren kuruluşların teknik dokümantasyon ması, iç güvenlik süreçlerini güçlendirmesi, kritik personeli doğrulaması güvenlik araştırmalarına yeterli ayırması önerilen yükümlülükler arasında yer alıyor. Akademik projeler daha küçük ölçekli yapay zekâ girişimlerinin ise aynı kapsamda değerlendirilmesi beklenmiyor.
Hassabis’in önerisi hayata geçirilirse frontier yapay zekâ modeli geliştiren şirketlerin yeni modellerini yayımlamadan 30 gün önce standart kuruluşuna sunması istenecek. Testleri başarıyla geçen modellerin ABD pazarında kullanılmasına izin verilmesi, kritik güvenlik sorunu tespit edilen sistemlerin ise geliştirici şirketlerle birlikte düzeltilmesi planlanıyor. yaklaşım, son dönemde güvenlik gerekçesiyle geçici ihracat kısıtlamasıyla karşılaşan bazı yapay zekâ modellerinin ardından düzenleyici tartışmaların daha hızlanabileceğine işaret ediyor.
Yapay zekâ teknolojisinin gelişim hızı arttıkça güvenlik testlerinin nasıl uygulanacağı, hangi kurumun yetkili olacağı uluslararası şirketlerin ortak standartları kabul edip etmeyeceği önümüzdeki dönemin en önemli teknoloji gündemlerinden biri olmayı sürdürecek.
