Yapay zeka sistemleri için zorunlu bir “acil kapatma mekanizması” oluşturulması konusu son haftalarda gündemde. Anthropic’in kurucu ortaklarından biri, BBC’ye yaptığı açıklamada bu mekanizmaların zorunlu hale getirilebileceğini ifade etti. Kritik nokta, bu düğmenin tüm yapay zekayı durdurabilecek tek bir araç olup olmadığıdır.
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, acil kapatma mekanizmasının aslında sistemin yürüttüğü işlemlerin kesilmesine dayanacağını belirtti. Sistemi çalıştıran kişi veya kuruluş, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek sistemi durdurabilir. Fakat program ilk çalıştırıldığı ortamın dışına çıkmışsa, örneğin kendini çoğaltan bir bilgisayar solucanı yayılmışsa, tüm kopyaların eş zamanlı olarak durdurulması gerekir. Papernot, böyle bir müdahalenin maliyetinin ve yaratacağı aksaklıkların “çok büyük” olabileceğini sözlerine ekledi.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau, tek bir düğmeyle tüm yapay zekayı kapatmanın yanıltıcı olduğunu vurguladı. Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğuna işaret eden Poibeau, merkezi bir sistemin kapatılmasının teorik olarak mümkün olduğunu ancak merkezi olmayan sistemlerin tamamını durdurmanın çok daha zor olduğunu söyledi. İşlem gücünün kesilmesi, şirketlerin, kamu kurumlarının ve sağlık kuruluşlarının hizmetlerini de aksatabilir. Trump ve Zuckerberg, yapay zekanın insanlığın sonunu getireceği korkularını eleştirirken, Sorbonne Üniversitesi bilgisayar bilimi profesörü Jean‑Gabriel Ganascia, acil kapatma düğmesi tartışmasının yapay zekanın kendi iradesini geliştireceği düşüncesini gereğinden fazla öne çıkardığını, gerçek tehlikenin toplumsal bağımlılık olduğunu belirtti. Bu nedenle, acil kapatma mekanizmalarının geliştirilmesi önemli bir adım olarak görülüyor.
