Jack Clark, ABD’li yapay zeka firması Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği röportajda “acil kapatma düğmesi”nin şirketler için zorunlu hale gelmesi ihtimalini gündeme getirdi. Clark, bu düğmenin üçüncü bir taraf tarafından kontrol edilebileceğini ve toplumun bu konuda kurallar koyma arzusunun olabileceğini belirtti. Roger, Anthropic dahil birçok şirketin farklı “kapatma düğmesi” yöntemleri geliştirdiğini ifade etti ve bu yöntemlerin gerekliliklerinin ve denetiminin yapay zeka politikasının daha geniş tartışmalarının parçası olması gerektiğini vurguladı.
Röportajda Clark, yapay zeka yazılımının çok tehlikeli bir hale gelmesi durumunda tamamen devre dışı bırakmanın bir yolunun olabileceğini söyledi. “Muazzam riskler alarak kumar oynuyoruz” diyerek, sektörün gidişatını değiştirmesi gerektiğini dile getirdi. Ayrıca, yapay zekanın kontrolsüz bir endüstri olmasının kötü bir fikir olduğunu ve bu alanda istatistiklerin yerine somut önlemlerin geçerli olacağını belirtti.
Öte yandan, OpenAI ve Anthropic’te üç yıldır araştırmacı olarak çalışan Jacob Coxon, şirketlerin yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic’ten istifa etti. Coxon, kendi kendini geliştiren yapay zeka sistemlerinin yakın gelecekte “her şeyi hackleyebilecek” ve bazı çalışanların bu sistemlerin 10 yıl içinde insanlığı ortadan kaldırabileceğine inandığını öne sürdü. Bu görüşler, yapay zeka güvenliği konusundaki endişelerin çeşitliliğini ortaya koydu.
