ABD'li yapay zeka şirketi Anthropic'in kurucu ortaklarından Jack Clark, 15 Eylül 2026 tarihinde BBC'ye verdiği röportajda, şirketler için üçüncü bir tarafça kullanılabilecek bir acil kapatma düğmesinin zorunlu hale gelebileceği yorumunda bulundu.
Jack Clark acil kapatma düğmesi için ne söyledi?
Anthropic kurucu ortağı Jack Clark, yapay zeka yazılımının çok tehlikeli hale gelmesi durumunda onu tamamen devre dışı bırakmanın bir yolunun, toplumun ileride bu konuda kurallar koymak isteyebileceği bir konu olduğunu söyledi. Anthropic dahil birçok şirketin çeşitli kapatma düğmesi yöntemlerinin olduğunu belirten Jack Clark, acil kapatma düğmesi gereklilikleri ve denetimi ile ilgili ayrıntıların, yapay zeka konusunda yürütülen daha geniş kapsamlı politika tartışmasının bir parçası olması gerektiğini dile getirdi. BBC'nin şirketlerin mutlaka bir acil kapatma düğmesi bulundurmasını zorunlu kılmalı mısınız ve bu düğme üçüncü bir tarafın kontrolü altında mı olmalı sorusu üzerine Jack Clark, bu durumun toplumun bilmek isteyeceği ve nihayetinde kurallar koymak isteyebileceği türden bir konu olduğunu ifade etti.
Yapay zeka endüstrisi ve riskler hakkında ne tür değerlendirmeler yapıldı?
Yapay zekanın tüm insanlığı yok etme olasılığının yüzde kaç olduğu sorusuna yanıt veren Jack Clark, bu istatistiklerin bir işe yarayacağını düşünmediğini ancak yapay zekanın tamamen kontrolsüz bir endüstri olmasının kötü bir fikir olduğunu vurguladı. Jack Clark, muazzam riskler alarak kumar oynandığını kaydetti. Öte yandan, OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti. Jacob Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri sürmüş ve bu sistemlerin yakın gelecekte her şeyi hackleyebilecek insanüstü sistemlere dönüşebileceğini savunmuştu. Jacob Coxon ayrıca, yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığı öldürebileceğine ciddi şekilde inandığını öne sürmüştü.
