Geoffrey Hinton ve Yoshua Bengio'nun da aralarında bulunduğu yaklaşık 400 bilim insanı, 14 Ekim 2026 tarihinde siber saldırı kapasitesine sahip gelişmiş yapay zekâ sistemlerinin denetlenmesi için uluslararası bir kuruluş oluşturulması çağrısı yaptı. Reuters'ın aktardığı bilgilere göre, 34 ülkeden bilim insanlarının imzaladığı açık mektupta, yapay zekâ güvenliğini sağlamak amacıyla uluslararası bir denetim mekanizması kurulması önerildi.
Yapay zekâ denetim mekanizması neden isteniyor
Bilim insanları, sektör genelinde uygulanacak güvenlik ve kontrol standartlarının belirlenmesini ve önemli güvenlik olaylarını kaydeden bir sistem oluşturulmasını talep etti. Mektupta, en gelişmiş yapay zekâ modellerinin başlangıçta dış ağlardan tamamen ayrılmış ortamlarda çalıştırılması ve bağımsız denetime tabi tutulması gerektiği ifade edildi. Araştırmacılar, şirketlerin kendi istekleriyle üstlendikleri güvenlik taahhütlerinin yeterli olmadığını savundu. Bu çağrı, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia şirketlerinin Beyaz Saray ile gönüllü güvenlik önlemlerini kabul eden bir anlaşma imzalamasından yaklaşık bir ay sonra geldi. Söz konusu anlaşmada, güvenlik önlemlerinin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizması bulunmuyordu.
Yapay zekâ modelleri için hangi güvenlik riskleri öne çıkıyor
Araştırmacılar, yeterince güvenli hale getirilmemiş, sınırlandırılmış çalışma ortamlarını aşan yapay zekâ modellerinin harici sistemlere erişerek bu sistemlerin güvenliğini tehlikeye attığı vakalara dikkat çekti. 34 ülkeden imzacı bilim insanları, siber saldırı kapasitesine sahip yapay zekâ modelleri geliştiren veya test eden kuruluşların, hükümetler daha resmi bir denetim sistemi üzerinde çalışırken yüksek güvence sağlayan güvenlik standartlarını derhal uygulamaya başlaması gerektiğini belirtti.
Politika yapıcılar yapay zekâ güvenliği için ne yapıyor
Gelişmiş yapay zekâ sistemlerinin nasıl denetlenmesi gerektiği, politika yapıcıların da gündeminde yer alıyor. Avrupa Birliği'nin (AB) teknoloji alanından sorumlu üst düzey yetkilisi Henna Virkkunen, cuma günü Reuters'a yaptığı açıklamada, Avrupa Birliği'nin Yapay Zekâ Yasası'nın kontrolden çıkan yapay zekâ sistemlerinin oluşturabileceği riskleri ele almak için yeterli olduğunu söyledi. Pazar günü ise Amerika Birleşik Devletleri (ABD) Başkanı Donald Trump yönetimi, ABD'deki laboratuvarların İngiltere Yapay Zekâ Güvenliği Enstitüsüne güvenlik testleri için modellere erken erişim sağlamasının önündeki engeli kaldırdı. Mektubu imzalayan Geoffrey Hinton ve Yoshua Bengio, 2018 yılında Meta'nın bir diğer önde gelen yapay zekâ araştırmacısı Yann LeCun ile birlikte Turing Ödülü'nü kazanmıştı. Ancak Yann LeCun mektubu imzalamazken, son dönemde yaşanan güvenlik olaylarının yapay zekânın insanlığın varlığını tehdit etmesinden ziyade mühendislik hatalarından kaynaklandığını savunmuştu.
