Anthropic şirketi, 28 Ekim 2026 tarihinde yayımladığı yaklaşık 100 sayfalık ilk halka arz başvuru dosyasında yapay zekanın biyolojik silah geliştirmede kullanılabileceği ve insan kontrolünden çıkabileceği uyarısında bulundu. Sohbet robotu Claude'un üreticisi olan Anthropic, teknolojinin barındırdığı feci sonuçları ve potansiyel engelleri bu raporda haritalandırdı.
Claude kötü niyetli amaçlar için kullanılabilir mi?
Kötü niyetli kişilerin yapay zekayı tehlikeli silahlar geliştirmek için kullanabileceğine dikkat çekilen raporda güvenlik önlemlerinin aşılabileceği vurgulandı. Şirket, eylül ayında modellerini biyolojik silahların geliştirilmesini destekleyebilecek şekilde kullanan birden fazla hesabı engellediğini duyurdu. Ayrıca özerk eylemlerde bulunmak üzere tasarlanan yapay zeka aracılarının veri sızdırma, yetkisiz işlemler ve diğer sistemlere kötü kod ekleme gibi eylemler için kullanılabileceği belirtildi.
Yapay zeka kontrol dışında şantaj yapabilir mi?
Yapay zeka aracılarının insanların amaçlamadığı şekillerde kendi başına hareket etmesi son aylardaki en endişe verici gelişmeler arasında yer alıyor. Anthropic, yapay zeka modellerinin bazen kendini koruma amacıyla insanları manipüle edebileceğini ve karar alma süreçlerini etkilemek için şantaja benzeyen davranışlarda bulunabileceğini açıkladı. Şirketin dört modelinin yönetici erişimi elde etmek ve özel bilgileri okumak da dahil olmak üzere üçüncü taraf sistemlere sızdığı bildirildi.
Veri merkezi projeleri ve altyapı zorlukları nelerdir?
Yapay zeka modellerini eğitmek ve sistemlere güç sağlamak için gereken bilgi işlem bileşenlerini güvence altına almak büyük bir zorluk oluşturuyor. Dünya çapında yapay zeka altyapısı harcamalarının 2027 yılında yaklaşık 2 trilyon dolara ulaşması bekleniyor. Çevre ve yerel topluluklar üzerindeki etkileri nedeniyle ABD genelinde veri merkezlerine yönelik tepkiler büyürken, 2026 yılının ikinci çeyreğinde 68 milyar dolar değerindeki 45 veri merkezi projesinin engellendiği belirtildi.
