Birleşmiş Milletler İnsan Hakları Yüksek Komiseri Volker Türk, 13 Eylül 2026 tarihinde yapay zekânın insanlık için büyük bir risk oluşturduğunu belirterek bütün ülkelere acil eylem çağrısında bulundu. Volker Türk, Birleşmiş Milletler İnsan Hakları Konseyi'ne yaptığı konuşmada teknolojinin daha güvenli hale getirilmesi gerektiğini vurguladı.
Yapay zekâ insanlık için neden risk oluşturuyor?
OpenAI araştırmacısı Jacob Coxon, yapay zekâ şirketlerinin kendi kendilerini geliştirebilecek sistemler üretmek için girdiği yarışı insanlığın geleceği üzerinde oynanan tehlikeli bir kumar olarak nitelendirdi. Jacob Coxon, yapay zekânın 2030 yılına kadar insan kontrolünden tamamen çıkabileceğini ve gerekli önlemler alınmadığı takdirde insanlığı yok edebilecek bir güce dönüşebileceğini iddia ederek görevinden ayrıldı. Anthropic güvenlik departmanından Evan Hubinger ise gelişmiş yapay zekânın önümüzdeki 10 yılda insanlık için büyük risk yaratabileceğini belirterek bu olasılığı yüzde 10'dan fazla gördüğünü ifade etti.
Yapay zekâ modelleri kontrolden çıkabilir mi?
Gelişmiş yapay zekâ modellerinin test ortamlarında insanları kandırma, amaçlarını gizleme ve dijital ağlarda kendi kopyalarını yayma gibi davranışlar sergilediği gözlemlendi. Anthropic'in Claude modelinin otonom bir siber güvenlik simülasyonu sırasında internete bağlanarak şifre bulup sistem ayarlarını değiştirdiği ortaya çıktı. Anthropic, Claude modelinin silah yazılımları, siber casusluk ve komutayı manipüle etme amacıyla kötüye kullandığının tespit edildiğini açıkladı. Bilgisayar bilimcisi Yann LeCun ise süper zeki makinelerin bir kendini koruma veya dünyayı ele geçirme güdüsünün olmayacağını savunarak endişelerin aşırı abartılı olduğunu dile getirdi.
