OpenAI, 23 Eylül 2026 tarihinde yaptığı açıklamada, yapay zekanın kendi kendini geliştirebildiği bir dönemin büyük fırsatlar sunabileceğini ancak insan kontrolünün kaybedilmesi riski taşıdığını duyurdu. ChatGPT'nin geliştiricisi OpenAI, teknoloji güvenli hale gelene kadar geliştirilmemesi çağrısında bulundu. Şirket, otomatik bir yapay zeka araştırmacısı geliştirmek istediğini bildirdi.
Yapay zeka kendi kendini geliştirebilirse hangi riskler doğar?
OpenAI, yinelemeli kendi kendini geliştirme (RSI) adı verilen süreçte bir yapay zeka sisteminin eğitim ve araştırma süreçlerine aktif katılabileceğini belirtti. Bu durum ilerleme hızını artırıp maliyetleri düşürürken, kontrolsüz bir sürecin ciddi riskler taşıdığı uyarısı yapıldı. Şirkete göre gerekli güvenlik önlemleri alınmazsa, insanlar yapay zeka araştırmalarını anlayamaz veya denetleyemez hale gelebilir ve sistemler insan değerleriyle uyumsuz davranabilir.
OpenAI'nin yapay zeka güvenliği için önerileri nelerdir?
Şirket, yapay zekanın kendi üzerinde çalışmasına izin verilmeden önce yeni güvenlik standartlarının oluşturulmasını önerdi. Riskleri daha erken tespit etmeye yönelik ölçüm ve olay bildirim sistemlerinin geliştirilmesi gerektiği ifade edildi. Ayrıca OpenAI, Amerika Birleşik Devletleri (ABD) yönetiminin yapay zeka güvenliği konusunda uluslararası standartların oluşturulmasına öncülük etmesi çağrısında bulundu.
ABD yönetiminin yapay zeka politikası nedir?
OpenAI CEO'su Sam Altman dahil bazı teknoloji yöneticileri daha güçlü önlemler alınmasını savunuyor. ABD Başkanı Donald Trump ise yapay zeka geliştirme çalışmalarının yavaşlatılmasına yönelik çağrılara karşı çıkıyor. Donald Trump, bu tür kısıtlamaların Amerika Birleşik Devletleri'nin Çin karşısındaki teknolojik üstünlüğünü kaybetmesine yol açabileceğini öne sürüyor.
