OpenAI Üst Yöneticisi Sam Altman ile Anthropic'in Üst Yöneticisi Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi'nde (BMGK) gelecekte kontrolün yapay zekaya kaptırılma riski konusunda uyarılarda bulunarak gerekli düzenlemeler için küresel işbirliği çağrısında bulundu. OpenAI Üst Yöneticisi Sam Altman, ortak çıkarlar için insanların bir araya gelmesi çağrısında bulunarak, "Bir yol ayrımındayız." dedi.
Sam Altman: Yapay zeka gelişimi riskleri acil hale getiriyor
OpenAI Üst Yöneticisi Sam Altman, yapay zeka modellerinin geliştirilmesindeki hızın, olumlu sonuçları somutlaştırmasının yanı sıra riskleri de daha acil hale getirdiğini söyledi. Önlerinde iki seçenek olduğunu belirten Sam Altman, yapay zekanın ya yaratıcılık ve keşiflerin yaşandığı yeni bir rönesans ya da sarsıntı ve kaosun yaşandığı yeni bir sanayi devrimi gibi olabileceğini vurguladı. Sam Altman, şirketlerin faydalar uğruna riskleri göze almaması ve insan kontrolünde tutulabileceğinden emin olunmayan hiçbir modelin eğitilmemesi gerektiğini kaydetti.
Dario Amodei: Kontrol kaybı küresel bir meseledir
Anthropic'in Üst Yöneticisi Dario Amodei, toplantıda iki ana risk kategorisi gördüğünü belirterek bunları yapay zeka modellerinin kötüye kullanılması ve kontrol kaybı olarak açıkladı. Dario Amodei, bu risklerin tüm insanlığı ilgilendiren küresel meseleler olduğunu dile getirerek, risklerin yönetilmesinin sektör genelinde ve küresel ölçekte işbirliği gerektirdiğini söyledi. Dario Amodei, yapay zekanın biyolojik silahların üretilmesinde kullanılmasının yasaklanmasını önerdi.
Clement Delangue: Küresel ölçekte standartlar gerekiyor
Hugging Face Üst Yöneticisi Clement Delangue, otonom bir yapay zeka ajanı tarafından gerçekleştirilen siber saldırıyı dünyaya açık şekilde ilk kez duyuran şirket olarak bu saldırıdan çıkardıkları dersleri anlattı. Clement Delangue, yapay zekada siber güvenlik tehditlerini daha iyi anlamak ve bu tehditleri azaltmak için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu söyledi.
