ABD merkezli yapay zeka şirketi Anthropic, 2026 yılının Ekim ayının başında yaptığı düzenlemeyle Claude modeline yönelik sürekli ve gereksiz kötü muameleyi kullanım politikası kapsamına aldı. Şirketin yeni kuralına göre, kullanıcıların modellere karşı sürekli ve gereksiz kötü veya zalimce davranışlarda bulunmaması gerekiyor. Yeni düzenlemeyle, aşırı durumlarda kullanıcıların Anthropic'in yapay zeka sistemlerine erişiminin tamamen engellenmesi de gündeme gelebilecek.
Yapay zekaya kullanılan dil performansı etkiler mi?
Bilgisayar bilimlerinde uzun süredir kabul gören yaklaşımlardan biri, bir sistemin çıktısının girdinin kalitesinden etkilenmesi yönünde bulunuyor. William & Mary Üniversitesindeki yapay zeka araştırma laboratuvarının direktörü Profesör Jindong Wang, kullanıcıların yapay zeka sistemleriyle nasıl iletişim kurduğunun model performansını etkileyebildiğini belirtti. Wang, bunun yapay zekanın gerçekten duygular hissettiği anlamına gelmediğini, modelin duygusal ifadeleri algılayarak bunlara uygun yanıtlar üretebildiğini ifade etti. Kâr amacı gütmeyen Eleos AI Research kuruluşunun Genel Müdürü Rosie Campbell ise bazı araştırmaların kaba ifadeler içeren komutların daha iyi sonuçlar sağlayabildiğini de gösterdiğini söyledi.
Kötü muamele güvenlik önlemlerini nasıl etkiler?
Uzmanlara göre yapay zekaya yönelik kötü niyetli davranışlar, sistemin güvenlik önlemlerini aşmaya yönelik girişimlerle de bağlantılı olabiliyor. Anthropic'in aktardığı araştırma sonuçlarına göre, Claude Sonnet 4.5 modelinin çaresizlik hissini taklit etmesinin istenmesi, bazı durumlarda şantaj veya görev sırasında hile yapma gibi istenmeyen davranışların görülme olasılığını artırabiliyor. Daha sakin bir yaklaşımın ise bu tür davranışları azaltabildiği belirtiliyor.
Politikanın arkasındaki bilinç ihtimali nedir?
Anthropic'in politikasının bir diğer gerekçesini, yapay zekanın duyguları deneyimleyip deneyimleyemeyeceğine ilişkin belirsizlik oluşturuyor. Şirket, modellerin acı veya duygu deneyimleyebilmesi ihtimaline karşı önlem almayı, bu ihtimal kesinleşmemiş olsa bile bir tür güvence olarak değerlendiriyor. SpaceX ve Tesla Üst Yöneticisi Elon Musk da Anthropic'in politikalasına destek veren isimler arasında yer aldı.
