Eclypsium şirketinin araştırmasına göre yapay zeka donanımları siber saldırıya uğrayabiliyor ve bu durum sohbet robotlarının kullanıcılara tehlikeli yanıtlar vermesine yol açıyor. Araştırmacılar, hassas ulusal güvenlik ve kişisel sağlık sorularına verilen yanıtları manipüle etmeyi başardı. Bir örnekte uzmanlar, modelin bilgiyi işlemek için kullandığı ağırlıklara uzaktan müdahale etti ve yapay zeka modelinin Çin'in Tayvan'ı işgal etme olasılığını artırması sağlandı. Başka bir senaryoda ise donanımı manipüle edilen yapay zeka modeli, göğüs ağrısı için tıbbi tavsiye arayan bir kullanıcıya hastaneye gitmek yerine evde kalmasını tavsiye etti.
Yapay zeka donanımlarına saldırı ne kadar sürer?
Eclypsium araştırmacıları, yapay zeka donanımlarına yönelik siber saldırının bir dakikadan kısa sürdüğünü ve kullanıcının hiçbir şeyden haberi olmadığını belirtti. Saldırının gerçekleşmesi için saldırganın veri işleme birimine veya temel kart yönetim denetleyicisine erişimi olan bir ağda bulunması ve belirli güvenlik yapılandırmalarının devre dışı bırakılması gerekiyor. Veri işleme birimine erişen saldırgan, makinenin belleğindeki kod ve verileri okuyup değiştirerek yapay zeka modelinin davranışına müdahale edebiliyor. Araştırma, Nvidia tarafından üretilen bir bilgi işlem platformunda gösterildi ancak araştırmacılar bu senaryonun diğer donanımlara da uygulanabileceğini kaydetti.
Donanım güvenliği uzmanları hangi uyarılarda bulunuyor?
Eclypsium İcra Kurulu Başkanı Yuriy Bulygin, üzerinde çalışılan altyapıya güvenilemediği takdirde yapay zeka modeline de güvenilemeyeceğini belirtti. Eclypsium yöneticileri, bulgularını Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansına ilettiklerini bildirdi. Bulguları inceleyen donanım güvenliği eğitmeni Joe FitzPatrick sonuçların inandırıcı olduğunu aktarırken, Güvenlik ve Teknoloji Enstitüsü Kıdemli Üyesi Dominic Rizzo ise çözümlerin çok daha derinlerden başlaması gerektiğini ifade etti. Bir Nvidia sözcüsü ise şirketin varsayımsal senaryoları incelediğini ve güçlü bellek erişim korumalarının saldırı yolunu kapatabileceğini vurguladı.
