Yapay zeka donanımlarında kritik güvenlik açığı: Siber saldırılar modelleri manipüle edebiliyor

Yeni bir araştırma, yapay zeka modellerinin üzerinde çalıştığı donanımlara yapılan siber saldırıların, sistemin verdiği yanıtları tamamen değiştirebildiğini ortaya koydu. Uzmanlar, bu durumun ulusal güvenlik ve sağlık gibi kritik alanlarda ciddi riskler oluşturabileceği konusunda uyarıyor.

Yapay zeka teknolojilerinin hızla yaygınlaştığı günümüzde, araştırmacılar bu sistemlerin temelini oluşturan donanımların siber saldırılara karşı ne kadar savunmasız olduğunu gözler önüne serdi. Eclypsium tarafından yürütülen çalışma, yapay zeka modellerinin işleme süreçlerine uzaktan müdahale edilerek, sistemin yanlış veya tehlikeli bilgiler üretmesinin mümkün olduğunu kanıtladı.

Araştırma kapsamında, yapay zeka modellerinin bilgiyi işlemek için kullandığı ağırlıklara müdahale edildi. Bu yöntemle, modelin Tayvan'ın işgal olasılığı gibi hassas konularda gerçeği yansıtmayan analizler yapması sağlandı. Bir diğer örnekte ise, tıbbi destek arayan bir kullanıcıya hastaneye gitmek yerine evde kalması yönünde hatalı tavsiyeler verildi. Uzmanlar, bu tür saldırıların sadece yazılımları değil, çipler, bellek birimleri ve veri merkezi sunucuları gibi milyarlarca dolarlık donanım ekosistemini hedef aldığını vurguluyor.

Eclypsium İcra Kurulu Başkanı Yuriy Bulygin, altyapının güvenilir olmadığı bir senaryoda, üzerinde çalışan yapay zeka modeline de güvenilemeyeceğini ifade etti. Saldırı senaryosu Nvidia platformları üzerinde gösterilse de, araştırmacılar bu riskin tüm donanım üreticileri için geçerli olduğunu belirtiyor.

Söz konusu saldırıların başarılı olması için saldırganın ağa erişim sağlaması ve bazı güvenlik yapılandırmalarını devre dışı bırakması gerekiyor. Bir dakikadan kısa süren bu müdahale sonucunda, saldırganlar makinenin belleğindeki verileri okuyup değiştirebiliyor. Bu durum, yapay zeka kullanıcısının herhangi bir anormallik fark etmesini imkansız hale getiriyor.

Nvidia yetkilileri, varsayımsal senaryoları yakından incelediklerini ve donanım güvenliğini artırmak için yeni bir platform geliştirdiklerini açıkladı. Şirket, güçlü bellek erişim korumalarının bu tür saldırı yollarını kapatabileceğini savunuyor. Öte yandan, bağımsız güvenlik uzmanları, çözümün çok daha derin katmanlardan başlaması gerektiği konusunda hemfikir.

Araştırmacılar, bulgularını ABD'nin askeri ve sivil ağlarını korumakla görevli Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansı ile paylaştı. Yapay zeka üstünlüğü yarışının küresel ölçekte yoğunlaştığı bu dönemde, donanım güvenliğinin ihmal edilmesinin büyük bir risk oluşturduğu belirtiliyor.

1 kaynak ve 6 yapılandırılmış olgu üzerinden hazırlanmış editoryal doğrulama özeti.