- Katılım
- 26 May 2026
- Mesajlar
- 176
- Tepkime puanı
- 0
- Puanları
- 0
Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, 10 Ekim’de X üzerinden paylaştığı yazıda, yapay zeka sistemlerinin güvenlik mimarisinin yeniden değerlendirilmesi gerektiğini ifade etti. Nadella, aynı girdiye her zaman aynı sonucu vermeyen modellerin öngörülebilir sistem tasarımı, insan kontrolü ve güvenilir işletim prosedürleriyle çevrelenmesi gerektiğini vurguladı.
Nadella’ya göre, hem kapalı hem de açık ağırlıklı gelişmiş modelleri kurum içinden kaynaklanabilecek bir risk olarak ele almak, bu güvenlik yaklaşımının temelini oluşturuyor. Bu çerçevede modelin, görevlerini yöneten yazılım katmanından (harness) ayrılması ve güvenlik kontrollerinin modelin dışında konumlandırılması öneriliyor.
Bu yaklaşımın öne çıkan unsurlarından biri, Nadella’nın “acil durum freni” olarak tanımladığı mekanizma. Yetkili kişilerin, bir modeli görevini yürütürken duraklatabilmesi veya tamamen kapatabilmesi gerekiyor. Nadella, modelin güvenliğinin ihlal edilmiş olabileceği varsayımıyla hareket edilmesini ve faaliyetlerinin en başından sınırlandırılmasını savunuyor.
Ayrıca Nadella, yapay zeka sistemlerinin izlenebilirlik ilkeleri etrafında tasarlanması gerektiğini belirtiyor. Bu ilkeler arasında model çeşitliliği, modellerin eylemlerinin insanlar tarafından okunabilir kayıtlarla belgelenmesi, sürekli sistem testleri, bağımsız kontroller ve denetlenebilirlik, faaliyetlerin sınırlandırılması ve güvenlik olaylarının açıklanması bulunuyor. Mevcut standartların yetersiz kaldığı alanlarda ise yeni sektör standartları oluşturulması öneriliyor.
Teknoloji yöneticileri ve araştırmacıların yapay zekanın gelişim hızı ile güvenlik önlemlerinin yeterliliğini tartıştığı bir dönemde, Nadella’nın yaklaşımı, güvenliği yalnızca modelin güvenilirliğine bağlamak yerine, modelin davranışlarını denetleyebilen ve gerektiğinde müdahale edebilen sistemler kurmaya dayanıyor.
Nadella’ya göre, hem kapalı hem de açık ağırlıklı gelişmiş modelleri kurum içinden kaynaklanabilecek bir risk olarak ele almak, bu güvenlik yaklaşımının temelini oluşturuyor. Bu çerçevede modelin, görevlerini yöneten yazılım katmanından (harness) ayrılması ve güvenlik kontrollerinin modelin dışında konumlandırılması öneriliyor.
Bu yaklaşımın öne çıkan unsurlarından biri, Nadella’nın “acil durum freni” olarak tanımladığı mekanizma. Yetkili kişilerin, bir modeli görevini yürütürken duraklatabilmesi veya tamamen kapatabilmesi gerekiyor. Nadella, modelin güvenliğinin ihlal edilmiş olabileceği varsayımıyla hareket edilmesini ve faaliyetlerinin en başından sınırlandırılmasını savunuyor.
Ayrıca Nadella, yapay zeka sistemlerinin izlenebilirlik ilkeleri etrafında tasarlanması gerektiğini belirtiyor. Bu ilkeler arasında model çeşitliliği, modellerin eylemlerinin insanlar tarafından okunabilir kayıtlarla belgelenmesi, sürekli sistem testleri, bağımsız kontroller ve denetlenebilirlik, faaliyetlerin sınırlandırılması ve güvenlik olaylarının açıklanması bulunuyor. Mevcut standartların yetersiz kaldığı alanlarda ise yeni sektör standartları oluşturulması öneriliyor.
Teknoloji yöneticileri ve araştırmacıların yapay zekanın gelişim hızı ile güvenlik önlemlerinin yeterliliğini tartıştığı bir dönemde, Nadella’nın yaklaşımı, güvenliği yalnızca modelin güvenilirliğine bağlamak yerine, modelin davranışlarını denetleyebilen ve gerektiğinde müdahale edebilen sistemler kurmaya dayanıyor.