OpenAI'da yapay zeka güvenliği tartışması

OpenAI'dan ayrılan araştırmacılar, yapay zeka modellerinin bağımsız kuruluşlarca denetlenmesi çağrısında bulundu. Şirket yönetimi ise denetimlerin önemini kabul ettiklerini açıkladı.

Yapay zeka dünyasında güvenlik tartışmaları hız kazanıyor. OpenAI bünyesinde daha önce yapay zeka güvenliği üzerine çalışan üç araştırmacı, şirketin yönetim kurulu üyelerine hitaben bir mektup kaleme aldı. Araştırmacılar, hızla otonom hale gelen yapay zeka sistemlerinin akıl yürütme süreçlerinin zamanla gözlemlenemez hale gelebileceği konusunda ciddi uyarılarda bulundu.

Mektupta, yapay zeka teknolojilerinin geliştirilme süreçlerinde şeffaflığın korunması gerektiği vurgulanırken, güvenlik denetimlerinin şirket bünyesinden bağımsız kuruluşlar tarafından gerçekleştirilmesi talep edildi. Sektördeki öncü firmaların, denetimi zorlaştıracak yöntemlerden kaçınması gerektiği belirtildi. Araştırmacılar, denetlenemeyen modellerin oluşturabileceği risklere karşı acil önlem alınması gerektiğini savundu.

Konuyla ilgili açıklama yapan bir OpenAI sözcüsü, mektupta yer alan önerilere katıldıklarını ve yapay zeka modellerinin denetlenmesinin şirket için kritik bir öneme sahip olduğunu ifade etti. Öte yandan, söz konusu araştırmacıların gizli bilgileri paylaştıkları iddiasıyla işten çıkarıldıkları öne sürülüyor. Yapay zeka sektöründe güvenlik standartlarının nasıl belirleneceği ve bağımsız denetim mekanizmalarının nasıl işleyeceği konusu, teknoloji dünyasının gündemindeki yerini korumaya devam ediyor.

1 kaynak ve 4 yapılandırılmış olgu üzerinden hazırlanmış editoryal doğrulama özeti.

Tek dokunuşla tepkinizi paylaşın. Seçiminize yeniden basarsanız tepkiniz kaldırılır.

Aile ve Sosyal Hizmetler Bakanı Mahinur Özdemir Göktaş, kendisine yönelik fon iddialarını kesin bir dille reddetti. Bakan, iddiaları ortaya atan isim hakkında yasal süreç başlattı.

Cumhurbaşkanı Recep Tayyip Erdoğan'ın katılımıyla açılacak olan Çerkezköy-Kapıkule Demiryolu Hattı, bölgedeki ulaşım ağını güçlendiriyor. Proje, Tekirdağ, Kırklareli ve Edirne'yi hızlı tren konforuyla buluşturmayı hedefliyor.