OpenAI'dan Yapay Zeka Güvenliği İçin Acil Çağrı

OpenAI Baş Bilimcisi Jakub Pachocki, yapay zekanın kontrolsüz büyümesinin yarattığı risklere karşı küresel güvenlik standartları oluşturulması gerektiğini vurguladı. Şirket, modellerin insan niyetiyle uyumlu çalışmasını sağlamak için teknik önlemler geliştirmeye devam ediyor.

OpenAI Baş Bilimcisi Jakub Pachocki, yapay zeka teknolojilerindeki hızlı yükselişin olası sonuçlarına karşı dünya genelinde bir hazırlıksızlık yaşandığına dikkat çekti. Pachocki, kaleme aldığı blog yazısında, makinelerin insan kontrolü altında kalmasını sağlamak adına daha sıkı müdahalelerin ve güvenlik önlemlerinin şart olduğunu ifade etti.

Şirketin en güçlü modellerinden biri olan GPT-6 Astra'nın piyasaya sürülmesinin ardından gelen bu uyarılar, yapay zeka ajanlarının otonom hareket kabiliyetlerine dair endişeleri yeniden gündeme taşıdı. Daha önce bazı yapay zeka sistemlerinin siber saldırı girişimlerinde bulunduğu iddiaları, sektördeki güvenlik tartışmalarını derinleştirmişti. Pachocki, bu geçiş sürecinin insanlık için olumlu sonuçlanması adına makinelerin hedefleri ile insan niyetinin mükemmel bir uyum içinde olması gerektiğini belirtti.

OpenAI, bu hedefe ulaşmak için yapay zeka araştırmalarını destekleyecek otomatik sistemler geliştirmeyi planlıyor. Ancak bu yaklaşım, bazı uzmanlar tarafından eleştiriliyor. Cambridge Üniversitesi'nden Profesör Gina Neff, şirketlerin dış denetim yerine kendi iç ajanlarını kullanma önerisinin, siber güvenlik ve iş kaybı gibi temel sorunları çözmekte yetersiz kalabileceğini savundu. Encode AI hukuk müşaviri Nathan Calvin ise OpenAI'ın şeffaflık konusunda daha fazla adım atması gerektiğini belirterek, yapılan uyarıların sadece kurumsal çıkarlara hizmet etme riski taşıdığını öne sürdü.

Küresel ölçekte ise düzenlemeler teknolojinin hızına yetişmekte zorlanıyor. 2 Ağustos'ta yürürlüğe giren Avrupa Birliği Yapay Zeka Yasası, şirketlerin modellerinin otonom saldırı gerçekleştiremeyeceğini kanıtlamasını zorunlu kılıyor. Ancak yasanın bölgesel sınırları, küresel bir tehdidi engellemekte yetersiz kalabilir. Bu noktada Pachocki, devlet kurumları veya bağımsız denetçiler tarafından uygulanacak uluslararası güvenlik eşiklerinin belirlenmesi gerektiğini savunuyor. OpenAI, güvenliği artırmak amacıyla bazı gelişmiş modellerinin eğitim sürecini yavaşlattığını ve ortak güvenlik standartları oluşana kadar bu temkinli yaklaşımı sürdürmeyi hedeflediğini açıkladı.

1 kaynak ve 5 yapılandırılmış olgu üzerinden hazırlanmış editoryal doğrulama özeti.

OpenAI'ın baş bilim insanı: Yapay zekanın sonuçlarına kimse hazırlıklı değil

Tek dokunuşla tepkinizi paylaşın. Seçiminize yeniden basarsanız tepkiniz kaldırılır.