OpenAI'dan yapay zeka güvenliği için yasal düzenleme çağrısı

OpenAI yöneticileri, yapay zeka destekli siber saldırı risklerine karşı acil yasal düzenleme yapılması gerektiğini vurguladı. İngiltere ise yapay zeka ajanlarının denetim altına alınması konusunda uyarılarda bulundu.

Yapay zeka teknolojilerindeki hızlı ilerleme, beraberinde ciddi siber güvenlik endişelerini de getiriyor. OpenAI Küresel İlişkiler Başkanı Chris Lehane, gelişmiş yapay zeka modellerinin siber saldırı amaçlı kullanılmasının önümüzdeki dönemin en kritik güvenlik sorunlarından biri olacağını belirtti.

Lehane, özellikle açık kaynaklı modellerin giderek güçlendiğine ve kötü niyetli kişilerin bu sistemlere kolayca erişebildiğine dikkat çekti. Bu durumun, sürekli ve otomatikleşmiş siber saldırıların önünü açabileceği ifade ediliyor. Lehane, yapay zeka destekli saldırılara karşı savunma geliştirebilmek için daha ileri seviye modellere ihtiyaç duyulduğunu ve bu durumun toplum için yeni bir gerçeklik yaratacağını savundu.

Güvenlik konusundaki endişeler sadece OpenAI ile sınırlı kalmıyor. İngiltere Ulusal Siber Güvenlik Merkezi, kuruluşları yapay zeka ajanlarının kullanımı konusunda dikkatli olmaya çağırdı. Merkez, bu ajanların özerkliklerinin sınırlandırılmasını ve sistemlerin gerektiğinde anında durdurulabilmesini önerdi. OpenAI'ın güvenlikten sorumlu ismi Mia Glaese ise yapay zeka güvenliği alanında henüz normalleşme aşamasına gelinmediğini vurguladı.

OpenAI yönetimi, ABD hükümetine gelişmiş yapay zeka sistemlerinin güvenliği konusunda yasal düzenleme yapılması çağrısını yineledi. Lehane, siber saldırı kapasitesinin savunma araçlarından daha hızlı geliştiğini belirterek, güvenlik standartlarının yasal bir zemine oturtulması gerektiğini dile getirdi. Ayrıca, güvenliği kanıtlanmamış modellerin piyasaya sürülmesinin düzenlemelerle engellenmesi gerektiği ifade edildi.

Öte yandan, yapay zeka güvenliği konusu uluslararası diplomasi gündemine de taşınıyor. ABD ile Çin arasındaki rekabet sürerken, iki ülke arasında bu alanda olası bir iş birliği ihtimali değerlendiriliyor. Washington yönetiminin, ileri seviye modellerin piyasaya sürülmeden önce test edilmesini teşvik eden adımları tartışılmaya devam ediyor. Uzmanlar, gönüllülük esasına dayanan mevcut uygulamaların şeffaflık konusunda eksik kaldığını ve daha kapsamlı uluslararası düzenlemelere ihtiyaç duyulduğunu belirtiyor.

1 kaynak ve 5 yapılandırılmış olgu üzerinden hazırlanmış editoryal doğrulama özeti.

OpenAI yöneticisinden kiritk 'yapay zeka' uyarısı: 'Yeni bir döneme giriyoruz'