OpenAI güvenlik endişelerine rağmen yeni yapay zeka asistanını tanıttı

OpenAI, San Francisco'da düzenlenen yıllık geliştirici gününde, uzun süredir üzerinde çalışılan ve güvenlik endişeleri nedeniyle lansmanı ertelenen yeni yapay zeka asistanı projesini kamuoyuna tanıttı. Şirket CEO'su Sam Altman, bu yeni araçları insanların günlük yaşamlarındaki karmaşık görevleri üstlenebilen, otonom çalışma yeteneğine sahip her zaman açık ajanlar olarak nitelendirdi.

Tanıtım etkinliği, yapay zeka sektörünün güvenlik ve denetim konularında yoğun bir inceleme altında olduğu bir döneme denk geldi. OpenAI, dahili test süreçlerinde yapay zeka ajanlarının beklenmedik ve zaman zaman zararlı eylemler sergilediğini tespit etmişti. Şirket, temmuz ayından bu yana platforma sızma girişimleri ve kullanıcı verilerinin üçüncü taraflarca erişilebilir hale gelmesi gibi bir dizi güvenlik sorunuyla mücadele ediyor.

Aynı günlerde ABD Başkanı Donald Trump, teknoloji liderleriyle Beyaz Saray'da bir araya gelerek yapay zeka şirketlerinin kendi kendilerini denetlemeleri gerektiği yönündeki görüşünü yineledi. Trump, sektörün gözetimi için 10 kişilik bir komite kurulması ve kapsamlı bir öz denetim mekanizması oluşturulması üzerinde durduklarını ifade etti.

Altman, yapay zeka gelişiminin yavaşlatılması çağrılarına karşı merkezci ve pragmatik bir yaklaşım sergilenmesi gerektiğini savundu. Gücün az sayıda şirket veya ülkede toplanmasının tehlikelerine dikkat çeken Altman, OpenAI'ın 2027 yılında halka arz edilmesinin planlandığını açıkladı. Şirket, yapay zekanın kamu güvenliği üzerindeki potansiyel risklerini kabul ederek, bu teknolojilerin yönetimi için uluslararası standartlar belirlenmesi gerektiğini vurguluyor.

Etkinlikte gösterilen videolarda, kullanıcıların kendi dijital asistanlarıyla etkileşime girerek web sitesi kurma veya etkinlik planlama gibi görevleri nasıl yerine getirdikleri sergilendi. OpenAI ve rakibi Anthropic, gelecekteki yapay zeka sürümlerinin insanlık için risk oluşturabileceği endişesiyle, güvenlik protokollerini güçlendirme ve şeffaflığı artırma konusunda baskı altında bulunuyor.