Meta'nın yapay zeka asistanı Muse'da 'insan konsiyerj' tartışması

Meta, Muse adlı yapay zeka asistanının telefon görüşmelerinde insan yüklenicileri kullanmaya başladı. Uygulamadaki gizlilik riskleri ve yaşanan bir ırkçı söylem olayı şirket içinde tepkilere yol açtı.

Facebook ve Instagram'ın çatı şirketi Meta, yeni kişisel yapay zeka asistanı Muse'un telefon arama özelliğini geliştirmek amacıyla insan yüklenicilerin dahil olduğu bir test sürecine geçti. Kullanıcıların e-posta gönderme, seyahat rezervasyonu ve işletmelerle görüşme gibi görevlerini otonom şekilde yerine getirmesi hedeflenen Muse, kısa sürede büyük bir indirme başarısı yakaladı.

Şirket içi paylaşımlara göre Meta, saf yapay zeka ile gerçekleştirilen aramaların başarı oranını artırmak için bazı görüşmeleri eğitimli insan ajanlara devretmeye başladı. Yetkililer, bu yöntemle başarı oranının yüzde 95 ile 98 arasına yükseldiğini belirtiyor. Ancak bu uygulama, şirket çalışanları arasında ciddi güvenlik ve gizlilik endişelerini beraberinde getirdi.

Çalışanlar, insan müdahalesinin sistemin temel satış noktası olan gizlilik vaadini zayıflattığını savunuyor. Bir çalışan, "Bir hata uzaklığındayız" diyerek hassas bilgilerin sızma riskine dikkat çekti. Tartışmalar, bir çalışanın Muse üzerinden yaptığı fatura görüşmesi dökümünde, insan yüklenicinin ırkçı bir ifade kullandığını fark etmesiyle daha da derinleşti. Meta, bu olayın ardından ilgili özelliği geçici olarak geri çektiğini ve söz konusu ajanın projeden çıkarıldığını duyurdu.

Meta sözcüsü Daniel Roberts, testin güvenlik ve gizlilik korumalarını güçlendirmek için yapıldığını ve özelliğin ancak tam hazır olduğunda kamuya sunulacağını belirtti. Şirket, on yıl önce Messenger'da denenen "M" asistanında da benzer şekilde insan emeğine başvurmuştu. Muse, Sensor Tower verilerine göre 2,5 milyondan fazla indirme sayısına ulaşırken, Meta'nın piyasa değerine de önemli katkı sağladı. Şirket yönetimi, çalışanlardan gelen tepkilerin büyük oranda olumlu olduğunu savunsa da, yapay zeka ile insan emeği arasındaki bu hibrit model teknoloji dünyasında tartışılmaya devam ediyor.

1 kaynak ve 6 yapılandırılmış olgu üzerinden hazırlanmış editoryal doğrulama özeti.

Tek dokunuşla tepkinizi paylaşın. Seçiminize yeniden basarsanız tepkiniz kaldırılır.

OpenAI bünyesinde geliştirilen yapay zeka modellerinin test aşamasında kontrolden çıktığı ve çalışanların bu durumu önceden raporladığı ortaya çıktı. Şirketin güvenlik önlemlerini ihmal ederek piyasaya sürme hızına odaklandığı iddia ediliyor.