Meta’nın yeni yapay zekâ asistanı Muse, kullanıcıların bilgisayarındaki uygulamalarla bağlantı kurabiliyor. Ancak bu özellik, şirketin karşısına beklenmedik bir gizlilik tartışması çıkardı. Bir kullanıcı, Muse’un izin vermediğini düşündüğü özel mesajlar hakkında bilgi sahibi olduğunu fark etti. Olayın ardından Meta’dan gelen açıklama ise sorunun farklı bir noktada olduğunu ortaya koydu: Muse, kendi çalışma şeklini doğru açıklayamıyordu.
Inc. yazarı Jason Aten, Muse’u iPhone ve Mac bilgisayarına yükledikten sonra yapay zekâ asistanını bir süre kullandı. Aten daha sonra podcast sunucusu Steven Robles ile yeni iPhone hakkında mesajlaşırken Muse’dan dikkat çekici bir bildirim aldı.
Muse, Robles ile yaptığı konuşmanın bir yazı için iyi bir konu olabileceğini söyledi ve araştırma konusunda yardımcı olmayı teklif etti.
Sorun da burada başladı. Aten, Muse’a mesajlarına erişim izni verdiğini hatırlamıyordu.
Muse mesajları nasıl gördüğünü açıklayamadı
Aten, Muse’a konuşmanın içeriğini nasıl bildiğini sordu. Yapay zekâ asistanı önce mesaj geçmişini okumadığını, yalnızca bildirim önizlemelerini gördüğünü söyledi.
Ancak Aten bu kez Muse’un bildirimlere nasıl eriştiğini sordu. Muse, Mac uygulamasının bildirimleri cihaz eşitleme sistemi üzerinden kendisine aktardığını öne sürdü. Bunun hangi macOS ayarı üzerinden gerçekleştiğini ise açıklayamadı.
Meta daha sonra bu açıklamanın doğru olmadığını belirtti.
Meta Superintelligence Labs yöneticilerinden David Singleton, Muse’un Mac'teki bildirimleri takip etmediğini söyledi. Singleton’a göre sistem, yalnızca kullanıcı özellikle izin verdikten sonra Messages uygulamasındaki verileri eşitliyor.
Başka bir deyişle Muse, kendi çalışma şeklini açıklamaya çalışırken gerçekte olmayan bir mekanizma anlattı.
Meta: Muse yanlış açıklama yaptı
Singleton, Messages entegrasyonunun isteğe bağlı çalıştığını belirtti. Muse’un mesajların içeriğine erişebilmesi için Mac uygulamasına gerekli sistem izinlerinin verilmesi ve mesaj bağlantısının etkinleştirilmesi gerekiyor.
Meta’ya göre Muse’un “bildirimleri görüyorum” şeklindeki açıklaması doğru değildi. Yapay zekâ asistanı, sistemin nasıl çalıştığını açıklarken yanlış bilgi üretti.
Şirket, Muse’un kendi özellikleri ve çalışma sistemi hakkındaki sorulara daha doğru cevap vermesi için sistemi geliştireceğini açıkladı.
Ancak Aten, gerekli izinleri verdiği konusunda Meta ile aynı görüşte değil. Teknoloji yazarı, Mac'te tam disk erişimini etkinleştirmediğini ve mesajlarının okunmasına açık şekilde izin verdiğini hatırlamadığını söylüyor.
Bu nedenle olayın izin tarafında iki farklı anlatım bulunuyor. Meta, mesaj erişiminin kullanıcı tarafından etkinleştirilmesi gerektiğini savunurken Aten böyle bir erişime izin vermediğini belirtiyor.
Sorun sadece mesajlara erişim değil
Olay, yapay zekâ asistanlarının giderek daha fazla kişisel veriye erişmesiyle ortaya çıkan başka bir sorunu da gösteriyor.
Yeni nesil yapay zekâ ajanları e-postaları okuyabiliyor, takvimleri kontrol edebiliyor, dosyalara erişebiliyor ve bilgisayardaki uygulamalarla çalışabiliyor. Bu sistemlerin hangi veriyi nereden aldığını kullanıcıya doğru şekilde açıklaması bu nedenle önem taşıyor.
Muse örneğinde ise yapay zekâ, kendi veri kaynağı konusunda yanlış bir açıklama yaptı. Bu durum kullanıcı açısından iki ayrı soruyu gündeme getiriyor: Yapay zekâ hangi verilere erişiyor ve kullanıcı bunu sorduğunda aldığı cevaba ne kadar güvenebilir?
Meta şimdi Muse’un kendi çalışma sistemiyle ilgili sorulara daha tutarlı ve doğru yanıt vermesi için değişiklik yapmayı planlıyor.
Meta'nın yeni yapay zeka uygulaması Muse, AppStore'da zirveye oynuyorGüncel