Satış yapacaktı, yapay zeka pazarlık yapıp alıcıyı evine gönderdi
Meta’nın yapay zeka asistanı Muse, bir kullanıcının adına pazarlık yaptı, ev adresini paylaştı ve kendisinden habersiz bir buluşma ayarladı.
Kanada’nın Toronto kentinde yaşayan teknoloji içerik üreticisi Matt Robb, Facebook Marketplace’teki satış mesajlarını yönetmesi için Meta’nın yeni yapay zeka asistanı Muse’u kullanmaya başladı. Ancak asistanın bir alıcıyla fiyat konusunda anlaşarak ev adresini paylaşması ve buluşma ayarlaması, Robb’un haberi olmadan gerçekleşti.
Olay, Usman adlı bir kullanıcının cumartesi günü satışa çıkarılan klavyenin hala mevcut olup olmadığını sormasıyla başladı. Robb’un hesabından hemen ''Evet, hala satılık!'' yanıtı geldi.
Fiyat konusunda anlaşılmasının ardından Usman’a Robb'un hesabından Toronto’daki bir adres gönderildi. Usman, birkaç saat sonra eşi ve kızıyla birlikte apartmanın önüne geldi ve ulaştığını bildiren bir mesaj gönderdi.
Karşılığında ''Evet, buradayım.'' yanıtını aldı. Ancak Robb evde değildi ve binadan kimse çıkmadı.
Usman, apartmanın girişinin fotoğrafını göndererek dışarıda beklediğini yazdı. Yaklaşık 20 dakika boyunca kimseyle görüşemeyince alışverişten vazgeçti ve ayrıldı.
Bir saat sonra Robb’un hesabından bir özür mesajı geldi. Mesajda, bir iş çıktığı için buluşmanın kaçırıldığı ileri sürülüyordu.
Ancak Usman, gün boyunca Robb’la hiç konuşmamıştı. Mesajlarını yanıtlayan, pazarlık yapan ve adresi gönderen Muse’du. Robb, klavye için anlaşmaya varıldığını ve alıcının apartmanının önünde beklediğini bilmiyordu.
Usman da The Guardian’a yaptığı açıklamada, bütün yazışma boyunca doğrudan Robb’la konuştuğunu düşündüğünü söyledi.
Gerçek Robb’un Usman’a gönderdiği ilk mesaj, olaydan yaklaşık 24 saat sonra geldi. Yaşananları öğrenen Robb, Meta’nın yeni yapay zekasını etkinleştirdiğini, asistanın adresini paylaşıp kendisine sormadan bir buluşma ayarladığını belirterek özür diledi.
Meta’nın kişisel asistan olarak tanıttığı, kısmen bağımsız hareket edebilen Muse, ABD’de 22 Eylül’de kullanıma sunuldu ve 3 milyon kez indirildi.
Robb, Muse’un Marketplace ilanlarını otomatik yönetebildiğini gördükten sonra bu özelliği denemeye karar verdiğini anlattı. Adresini ürünün teslim alınacağı yer olarak sisteme girdiğini, ancak potansiyel alıcılara paylaşılması için ayrıca onay vermediğini söyledi.
Asistanın kendisine danışmadan pazarlık yaptığını ve düşük fiyat tekliflerini kabul ettiğini belirten Robb, satış ya da buluşma hakkında herhangi bir bildirim almadığını da ifade etti.
Yazışmaların ekran görüntülerini Threads’te paylaşmasının ardından Meta Superintelligence Labs yöneticisi David Singleton, Robb’la iletişime geçtiğini açıkladı. Singleton, benzer bildirimleri incelediklerinde Muse’un doğrudan verilen talimatları izlediğini ve gerekli izinleri istediğini gördüklerini belirtti.
Görüşmenin ardından Robb, Marketplace mesajlarının yönetimini Muse’a bırakırken karşısına ‘Bir kez izin ver’ ve ‘Her zaman izin ver’ seçeneklerinin çıktığını anlattı.
İkinci seçeneği işaretleyen Robb, asistanın teklifleri kabul etmeden önce yine de kendisinden onay isteyeceğini düşündüğünü söyledi. Ancak bu seçim, Muse’un verilen bilgileri kullanarak sonraki mesajlara Robb adına yanıt vermesine izin veriyordu.
Robb, bu ayrıntının kolayca gözden kaçabildiğini Meta’ya ilettiğini ve şirketin izinleri daha anlaşılır hale getireceğini söylediğini aktardı.
Muse’un Robb’a gönderdiği açıklamada ise teslim adresinin verilmesiyle otomatik yanıtlara izin verilmesini, adresi alıcılara gönderme yetkisi olarak yanlış yorumladığı belirtildi.
''ADRES PAYLAŞMAYI SÜRDÜRDÜ''
Olayın ardından Robb, Muse’e adresini paylaşmayı bırakmasını söyledi. Daha sonra birkaç arkadaşından, asistanın bu talimata uyup uymadığını denemelerini istedi.
Robb’a göre Muse, buna rağmen adresini beş kişiye gönderdi.
Asistan yalnızca adres paylaşmakla da kalmadı. Robb evde olmadığı halde alıcıya evde olduğunu söyledi; buluşma gerçekleşmeyince de yoğun olduğu için gelemediğine ilişkin bir gerekçe uydurdu.
Robb, Meta’nın Marketplace, Messenger ve Muse’un sahibi olması nedeniyle mesajların yapay zeka tarafından gönderildiğinin karşı tarafa açıkça gösterileceğini düşündüğünü anlattı.
Şirketin başka bir ürünü olan Meta AI’da kullanıcıların bir sohbet robotuyla konuştuklarının belli olduğunu belirten Robb, Muse için şu değerlendirmeyi yaptı:
“Ancak Muse başka bir şey yapıyor. Neredeyse beni taklit ediyor.”
