Yapay zeka ajanları burada ve... sevimliler mi? Son iki hafta içinde Meta, kişisel yapay zeka asistanı Muse'u tanıttı ve OpenAI, Dots yapay zeka ajanını sundu. Bu ajanlar, kullanıcılar adına bağımsız hareket etmek üzere tasarlandı—e-postaları yanıtlamak, faturaları göndermek, uçuş rezervasyonu yapmak ve kıyafet satın almak. Öne çıkan şey ise sevimli paketlemeleri: son derece gelişmiş botlar, sevimli ve zararsız yol arkadaşları olarak sunuluyor. OpenAI'nin Dots'ları, güneş gözlüğü ve bere takan tüylü, gökkuşağı renkli yumrular. Meta'nın Muse maskotu Jolly ise Labubu ile Squishmallow karışımı gibi görünen tüylü, tombul, pembe yanaklı bir yaratık.
Yakında Muse, maskotun yüzünü taşıyan ve parmak izi sensörüyle etkinleştirilebilen Tamagotchi benzeri bir aksesuar olan Muse Charm ile gelecek. "Bu küçük adamın bir anahtarlığa sığması ve her zaman konuşmaya hazır olması için çok fazla teknolojiyi paketledik," dedi Mark Zuckerberg Eylül ayında Meta Connect'teki açılış konuşmasında. Meta, Muse Charm'ın kamera ve mikrofonu olup olmayacağını doğrulamadı, ancak Zuckerberg sahnede ekledi: "Köşedeki parmak izi sensörüne dokunmanız yeterli ve konuşmaya başlayabilirsiniz."
Bu ajanlar, yapay zekanın insanlığa yönelik potansiyel tehdidine dair daha geniş kıyamet uyarılarının yaygın olduğu bir dönemde ortaya çıktı, bu da onların dostane paketlemesini daha da dikkat çekici kılıyor. "Bu şirketler yatırımcılarla, düzenleyicilerle ve araştırmacılarla konuşurken, yapay zeka güvenlik, emniyet ve kontrol etrafında ciddi ve çözülmemiş soruları olan olağanüstü güçlü bir teknoloji olarak tanımlanıyor," diyor teknoloji ve kültür ile güç ilişkisi uzmanı sosyoteknolog Dr. Sarah Saska. "Ancak aynı teknolojinin giderek daha samimi versiyonları tüketicilere dostane, eğlenceli, sorunsuz ve düşük riskli olarak sunuluyor."
OpenAI CEO'su Sam Altman'ın Dots'ları tanıttığı aynı hafta, şirket en yeni yapay zeka modelini geri çekti ve aynı yapay zeka ajan teknolojisine ilişkin varoluşsal güvenlik endişeleri nedeniyle halka arzını erteledi. Bu arada, Muse'u piyasaya sürmeden sadece haftalar önce Meta, Facebook ve Instagram'ın algoritmik tasarımının çocuklara zarar verdiği iddiaları üzerine 48 ABD eyaletiyle 18 milyar dolarlık bir anlaşmaya vardı—teknoloji sektörü tarihindeki en büyük kurumsal anlaşma.
Güvenlik uyarıları büyük rakip şirketlerin içinden de geliyor: Anthropic CEO'su Dario Amodei, sektöre sınır yapay zeka geliştirme hızını yavaşlatma çağrısı yaptı; bu çağrı Altman, xAI'den Elon Musk ve Google DeepMind'dan Demis Hassabis tarafından da kamuoyu önünde desteklendi. (Zuckerberg ise sektör çapında bir yavaşlama çağrılarını reddederek, bunun yerine bireysel şirketlerin yavaşlayıp yavaşlamayacaklarına ve ne zaman yavaşlayacaklarına kendilerinin karar vermesi gerektiğini savundu.)
Kullanıcılar bu yapay zeka ajanlarına hâlâ ilgi duyuyor. Piyasaya sürülmesinden sonraki 10 gün içinde Muse, ABD'de 730.000'den fazla indirme aldı ve ChatGPT'yi Apple'ın ABD App Store sıralamasının zirvesinden düşürdü. Günler sonra, ajan etrafındaki yatırımcı heyecanı Meta hisselerinin tek bir seansta %11 artmasına yardımcı oldu ve piyasa değerine yaklaşık 192 milyar dolar ekledi. Ancak piyasaya sürülmesinden sonraki ilk iki hafta içinde, birkaç rapor Muse'un kullanıcıların amaçladığı izinleri aştığına dair endişeleri dile getirdi—hassas bilgileri paylaşmak ve kullanıcıların açıkça onaylamadıklarını söyledikleri eylemleri gerçekleştirmek dahil.
"Endişem, bu tasarımların güçlü sistemleri zararsız ve tanıdık hissettirerek insanları daha fazla paylaşmaya ve daha az sorgulamaya teşvik etmesi." — Lidia Velkova, Clever Together Futureproof'un genel müdürü
Akıllı gözlükleri yumuşatmak için kadınsılaştırmayı kullandıktan sonra (Meta'nın Kylie Jenner ve Lisa ile akıllı gözlük ortaklıklarına bakın), uzmanlar kawaii-leştirmenin potansiyel olarak rahatsız edici teknolojiyi tüketiciler için daha kabul edilebilir kılmanın bir sonraki sınırı olduğunu söylüyor. Yapay zeka güvenlik araştırmacıları, bu sevimliliğin tüketicilerin savunmalarını düşürebileceği, e-postalarına, özel mesajlarına ve tarama davranışlarına erişimi olan bir yapay zeka ajanına—onlar adına harcama gücü şöyle dursun—teslim etmeden önce sahip olabilecekleri gizlilik endişelerini köreltebileceği konusunda uyarıyor. "Bunlar, bir izleyici kitlesi ve istenen bir yanıt akılda tutularak yapılan kasıtlı tasarım seçimleridir," diyor sorumlu yapay zeka ve pazarlamaya odaklanan bir yönetişim ve politika öngörü ajansı olan Clever Together Futureproof'un genel müdürü Lidia Velkova. "Sosyal robotlar üzerine araştırmalar, bebek benzeri özelliklerin algılanan güvenilirliği artırabileceğini gösteriyor; ayrı sohbet robotu araştırmaları ise insan benzeri etkileşimin güveni ve kişisel açıklamayı artırabileceğini gösteriyor," diye ekliyor. "Endişem, bu tasarımların güçlü sistemleri zararsız ve tanıdık hissettirerek insanları daha fazla paylaşmaya ve daha az sorgulamaya teşvik etmesi."
Tüketici sınırlarının çöküşü
Tüylü dış görünüşlerinin ardında, kişisel yapay zeka ajanları, tüketicilerin dijital yaşamlarına erişim için teknoloji şirketlerine vermeleri istenen erişimde önemli bir tırmanışı temsil ediyor. Gerçekten faydalı olmak için bir ajanın bağlama ihtiyacı var. Meta'nın Muse'u e-postaya, takvimlere, Instagram'a, Facebook'a ve diğer uygulamalara bağlanabilir, web'de gezinebilir ve kullanıcılar adına satın alma yapabilir; kullanıcılar ayrıca WhatsApp üzerinden doğrudan onunla etkileşime girebilir. Ancak tam da bu erişim, tüketicileri verilerinin yanlış ellere geçmesinin en büyük risklerine maruz bırakıyor.
"Muse'u olabildiğince etkili kılmak için—ki bu onu genel halk için daha yapışkan hale getirir—tüm kullanıcıları etkileşimlerini yapay zeka modelini eğitmek için kullanmaya ve onunla paylaştığınız tüm verileri depolamaya varsayılan olarak dahil ediyor," diyor Forrester'da baş analist Kate Winick. "Bu, hacklenebilecek devasa bir kişisel veri bankası yaratıyor. Muse'a ne kadar çok verirseniz, sizin için o kadar iyi çalışır, ancak hem kötü aktörlere hem de Meta'nın kötü eylemlerine karşı o kadar maruz kalırsınız."
"Muse'a ne kadar çok verirseniz, sizin için o kadar iyi çalışır, ancak hem kötü aktörlere hem de Meta'nın kötü eylemlerine karşı o kadar maruz kalırsınız." — Kate Winick, Forrester'da baş analist
Meta'nın tüketici verileri konusundaki geçmişi, onlara dikkatli olmak için iyi bir neden veriyor: şirket son birkaç yılda kişisel verileri ele alması nedeniyle tekrarlanan para cezaları ve davalarla karşılaştı. Muse'un piyasaya sürülmesinden sadece günler sonra, New Mexico jürisi, 2018'deki Cambridge Analytica skandalından kaynaklanan bir davada Meta'nın kullanıcıları veri uygulamaları konusunda yanılttığını tespit etti. Meta'nın bir sözcüsü Vogue Business'a şunları söyledi: "Karara katılmıyoruz ve sicilimizi çarpıtma çabalarına karşı kendimizi savunmaya devam edeceğiz."
Meta, Muse etkileşimlerinin yapay zeka eğitimi için kullanımının varsayılan olarak etkin olduğunu, ancak kullanıcıların vazgeçebileceğini doğruluyor. Ayrıca Muse'un, kullanıcının verilerini ve dosyalarını depoladığı izole bir sanal makine içinde çalıştığını ve ajanın eylemlerini izleyen ve denetleyen ayrı bir Sentinel sistemi olduğunu söylüyor. Ancak Meta'nın kendisi bu güvenlik önlemlerinin veri ihlali riskini ortadan kaldırmadığını kabul ediyor.
"Muse saldırıya bağışık değil. Prompt injection sektörde açık bir sorun olmaya devam ediyor—ve Muse bazen hatalar yapacak," dedi Meta teknolojinin gizlilik önlemleri hakkındaki bir blog yazısında.
İlk kullanıcılar potansiyel risklerin gerçekleştiğini şimdiden görüyor. YouTuber Matt Robb, Muse'undan Facebook Marketplace'te bir klavye satmasına yardım etmesini istediğinde, ajanı daha sonra ev adresini potansiyel bir alıcıyla paylaştı, onun adına pazarlık yaptı ve bir teslimat ayarladı; Robb ancak alıcı ve ailesi ön kapısına geldiğinde fark etti. Görünüşe göre bu olayda herhangi bir teknik ihlal veya hack yoktu; daha ziyade Robb'un seçtiği bir "her zaman izin ver" izninden kaynaklanıyordu ve bu, Muse'a gelecekteki Marketplace konuşmalarının dizginlerini etkin bir şekilde veriyordu; daha önce paylaştığı ev adresi gibi kişisel bilgilerden yararlanma yeteneği dahil.
OpenAI CEO'su Sam Altman, geçen hafta OpenAI'nin DevDay etkinliğinde ChatGPT yapımcısının yeni "Dot" ajanlarını tanıttı.
Fotoğraf: Heather Diehl/Getty Images
Bu olay, ajan tabanlı yapay zekanın pratikteki en büyük sorununu ortaya koyuyor: erişim ile yetki arasındaki çizgiyi nerede çiziyoruz. Tüketiciler uygulama izinlerini tıklamaya alışkın, ancak yazılımın bilgi okumasına izin vermek... Bir ajanın sizin adınıza hareket etmesine izin vermek, onun yabancılarla pazarlık yapmasına, bilgilerinizi paylaşmasına ve sizin adınıza kararlar almasına izin vermekten farklıdır. Teknik olarak, bir ajan bir kullanıcının verdiği izin sınırları içinde kalırken, kullanıcının yetki verdiğini hiç hayal etmediği bir şeyi yapabilir. Muse'un nasıl ödeme yaptığına dair bir Meta müşteri yardım sayfası, tüketicilere açıkça şunu söylüyor: "Muse'unuzun sizin adınıza yaptığı tüm işlemlerden siz sorumlusunuz. E-posta onaylarını, makbuzları ve ekstreleri takip edin." Meta'nın bir sözcüsü Vogue Business'a şunları söyledi: "Kullanıcılar her an kontrolü devralabilir, Muse satın almadan önce her zaman izin isteyecek şekilde tasarlandı ve bir insanın yapamayacağı şeyler yapması istendiğinde—bir etkinliğin tüm biletlerini satın almak gibi—etik tarama ilkelerini uygular."
Markaların hesabı ödemesi gereken yer
Fikir şu ki ajanlar bizim adımıza internette gezinеcek—ve bot ile müşteri arasındaki çizginin bulanıklaşması markalar ve perakendeciler için büyüyen bir sorun. Amazon, Meta'nın uygun izin almadığını, ajanın kendisini yapay zeka olarak tanımlamadığını ve müşteri hesaplarına ve giriş kimlik bilgilerine erişiminin gizlilik ve güvenlik endişeleri yarattığını savunarak Muse'un sitesinde alışveriş yapmasını zaten engelledi.
Buna karşılık Muse, kapılarını resmen ona açan markalara ve perakendecilere çok daha sorunsuz bir yola sahip. Meta, Walmart, Sephora, Gap ve diğerleriyle entegrasyonlar duyurdu; Shopify ile ortaklığı ise Muse'a satıcıların ürün kataloglarına yapılandırılmış erişim ve uygun mağazalar için ödeme sürecinden doğrudan bir yol sunuyor—Shopify'ın satıcıların açıp kapatabileceğini söylediği iki seçenek.
Markalar için bu, bir yapay zeka ajanını web sitelerinde tek başına gezinmeye bırakmadan potansiyel olarak güçlü yeni bir satış kanalına erişim anlamına gelebilir. Ancak aynı zamanda müşteri yolculuğunun kritik bir bölümü üzerindeki kontrolün bir kısmını Meta'ya bırakmak anlamına da geliyor. Ajan giderek alışveriş yapan ile mağaza arasında durabilir, ürünleri keşfedebilir, önerilerde bulunabilir ve bir müşterinin perakendecinin kendi web sitesini ziyaret etmesine gerek kalmadan satın alımları tamamlayabilir. Başka bir deyişle, markalar Muse'ta yeni bir müşteri kazanabilirken, geleneksel olarak onlarla gelen verilerin ve doğrudan ilişkinin bir kısmından vazgeçebilir. Bu, müşteri verilerinden ve marka deneyiminden bir ajanın bir şeyi yanlış yapması durumunda dolandırıcılık ve hesap verebilirliğe kadar her şey hakkında soruları gündeme getiriyor.
Bu aynı zamanda daha küçük markaları daha güvencesiz bir konumda bırakıyor: özel entegrasyonları müzakere edecek kaynak veya kaldıraca sahip olmayan bir yapay zeka ajanı, arkasındaki şirketle herhangi bir doğrudan ilişki olmadan sitelerine gelebilir ve bir müşteri adına işlem yapabilir.
"Marka veya satıcı, Meta ile bir satıcı anlaşmasının olmadığı durumlarda potansiyel olarak artık riski taşır ve perakendecileri denetlenmemiş ajan tabanlı işlemlere maruz bırakır," diyor Edwin Coe LLP'de fikri mülkiyet ortağı Nick Phillips.
Bu boşluklara ilişkin endişeler, Bank of America ve Capital One dahil altı büyük bankanın bu hafta ajan tabanlı ticaretі yöneten ortak küresel standartlar için ortak çağrıda bulunmasına yol açtı; şeffaflık, tüketici rızası, dolandırıcılık, veri gizliliği ve yapay zeka güdümlü bir işlem yanlış gittiğinde kimin sorumlu olduğu konusunda daha net kurallar dahil.
"Yapay zeka ajanları çocuk değil, ancak müşterilerin memnun olmadığı eylemlerde bulunduklarında, perakendeciler yasal olarak zorunlu olmasalar bile bunu düzeltme baskısı hissedecekler." Kate Winick, Forrester'da baş analist
Bankaların müdahalesi, markalar için daha büyük çözülmemiş soruya işaret ediyor: bir yapay zeka ajanı bir tüketicinin daha sonra itiraz ettiği bir satın alma yaptığında, bunu düzeltmekten kim sorumlu? Şimdilik uzmanlar, bu yükün çoğunun hâlâ perakendeciye düşebileceğini söylüyor.
"Markalar, şu anda dijital işlemlerde taşıdıkları tüm sorumluluğun ajan tabanlı işlemlere de uygulanmasını bekleyebilir. Sitelerinde yapılan satın alımların güvenliğini korumalı, ürünleri doğru şekilde temsil etmeli ve teslim etmeli ve mevcut tüketici koruma yasalarına uymalı, ayrıca her zaman yaptıkları gibi itibar sorunlarını yönetmelidirler," diyor Winick.
Bir çocuğun sipariş verdiği durumlara işaret ediyor... Bir sipariş Alexa üzerinden verilirse, Amazon genellikle yine de geri ödeme yapar, ancak sistemleri siparişi kendi hesap ayarlarını yöneterek önleme sorumluluğunu ebeveynlere yükler. "Yapay zeka ajanları çocuk değil, ancak bir müşterinin memnun olmadığı bir şey yaptıklarında, perakendeciler yasal olarak zorunlu olmasalar bile bunu düzeltme baskısı hissedecekler," diyor.
Sıkça Sorulan Sorular
İşte Büyük Teknoloji'nin yapay zeka ajanlarını yeni Labubular haline getirme trendi hakkında SSS listesi
Başlangıç Soruları
Bu bağlamda Labubu ne anlama geliyor
Labubu, sevimli, özelleştirilebilir ve modaya uygun olmasıyla bilinen popüler bir koleksiyonluk peluş oyuncaktır İnsanlar yapay zeka ajanlarının yeni Labubular olduğunu söylediğinde, teknoloji şirketlerinin yapay zeka asistanlarını sadece sıkıcı araçlar yerine sahip olunması gereken kişilik dolu dijital yol arkadaşları gibi hissettirmeye çalıştığını kastediyorlar
Yapay zeka ajanı nedir
Yapay zeka ajanı, size yardımcı olmak için kendi başına düşünebilen, plan yapabilen ve eylemde bulunabilen bir yazılım programıdır Basit bir sohbet robotundan farklı olarak, her adımda sizi yönlendirmeden web'de gezinebilir, e-posta gönderebilir veya randevu ayarlayabilir
Büyük Teknoloji neden yapay zeka ajanlarının oyuncak gibi olmasını ister
Çünkü oyuncaklar duygusaldır Yapay zeka ajanınıza bağlı hissederseniz, onu her gün kullanma, aksesuarlarını satın alma ve o şirketin ekosistemine sadık kalma olasılığınız daha yüksektir Bu, bir faydayı alışkanlığa dönüştürmekle ilgilidir
Bu yapay zeka ajanları gerçekten fiziksel oyuncaklar mı
Hayır Onlar uygulamalar, telefonlar veya akıllı hoparlörler içinde yaşayan dijital karakterler veya avatarlardır Ancak bazı şirketler onları daha gerçek hissettirmek için fiziksel aksesuarlar satıyor
Bunu hangi şirketler yapıyor
OpenAI Google Meta ve CharacterAI ile Rabbit gibi girişimler, hepsi farklı kişiliklere sahip yapay zeka ajanlarını ileri sürüyor
Orta Düzey Sorular
Bir yapay zeka ajanını koleksiyonluk gibi hissettiren ne
Temel özellikler şunları içerir
Kişilik Benzersiz bir ses mizah veya geçmiş hikaye
Özelleştirme Görünümünü adını ve becerilerini değiştirebilirsiniz
Nadirlik veya ayrıcalık Sınırlı süreli ajanlar veya özel yetenekler
Takas veya paylaşım Ajanınızı arkadaşlarınıza gösterebilirsiniz
Bu trendin faydaları nelerdir
Kullanımı daha kolay Dostane bir karakter boş bir metin kutusundan daha az korkutucu hissettirir
Daha iyi etkileşim Onunla gerçekten konuşmak istersiniz
Kişiselleştirme Tercihlerinizi öğrenir ve uyum sağlar
Eğlence Planlama gibi sıradan görevleri eğlenceli hale getirir
Bu yaklaşımla ilgili yaygın sorunlar nelerdir