Agenci AI już tu są i są... słodcy? W ciągu ostatnich dwóch tygodni Meta wprowadziła swojego osobistego asystenta AI, Muse, a OpenAI przedstawiło swojego agenta AI Dots. Ci agenci są zaprojektowani do działania niezależnie w imieniu użytkowników—odpowiadania na e-maile, wysyłania faktur, rezerwowania lotów i kupowania ubrań. Co się wyróżnia, to ich słodkie opakowanie: wysoce zaawansowane boty prezentowane jako uroczy, nieszkodliwi towarzysze. Dots OpenAI to puszyste, tęczowe kleksy noszące okulary przeciwsłoneczne i berety. Maskotka Muse od Meta, Jolly, to kudłate, pulchne, różowopoliczkowe stworzenie, które wygląda jak mieszanka Labubu i Squishmallow.
Wkrótce Muse będzie dostępna z Muse Charm, akcesorium przypominającym Tamagotchi, z twarzą maskotki, które można aktywować za pomocą czujnika odcisków palców. "Zapakowaliśmy dużo technologii, aby ten mały gość zmieścił się na breloku do kluczy i był zawsze dostępny do rozmowy", powiedział Mark Zuckerberg podczas swojego keynote na Meta Connect we wrześniu. Meta nie potwierdziła, czy Muse Charm będzie miał kamery i mikrofony, ale Zuckerberg dodał na scenie: "Wystarczy dotknąć czujnika odcisków palców w rogu i możesz zacząć rozmawiać."
Ci agenci pojawili się w czasie, gdy szeroko rozpowszechnione są ostrzeżenia o potencjalnym zagrożeniu dla ludzkości ze strony AI, co sprawia, że ich przyjazne opakowanie jeszcze bardziej się wyróżnia. "Kiedy te firmy rozmawiają z inwestorami, regulatorami i badaczami, AI jest opisywana jako niezwykle potężna technologia z poważnymi i nierozwiązanymi pytaniami dotyczącymi bezpieczeństwa, ochrony i kontroli", mówi dr Sarah Saska, socjotechnolożka i specjalistka od relacji technologii z kulturą i władzą. "Jednak coraz bardziej intymne wersje tej samej technologii są prezentowane konsumentom jako przyjazne, zabawne, beztarciowe i o niskich stawkach."
W tym samym tygodniu, gdy CEO OpenAI Sam Altman ujawnił Dots, firma wycofała swój najnowszy model AI i opóźniła IPO z powodu egzystencjalnych obaw o bezpieczeństwo związanych z tą samą technologią agenta AI. Tymczasem, zaledwie kilka tygodni przed premierą Muse, Meta zgodziła się na ugodę o wartości 18 miliardów dolarów z 48 stanami USA—największą ugodę korporacyjną w historii sektora technologicznego—w związku z zarzutami, że algorytmiczny projekt Facebooka i Instagrama szkodzi dzieciom.
Ostrzeżenia o bezpieczeństwie pochodzą również z wnętrza głównych konkurencyjnych firm: CEO Anthropic Dario Amodei wezwał branżę do spowolnienia tempa rozwoju frontier AI, apel publicznie poparty przez Altmana, Elona Muska z xAI i Demisa Hassabisa z Google DeepMind. (Zuckerberg ze swojej strony odrzucił wezwania do ogólnobranżowego spowolnienia, argumentując zamiast tego, że indywidualne firmy powinny same decydować, czy i kiedy zwolnić.)
Użytkownicy są nadal zaintrygowani tymi agentami AI. W ciągu 10 dni od premiery Muse miała ponad 730 000 pobrań w USA i zepchnęła ChatGPT z pierwszego miejsca w rankingu Apple's US App Store. Kilka dni później ekscytacja inwestorów wokół agenta pomogła wysłać akcje Meta w górę o 11% w jednej sesji, dodając około 192 miliardów dolarów do jej wartości rynkowej. Jednak w ciągu pierwszych dwóch tygodni od wydania kilka raportów wzbudziło obawy, że Muse przekracza zamierzone uprawnienia użytkowników—w tym udostępnianie wrażliwych informacji i podejmowanie działań, które użytkownicy twierdzili, że nie zatwierdzili wyraźnie.
"Moja obawa polega na tym, że te projekty sprawiają, że potężne systemy wydają się nieszkodliwe i znajome, zachęcając ludzi do dzielenia się więcej i kwestionowania mniej." — Lidia Velkova, dyrektorka zarządzająca Clever Together Futureproof
Po użyciu feminizacji do złagodzenia smart okularów (patrz partnerstwa Meta ze smart okularami z Kylie Jenner i Lisą), eksperci mówią, że kawaii-fikacja jest następnym frontem w czynieniu potencjalnie niepokojącej technologii bardziej przystępną dla konsumentów. Badacze bezpieczeństwa AI ostrzegają, że ta słodycz może obniżyć czujność konsumentów, przytępiając obawy o prywatność, które mogliby mieć przed przekazaniem agentowi AI dostępu do swoich e-maili, prywatnych wiadomości i zachowań przeglądania—nie mówiąc już o mocy wydawania w ich imieniu. "To są celowe wybory projektowe, dokonane z myślą o odbiorcach i pożądanej reakcji", mówi Lidia Velkova, dyrektorka zarządzająca Clever Together Futureproof, agencji foresightu governance i polityki skupionej na odpowiedzialnej AI i marketingu. "Badania nad robotami społecznymi pokazują, że cechy przypominające niemowlę mogą zwiększyć postrzeganą wiarygodność; osobne badania nad chatbotami pokazują, że interakcja przypominająca ludzką może zwiększyć zaufanie i osobiste ujawnianie", dodaje. "Moja obawa polega na tym, że te projekty sprawiają, że potężne systemy wydają się nieszkodliwe i znajome, zachęcając ludzi do dzielenia się więcej i kwestionowania mniej."
Upadek granic konsumenta
Za ich puszystymi zewnętrzami osobiste agenty AI reprezentują znaczącą eskalację dostępu, o który konsumenci są proszeni, aby przekazać firmom technologicznym do swojego cyfrowego życia. Aby być naprawdę użytecznym, agent potrzebuje kontekstu. Muse od Meta może łączyć się z e-mailem, kalendarzami, Instagramem, Facebookiem i innymi aplikacjami, przeglądać sieć i dokonywać zakupów w imieniu użytkowników; użytkownicy mogą również wchodzić z nim w interakcję bezpośrednio przez WhatsApp. Ale to właśnie ten dostęp naraża konsumentów na największe ryzyko, że ich dane trafią w niepowołane ręce.
"Aby uczynić Muse tak skuteczną, jak to możliwe, co czyni ją bardziej przyciągającą dla ogółu społeczeństwa, domyślnie włącza wszystkich użytkowników do wykorzystywania ich interakcji do trenowania swojego modelu AI, a także przechowuje wszystkie dane, które jej udostępniasz", mówi Kate Winick, główna analityczka w Forrester. "To tworzy ogromny bank danych osobowych, który może zostać zhakowany. Im więcej dajesz Muse, tym lepiej działa dla ciebie, ale tym bardziej jesteś narażony zarówno na złych aktorów, jak i złe działania Meta."
"Im więcej dajesz Muse, tym lepiej działa dla ciebie, ale tym bardziej jesteś narażony zarówno na złych aktorów, jak i złe działania Meta." — Kate Winick, główna analityczka w Forrester
Dotychczasowe osiągnięcia Meta w zakresie danych konsumenckich dają im dobry powód do ostrożności: firma spotkała się z powtarzającymi się grzywnami i pozwami dotyczącymi obsługi danych osobowych w ciągu ostatnich kilku lat. Zaledwie kilka dni po premierze Muse, ława przysięgłych w Nowym Meksyku uznała, że Meta wprowadziła użytkowników w błąd co do swoich praktyk dotyczących danych w sprawie wynikającej ze skandalu Cambridge Analytica w 2018 roku. Rzecznik Meta powiedział Vogue Business: "Nie zgadzamy się z werdyktem i będziemy nadal bronić się przed próbami zniekształcenia naszego rekordu."
Meta potwierdza, że wykorzystywanie interakcji z Muse do trenowania AI jest domyślnie włączone, choć użytkownicy mogą zrezygnować. Mówi również, że Muse działa w izolowanej maszynie wirtualnej, gdzie przechowuje dane i pliki użytkownika, z oddzielnym systemem Sentinel, który monitoruje i weryfikuje działania agenta. Ale sama Meta przyznaje, że te zabezpieczenia nie usuwają ryzyka naruszenia danych.
"Muse nie jest odporna na ataki. Prompt injection pozostaje otwartym problemem w branży—i Muse czasami będzie popełniać błędy", powiedziała Meta w poście na blogu o środkach prywatności tej technologii.
Wcześni użytkownicy już widzą potencjalne ryzyka w praktyce. Kiedy YouTuber Matt Robb poprosił swoją Muse o pomoc w sprzedaży klawiatury na Facebook Marketplace, jego agent następnie udostępnił jego adres domowy potencjalnemu kupującemu, negocjował w jego imieniu i zorganizował odbiór, a Robb zdał sobie sprawę dopiero, gdy kupujący i ich rodzina pojawili się pod jego drzwiami. Okazało się, że w tym incydencie nie było naruszenia technicznego ani hacka; raczej wynikało to z uprawnienia "allow-always", które Robb wybrał, skutecznie przekazując Muse stery do jego przyszłych rozmów na Marketplace, w tym możliwość korzystania z osobistych szczegółów, które wcześniej udostępnił, takich jak jego adres domowy.
CEO OpenAI Sam Altman ujawnił nowe "Dot" agenty twórcy ChatGPT na OpenAI's DevDay w zeszłym tygodniu.
Zdjęcie: Heather Diehl/Getty Images
Epizod ujawnia największy problem agentowego AI w praktyce: gdzie wyznaczamy granicę między dostępem a władzą. Konsumenci są przyzwyczajeni do klikania przez uprawnienia aplikacji, ale pozwolenie oprogramowaniu na czytanie informacji i pozwolenie agentowi na działanie w twoim imieniu różni się od pozwolenia mu na negocjowanie z nieznajomymi, udostępnianie twoich informacji i podejmowanie decyzji w twoim imieniu. Technicznie, agent może pozostać w granicach uprawnień przyznanych przez użytkownika, robiąc coś, czego użytkownik nigdy nie wyobrażał sobie, że autoryzował. Strona pomocy klienta Meta o tym, jak Muse dokonuje płatności, mówi konsumentom wprost: "Jesteś odpowiedzialny za wszystkie transakcje, które twoja Muse dokonuje w twoim imieniu. Uważaj na potwierdzenia e-mail, paragony i wyciągi." Rzecznik Meta powiedział Vogue Business: "Użytkownicy mogą przejąć kontrolę w dowolnym momencie, Muse jest zaprojektowana, aby zawsze pytać o pozwolenie przed zakupem, i stosuje etyczne zasady przeglądania, gdy jest proszona o robienie rzeczy, których człowiek nie mógłby—jak kupowanie wszystkich biletów na wydarzenie."
Gdzie marki muszą ponieść rachunek
Idea jest taka, że agenci będą nawigować po internecie w naszym imieniu—i że zacieranie granicy między botem a klientem jest rosnącym problemem dla marek i sprzedawców detalicznych. Amazon już zablokował Muse przed zakupami na swojej stronie, argumentując, że Meta nie uzyskała odpowiedniego pozwolenia, agent nie zidentyfikował się jako AI, a jego dostęp do kont klientów i danych logowania wzbudził obawy o prywatność i bezpieczeństwo.
W przeciwieństwie do tego, Muse ma znacznie gładszą ścieżkę do marek i sprzedawców detalicznych, którzy formalnie otworzyli przed nią drzwi. Meta ogłosiła integracje z Walmart, Sephora, Gap i innymi, podczas gdy jej partnerstwo z Shopify już daje Muse strukturalny dostęp do katalogów produktów merchantów i, dla kwalifikujących się sklepów, bezpośrednią trasę przez kasę—dwie opcje, które według Shopify merchanti mogą włączać lub wyłączać.
Dla marek może to oznaczać dostęp do potencjalnie potężnego nowego kanału sprzedaży bez pozostawiania agenta AI do nawigowania po ich stronach bez pomocy. Ale oznacza to również oddanie części kontroli nad kluczową częścią podróży klienta Meta. Agent może coraz częściej stać między kupującym a sklepem, odkrywając produkty, dokonując rekomendacji i finalizując zakupy bez konieczności odwiedzenia przez klienta własnej strony sprzedawcy detalicznego. Innymi słowy, marki mogą zyskać nowego klienta w Muse, jednocześnie oddając część danych i bezpośredniej relacji, które tradycyjnie z nimi przychodziły. To rodzi pytania o wszystko, od danych klientów i doświadczenia marki po oszustwa i odpowiedzialność, gdy agent coś zrobi źle.
To również pozostawia mniejsze marki w bardziej niepewnej pozycji: bez zasobów lub dźwigni do negocjowania niestandardowych integracji, agent AI może pojawić się na ich stronie i dokonać transakcji w imieniu klienta bez żadnej bezpośredniej relacji z firmą stojącą za nim.
"Marka lub merchant potencjalnie ponosi resztkowe ryzyko, gdy nie istnieje umowa merchantska z Meta, pozostawiając sprzedawców detalicznych narażonych na niezweryfikowane transakcje agentowe", mówi Nick Phillips, partner ds. własności intelektualnej w Edwin Coe LLP.
Obawy dotyczące tych luk skłoniły sześć głównych banków, w tym Bank of America i Capital One, do wspólnego wezwania w tym tygodniu do wspólnych globalnych standardów regulujących agentowy handel, w tym jaśniejszych zasad dotyczących przejrzystości, zgody konsumenta, oszustw, prywatności danych i tego, kto ponosi odpowiedzialność, gdy transakcja napędzana przez AI pójdzie źle.
"Agent AI nie są dziećmi, ale gdy podejmują działania, z którymi klienci nie są zadowoleni, sprzedawcy detaliczni poczują presję, aby to naprawić, nawet jeśli nie są do tego prawnie zobowiązani." Kate Winick, główna analityczka w Forrester
Interwencja banków wskazuje na większe nierozwiązane pytanie dla marek: gdy agent AI dokonuje zakupu, który konsument później kwestionuje, kto jest odpowiedzialny za naprawienie tego? Na razie eksperci mówią, że większość tego ciężaru może nadal spaść na sprzedawcę detalicznego.
"Marki mogą oczekiwać, że cała odpowiedzialność, którą obecnie ponoszą w transakcjach cyfrowych, będzie miała zastosowanie do transakcji agentowych. Muszą chronić bezpieczeństwo zakupów dokonywanych na ich stronie, dokładnie reprezentować i dostarczać produkty, i muszą przestrzegać istniejących przepisów o ochronie konsumentów, a także zarządzać kwestiami reputacyjnymi, tak jak zawsze", mówi Winick.
Wskazuje na przypadki, gdy dziecko składa zamówienie przez Alexa, Amazon zwykle nadal daje zwrot, nawet jeśli ich system zrzuca odpowiedzialność na rodziców, aby zapobiec zamówieniu poprzez zarządzanie własnymi ustawieniami konta. "Agent AI nie są dziećmi, ale gdy robią coś, z czym klient nie jest zadowolony, sprzedawcy detaliczni poczują presję, aby to naprawić, nawet jeśli nie są do tego prawnie zobowiązani", mówi.
Najczęściej zadawane pytania
Oto lista FAQ o trendzie Big Tech czyniącym agentów AI nowymi Labubu
Pytania dla początkujących
Co oznacza Labubu w tym kontekście
Labubu to popularna kolekcjonerska pluszowa zabawka znana z bycia słodką, konfigurowalną i modną. Kiedy ludzie mówią, że agenci AI są nowymi Labubu, mają na myśli, że firmy technologiczne próbują sprawić, aby asystenci AI wydawali się must-have, pełnymi osobowości cyfrowymi towarzyszami, a nie tylko nudnymi narzędziami
Czym jest agent AI
Agent AI to program komputerowy, który może myśleć, planować i podejmować działania samodzielnie, aby ci pomóc. W przeciwieństwie do prostego chatbota, może przeglądać sieć, wysyłać e-maile lub rezerwować spotkania bez kierowania przez ciebie każdego kroku
Dlaczego Big Tech chciałby, aby agenci AI byli jak zabawki
Ponieważ zabawki są emocjonalne. Jeśli czujesz przywiązanie do swojego agenta AI, prawdopodobnie będziesz go używać codziennie, kupować do niego akcesoria i pozostaniesz lojalny wobec ekosystemu tej firmy. Chodzi o zamienienie narzędzia w nawyk
Czy ci agenci AI są faktycznie fizycznymi zabawkami
Nie. To cyfrowe postacie lub awatary, które żyją w aplikacjach, telefonach lub inteligentnych głośnikach. Jednak niektóre firmy sprzedają fizyczne akcesoria, aby wydawały się bardziej realne
Które firmy to robią
OpenAI, Google, Meta i startupy takie jak CharacterAI i Rabbit wszystkie promują agentów AI o wyraźnych osobowościach
Pytania średniozaawansowane
Co sprawia, że agent AI wydaje się kolekcjonerski
Kluczowe cechy obejmują
Osobowość Unikalny głos, humor lub historia
Konfiguracja Możesz zmienić jego wygląd, nazwę i umiejętności
Rzadkość lub ekskluzywność Agenci o ograniczonym czasie lub specjalne zdolności
Wymiana lub udostępnianie Możesz pochwalić się swoim agentem przed znajomymi
Jakie są korzyści z tego trendu
Łatwiejszy w użyciu Przyjazna postać wydaje się mniej onieśmielająca niż puste pole tekstowe
Lepsze zaangażowanie Naprawdę chcesz z nim rozmawiać
Personalizacja Uczy się twoich preferencji i dostosowuje się
Zabawa Sprawia, że rutynowe zadania, takie jak planowanie, wydają się zabawne
Jakie są common problemy z tym podejściem