Agenții AI sunt aici și sunt... drăguți? În ultimele două săptămâni, Meta și-a lansat asistentul AI personal, Muse, iar OpenAI a introdus agentul său AI Dots. Acești agenți sunt proiectați să acționeze independent în numele utilizatorilor—răspunzând la e-mailuri, trimițând facturi, rezervând zboruri și cumpărând haine. Ceea ce iese în evidență este ambalajul lor drăguț: boți extrem de avansați prezentați ca companionii adorabili și inofensivi. Dots de la OpenAI sunt bloburi pufoase colorate în curcubeu, purtând ochelari de soare și berete. Mascota Muse de la Meta, Jolly, este o creatură pufoasă, dolofană, cu obrajii roz, care arată ca un amestec între un Labubu și un Squishmallow.
În curând, Muse va veni cu Muse Charm, un accesoriu asemănător Tamagotchi, care prezintă fața mascotei și poate fi activat cu un senzor de amprentă. "Am împachetat multă tehnologie pentru ca acest micuț să încapă pe un breloc și să fie mereu disponibil pentru conversație", a declarat Mark Zuckerberg în timpul discursului său principal la Meta Connect în septembrie. Meta nu a confirmat dacă Muse Charm va avea camere și microfoane, dar Zuckerberg a adăugat pe scenă: "Doar atingi senzorul de amprentă din colț și poți începe să vorbești."
Acești agenți au sosit într-un moment în care avertismentele apocaliptice mai ample despre AI privind potențiala lor amenințare la adresa umanității sunt răspândite, ceea ce face ca ambalajul lor prietenos să iasă și mai mult în evidență. "Când aceste companii vorbesc cu investitori, reglementatori și cercetători, AI-ul este descris ca o tehnologie extraordinar de puternică, cu întrebări serioase și nerezolvate legate de siguranță, securitate și control", spune Dr. Sarah Saska, sociotehnolog și specialist în relația tehnologiei cu cultura și puterea. "Totuși, versiuni din ce în ce mai intime ale aceleiași tehnologii sunt prezentate consumatorilor ca prietenoase, jucăușe, fără frecare și cu mize reduse."
În aceeași săptămână în care CEO-ul OpenAI, Sam Altman, a dezvăluit Dots, compania și-a retras cel mai recent model AI și și-a amânat IPO-ul din cauza preocupărilor existențiale de siguranță legate de aceeași tehnologie de agent AI. Între timp, cu doar câteva săptămâni înainte de lansarea Muse, Meta a fost de acord cu o înțelegere de 18 miliarde de dolari cu 48 de state americane—cea mai mare înțelegere corporativă din istoria sectorului tehnologic—privind afirmațiile că designul algoritmic al Facebook și Instagram dăunează copiilor.
Avertismentele de siguranță vin și din interiorul marilor companii rivale: CEO-ul Anthropic, Dario Amodei, a îndemnat industria să încetinească ritmul dezvoltării AI de frontieră, un apel susținut public de Altman, Elon Musk de la xAI și Demis Hassabis de la Google DeepMind. (Zuckerberg, la rândul său, a respins apelurile pentru o încetinire la nivel de industrie, argumentând în schimb că companiile individuale ar trebui să decidă singure dacă și când să încetinească.)
Utilizatorii sunt încă intrigați de acești agenți AI. În 10 zile de la lansare, Muse a avut peste 730.000 de descărcări în SUA și a detronat ChatGPT de pe primul loc în clasamentul Apple App Store din SUA. Zile mai târziu, entuziasmul investitorilor față de agent a ajutat acțiunile Meta să crească cu 11% într-o singură sesiune, adăugând aproximativ 192 de miliarde de dolari la valoarea sa de piață. Totuși, în primele două săptămâni de la lansare, mai multe rapoarte au ridicat preocupări cu privire la faptul că Muse depășește permisiunile intenționate ale utilizatorilor—inclusiv partajarea de informații sensibile și efectuarea de acțiuni pe care utilizatorii au spus că nu le-au aprobat explicit.
"Preocuparea mea este că aceste design-uri fac sistemele puternice să pară inofensive și familiare, încurajând oamenii să împărtășească mai mult și să pună la îndoială mai puțin." — Lidia Velkova, director general la Clever Together Futureproof
După ce au folosit feminizarea pentru a înmuia ochelarii inteligenți (vezi parteneriatele Meta pentru ochelari inteligenți cu Kylie Jenner și Lisa), experții spun că kawaii-ficarea este următoarea frontieră în a face tehnologia potențial neliniștitoare să pară mai acceptabilă pentru consumatori. Cercetătorii în siguranța AI avertizează că această drăgălășenie ar putea scădea garda consumatorilor, tocită preocupările lor privind confidențialitatea pe care altfel le-ar avea înainte de a preda un agent AI cu acces la e-mailurile, mesajele private și comportamentul lor de navigare—darămite puterea de a cheltui în numele lor. "Acestea sunt alegeri de design deliberate, făcute cu un public și un răspuns dorit în minte", spune Lidia Velkova, director general la Clever Together Futureproof, o agenție de guvernanță și previziune politică axată pe AI responsabil și marketing. "Cercetările privind roboții sociali arată că trăsăturile asemănătoare bebelușilor pot crește încrederea percepută; cercetări separate privind chatbot-urile arată că interacțiunea asemănătoare omului poate crește încrederea și dezvăluirea personală", adaugă ea. "Preocuparea mea este că aceste design-uri fac sistemele puternice să pară inofensive și familiare, încurajând oamenii să împărtășească mai mult și să pună la îndoială mai puțin."
O prăbușire a granițelor consumatorilor
În spatele exteriorului lor pufos, agenții AI personali reprezintă o escaladare semnificativă a accesului pe care consumatorii sunt rugați să îl acorde companiilor de tehnologie la viețile lor digitale. Pentru a fi cu adevărat util, un agent are nevoie de context. Muse de la Meta se poate conecta la e-mail, calendare, Instagram, Facebook și alte aplicații, poate naviga pe web și poate face achiziții în numele utilizatorilor; utilizatorii pot interacționa cu el direct și prin WhatsApp. Dar exact acest acces îi expune pe consumatori celor mai mari riscuri ca datele lor să ajungă în mâini greșite.
"Pentru a face Muse cât mai eficient posibil, ceea ce îl face mai lipicios pentru publicul general, acesta optează implicit pentru ca toți utilizatorii să folosească interacțiunile lor pentru a-și antrena modelul AI, precum și să stocheze toate datele pe care le împărtășiți cu el", spune Kate Winick, analist principal la Forrester. "Acest lucru creează o bancă uriașă de date personale care pot fi hackuite. Cu cât îi dai mai mult lui Muse, cu atât funcționează mai bine pentru tine, dar cu atât ești mai expus atât actorilor rău-intenționați, cât și acțiunilor rele ale Meta."
"Cu cât îi dai mai mult lui Muse, cu atât funcționează mai bine pentru tine, dar cu atât ești mai expus atât actorilor rău-intenționați, cât și acțiunilor rele ale Meta." — Kate Winick, analist principal la Forrester
Istoricul Meta cu datele consumatorilor le oferă un motiv întemeiat de precauție: compania s-a confruntat cu amenzi și procese repetate privind gestionarea datelor personale în ultimii ani. La doar câteva zile după lansarea Muse, un juriu din New Mexico a constatat că Meta a indus în eroare utilizatorii cu privire la practicile sale de date într-un caz care decurge din scandalul Cambridge Analytica din 2018. Un purtător de cuvânt al Meta a declarat pentru Vogue Business: "Nu suntem de acord cu verdictul și vom continua să ne apărăm împotriva eforturilor de a distorsiona istoricul nostru."
Meta confirmă că utilizarea interacțiunilor Muse pentru antrenarea AI este activată implicit, deși utilizatorii pot renunța. De asemenea, spune că Muse operează într-o mașină virtuală izolată unde stochează datele și fișierele utilizatorului, cu un sistem Sentinel separat care monitorizează și verifică acțiunile agentului. Dar Meta însăși recunoaște că aceste măsuri de protecție nu elimină riscul de încălcare a datelor.
"Muse nu este imun la atac. Injecția de prompt rămâne o problemă deschisă în industrie—și Muse va face uneori greșeli", a declarat Meta într-o postare pe blog despre măsurile de confidențialitate ale tehnologiei.
Utilizatorii timpurii văd deja riscurile potențiale materializându-se. Când YouTuberul Matt Robb i-a cerut lui Muse să îl ajute să vândă o tastatură pe Facebook Marketplace, agentul său i-a împărtășit ulterior adresa de acasă unui potențial cumpărător, a negociat în numele său și a aranjat o colectare, Robb realizând abia când cumpărătorul și familia sa au apărut la ușa sa. S-a dovedit că în acest incident nu a existat nicio breșă tehnică sau hack; mai degrabă a provenit dintr-o permisiune "allow-always" pe care Robb o selectase, predând efectiv lui Muse frâiele conversațiilor sale viitoare pe Marketplace, inclusiv capacitatea de a folosi detalii personale pe care le împărtășise anterior, cum ar fi adresa de acasă.
CEO-ul OpenAI, Sam Altman, a dezvăluit noii agenți "Dot" ai producătorului ChatGPT la DevDay al OpenAI săptămâna trecută.
Foto: Heather Diehl/Getty Images
Episodul expune cea mai mare problemă a AI-ului agentic în practică: unde tragem linia între acces și autoritate. Consumatorii sunt obișnuiți să dea click prin permisiunile aplicațiilor, dar permiterea software-ului să citească informații și permiterea unui agent să acționeze în numele tău este diferită de a-l lăsa să negocieze cu străini, să îți împărtășească informațiile și să ia decizii în numele tău. Din punct de vedere tehnic, un agent poate rămâne în limitele permisiunii pe care un utilizator i-a acordat-o în timp ce face ceva ce utilizatorul nu și-a imaginat niciodată că a autorizat. O pagină de ajutor pentru clienți Meta despre modul în care Muse face plăți le spune consumatorilor clar: "Ești responsabil pentru toate tranzacțiile pe care Muse le face în numele tău. Fii atent la confirmările prin e-mail, chitanțele și extrasele de cont." Un purtător de cuvânt al Meta a declarat pentru Vogue Business: "Utilizatorii pot prelua controlul în orice moment, Muse este proiectat să ceară întotdeauna permisiunea înainte de a cumpăra și aplică principii etice de navigare atunci când i se cere să facă lucruri pe care un om nu le-ar putea face—cum ar fi să cumpere toate biletele pentru un eveniment."
Unde brandurile trebuie să plătească nota
Ideea este că agenții vor naviga pe internet în numele nostru—și că estomparea liniei dintre bot și client este o problemă în creștere pentru branduri și retaileri. Amazon a blocat deja Muse să facă cumpărături pe site-ul său, argumentând că Meta nu a solicitat permisiunea corespunzătoare, agentul nu s-a identificat ca AI, iar accesul său la conturile clienților și credențialele de conectare a ridicat preocupări de confidențialitate și securitate.
Prin contrast, Muse are o cale mult mai lină către brandurile și retailerii care și-au deschis formal ușile pentru el. Meta a anunțat integrări cu Walmart, Sephora, Gap și alții, în timp ce parteneriatul său cu Shopify oferă deja lui Muse acces structurat la cataloagele de produse ale comercianților și, pentru magazinele eligibile, o rută directă prin checkout—două opțiuni pe care Shopify spune că comercianții le pot activa sau dezactiva.
Pentru branduri, asta poate însemna accesul la un canal de vânzări potențial puternic nou fără a lăsa un agent AI să navigheze pe site-urile lor fără ajutor. Dar înseamnă și renunțarea la o parte din control asupra unei părți cruciale a călătoriei clientului către Meta. Agentul poate sta din ce în ce mai mult între cumpărător și magazin, descoperind produse, făcând recomandări și finalizând achiziții fără ca un client să viziteze neapărat site-ul web al retailerului. Cu alte cuvinte, brandurile pot câștiga un client nou în Muse, în timp ce renunță la o parte din datele și relația directă care veneau în mod tradițional cu ei. Asta ridică întrebări despre tot, de la datele clienților și experiența brandului până la fraudă și responsabilitate atunci când un agent greșește ceva.
De asemenea, lasă brandurile mai mici într-o poziție mai precară: fără resursele sau pârghia de a negocia integrări personalizate, un agent AI ar putea ajunge pe site-ul lor și tranzacționa în numele unui client fără nicio relație directă cu compania din spatele lui.
"Brandul sau comerciantul suportă potențial riscul rezidual acolo unde nu există un acord de comerciant cu Meta, lăsând retailerii expuși la tranzacții agentice neverificate", spune Nick Phillips, partener de proprietate intelectuală la Edwin Coe LLP.
Preocupările legate de aceste lacune au determinat șase bănci majore, inclusiv Bank of America și Capital One, să ceară în această săptămână în comun standarde globale comune care să guverneze comerțul agentic, inclusiv reguli mai clare privind transparența, consimțământul consumatorilor, frauda, confidențialitatea datelor și cine este răspunzător atunci când o tranzacție condusă de AI merge prost.
"Agenții AI nu sunt copii, dar când iau acțiuni cu care clienții nu sunt mulțumiți, retailerii vor simți presiunea să remedieze situația chiar dacă nu sunt obligați legal să o facă." Kate Winick, analist principal la Forrester
Intervenția băncilor indică întrebarea mai mare nerezolvată pentru branduri: când un agent AI face o achiziție pe care un consumator o contestă ulterior, cine este responsabil pentru remedierea ei? Deocamdată, experții spun că o mare parte din această povară ar putea ajunge tot la retailer.
"Brandurile se pot aștepta ca toată responsabilitatea pe care o poartă în prezent în tranzacțiile digitale să se aplice tranzacțiilor agentice. Trebuie să protejeze securitatea achizițiilor făcute pe site-ul lor, să reprezinte și să livreze produsele cu acuratețe și trebuie să respecte legile existente de protecție a consumatorilor, precum și să gestioneze problemele de reputație, exact așa cum au făcut întotdeauna", spune Winick.
Ea indică cazuri în care un copil plasează o comandă prin Alexa; Amazon de obicei oferă totuși o rambursare, chiar dacă sistemul lor pune responsabilitatea pe părinți să prevină comanda gestionându-și propriile setări de cont. "Agenții AI nu sunt copii, dar când fac ceva cu care un client nu este mulțumit, retailerii vor simți presiunea să remedieze situația, chiar dacă nu sunt obligați legal să o facă", spune ea.
Întrebări frecvente
Iată o listă de întrebări frecvente despre tendința marilor companii de tehnologie de a face agenții AI noii Labubu
Întrebări pentru începători
Ce înseamnă Labubu în acest context
Labubu este o jucărie de pluș colectabilă populară cunoscută pentru a fi drăguță, personalizabilă și trendy. Când oamenii spun că agenții AI sunt noii Labubu, înseamnă că companiile de tehnologie încearcă să facă asistenții AI să pară companionii digitali obligatorii, plini de personalitate, mai degrabă decât simple instrumente plictisitoare
Ce este un agent AI
Un agent AI este un program software care poate gândi, planifica și întreprinde acțiuni de unul singur pentru a te ajuta. Spre deosebire de un chatbot simplu, poate naviga pe web, trimite e-mailuri sau rezerva programări fără să ghidezi fiecare pas
De ce ar vrea marile companii de tehnologie ca agenții AI să fie ca jucăriile
Pentru că jucăriile sunt emoționale. Dacă te simți atașat de agentul tău AI, ești mai probabil să îl folosești zilnic, să cumperi accesorii pentru el și să rămâi loial ecosistemului acelei companii. Este vorba despre transformarea unei utilități într-un obicei
Sunt acești agenți AI de fapt jucării fizice
Nu. Sunt personaje digitale sau avatare care trăiesc în aplicații, telefoane sau difuzoare inteligente. Totuși, unele companii vând accesorii fizice pentru a le face să pară mai reale
Care companii fac asta
OpenAI, Google, Meta și startup-uri precum CharacterAI și Rabbit împing toate agenți AI cu personalități distincte
Întrebări intermediare
Ce face ca un agent AI să pară colectabil
Caracteristici cheie includ
Personalitate O voce, umor sau poveste de fundal unică
Personalizare Poți schimba aspectul, numele și abilitățile sale
Raritate sau exclusivitate Agenți pe timp limitat sau abilități speciale
Schimb sau partajare Poți arăta agentul tău prietenilor
Care sunt beneficiile acestei tendințe
Mai ușor de folosit Un personaj prietenos pare mai puțin intimidant decât o casetă de text goală
Angajament mai bun Chiar vrei să vorbești cu el
Personalizare Învață preferințele tale și se adaptează
Distracție Face ca sarcini banale precum programarea să pară jucăușe
Care sunt problemele comune cu această abordare