Gli agenti AI sono qui, e sono... carini? Nelle ultime due settimane, Meta ha lanciato il suo assistente AI personale, Muse, e OpenAI ha presentato il suo agente AI Dots. Questi agenti sono progettati per agire in modo indipendente per conto degli utenti—rispondendo alle email, inviando fatture, prenotando voli e acquistando vestiti. Ciò che colpisce è il loro packaging carino: bot altamente avanzati presentati come compagni adorabili e innocui. I Dots di OpenAI sono soffici blob dai colori arcobaleno che indossano occhiali da sole e berretti. La mascotte di Muse di Meta, Jolly, è una creatura pelosa, paffuta e dalle guance rosee che sembra un incrocio tra un Labubu e uno Squishmallow.

Presto, Muse sarà disponibile con il Muse Charm, un accessorio simile a un Tamagotchi con il volto della mascotte che può essere attivato con un sensore di impronte digitali. "Abbiamo inserito molta tecnologia in questo piccolo affinché possa stare su un portachiavi ed essere sempre disponibile per parlare", ha detto Mark Zuckerberg durante il suo keynote al Meta Connect di settembre. Meta non ha confermato se il Muse Charm avrà telecamere e microfoni, ma Zuckerberg ha aggiunto sul palco: "Basta toccare il sensore di impronte digitali nell'angolo e puoi iniziare a parlare".

Questi agenti sono arrivati in un momento in cui sono diffusi gli avvertimenti apocalittici più ampi sull'AI riguardo alla sua potenziale minaccia per l'umanità, il che rende il loro packaging amichevole ancora più evidente. "Quando queste aziende parlano a investitori, regolatori e ricercatori, l'AI viene descritta come una tecnologia straordinariamente potente con questioni serie e irrisolte riguardo a sicurezza, protezione e controllo", afferma la dottoressa Sarah Saska, sociotecnologa e specialista nel rapporto tra tecnologia, cultura e potere. "Eppure, versioni sempre più intime della stessa tecnologia vengono presentate ai consumatori come amichevoli, giocose, senza attriti e a basso rischio".

Nella stessa settimana in cui il CEO di OpenAI Sam Altman ha presentato Dots, l'azienda ha ritirato il suo ultimo modello di AI e rinviato la sua IPO a causa di preoccupazioni esistenziali sulla sicurezza legate alla stessa tecnologia degli agenti AI. Nel frattempo, poche settimane prima di lanciare Muse, Meta ha accettato un accordo da 18 miliardi di dollari con 48 stati americani—il più grande accordo aziendale nella storia del settore tecnologico—per accuse secondo cui il design algoritmico di Facebook e Instagram danneggia i bambini.

Gli avvertimenti sulla sicurezza arrivano anche dall'interno delle principali aziende rivali: il CEO di Anthropic Dario Amodei ha invitato il settore a rallentare il ritmo dello sviluppo dell'AI di frontiera, un appello pubblicamente sostenuto da Altman, Elon Musk di xAI e Demis Hassabis di Google DeepMind. (Zuckerberg, da parte sua, ha respinto le richieste di un rallentamento a livello industriale, sostenendo invece che le singole aziende dovrebbero decidere da sole se e quando rallentare.)

Gli utenti sono ancora incuriositi da questi agenti AI. Entro 10 giorni dal lancio, Muse aveva più di 730.000 download negli Stati Uniti e ha scalzato ChatGPT dalla vetta della classifica dell'App Store americano di Apple. Pochi giorni dopo, l'entusiasmo degli investitori per l'agente ha contribuito a far salire le azioni di Meta dell'11% in una sola sessione, aggiungendo circa 192 miliardi di dollari al suo valore di mercato. Eppure, nelle prime due settimane dal rilascio, diversi rapporti hanno sollevato preoccupazioni sul fatto che Muse abbia superato i permessi previsti dagli utenti—incluso condividere informazioni sensibili e intraprendere azioni che gli utenti hanno detto di non aver approvato esplicitamente.

"La mia preoccupazione è che questi design facciano sembrare sistemi potenti innocui e familiari, incoraggiando le persone a condividere di più e a mettere in dubbio di meno." — Lidia Velkova, direttrice generale di Clever Together Futureproof

Dopo aver usato la femminilizzazione per ammorbidire gli smart glasses (vedi le partnership di Meta per gli smart glasses con Kylie Jenner e Lisa), gli esperti dicono che la kawaii-ficazione è la prossima frontiera nel rendere la tecnologia potenzialmente inquietante più accettabile per i consumatori. I ricercatori sulla sicurezza dell'AI avvertono che questa tenerezza potrebbe abbassare le difese dei consumatori, attenuando le preoccupazioni sulla privacy che altrimenti potrebbero avere prima di affidare a un agente AI l'accesso alle loro email, ai messaggi privati e al comportamento di navigazione—per non parlare del potere di spendere per loro conto. "Queste sono scelte di design deliberate, fatte con in mente un pubblico e una risposta desiderata", afferma Lidia Velkova, direttrice generale di Clever Together Futureproof, un'agenzia di governance e previsione politica focalizzata sull'AI responsabile e sul marketing. "La ricerca sui robot sociali mostra che le caratteristiche infantili possono aumentare la fiducia percepita; una ricerca separata sui chatbot mostra che l'interazione simile a quella umana può aumentare la fiducia e la divulgazione personale", aggiunge. "La mia preoccupazione è che questi design facciano sembrare sistemi potenti innocui e familiari, incoraggiando le persone a condividere di più e a mettere in dubbio di meno."

Un crollo dei confini dei consumatori

Dietro i loro esterni pelosi, gli agenti AI personali rappresentano un'escalation significativa nell'accesso che ai consumatori viene chiesto di concedere alle aziende tecnologiche alla loro vita digitale. Per essere veramente utili, un agente ha bisogno di contesto. Muse di Meta può connettersi a email, calendari, Instagram, Facebook e altre app, navigare il web e fare acquisti per conto degli utenti; gli utenti possono anche interagire direttamente con esso tramite WhatsApp. Ma è proprio questo accesso che espone i consumatori ai maggiori rischi che i loro dati finiscano nelle mani sbagliate.

"Per rendere Muse il più efficace possibile, il che lo rende più sticky con il grande pubblico, l'impostazione predefinita è optare tutti gli utenti all'uso delle loro interazioni per addestrare il suo modello AI, oltre a memorizzare tutti i dati che condividi con esso", afferma Kate Winick, analista principale presso Forrester. "Questo crea una enorme banca di dati personali che può essere violata. Più dai a Muse, meglio funziona per te, ma più sei esposto sia ad attori malintenzionati che ad azioni sbagliate da parte di Meta."

"Più dai a Muse, meglio funziona per te, ma più sei esposto sia ad attori malintenzionati che ad azioni sbagliate da parte di Meta." — Kate Winick, analista principale presso Forrester

Il track record di Meta con i dati dei consumatori dà loro buone ragioni per essere cauti: l'azienda ha affrontato ripetute multe e cause legali sulla sua gestione dei dati personali negli ultimi anni. Pochi giorni dopo il lancio di Muse, una giuria del New Mexico ha stabilito che Meta aveva ingannato gli utenti sulle sue pratiche sui dati in un caso derivante dallo scandalo Cambridge Analytica del 2018. Un portavoce di Meta ha detto a Vogue Business: "Non siamo d'accordo con il verdetto e continueremo a difenderci contro gli sforzi di distorcere il nostro record."

Meta conferma che l'uso delle interazioni di Muse per l'addestramento dell'AI è abilitato per impostazione predefinita, anche se gli utenti possono disattivarlo. Afferma anche che Muse opera all'interno di una macchina virtuale isolata dove memorizza i dati e i file dell'utente, con un sistema Sentinel separato che monitora e verifica le azioni dell'agente. Ma Meta stessa riconosce che queste salvaguardie non eliminano il rischio di violazioni dei dati.

"Muse non è immune agli attacchi. L'iniezione di prompt rimane un problema aperto nel settore—e Muse a volte commetterà errori", ha detto Meta in un post sul blog sulle misure di privacy della tecnologia.

I primi utenti stanno già vedendo potenziali rischi concretizzarsi. Quando lo YouTuber Matt Robb ha chiesto al suo Muse di aiutarlo a vendere una tastiera su Facebook Marketplace, il suo agente ha successivamente condiviso il suo indirizzo di casa con un potenziale acquirente, negoziato per suo conto e organizzato un ritiro, con Robb che se ne è accorto solo quando l'acquirente e la sua famiglia si sono presentati alla sua porta. Si è scoperto che in questo incidente non c'era stata alcuna violazione tecnica o hack; piuttosto, derivava da un permesso "consenti sempre" che Robb aveva selezionato, consegnando effettivamente a Muse le redini delle sue future conversazioni su Marketplace, inclusa la capacità di attingere a dettagli personali che aveva condiviso in precedenza, come il suo indirizzo di casa.

Il CEO di OpenAI Sam Altman ha presentato i nuovi agenti "Dot" dell'azienda produttrice di ChatGPT all'OpenAI DevDay la scorsa settimana.
Foto: Heather Diehl/Getty Images

L'episodio espone il più grande problema dell'AI agentica in pratica: dove tracciamo la linea tra accesso e autorità. I consumatori sono abituati a cliccare attraverso i permessi delle app, ma permettere al software di leggere informazioni e permettere a un agente di agire per tuo conto è diverso dal lasciarlo negoziare con estranei, condividere le tue informazioni e prendere decisioni a tuo nome. Tecnicamente, un agente può rimanere all'interno del permesso concesso da un utente mentre fa qualcosa che l'utente non aveva mai immaginato di aver autorizzato. Una pagina di aiuto clienti di Meta su come Muse effettua i pagamenti dice chiaramente ai consumatori: "Sei responsabile di tutte le transazioni che il tuo Muse fa per tuo conto. Tieni d'occhio le conferme email, le ricevute e gli estratti conto." Un portavoce di Meta ha detto a Vogue Business: "Gli utenti possono riprendere il controllo in qualsiasi momento, Muse è progettato per chiedere sempre il permesso prima di acquistare, e applica principi etici di navigazione quando gli viene chiesto di fare cose che un umano non potrebbe—come comprare tutti i biglietti per un evento."

Dove i brand devono accollarsi il conto

L'idea è che gli agenti navigheranno Internet per nostro conto—e che la sfumatura della linea tra bot e cliente è un problema crescente per brand e rivenditori. Amazon ha già bloccato Muse dallo shopping sul suo sito, sostenendo che Meta non aveva cercato il permesso appropriato, l'agente non si identificava come AI e il suo accesso agli account dei clienti e alle credenziali di login sollevava preoccupazioni sulla privacy e la sicurezza.

Al contrario, Muse ha un percorso molto più agevole verso brand e rivenditori che hanno formalmente aperto loro le porte. Meta ha annunciato integrazioni con Walmart, Sephora, Gap e altri, mentre la sua partnership con Shopify dà già a Muse un accesso strutturato ai cataloghi prodotti dei commercianti e, per i negozi idonei, una via diretta attraverso il checkout—due opzioni che Shopify dice che i commercianti possono attivare o disattivare.

Per i brand, ciò può significare ottenere accesso a un potenzialmente potente nuovo canale di vendita senza lasciare che un agente AI navighi i loro siti web da solo. Ma significa anche cedere parte del controllo su una parte cruciale del percorso del cliente a Meta. L'agente può sempre più frapporsi tra acquirente e negozio, scoprendo prodotti, facendo raccomandazioni e completando acquisti senza che un cliente visiti necessariamente il sito web del rivenditore. In altre parole, i brand possono guadagnare un nuovo cliente in Muse mentre cedono parte dei dati e della relazione diretta che tradizionalmente ne derivavano. Ciò solleva domande su tutto, dai dati dei clienti e l'esperienza del brand alla frode e alla responsabilità quando un agente sbaglia qualcosa.

Mette anche i brand più piccoli in una posizione più precaria: senza le risorse o la leva per negoziare integrazioni su misura, un agente AI potrebbe arrivare sul loro sito e transare per conto di un cliente senza alcuna relazione diretta con l'azienda dietro di esso.

"Il brand o il commerciante potenzialmente sopporta il rischio residuo dove non esiste un accordo commerciale con Meta, lasciando i rivenditori esposti a transazioni agentiche non verificate", afferma Nick Phillips, partner per la proprietà intellettuale presso Edwin Coe LLP.

Le preoccupazioni su queste scappatoie hanno portato sei grandi banche, tra cui Bank of America e Capital One, a chiedere congiuntamente questa settimana standard globali comuni che governino il commercio agentico, incluse regole più chiare su trasparenza, consenso dei consumatori, frode, privacy dei dati e chi è responsabile quando una transazione guidata dall'AI va storta.

"Gli agenti AI non sono bambini, ma quando intraprendono azioni con cui i clienti non sono soddisfatti, i rivenditori sentiranno la pressione di sistemare le cose anche se non sono legalmente tenuti a farlo." Kate Winick, analista principale presso Forrester

L'intervento delle banche indica la più grande domanda irrisolta per i brand: quando un agente AI fa un acquisto che un consumatore successivamente contesta, chi è responsabile di sistemarlo? Per ora, gli esperti dicono che gran parte di quel peso potrebbe ancora ricadere sul rivenditore.

"I brand possono aspettarsi che tutta la responsabilità che attualmente sopportano nelle transazioni digitali si applichi alle transazioni agentiche. Devono proteggere la sicurezza degli acquisti fatti sul loro sito, rappresentare e consegnare accuratamente i prodotti, e devono rispettare le loro leggi esistenti sulla protezione dei consumatori, oltre a gestire problemi reputazionali, proprio come hanno sempre fatto", afferma Winick.

Lei indica casi in cui un bambino effettua un ordine tramite Alexa; Amazon di solito concede comunque un rimborso, anche se il loro sistema attribuisce la responsabilità ai genitori di prevenire l'ordine gestendo le impostazioni del proprio account. "Gli agenti AI non sono bambini, ma quando fanno qualcosa con cui un cliente non è soddisfatto, i rivenditori sentiranno la pressione di sistemare le cose, anche se non sono legalmente tenuti a farlo", dice.

Domande frequenti
Ecco un elenco di FAQ sulla tendenza delle Big Tech a rendere gli agenti AI i nuovi Labubu



Domande per principianti



Cosa significa Labubu in questo contesto

Labubu è un popolare peluche da collezione noto per essere carino, personalizzabile e alla moda. Quando si dice che gli agenti AI sono i nuovi Labubu, si intende che le aziende tecnologiche stanno cercando di far sembrare gli assistenti AI dei compagni digitali pieni di personalità che è d'obbligo avere, piuttosto che semplici strumenti noiosi



Cos'è un agente AI

Un agente AI è un programma software che può pensare, pianificare e intraprendere azioni da solo per aiutarti. A differenza di un semplice chatbot, può navigare il web, inviare email o prenotare appuntamenti senza che tu guidi ogni singolo passo



Perché le Big Tech vorrebbero che gli agenti AI fossero come giocattoli

Perché i giocattoli sono emotivi. Se ti senti legato al tuo agente AI, è più probabile che lo usi ogni giorno, acquisti accessori per esso e rimanga fedele all'ecosistema di quell'azienda. Si tratta di trasformare un'utilità in un'abitudine



Questi agenti AI sono effettivamente giocattoli fisici

No. Sono personaggi digitali o avatar che vivono dentro app, telefoni o altoparlanti intelligenti. Tuttavia, alcune aziende vendono accessori fisici per farli sembrare più reali



Quali aziende stanno facendo questo

OpenAI, Google, Meta e startup come CharacterAI e Rabbit stanno tutte spingendo agenti AI con personalità distinte



Domande intermedie



Cosa fa sembrare un agente AI come un oggetto da collezione

Le caratteristiche chiave includono

Personalità Una voce, un umorismo o una storia di fondo unici

Personalizzazione Puoi cambiare il suo aspetto, nome e abilità

Rarità o esclusività Agenti a tempo limitato o abilità speciali

Scambio o condivisione Puoi mostrare il tuo agente agli amici



Quali sono i benefici di questa tendenza

Più facile da usare Un personaggio amichevole sembra meno intimidatorio di una casella di testo vuota

Migliore coinvolgimento Vuoi davvero parlarci

Personalizzazione Impara le tue preferenze e si adatta

Divertimento Rende compiti banali come la pianificazione divertenti



Quali sono i problemi comuni con questo approccio