Agentes de IA estão aqui, e eles são... fofos? Nas últimas duas semanas, a Meta lançou sua assistente pessoal de IA, Muse, e a OpenAI apresentou seu agente de IA Dots. Esses agentes são projetados para agir de forma independente em nome dos usuários—respondendo e-mails, enviando faturas, reservando voos e comprando roupas. O que chama a atenção é seu empacotamento fofo: bots altamente avançados apresentados como companheiros adoráveis e inofensivos. Os Dots da OpenAI são bolhas felpudas coloridas de arco-íris usando óculos escuros e boinas. O mascote do Muse da Meta, Jolly, é uma criatura peluda, gordinha e de bochechas rosadas que parece uma mistura de Labubu com Squishmallow.

Em breve, o Muse virá com o Muse Charm, um acessório tipo Tamagotchi com o rosto do mascote que pode ser ativado com um sensor de impressão digital. "Empacotamos muita tecnologia para esse carinha caber em um chaveiro e estar sempre disponível para conversar", disse Mark Zuckerberg durante seu discurso principal na Meta Connect em setembro. A Meta não confirmou se o Muse Charm terá câmeras e microfones, mas Zuckerberg acrescentou no palco: "Você só toca o sensor de impressão digital no canto e pode começar a falar."

Esses agentes chegaram em um momento em que amplos alertas apocalípticos sobre IA a respeito de sua potencial ameaça à humanidade são generalizados, o que faz seu empacotamento amigável se destacar ainda mais. "Quando essas empresas falam com investidores, reguladores e pesquisadores, a IA é descrita como uma tecnologia extraordinariamente poderosa com questões sérias e não resolvidas sobre segurança, proteção e controle", diz a Dra. Sarah Saska, sociotecnóloga e especialista na relação da tecnologia com cultura e poder. "No entanto, versões cada vez mais íntimas da mesma tecnologia são apresentadas aos consumidores como amigáveis, lúdicas, sem atrito e de baixo risco."

Na mesma semana em que o CEO da OpenAI, Sam Altman, revelou os Dots, a empresa retirou seu mais recente modelo de IA e adiou seu IPO devido a preocupações existenciais de segurança sobre a mesma tecnologia de agente de IA. Enquanto isso, apenas semanas antes de lançar o Muse, a Meta concordou com um acordo de US$ 18 bilhões com 48 estados dos EUA—o maior acordo corporativo da história do setor de tecnologia—sobre alegações de que o design algorítmico do Facebook e do Instagram prejudica crianças.

Alertas de segurança também vêm de dentro das principais empresas rivais: o CEO da Anthropic, Dario Amodei, pediu que a indústria desacelerasse o ritmo do desenvolvimento de IA de fronteira, um apelo publicamente apoiado por Altman, Elon Musk da xAI e Demis Hassabis do Google DeepMind. (Zuckerberg, por sua vez, rejeitou pedidos de desaceleração em toda a indústria, argumentando em vez disso que empresas individuais deveriam decidir por si mesmas se e quando desacelerar.)

Os usuários ainda estão intrigados com esses agentes de IA. Em 10 dias após o lançamento, o Muse teve mais de 730.000 downloads nos EUA e tirou o ChatGPT do topo do ranking da App Store dos EUA da Apple. Dias depois, o entusiasmo dos investidores em torno do agente ajudou a enviar as ações da Meta para cima em 11% em uma única sessão, adicionando cerca de US$ 192 bilhões ao seu valor de mercado. No entanto, nas primeiras duas semanas de lançamento, vários relatos levantaram preocupações sobre o Muse ultrapassar as permissões pretendidas pelos usuários—incluindo compartilhar informações sensíveis e tomar ações que os usuários disseram que não haviam aprovado explicitamente.

"Minha preocupação é que esses designs fazem sistemas poderosos parecerem inofensivos e familiares, encorajando as pessoas a compartilhar mais e questionar menos." — Lidia Velkova, diretora administrativa da Clever Together Futureproof

Depois de usar a feminilização para suavizar óculos inteligentes (veja as parcerias de óculos inteligentes da Meta com Kylie Jenner e Lisa), especialistas dizem que a kawaii-ficação é a próxima fronteira para tornar a tecnologia potencialmente inquietante mais palatável para os consumidores. Pesquisadores de segurança de IA alertam que essa fofura pode baixar a guarda dos consumidores, embotando as preocupações com privacidade que eles poderiam ter antes de entregar a um agente de IA acesso aos seus e-mails, mensagens privadas e comportamento de navegação—muito menos o poder de gastar em seu nome. "Essas são escolhas de design deliberadas, feitas com um público e uma resposta desejada em mente", diz Lidia Velkova, diretora administrativa da Clever Together Futureproof, uma agência de governança e previsão de políticas focada em IA responsável e marketing. "Pesquisas sobre robôs sociais mostram que características infantis podem aumentar a confiabilidade percebida; pesquisas separadas sobre chatbots mostram que a interação semelhante à humana pode aumentar a confiança e a divulgação pessoal", ela acrescenta. "Minha preocupação é que esses designs fazem sistemas poderosos parecerem inofensivos e familiares, encorajando as pessoas a compartilhar mais e questionar menos."

Um colapso das fronteiras do consumidor

Por trás de seus exteriores felpudos, os agentes pessoais de IA representam uma escalada significativa no acesso que os consumidores estão sendo solicitados a entregar às empresas de tecnologia em suas vidas digitais. Para ser genuinamente útil, um agente precisa de contexto. O Muse da Meta pode se conectar a e-mail, calendários, Instagram, Facebook e outros aplicativos, navegar na web e fazer compras em nome dos usuários; os usuários também podem interagir com ele diretamente pelo WhatsApp. Mas é exatamente esse acesso que expõe os consumidores aos maiores riscos de seus dados caírem nas mãos erradas.

"Para tornar o Muse o mais eficaz possível, o que o torna mais viciante para o público em geral, ele opta por padrão por inscrever todos os usuários no uso de suas interações para treinar seu modelo de IA, bem como armazenar todos os dados que você compartilha com ele", diz Kate Winick, analista principal da Forrester. "Isso cria um enorme banco de dados pessoais que pode ser hackeado. Quanto mais você dá ao Muse, melhor ele funciona para você, mas mais exposto você fica tanto a agentes mal-intencionados quanto a ações ruins da Meta."

"Quanto mais você dá ao Muse, melhor ele funciona para você, mas mais exposto você fica tanto a agentes mal-intencionados quanto a ações ruins da Meta." — Kate Winick, analista principal da Forrester

O histórico da Meta com dados de consumidores lhes dá bons motivos para cautela: a empresa enfrentou repetidas multas e processos sobre seu manuseio de dados pessoais nos últimos anos. Apenas dias após o lançamento do Muse, um júri do Novo México considerou que a Meta havia enganado os usuários sobre suas práticas de dados em um caso decorrente do escândalo Cambridge Analytica em 2018. Um porta-voz da Meta disse à Vogue Business: "Discordamos do veredito e continuaremos a nos defender contra esforços para distorcer nosso histórico."

A Meta confirma que o uso de interações do Muse para treinamento de IA está habilitado por padrão, embora os usuários possam optar por não participar. Também diz que o Muse opera dentro de uma máquina virtual isolada onde armazena os dados e arquivos do usuário, com um sistema Sentinel separado que monitora e avalia as ações do agente. Mas a própria Meta reconhece que essas salvaguardas não removem o risco de violações de dados.

"O Muse não é imune a ataques. A injeção de prompt continua sendo um problema em aberto na indústria—e o Muse às vezes cometerá erros", disse a Meta em um post de blog sobre as medidas de privacidade da tecnologia.

Usuários iniciais já estão vendo potenciais riscos se desenrolarem. Quando o YouTuber Matt Robb pediu ao seu Muse para ajudá-lo a vender um teclado no Facebook Marketplace, seu agente subsequentemente compartilhou seu endereço residencial com um comprador em potencial, negociou em seu nome e organizou uma coleta, com Robb só percebendo quando o comprador e sua família apareceram em sua porta. Acontece que, neste incidente, não houve violação técnica ou hack; em vez disso, decorreu de uma permissão "permitir sempre" que Robb havia selecionado, efetivamente entregando ao Muse as rédeas de suas futuras conversas no Marketplace, incluindo a capacidade de usar detalhes pessoais que ele havia compartilhado anteriormente, como seu endereço residencial.

O CEO da OpenAI, Sam Altman, revelou os novos agentes "Dot" da criadora do ChatGPT no DevDay da OpenAI na semana passada.
Foto: Heather Diehl/Getty Images

O episódio expõe o maior problema da IA agêntica na prática: onde traçamos a linha entre acesso e autoridade. Os consumidores estão acostumados a clicar em permissões de aplicativos, mas permitir que o software leia informações e permitir que um agente aja em seu nome é diferente de deixá-lo negociar com estranhos, compartilhar suas informações e tomar decisões em seu nome. Tecnicamente, um agente pode permanecer dentro da permissão que um usuário concedeu enquanto faz algo que o usuário nunca imaginou que havia autorizado. Uma página de ajuda ao cliente da Meta sobre como o Muse faz pagamentos diz aos consumidores claramente: "Você é responsável por todas as transações que seu Muse faz em seu nome. Fique atento a confirmações por e-mail, recibos e extratos." Um porta-voz da Meta disse à Vogue Business: "Os usuários podem assumir o controle a qualquer momento, o Muse é projetado para sempre pedir permissão antes de comprar, e aplica princípios éticos de navegação quando solicitado a fazer coisas que um humano não poderia—como comprar todos os ingressos de um evento."

Onde as marcas devem arcar com a conta

A ideia é que os agentes navegarão na internet em nosso nome—e que o borramento da linha entre bot e cliente é um problema crescente para marcas e varejistas. A Amazon já bloqueou o Muse de comprar em seu site, argumentando que a Meta não havia buscado permissão adequada, o agente não se identificou como IA, e seu acesso a contas de clientes e credenciais de login levantou preocupações de privacidade e segurança.

Em contraste, o Muse tem um caminho muito mais suave para marcas e varejistas que formalmente abriram suas portas para ele. A Meta anunciou integrações com Walmart, Sephora, Gap e outros, enquanto sua parceria com a Shopify já dá ao Muse acesso estruturado aos catálogos de produtos dos comerciantes e, para lojas elegíveis, uma rota direta pelo checkout—duas opções que a Shopify diz que os comerciantes podem ativar ou desativar.

Para as marcas, isso pode significar ganhar acesso a um potencialmente poderoso novo canal de vendas sem deixar um agente de IA navegar em seus sites sem ajuda. Mas também significa abrir mão de algum controle sobre uma parte crucial da jornada do cliente para a Meta. O agente pode cada vez mais ficar entre o comprador e a loja, descobrindo produtos, fazendo recomendações e completando compras sem que um cliente necessariamente visite o site do próprio varejista. Em outras palavras, as marcas podem ganhar um novo cliente no Muse enquanto entregam parte dos dados e do relacionamento direto que tradicionalmente vinha com eles. Isso levanta questões sobre tudo, desde dados de clientes e experiência da marca até fraude e responsabilidade quando um agente erra.

Também deixa marcas menores em uma posição mais precária: sem os recursos ou influência para negociar integrações personalizadas, um agente de IA poderia chegar em seu site e transacionar em nome de um cliente sem qualquer relacionamento direto com a empresa por trás dele.

"A marca ou comerciante potencialmente arca com o risco residual onde não existe acordo de comerciante com a Meta, deixando os varejistas expostos a transações agênticas não verificadas", diz Nick Phillips, sócio de propriedade intelectual da Edwin Coe LLP.

Preocupações sobre essas brechas levaram seis grandes bancos, incluindo Bank of America e Capital One, a pedir conjuntamente esta semana padrões globais comuns que regulem o comércio agêntico, incluindo regras mais claras sobre transparência, consentimento do consumidor, fraude, privacidade de dados e quem é responsável quando uma transação impulsionada por IA dá errado.

"Agentes de IA não são crianças, mas quando tomam ações com as quais os clientes não estão satisfeitos, os varejistas sentirão a pressão para corrigir, mesmo que não sejam legalmente obrigados a fazê-lo." Kate Winick, analista principal da Forrester

A intervenção dos bancos aponta para a questão maior não resolvida para as marcas: quando um agente de IA faz uma compra que um consumidor posteriormente contesta, quem é responsável por corrigi-la? Por enquanto, especialistas dizem que muito desse fardo ainda pode recair sobre o varejista.

"As marcas podem esperar que toda a responsabilidade que atualmente carregam em transações digitais se aplique a transações agênticas. Elas devem proteger a segurança das compras feitas em seu site, representar e entregar produtos com precisão, e têm que honrar suas leis existentes de proteção ao consumidor, bem como gerenciar questões reputacionais, assim como sempre fizeram", diz Winick.

Ela aponta para casos em que uma criança faz um pedido. Se um pedido é feito pelo Alexa, a Amazon geralmente ainda dá um reembolso, mesmo que seu sistema coloque a responsabilidade nos pais de prevenir o pedido gerenciando suas próprias configurações de conta. "Agentes de IA não são crianças, mas quando fazem algo com que um cliente não está satisfeito, os varejistas sentirão pressão para corrigir, mesmo que não sejam legalmente obrigados a fazê-lo", ela diz.

Perguntas Frequentes
Aqui está uma lista de FAQs sobre a tendência das Big Techs de tornar agentes de IA os novos Labubus



Perguntas para Iniciantes



O que Labubu significa neste contexto

Labubu é um brinquedo de pelúcia colecionável popular conhecido por ser fofo, personalizável e moderno. Quando as pessoas dizem que agentes de IA são os novos Labubus, querem dizer que as empresas de tecnologia estão tentando fazer assistentes de IA parecerem companheiros digitais cheios de personalidade e indispensáveis, em vez de apenas ferramentas entediantes



O que é um agente de IA

Um agente de IA é um programa de software que pode pensar, planejar e tomar ações por conta própria para ajudá-lo. Diferente de um chatbot simples, ele pode navegar na web, enviar e-mails ou marcar compromissos sem que você guie cada passo



Por que as Big Techs iriam querer que agentes de IA fossem como brinquedos

Porque brinquedos são emocionais. Se você se sentir apegado ao seu agente de IA, é mais provável que o use todos os dias, compre acessórios para ele e permaneça leal ao ecossistema daquela empresa. Trata-se de transformar um utilitário em um hábito



Esses agentes de IA são realmente brinquedos físicos

Não. Eles são personagens digitais ou avatares que vivem dentro de aplicativos, telefones ou alto-falantes inteligentes. No entanto, algumas empresas vendem acessórios físicos para fazê-los parecer mais reais



Quais empresas estão fazendo isso

OpenAI, Google, Meta e startups como CharacterAI e Rabbit estão todas impulsionando agentes de IA com personalidades distintas



Perguntas Intermediárias



O que faz um agente de IA parecer um colecionável

Características principais incluem

Personalidade Uma voz, humor ou história de fundo únicos

Personalização Você pode mudar sua aparência, nome e habilidades

Raridade ou exclusividade Agentes por tempo limitado ou habilidades especiais

Troca ou compartilhamento Você pode exibir seu agente para amigos



Quais são os benefícios dessa tendência

Mais fácil de usar Um personagem amigável parece menos intimidante do que uma caixa de texto em branco

Melhor engajamento Você realmente quer falar com ele

Personalização Ele aprende suas preferências e se adapta

Diversão Torna tarefas mundanas como agendamento parecerem lúdicas



Quais são os problemas comuns com essa abordagem