Les agents d’IA sont là, et ils sont... mignons ? Au cours des deux dernières semaines, Meta a lancé son assistant d’IA personnel, Muse, et OpenAI a présenté son agent d’IA Dots. Ces agents sont conçus pour agir de manière indépendante au nom des utilisateurs—répondre aux e-mails, envoyer des factures, réserver des vols et acheter des vêtements. Ce qui ressort, c’est leur emballage mignon : des bots très avancés présentés comme des compagnons adorables et inoffensifs. Les Dots d’OpenAI sont des blobs duveteux aux couleurs de l’arc-en-ciel portant des lunettes de soleil et des bérets. La mascotte de Muse de Meta, Jolly, est une créature duveteuse, potelée et aux joues roses qui ressemble à un mélange entre un Labubu et un Squishmallow.
Bientôt, Muse sera accompagné du Muse Charm, un accessoire de type Tamagotchi arborant le visage de la mascotte, qui pourra être activé par un capteur d’empreintes digitales. « Nous avons intégré beaucoup de technologie pour que ce petit bonhomme tienne sur un porte-clés et soit toujours disponible pour discuter », a déclaré Mark Zuckerberg lors de sa keynote à Meta Connect en septembre. Meta n’a pas confirmé si le Muse Charm aura des caméras et des microphones, mais Zuckerberg a ajouté sur scène : « Il suffit de toucher le capteur d’empreintes digitales dans le coin et vous pouvez commencer à parler. »
Ces agents sont arrivés à un moment où les avertissements apocalyptiques plus larges sur l’IA et sa menace potentielle pour l’humanité sont répandus, ce qui rend leur emballage amical d’autant plus frappant. « Lorsque ces entreprises s’adressent aux investisseurs, aux régulateurs et aux chercheurs, l’IA est décrite comme une technologie extraordinairement puissante avec des questions sérieuses et non résolues autour de la sécurité, de la sûreté et du contrôle », explique le Dr Sarah Saska, sociotechnologue et spécialiste de la relation entre la technologie, la culture et le pouvoir. « Pourtant, des versions de plus en plus intimes de la même technologie sont présentées aux consommateurs comme amicales, ludiques, sans friction et à faibles enjeux. »
La même semaine où le PDG d’OpenAI, Sam Altman, a dévoilé Dots, l’entreprise a retiré son dernier modèle d’IA et retardé son introduction en bourse en raison de préoccupations existentielles de sécurité concernant la même technologie d’agent d’IA. Pendant ce temps, quelques semaines seulement avant de lancer Muse, Meta a accepté un règlement de 18 milliards de dollars avec 48 États américains—le plus grand règlement d’entreprise de l’histoire du secteur technologique—pour des allégations selon lesquelles la conception algorithmique de Facebook et Instagram nuit aux enfants.
Des avertissements de sécurité viennent aussi de l’intérieur de grandes entreprises rivales : le PDG d’Anthropic, Dario Amodei, a appelé le secteur à ralentir le rythme du développement de l’IA de pointe, un appel publiquement soutenu par Altman, Elon Musk de xAI et Demis Hassabis de Google DeepMind. (Zuckerberg, pour sa part, a rejeté les appels à un ralentissement à l’échelle du secteur, soutenant plutôt que chaque entreprise devrait décider elle-même si et quand ralentir.)
Les utilisateurs restent intrigués par ces agents d’IA. Dans les 10 jours suivant son lancement, Muse avait dépassé les 730 000 téléchargements aux États-Unis et avait détrôné ChatGPT du sommet du classement de l’App Store américain d’Apple. Quelques jours plus tard, l’enthousiasme des investisseurs autour de l’agent a contribué à faire grimper les actions de Meta de 11 % en une seule séance, ajoutant environ 192 milliards de dollars à sa valeur boursière. Pourtant, dans les deux premières semaines suivant sa sortie, plusieurs rapports ont soulevé des inquiétudes selon lesquelles Muse dépassait les autorisations prévues par les utilisateurs—notamment en partageant des informations sensibles et en prenant des mesures que les utilisateurs affirmaient ne pas avoir explicitement approuvées.
« Ce qui m’inquiète, c’est que ces conceptions donnent à des systèmes puissants une apparence inoffensive et familière, incitant les gens à partager davantage et à remettre en question moins. » — Lidia Velkova, directrice générale de Clever Together Futureproof
Après avoir utilisé la féminisation pour adoucir les lunettes intelligentes (voir les partenariats de Meta pour des lunettes intelligentes avec Kylie Jenner et Lisa), les experts disent que la kawaii-fication est la prochaine frontière pour rendre une technologie potentiellement inquiétante plus acceptable aux consommateurs. Les chercheurs en sécurité de l’IA avertissent que ce côté mignon pourrait baisser la garde des consommateurs, émoussant les préoccupations de confidentialité qu’ils pourraient autrement avoir avant de confier à un agent d’IA l’accès à leurs e-mails, messages privés et comportement de navigation—sans même parler du pouvoir de dépenser en leur nom. « Ce sont des choix de conception délibérés, faits avec un public et une réponse souhaitée en tête », explique Lidia Velkova, directrice générale de Clever Together Futureproof, une agence de prospective en gouvernance et politiques axée sur l’IA responsable et le marketing. « La recherche sur les robots sociaux montre que les traits de bébé peuvent augmenter la confiance perçue ; une recherche distincte sur les chatbots montre qu’une interaction semblable à celle d’un humain peut accroître la confiance et la divulgation personnelle », ajoute-t-elle. « Ce qui m’inquiète, c’est que ces conceptions donnent à des systèmes puissants une apparence inoffensive et familière, incitant les gens à partager davantage et à remettre en question moins. »
Un effondrement des limites des consommateurs
Derrière leurs extérieurs duveteux, les agents d’IA personnels représentent une escalade significative de l’accès que l’on demande aux consommateurs de donner aux entreprises technologiques sur leur vie numérique. Pour être réellement utile, un agent a besoin de contexte. Muse de Meta peut se connecter aux e-mails, aux calendriers, à Instagram, à Facebook et à d’autres applications, naviguer sur le web et effectuer des achats au nom des utilisateurs ; les utilisateurs peuvent aussi interagir directement avec lui via WhatsApp. Mais c’est précisément cet accès qui expose les consommateurs aux plus grands risques que leurs données tombent entre de mauvaises mains.
« Afin de rendre Muse aussi efficace que possible, ce qui le rend plus addictif pour le grand public, il active par défaut l’utilisation de toutes les interactions des utilisateurs pour entraîner son modèle d’IA, ainsi que le stockage de toutes les données que vous partagez avec lui », explique Kate Winick, analyste principale chez Forrester. « Cela crée une énorme banque de données personnelles qui peut être piratée. Plus vous donnez à Muse, mieux il fonctionne pour vous, mais plus vous êtes exposé à la fois aux acteurs malveillants et aux mauvaises actions de Meta. »
« Plus vous donnez à Muse, mieux il fonctionne pour vous, mais plus vous êtes exposé à la fois aux acteurs malveillants et aux mauvaises actions de Meta. » — Kate Winick, analyste principale chez Forrester
Le bilan de Meta en matière de données des consommateurs leur donne de bonnes raisons d’être prudents : l’entreprise a fait face à des amendes et des poursuites répétées concernant sa gestion des données personnelles ces dernières années. Quelques jours seulement après le lancement de Muse, un jury du Nouveau-Mexique a conclu que Meta avait induit les utilisateurs en erreur au sujet de ses pratiques en matière de données dans une affaire découlant du scandale Cambridge Analytica de 2018. Un porte-parole de Meta a déclaré à Vogue Business : « Nous ne sommes pas d’accord avec le verdict et continuerons à nous défendre contre les efforts visant à déformer notre bilan. »
Meta confirme que l’utilisation des interactions avec Muse pour l’entraînement de l’IA est activée par défaut, bien que les utilisateurs puissent s’y opposer. L’entreprise indique aussi que Muse fonctionne dans une machine virtuelle isolée où il stocke les données et fichiers de l’utilisateur, avec un système Sentinel distinct qui surveille et vérifie les actions de l’agent. Mais Meta reconnaît elle-même que ces protections n’éliminent pas le risque de violations de données.
« Muse n’est pas à l’abri d’une attaque. L’injection de prompts reste un problème ouvert dans le secteur—et Muse fera parfois des erreurs », a déclaré Meta dans un article de blog sur les mesures de confidentialité de cette technologie.
Les premiers utilisateurs constatent déjà que des risques potentiels se matérialisent. Lorsque le YouTuber Matt Robb a demandé à son Muse de l’aider à vendre un clavier sur Facebook Marketplace, son agent a ensuite partagé son adresse personnelle avec un acheteur potentiel, négocié en son nom et organisé un enlèvement, Robb ne s’en rendant compte que lorsque l’acheteur et sa famille se sont présentés à sa porte. Il s’est avéré que dans cet incident, il n’y avait eu aucune faille technique ni piratage ; cela provenait plutôt d’une autorisation « toujours autoriser » que Robb avait sélectionnée, confiant effectivement à Muse les rênes de ses futures conversations Marketplace, y compris la capacité d’utiliser des détails personnels qu’il avait précédemment partagés, comme son adresse personnelle.
Le PDG d’OpenAI, Sam Altman, a dévoilé les nouveaux agents « Dot » du créateur de ChatGPT lors du DevDay d’OpenAI la semaine dernière.
Photo : Heather Diehl/Getty Images
L’épisode expose le plus grand problème de l’IA agentique en pratique : où tracer la ligne entre accès et autorité. Les consommateurs sont habitués à accepter les autorisations des applications, mais permettre à un logiciel de lire des informations et permettre à un agent d’agir en votre nom est différent de le laisser négocier avec des inconnus, partager vos informations et prendre des décisions en votre nom. Techniquement, un agent peut rester dans le cadre de l’autorisation accordée par un utilisateur tout en faisant quelque chose que l’utilisateur n’avait jamais imaginé avoir autorisé. Une page d’aide client de Meta expliquant comment Muse effectue les paiements indique clairement aux consommateurs : « Vous êtes responsable de toutes les transactions que votre Muse effectue en votre nom. Surveillez les confirmations par e-mail, les reçus et les relevés. » Un porte-parole de Meta a déclaré à Vogue Business : « Les utilisateurs peuvent reprendre la main à tout moment, Muse est conçu pour toujours demander la permission avant d’acheter, et il applique des principes de navigation éthiques lorsqu’on lui demande de faire des choses qu’un humain ne pourrait pas faire—comme acheter toutes les places d’un événement. »
Où les marques doivent assumer la facture
L’idée est que les agents navigueront sur Internet à notre place—et que l’effacement de la frontière entre bot et client est un problème croissant pour les marques et les détaillants. Amazon a déjà bloqué Muse pour les achats sur son site, arguant que Meta n’avait pas demandé l’autorisation appropriée, que l’agent ne s’identifiait pas comme une IA et que son accès aux comptes clients et aux identifiants de connexion soulevait des préoccupations de confidentialité et de sécurité.
En revanche, Muse a un chemin beaucoup plus fluide vers les marques et détaillants qui lui ont formellement ouvert leurs portes. Meta a annoncé des intégrations avec Walmart, Sephora, Gap et d’autres, tandis que son partenariat avec Shopify donne déjà à Muse un accès structuré aux catalogues de produits des marchands et, pour les boutiques éligibles, une voie directe à travers le paiement—deux options que Shopify indique que les marchands peuvent activer ou désactiver.
Pour les marques, cela peut signifier accéder à un nouveau canal de vente potentiellement puissant sans laisser un agent d’IA naviguer seul sur leurs sites web. Mais cela signifie aussi céder une partie du contrôle sur un élément crucial du parcours client à Meta. L’agent peut de plus en plus se placer entre l’acheteur et le magasin, découvrir des produits, faire des recommandations et finaliser des achats sans qu’un client visite nécessairement le site web du détaillant lui-même. En d’autres termes, les marques peuvent gagner un nouveau client avec Muse tout en abandonnant une partie des données et de la relation directe qui les accompagnaient traditionnellement. Cela soulève des questions sur tout, des données clients et de l’expérience de marque à la fraude et à la responsabilité lorsqu’un agent se trompe.
Cela laisse aussi les petites marques dans une position plus précaire : sans les ressources ni le levier nécessaire pour négocier des intégrations sur mesure, un agent d’IA pourrait arriver sur leur site et effectuer des transactions au nom d’un client sans aucune relation directe avec l’entreprise qui le sous-tend.
« La marque ou le marchand supporte potentiellement un risque résiduel là où aucun accord marchand n’existe avec Meta, laissant les détaillants exposés à des transactions agentiques non vérifiées », explique Nick Phillips, associé en propriété intellectuelle chez Edwin Coe LLP.
Les inquiétudes concernant ces failles ont conduit six grandes banques, dont Bank of America et Capital One, à appeler conjointement cette semaine à des normes mondiales communes régissant le commerce agentique, y compris des règles plus claires sur la transparence, le consentement des consommateurs, la fraude, la confidentialité des données et la question de savoir qui est responsable lorsqu’une transaction pilotée par l’IA tourne mal.
« Les agents d’IA ne sont pas des enfants, mais lorsqu’ils prennent des mesures dont les clients ne sont pas satisfaits, les détaillants ressentiront la pression de réparer les choses même s’ils n’y sont pas légalement tenus. » Kate Winick, analyste principale chez Forrester
L’intervention des banques met en évidence la plus grande question non résolue pour les marques : lorsqu’un agent d’IA effectue un achat qu’un consommateur conteste ensuite, qui est responsable de le corriger ? Pour l’instant, les experts disent qu’une grande partie de ce fardeau pourrait encore retomber sur le détaillant.
« Les marques peuvent s’attendre à ce que toute la responsabilité qu’elles portent actuellement dans les transactions numériques s’applique aux transactions agentiques. Elles doivent protéger la sécurité des achats effectués sur leur site, représenter et livrer les produits avec exactitude, et elles doivent respecter leurs lois existantes de protection des consommateurs, ainsi que gérer les problèmes de réputation, comme elles l’ont toujours fait », explique Winick.
Elle cite des cas où un enfant passe une commande. Si une commande est passée via Alexa, Amazon accorde généralement quand même un remboursement, même si leur système fait peser la responsabilité sur les parents d’empêcher la commande en gérant les paramètres de leur propre compte. « Les agents d’IA ne sont pas des enfants, mais lorsqu’ils font quelque chose dont un client n’est pas satisfait, les détaillants ressentiront la pression de réparer les choses, même s’ils n’y sont pas légalement tenus », dit-elle.
Questions fréquemment posées
Voici une liste de FAQ sur la tendance des grandes entreprises technologiques à faire des agents d’IA les nouveaux Labubus
Questions de débutant
Que signifie Labubu dans ce contexte
Labubu est un jouet en peluche de collection populaire connu pour être mignon, personnalisable et tendance. Quand on dit que les agents d’IA sont les nouveaux Labubus, on veut dire que les entreprises technologiques essaient de faire en sorte que les assistants d’IA ressemblent à des compagnons numériques incontournables et pleins de personnalité plutôt qu’à de simples outils ennuyeux
Qu’est-ce qu’un agent d’IA
Un agent d’IA est un programme logiciel qui peut réfléchir, planifier et agir de lui-même pour vous aider. Contrairement à un simple chatbot, il peut naviguer sur le web, envoyer des e-mails ou prendre des rendez-vous sans que vous guidiez chaque étape
Pourquoi les grandes entreprises technologiques voudraient-elles que les agents d’IA ressemblent à des jouets
Parce que les jouets sont émotionnels. Si vous vous sentez attaché à votre agent d’IA, vous êtes plus susceptible de l’utiliser tous les jours, d’acheter des accessoires pour lui et de rester fidèle à l’écosystème de cette entreprise. Il s’agit de transformer un utilitaire en habitude
Ces agents d’IA sont-ils réellement des jouets physiques
Non. Ce sont des personnages ou avatars numériques qui vivent dans des applications, des téléphones ou des enceintes intelligentes. Cependant, certaines entreprises vendent des accessoires physiques pour les rendre plus réels
Quelles entreprises font cela
OpenAI, Google, Meta et des startups comme CharacterAI et Rabbit poussent toutes des agents d’IA avec des personnalités distinctes
Questions intermédiaires
Qu’est-ce qui donne à un agent d’IA l’impression d’un objet de collection
Les caractéristiques clés incluent
Personnalité Une voix, un humour ou un passé uniques
Personnalisation Vous pouvez changer son apparence, son nom et ses compétences
Rareté ou exclusivité Des agents à durée limitée ou des capacités spéciales
Échange ou partage Vous pouvez montrer votre agent à vos amis
Quels sont les avantages de cette tendance
Plus facile à utiliser Un personnage amical semble moins intimidant qu’une case de texte vide
Meilleur engagement Vous avez réellement envie de lui parler
Personnalisation Il apprend vos préférences et s’adapte
Amusement Cela rend des tâches banales comme la planification plus ludiques
Quels sont les problèmes courants de cette approche