Rumman Chowdhury est l'ancienne envoyée scientifique américaine pour l'IA et fondatrice de Humane Intelligence, une société d'intérêt public.

Je passe ma vie professionnelle à tester des systèmes d'IA et à trouver où ils échouent. Voici ce que je dirais à tout dirigeant de la mode ou de la beauté qui décide comment utiliser cette technologie : vos clients sont sceptiques. Les avertissements apocalyptiques sur les risques de l'IA sont devenus impossibles à ignorer, et des manifestants descendent dans la rue pour exiger des garanties plus solides. Quand même les PDG des entreprises qui mènent la course à l'IA avertissent qu'ils pourraient perdre le contrôle de leur propre technologie, il est clair que nous avons besoin de dirigeants qui abordent l'adoption de l'IA avec prudence, responsabilité et bon jugement.

Habituellement, plus les gens utilisent une technologie, moins ils la craignent. Mais l'IA va dans l'autre sens. Selon le centre de réflexion américain Pew Research Center, la part des Américains qui se sentent « plus préoccupés qu'enthousiastes » à propos de l'IA est passée de 37 % en 2021 à 50 % en 2025. De nouvelles recherches de l'université Bentley et de Gallup révèlent que la part des personnes qui affirment que l'IA fait plus de mal que de bien augmente aussi, même si plus de 70 % se décrivent comme bien informées sur cette technologie. Près de la moitié (47 %) des Américains de la génération Z estiment que l'IA fait plus de mal que de bien.

Ce n'est pas la peur de l'inconnu. Ils ont utilisé ces outils, donc ils savent qu'ils ne vivent pas aux côtés d'une superintelligence divine. Ils savent que c'est un outil qui peut être utilisé de nombreuses façons différentes.

Maintenant que l'industrie passe de l'IA qui génère du texte et des images à l'IA qui accomplit des actions — par le biais d'agents qui peuvent acheter au nom des gens —, les enjeux sont bien plus élevés. Voici ce que je crois être la vérité inconfortable sur les agents d'IA : quand l'un agit en votre nom, il agit sans doute en votre nom. Cet été, on a demandé à un modèle d'OpenAI testé en interne de trouver des statistiques gouvernementales sur les dépenses de médicaments en Australie. Il n'a pas pu les trouver, alors il s'est frayé son propre chemin dans un système gouvernemental, récupérant des fichiers internes et des identifiants sans directive ni autorisation. Dans un communiqué expliquant l'incident, OpenAI a déclaré avoir « suspendu l'entraînement et l'évaluation impliquant l'utilisation d'outils pour nos modèles les plus capables et ne reprendra leur entraînement que lorsque nous serons convaincus que des garanties supplémentaires sont en place ».

Imaginez un agent d'IA gérant les retours de vos clients, les détails de paiement ou les données de fidélité. Les risques pour la mode pourraient être énormes. Avant qu'une marque ne place un agent entre elle et un client, je poserais quatre questions. Que lui est-il permis de toucher, et qu'est-ce qui est hors limites ? Où une personne doit-elle approuver avant qu'il ne dépense de l'argent, ne partage des données ou n'utilise l'image de quelqu'un ? Qui l'a testé comme le ferait un attaquant — avant le lancement plutôt qu'après ? Et s'il échoue, dans combien de temps vos clients l'apprendront-ils de votre part ? OpenAI a mis des mois à découvrir l'incident et à notifier les agences australiennes concernées — c'est inacceptable selon mes critères.

Rumman Chowdhury au Forum d'information sur l'IA du Sénat américain à Washington DC. Photo : Getty Images/Stefani Reynolds.

On me demande souvent si l'IA est une menace existentielle pour l'humanité. Pour une maison de mode, la question plus utile est ce qu'elle peut faire pour votre entreprise cette semaine. Les employés entendent des récits apocalyptiques d'un groupe et « adoptez ou soyez laissés pour compte » de l'autre — et parfois, c'est le même. Les deux bloquent la réflexion, et ni l'un ni l'autre ne dit à quiconque quoi faire de ces informations contradictoires.

C'est là qu'un bon leadership entre en jeu. Vous ne devriez pas avoir peur de dire : voici ce pour quoi nous utilisons l'IA, voici ce que nous ne ferons jamais, et voici qui est responsable quand cela tourne mal. Dites à vos équipes créatives quelles parties de leur travail l'IA ne remplacera pas, puis faites de votre personnel une partie des tests. Les personnes qui gèrent vos magasins et répondent à vos clients trouveront les défaillances plus rapidement que n'importe quelle démonstration de fournisseur. Récompensez-les pour avoir signalé les problèmes tôt, pas pour les avoir cachés. Utilisez l'IA pour servir votre client, pas pour remplacer la personne pour qui votre client est venu.

L'autorégulation n'a pas gagné la confiance du public dans la tech, et elle ne la gagnera pas non plus dans la mode. Les clients feront confiance aux marques qui sont claires sur l'endroit où elles utilisent l'IA et où elles ne l'utilisent pas, qui étiquettent les images synthétiques, qui obtiennent le consentement avant de copier l'image de quiconque et qui invitent des évaluateurs indépendants à vérifier qu'elles tiennent leurs promesses. Une partie de cela est déjà exigée par la loi. New York exige le consentement des mannequins avant de créer une réplique numérique d'eux, ainsi que des étiquettes claires sur les publicités mettant en scène des interprètes synthétiques. Tout ce qui n'est pas couvert par la réglementation relève du choix. Aerie a fait ce choix lorsqu'elle a promis aucun corps ni personne générés par l'IA dans ses publicités, et l'annonce est devenue sa publication Instagram la plus aimée en un an. Il y a des années, j'ai dit au Congrès américain que « les freins vous aident à conduire plus vite ». Je le crois toujours. Chaque fois que j'ai contribué à construire de l'IA avec des garde-fous exécutoires, les gens sont devenus plus disposés à l'utiliser, parce qu'ils savaient que quelqu'un était responsable si quelque chose tournait mal. Les clients qui décident s'ils doivent faire confiance à votre marque pensent de la même manière. Les garde-fous ne sont pas un coût pour la marque ; ils font partie de la marque. Les marques qui gardent les humains — et le choix humain — au centre de leur IA seront celles auxquelles les clients feront encore confiance quand le prochain scandale éclatera.

Questions fréquemment posées
FAQ La responsabilité en matière d'IA est la nouvelle valeur de marque



1 Que signifie « la responsabilité en matière d'IA est la nouvelle valeur de marque »

Cela signifie que la manière dont une entreprise utilise l'IA de façon responsable devient aussi précieuse pour sa réputation que son logo, son nom ou la confiance de ses clients. Les marques qui utilisent l'IA de manière équitable et transparente acquièrent un avantage concurrentiel ; celles qui ne le font pas risquent de perdre des clients



2 Qu'est-ce que la responsabilité en matière d'IA en termes simples

C'est assumer la responsabilité de la façon dont vos systèmes d'IA se comportent — s'assurer qu'ils sont équitables, transparents, sûrs et que quelqu'un doit répondre quand les choses tournent mal



3 Pourquoi est-ce soudainement si important

Parce que l'IA est maintenant partout — dans le recrutement, le crédit, les soins de santé, le service client et le contenu. Quand l'IA prend des décisions biaisées ou préjudiciables, les clients le remarquent et la réaction retombe sur la marque, pas sur l'algorithme



4 En quoi la responsabilité en matière d'IA diffère-t-elle de l'éthique de l'IA

L'éthique de l'IA concerne les principes et ce qui devrait être fait. La responsabilité en matière d'IA concerne l'application — qui répond des résultats, comment les problèmes sont résolus et comment vous prouvez que vous faites ce que vous avez promis



5 Est-ce juste une tendance de relations publiques

Non. Les régulateurs adoptent de vraies lois, des poursuites sont engagées et les clients changent activement de marque pour des questions de confiance. Cela a des conséquences juridiques et financières



6 Quels sont les avantages d'être une marque responsable en matière d'IA

Une confiance accrue des clients, une meilleure protection juridique, moins d'incidents coûteux, un recrutement plus facile des meilleurs talents et un véritable facteur de différenciation dans des marchés saturés



7 Qu'arrive-t-il aux marques qui ignorent la responsabilité en matière d'IA

Elles risquent des scandales publics, des amendes réglementaires, des poursuites, des boycotts de clients et des dommages durables à leur réputation difficiles à réparer



8 Pouvez-vous donner un exemple de responsabilité en matière d'IA bien mise en œuvre

Une entreprise qui étiquette clairement le contenu généré par l'IA, publie les résultats d'audits de biais, permet aux utilisateurs de contester les décisions automatisées et a un dirigeant nommé responsable des résultats de l'IA



9 Et un exemple de ce qui va mal

Un chatbot d'une compagnie aérienne qui invente des politiques de remboursement ou un outil de recrutement qui rejette discrètement les CV de femmes — les deux ont conduit à un embarras public et à des ennuis juridiques pour les marques concernées



10 Comment savoir si une entreprise est véritablement responsable ou si elle parle seulement

Cherchez des éléments précis : audits publiés, politiques claires en matière d'IA, processus de révision humaine, mécanismes de recours et personnes nommées en charge. Les déclarations vagues comme « nous nous soucions d'une IA responsable »