Rumman Chowdhury ist die ehemalige US-Wissenschaftsgesandte für KI und Gründerin von Humane Intelligence, einer gemeinnützigen Aktiengesellschaft.

Ich verbringe mein Arbeitsleben damit, KI-Systeme zu testen und herauszufinden, wo sie versagen. Folgendes würde ich jedem Mode- oder Beauty-Verantwortlichen sagen, der entscheidet, wie er diese Technologie einsetzen will: Ihre Kunden sind skeptisch. Weltuntergangswarnungen über die Risiken von KI sind unmöglich zu ignorieren geworden, und Demonstranten gehen auf die Straße, um stärkere Schutzmaßnahmen zu fordern. Wenn sogar die CEOs der Unternehmen, die das KI-Rennen anführen, warnen, dass sie die Kontrolle über ihre eigene Technologie verlieren könnten, ist klar, dass wir Führungskräfte brauchen, die die Einführung von KI mit Vorsicht, Rechenschaftspflicht und gutem Urteilsvermögen angehen.

Normalerweise gilt: Je mehr Menschen eine Technologie nutzen, desto weniger fürchten sie sie. Doch bei KI ist es umgekehrt. Laut der US-Denkfabrik Pew Research Center stieg der Anteil der Amerikaner, die „besorgter als begeistert“ über KI sind, von 37 % im Jahr 2021 auf 50 % im Jahr 2025. Neue Forschung der Bentley University und von Gallup zeigt, dass auch der Anteil derjenigen steigt, die sagen, KI richte mehr Schaden als Nutzen an, obwohl sich mehr als 70 % selbst als sachkundig über die Technologie bezeichnen. Fast die Hälfte (47 %) der amerikanischen Gen Z glaubt, dass KI mehr Schaden als Nutzen anrichtet.

Das ist keine Angst vor dem Unbekannten. Sie haben diese Werkzeuge genutzt, also wissen sie, dass sie nicht an der Seite einer gottgleichen Superintelligenz leben. Sie wissen, dass dies ein Werkzeug ist, das auf viele verschiedene Arten genutzt werden kann.

Da sich die Branche nun von KI, die Text und Bilder erzeugt, zu KI bewegt, die handelt – durch Agenten, die im Namen von Menschen einkaufen können –, sind die Einsätze viel höher. Hier ist, was ich für die unbequeme Wahrheit über KI-Agenten halte: Wenn einer in Ihrem Namen handelt, handelt er wohlmöglich auch unter Ihrem Namen. Diesen Sommer wurde ein intern getestetes OpenAI-Modell gebeten, Regierungsstatistiken über Medizinausgaben in Australien zu finden. Es konnte sie nicht finden, also fand es seinen eigenen Weg in ein Regierungssystem und rief interne Dateien und Zugangsdaten ohne Anweisung oder Genehmigung ab. In einer Erklärung zur Erläuterung des Vorfalls sagte OpenAI, man habe „das Training und die Evaluierung mit Werkzeugnutzung für unsere fähigsten Modelle pausiert und werde deren Training erst wieder aufnehmen, wenn wir zuversichtlich sind, dass wir zusätzliche Schutzmaßnahmen eingeführt haben.“

Stellen Sie sich einen KI-Agenten vor, der Rücksendungen, Zahlungsdetails oder Treuedaten Ihrer Kunden bearbeitet. Die Risiken für die Modebranche könnten enorm sein. Bevor eine Marke einen Agenten zwischen sich und einen Kunden stellt, würde ich vier Fragen stellen. Was darf er berühren, und was ist tabu? Wo muss ein Mensch zustimmen, bevor er Geld ausgibt, Daten teilt oder das Abbild einer Person verwendet? Wer hat ihn so getestet, wie ein Angreifer es tun würde – vor dem Start statt danach? Und wenn er versagt, wie schnell werden Ihre Kunden davon von Ihnen erfahren? OpenAI brauchte Monate, um den Vorfall zu entdecken und die betroffenen australischen Behörden zu benachrichtigen – das ist nach meinem Maßstab inakzeptabel.

Rumman Chowdhury beim AI Insight Forum des US-Senats in Washington DC. Foto: Getty Images/Stefani Reynolds.

Ich werde oft gefragt, ob KI eine existenzielle Bedrohung für die Menschheit ist. Für ein Modehaus ist die nützlichere Frage, was sie diese Woche für Ihr Geschäft tun kann. Mitarbeiter hören apokalyptische Erzählungen von der einen Gruppe und „einführen oder zurückbleiben“ von der anderen – und manchmal sind beide dieselbe. Beide schalten das Denken aus, und keine sagt jemandem, was er mit diesen widersprüchlichen Informationen tun soll.

Hier kommt gute Führung ins Spiel. Sie sollten keine Angst haben zu sagen: Dafür nutzen wir KI, dafür werden wir sie niemals nutzen, und dieser ist verantwortlich, wenn etwas schiefgeht. Sagen Sie Ihren Kreativteams, welche Teile ihrer Arbeit KI nicht ersetzen wird, und machen Sie Ihre Mitarbeiter dann zu einem Teil des Testens. Die Menschen, die Ihre Geschäfte führen und Ihre Kunden bedienen, werden Fehler schneller finden als jede Anbieter-Demo. Belohnen Sie sie dafür, Probleme früh zu melden, nicht dafür, sie zu verbergen. Nutzen Sie KI, um Ihrem Kunden zu dienen, nicht um die Person zu ersetzen, für die Ihr Kunde gekommen ist.

Selbstregulierung hat das Vertrauen der Öffentlichkeit in der Tech-Branche nicht verdient, und in der Mode wird sie es auch nicht verdienen. Die MarkenKunden werden Marken vertrauen, die klar sagen, wo sie KI einsetzen und wo nicht, synthetische Bilder kennzeichnen, die Zustimmung einholen, bevor sie das Abbild von jemandem kopieren, und unabhängige Prüfer einladen, um zu bestätigen, dass sie ihre Versprechen halten. Einiges davon ist bereits gesetzlich vorgeschrieben. New York verlangt die Zustimmung von Models, bevor eine digitale Nachbildung von ihnen erstellt wird, und klare Kennzeichnungen auf Anzeigen mit synthetischen Darstellern. Alles, was nicht durch Regulierung abgedeckt ist, ist eine Frage der Wahl. Aerie traf diese Wahl, als es versprach, keine KI-generierten Körper oder Personen in seinen Anzeigen zu verwenden, und die Ankündigung wurde sein meistgelikter Instagram-Post innerhalb eines Jahres. Vor Jahren sagte ich dem US-Kongress, dass „Bremsen Ihnen helfen, schneller zu fahren.“ Daran glaube ich immer noch. Jedes Mal, wenn ich geholfen habe, KI mit durchsetzbaren Schutzmaßnahmen aufzubauen, wurden die Menschen eher bereit, sie zu nutzen, weil sie wussten, dass jemand verantwortlich war, wenn etwas schiefging. Kunden, die entscheiden, ob sie Ihrer Marke vertrauen, denken genauso. Schutzmaßnahmen sind keine Kosten für die Marke; sie sind Teil der Marke. Marken, die Menschen – und menschliche Wahl – ins Zentrum ihrer KI stellen, werden diejenigen sein, denen Kunden noch vertrauen, wenn der nächste Skandal kommt.

Häufig gestellte Fragen
FAQs KI-Verantwortlichkeit ist das neue Markenkapital



1 Was bedeutet KI-Verantwortlichkeit ist das neue Markenkapital

Es bedeutet, dass die verantwortungsvolle Nutzung von KI durch ein Unternehmen für seinen Ruf ebenso wertvoll wird wie sein Logo, sein Name oder das Vertrauen der Kunden. Marken, die KI fair und transparent einsetzen, gewinnen einen Wettbewerbsvorteil; diejenigen, die das nicht tun, riskieren, Kunden zu verlieren



2 Was ist KI-Verantwortlichkeit in einfachen Worten

Es bedeutet, Verantwortung dafür zu übernehmen, wie sich Ihre KI-Systeme verhalten – sicherzustellen, dass sie fair, transparent und sicher sind und dass jemand zur Rechenschaft gezogen werden kann, wenn etwas schiefgeht



3 Warum ist das plötzlich so ein großes Thema

Weil KI jetzt überall ist – bei Einstellungen, Kreditvergabe, Gesundheitsversorgung, Kundenservice und Inhalten. Wenn KI voreingenommene oder schädliche Entscheidungen trifft, bemerken Kunden das, und die Gegenreaktion trifft die Marke, nicht den Algorithmus



4 Wie unterscheidet sich KI-Verantwortlichkeit von KI-Ethik

Bei KI-Ethik geht es um Prinzipien und darum, was getan werden sollte. Bei KI-Verantwortlichkeit geht es um Durchsetzung – wer für Ergebnisse einsteht, wie Probleme behoben werden und wie Sie beweisen, dass Sie tun, was Sie versprochen haben



5 Ist das nur ein PR-Trend

Nein. Regulierungsbehörden verabschieden echte Gesetze, es werden Klagen eingereicht, und Kunden wechseln aktiv Marken wegen Vertrauensfragen. Es hat rechtliche und finanzielle Durchschlagskraft



6 Was sind die Vorteile einer verantwortungsvollen KI-Marke

Stärkeres Kundenvertrauen, besserer rechtlicher Schutz, weniger kostspielige Vorfälle, leichtere Einstellung von Spitzenkräften und ein echtes Unterscheidungsmerkmal in umkämpften Märkten



7 Was passiert mit Marken, die KI-Verantwortlichkeit ignorieren

Sie riskieren öffentliche Skandale, regulatorische Geldstrafen, Klagen, Kundenboykotts und langfristige Reputationsschäden, die schwer rückgängig zu machen sind



8 Können Sie ein Beispiel für richtig umgesetzte KI-Verantwortlichkeit geben

Ein Unternehmen, das KI-generierte Inhalte klar kennzeichnet, Ergebnisse von Bias-Prüfungen veröffentlicht, Nutzern ermöglicht, gegen automatisierte Entscheidungen Einspruch einzulegen, und einen namentlich benannten Führungsverantwortlichen für KI-Ergebnisse hat



9 Und ein Beispiel dafür, wie es schiefgeht

Ein Airline-Chatbot, der Rückerstattungsrichtlinien erfindet, oder ein Einstellungswerkzeug, das stillschweigend Lebensläufe von Frauen ablehnt – beides führte zu öffentlicher Blamage und rechtlichen Problemen für die beteiligten Marken



10 Woher weiß ich, ob ein Unternehmen wirklich verantwortlich ist oder nur redet

Achten Sie auf Konkretes: veröffentlichte Prüfungen, klare KI-Richtlinien, Prozesse zur menschlichen Überprüfung, Einspruchsmechanismen und namentlich genannte Verantwortliche. Vage Aussagen wie wir kümmern uns um verantwortungsvolle