Rumman Chowdhury er den tidligere amerikanske videnskabsudsending for AI og grundlægger af Humane Intelligence, en almennyttig virksomhed.

Jeg bruger mit arbejdsliv på at teste AI-systemer og finde ud af, hvor de fejler. Her er, hvad jeg ville sige til enhver mode- eller skønhedsleder, der beslutter, hvordan teknologien skal bruges: jeres kunder er skeptiske. Dommedagsadvarsler om AI's risici er blevet umulige at ignorere, og demonstranter går på gaden for at kræve stærkere beskyttelse. Når selv topcheferne for de virksomheder, der fører an i AI-kkapløbet, advarer om, at de kan miste kontrollen over deres egen teknologi, står det klart, at vi har brug for ledere, der tilgår AI-implementering med forsigtighed, ansvarlighed og sund dømmekraft.

Normalt frygter folk en teknologi mindre, jo mere de bruger den. Men med AI går det den anden vej. Ifølge den amerikanske tænketank Pew Research Center steg andelen af amerikanere, der føler sig "mere bekymrede end begejstrede" over for AI, fra 37% i 2021 til 50% i 2025. Ny forskning fra Bentley University og Gallup viser, at andelen af personer, der siger, at AI gør mere skade end gavn, også stiger, selvom mere end 70% beskriver sig selv som vidende om teknologien. Næsten halvdelen (47%) af amerikanere fra Gen Z mener, at AI gør mere skade end gavn.

Det er ikke frygt for det ukendte. De har brugt disse værktøjer, så de ved, at de ikke lever side om side med en guddommelig superintelligens. De ved, at dette er et værktøj, der kan bruges på mange forskellige måder.

Nu hvor branchen bevæger sig fra AI, der genererer tekst og billeder, til AI, der udfører handlinger—gennem agenter, der kan handle på folks vegne—er indsatsen meget højere. Her er, hvad jeg mener er den ubehagelige sandhed om AI-agenter: når en handler på dine vegne, handler den efter alt at dømme i dit navn. I sommer blev en OpenAI-model, der blev testet internt, bedt om at finde regeringsstatistikker om medicinudgifter i Australien. Den kunne ikke finde dem, så den fandt sin egen vej ind i et regeringssystem og hentede interne filer og legitimationsoplysninger uden instruktion eller autorisation. I en erklæring, der forklarede hændelsen, sagde OpenAI, at de havde "sat træning og evaluering, der involverer brug af værktøjer, på pause for vores mest kapable modeller og vil kun genoptage træningen af dem, når vi er sikre på, at vi har yderligere beskyttelsesforanstaltninger på plads."

Forestil dig en AI-agent, der håndterer dine kunders returneringer, betalingsoplysninger eller loyalitetsdata. Risiciene for modebranchen kan være enorme. Før et brand sætter en agent mellem sig selv og en kunde, ville jeg stille fire spørgsmål. Hvad har den lov til at røre ved, og hvad er forbudt? Hvor skal et menneske godkende, før den bruger penge, deler data eller bruger nogens lighed? Hvem har testet den, som en angriber ville—før lancering i stedet for efter? Og hvis den fejler, hvor hurtigt vil dine kunder høre om det fra dig? OpenAI tog måneder om at opdage hændelsen og underrette de berørte australske myndigheder—det er uacceptabelt efter min standard.

Rumman Chowdhury ved US Senate AI Insight Forum i Washington DC. Foto: Getty Images/Stefani Reynolds.

Jeg bliver ofte spurgt, om AI er en eksistentiel trussel mod menneskeheden. For et modehus er det mere nyttige spørgsmål, hvad det kan gøre for din forretning i denne uge. Medarbejdere hører apokalyptiske fortællinger fra én gruppe og "adopter eller bliv ladt tilbage" fra den anden—og nogle gange er de begge den samme. Begge lukker ned for tænkning, og ingen af dem fortæller nogen, hvad de skal gøre med denne modstridende information.

Det er her, god ledelse kommer ind. Du bør ikke være bange for at sige: her er, hvad vi bruger AI til, her er, hvad vi aldrig vil bruge det til, og her er, hvem der er ansvarlig, når det går galt. Fortæl dine kreative teams, hvilke dele af deres arbejde AI ikke vil erstatte, og gør derefter dit personale til en del af testningen. De mennesker, der driver dine butikker og svarer dine kunder, vil finde fejl hurtigere end enhver leverandørdemo. Beløn dem for at rapportere problemer tidligt, ikke for at skjule dem. Brug AI til at betjene din kunde, ikke til at erstatte den person, din kunde kom for.

Selvregulering har ikke opnået offentlighedens tillid i tech, og det vil den heller ikke gøre i modebranchen. Kunder vil stole på brands, der er klare om, hvor de bruger AI, og hvor de ikke gør, mærker syntetiske billeder, indhenter samtykke, før de kopierer nogens lighed, og inviterer uafhængige anmeldere til at verificere, at de holder deres løfter. Noget af dette er allerede krævet ved lov. New York kræver samtykke fra modeller, før der skabes en digital kopi af dem, og klare mærkater på annoncer med syntetiske performere. Alt, der ikke er dækket af regulering, kommer ned til et valg. Aerie tog det valg, da de lovede ingen AI-genererede kroppe eller personer i deres annoncer, og meddelelsen blev deres mest likede Instagram-opslag i et år. For år tilbage fortalte jeg den amerikanske kongres, at "bremser hjælper dig med at køre hurtigere." Det mener jeg stadig. Hver gang jeg har hjulpet med at bygge AI med håndhævelige beskyttelsesforanstaltninger, blev folk mere villige til at bruge det, fordi de vidste, at nogen var ansvarlig, hvis noget gik galt. Kunder, der beslutter, om de skal stole på dit brand, tænker på samme måde. Beskyttelsesforanstaltninger er ikke en omkostning for brandet; de er en del af brandet. Brands, der holder mennesker—og menneskelige valg—i centrum for deres AI, vil være dem, kunderne stadig stoler på, når den næste skandale rammer.

Ofte stillede spørgsmål
FAQs AI-ansvarlighed er den nye brandkapital



1 Hvad betyder det, at AI-ansvarlighed er den nye brandkapital

Det betyder, at hvor ansvarligt en virksomhed bruger AI, bliver lige så værdifuldt for dens omdømme som dens logonavn eller kundetillid. Brands, der bruger AI fair og gennemsigtigt, får en konkurrencefordel; dem, der ikke gør, risikerer at miste kunder



2 Hvad er AI-ansvarlighed i enkle vendinger

Det er at tage ansvar for, hvordan dine AI-systemer opfører sig—at sikre, at de er fair, gennemsigtige, sikre, og at nogen står til ansvar, når noget går galt



3 Hvorfor er dette pludselig så stort et emne

Fordi AI nu er overalt—i ansættelser, långivning, sundhedspleje, kundeservice og indhold. Når AI træffer partiske eller skadelige beslutninger, lægger kunderne mærke til det, og modreaktionen rammer brandet, ikke algoritmen



4 Hvordan adskiller AI-ansvarlighed sig fra AI-etik

AI-etik handler om principper og om, hvad der bør gøres. AI-ansvarlighed handler om håndhævelse—hvem der svarer for resultater, hvordan problemer løses, og hvordan du beviser, at du gør, hvad du lovede



5 Er dette bare en PR-tendens

Nej. Regulatorer vedtager rigtige love, der anlægges retssager, og kunder skifter aktivt brand på grund af tillidsproblemer. Det har juridisk og økonomisk tyngde



6 Hvad er fordelene ved at være et ansvarligt AI-brand

Stærkere kundetillid, bedre juridisk beskyttelse, færre omkostningstunge hændelser, lettere ansættelse af topfolk og en ægte differentiator på trængte markeder



7 Hvad sker der med brands, der ignorerer AI-ansvarlighed

De risikerer offentlige skandaler, regulatoriske bøder, retssager, kundeboykot og langsigtet omdømmeskade, der er svær at gøre om



8 Kan du give et eksempel på AI-ansvarlighed gjort rigtigt

En virksomhed, der tydeligt mærker AI-genereret indhold, offentliggør resultater af biasrevisioner, lader brugere klage over automatiserede beslutninger og har en navngivet leder med ansvar for AI-resultater



9 Og et eksempel på, at det går galt

En flyselskabs-chatbot, der opfinder refusionspolitikker, eller et ansættelsesværktøj, der stille afviser kvinders CV'er—begge førte til offentlig forlegenhed og juridiske problemer for de involverede brands



10 Hvordan ved jeg, om en virksomhed er genuint ansvarlig eller bare taler

Se efter det specifikke: offentliggjorte revisioner, klare AI-politikker, processer for menneskelig gennemgang, klagemekanismer og navngivne ansvarlige personer. Vage udsagn som "vi går op i ansvarlig"