Rumman Chowdhury er den tidligere amerikanske vitenskapsutsendingen for AI og grunnlegger av Humane Intelligence, et allmennyttig selskap.

Jeg bruker hele mitt yrkesaktive liv på å teste AI-systemer og finne ut hvor de svikter. Her er hva jeg ville sagt til enhver leder innen mote eller skjønnhet som skal bestemme hvordan de vil bruke denne teknologien: kundene dine er skeptiske. Dommedagsadvarsler om AI-risiko har blitt umulige å ignorere, og demonstranter går ut i gatene for å kreve sterkere beskyttelse. Når til og med toppsjefene i selskapene som leder AI-kappløpet advarer om at de kan miste kontrollen over sin egen teknologi, er det klart at vi trenger ledere som møter AI-innføring med forsiktighet, ansvarlighet og god dømmekraft.

Vanligvis frykter folk en teknologi mindre jo mer de bruker den. Men med AI går det motsatt vei. Ifølge den amerikanske tenketanken Pew Research Center økte andelen amerikanere som føler seg «mer bekymret enn begeistret» for AI fra 37 % i 2021 til 50 % i 2025. Ny forskning fra Bentley University og Gallup viser at andelen som sier at AI gjør mer skade enn nytte, også stiger, selv om mer enn 70 % beskriver seg selv som kunnskapsrike om teknologien. Nesten halvparten (47 %) av amerikanske Gen Z mener at AI gjør mer skade enn nytte.

Dette er ikke frykt for det ukjente. De har brukt disse verktøyene, så de vet at de ikke lever side om side med en gudelignende superintelligens. De vet at dette er et verktøy som kan brukes på mange forskjellige måter.

Nå som bransjen beveger seg fra AI som genererer tekst og bilder, til AI som utfører handlinger – gjennom agenter som kan handle på vegne av folk – er innsatsen mye høyere. Her er det jeg mener er den ubehagelige sannheten om AI-agenter: når en handler på dine vegne, handler den strengt tatt i ditt navn. I sommer ble en OpenAI-modell som ble testet internt, bedt om å finne offentlig statistikk om medisinutgifter i Australia. Den fant dem ikke, så den fant sin egen vei inn i et offentlig system og hentet interne filer og påloggingsinformasjon uten instruksjon eller autorisasjon. I en uttalelse som forklarte hendelsen, sa OpenAI at de hadde «satt trening og evaluering som involverer bruk av verktøy for våre mest kapable modeller på pause, og vil gjenoppta treningen av dem bare når vi er trygge på at vi har ytterligere beskyttelsestiltak på plass.»

Se for deg en AI-agent som håndterer kundenes returer, betalingsopplysninger eller lojalitetsdata. Risikoen for mote kan være enorm. Før noen merkevare setter en agent mellom seg selv og en kunde, ville jeg stilt fire spørsmål. Hva har den lov til å berøre, og hva er forbudt område? Hvor må et menneske godkjenne før den bruker penger, deler data eller bruker noens likhet? Hvem har testet den slik en angriper ville gjort – før lansering i stedet for etter? Og hvis den svikter, hvor raskt vil kundene dine høre om det fra deg? OpenAI brukte måneder på å oppdage hendelsen og varsle de berørte australske etatene – det er uakseptabelt etter min standard.

Rumman Chowdhury på USAs senats AI Insight Forum i Washington DC. Foto: Getty Images/Stefani Reynolds.

Jeg blir ofte spurt om AI er en eksistensiell trussel mot menneskeheten. For et motehus er det mer nyttige spørsmålet hva det kan gjøre for virksomheten din denne uken. Ansatte hører apokalyptiske fortellinger fra én gruppe og «innfør det eller bli hengende etter» fra den andre – og noen ganger er de begge den samme. Begge stenger for tenkning, og ingen av dem forteller noen hva de skal gjøre med denne motstridende informasjonen.

Det er her godt lederskap kommer inn. Du bør ikke være redd for å si: her er hva vi bruker AI til, her er hva vi aldri vil bruke det til, og her er hvem som er ansvarlig når det går galt. Fortell de kreative teamene dine hvilke deler av arbeidet deres AI ikke vil erstatte, og gjør deretter de ansatte til en del av testingen. Folkene som driver butikkene dine og svarer kundene dine, vil finne feil raskere enn enhver leverandørdemo. Belønn dem for å rapportere problemer tidlig, ikke for å skjule dem. Bruk AI til å betjene kunden din, ikke til å erstatte personen kunden kom for.

Selvregulering har ikke gjort seg fortjent til publikums tillit i teknologibransjen, og den vil heller ikke gjøre det i motebransjen. Kunder vil stole på merkevarer som er tydelige på hvor de bruker AI og hvor de ikke gjør det, merker syntetiske bilder, innhenter samtykke før de kopierer noens likhet og inviterer uavhengige granskere til å verifisere at de holder løftene sine. Noe av dette er allerede påkrevd ved lov. New York krever samtykke fra modeller før det lages en digital kopi av dem, og tydelige merker på annonser med syntetiske utøvere. Alt som ikke dekkes av regulering, handler om valg. Aerie tok det valget da de lovet ingen AI-genererte kropper eller personer i annonsene sine, og kunngjøringen ble deres mest likte Instagram-innlegg på et år. For år siden sa jeg til USAs kongress at «bremser hjelper deg å kjøre fortere.» Jeg mener det fortsatt. Hver gang jeg har vært med på å bygge AI med håndhevbare sikkerhetsmekanismer, ble folk mer villige til å bruke det, fordi de visste at noen var ansvarlig hvis noe gikk galt. Kunder som vurderer om de skal stole på merkevaren din, tenker på samme måte. Sikkerhetsmekanismer er ikke en kostnad for merkevaren; de er en del av merkevaren. Merkevarer som holder mennesker – og menneskelige valg – i sentrum av AI-en sin, vil være de kundene fortsatt stoler på når den neste skandalen rammer.

Ofte stilte spørsmål
FAQs AI-ansvarlighet er den nye merkevarekapitalen



1 Hva betyr det at AI-ansvarlighet er den nye merkevarekapitalen

Det betyr at hvor ansvarlig et selskap bruker AI, blir like verdifullt for omdømmet som logoen, navnet eller kundetilliten. Merkevarer som bruker AI rettferdig og åpent, får et konkurransefortrinn; de som ikke gjør det, risikerer å miste kunder



2 Hva er AI-ansvarlighet i enkle ord

Det er å ta ansvar for hvordan AI-systemene dine oppfører seg – å sørge for at de er rettferdige, åpne, trygge, og at noen kan stilles til ansvar når noe går galt



3 Hvorfor er dette plutselig så viktig

Fordi AI nå er overalt – i ansettelser, långivning, helsevesen, kundeservice og innhold. Når AI tar partiske eller skadelige beslutninger, merker kundene det, og motreaksjonen rammer merkevaren, ikke algoritmen



4 Hvordan er AI-ansvarlighet forskjellig fra AI-etikk

AI-etikk handler om prinsipper og hva som bør gjøres. AI-ansvarlighet handler om håndheving – hvem som svarer for resultatene, hvordan problemer blir løst, og hvordan du beviser at du gjør det du lovet



5 Er dette bare en PR-trend

Nei. Regulatorer vedtar reelle lover, søksmål blir reist, og kunder bytter aktivt merkevare på grunn av tillitsproblemer. Det har juridisk og økonomisk tyngde



6 Hva er fordelene med å være en ansvarlig AI-merkevare

Sterkere kundetillit, bedre juridisk beskyttelse, færre kostbare hendelser, enklere å rekruttere topptalent og en ekte differensiator i overfylte markeder



7 Hva skjer med merkevarer som ignorerer AI-ansvarlighet

De risikerer offentlige skandaler, regulatoriske bøter, søksmål, kundeboikott og langsiktig omdømmeskade som er vanskelig å rette opp



8 Kan du gi et eksempel på AI-ansvarlighet gjort riktig

Et selskap som tydelig merker AI-generert innhold, publiserer resultater fra bias-revisjoner, lar brukere klage på automatiserte beslutninger og har en navngitt leder som er ansvarlig for AI-resultater



9 Og et eksempel på at det går galt

En flyselskapschatbot som finner opp refusjonsregler, eller et ansettelsesverktøy som stille avviser kvinners CV-er – begge førte til offentlig ydmykelse og juridiske problemer for merkevarene involvert



10 Hvordan vet jeg om et selskap virkelig er ansvarlig eller bare snakker

Se etter konkrete ting: publiserte revisjoner, klare AI-retningslinjer, prosesser for menneskelig gjennomgang, klagemekanismer og navngitte personer med ansvar. Vage uttalelser som «vi bryr oss om ansvarlig»