Rumman Chowdhury är tidigare amerikansk vetenskapsutsändning för AI och grundare av Humane Intelligence, ett allmännyttigt bolag.

Jag tillbringar mitt arbetsliv med att testa AI-system och hitta var de brister. Här är vad jag skulle säga till varje mode- eller skönhetsledare som bestämmer hur tekniken ska användas: era kunder är skeptiska. Domedagsvarningar om AI:s risker har blivit omöjliga att ignorera, och demonstranter tar till gatorna för att kräva starkare skyddsåtgärder. När till och med vd:arna för de företag som leder AI-racet varnar för att de kan förlora kontrollen över sin egen teknik, är det tydligt att vi behöver ledare som närmar sig AI-införande med försiktighet, ansvarsskyldighet och gott omdöme.

Vanligtvis, ju mer människor använder en teknik, desto mindre fruktar de den. Men AI går åt andra hållet. Enligt den amerikanska tankesmedjan Pew Research Center steg andelen amerikaner som känner sig "mer oroade än entusiastiska" över AI från 37 % 2021 till 50 % 2025. Ny forskning från Bentley University och Gallup visar att andelen människor som säger att AI gör mer skada än nytta också ökar, trots att mer än 70 % beskriver sig som kunniga om tekniken. Nästan hälften (47 %) av amerikaner i generation Z anser att AI gör mer skada än nytta.

Detta är inte rädsla för det okända. De har använt dessa verktyg, så de vet att de inte lever sida vid sida med en gudomlig superintelligens. De vet att detta är ett verktyg som kan användas på många olika sätt.

Nu när branschen rör sig från AI som genererar text och bilder till AI som vidtar åtgärder – genom agenter som kan handla på människors vägnar – är insatserna mycket högre. Här är vad jag anser är den obekväma sanningen om AI-agenter: när en agerar på dina vägnar, agerar den rimligen i ditt namn. I somras ombads en OpenAI-modell som testades internt att hitta statlig statistik om läkemedelsutgifter i Australien. Den kunde inte hitta dem, så den hittade sin egen väg in i ett statligt system och hämtade interna filer och autentiseringsuppgifter utan instruktion eller auktorisation. I ett uttalande som förklarade incidenten sade OpenAI att man hade "pausat träning och utvärdering som involverar verktygsanvändning för våra mest kapabla modeller och kommer att återuppta träningen av dem endast när vi är säkra på att vi har ytterligare skyddsåtgärder på plats."

Föreställ dig en AI-agent som hanterar dina kunders returer, betalningsuppgifter eller lojalitetsdata. Riskerna för mode skulle kunna vara enorma. Innan något varumärke sätter en agent mellan sig självt och en kund, skulle jag ställa fyra frågor. Vad får den röra, och vad är förbjudet? Var måste en person godkänna innan den spenderar pengar, delar data eller använder någons likhet? Vem har testat den så som en angripare skulle göra – före lansering snarare än efter? Och om den misslyckas, hur snabbt kommer dina kunder att höra om det från dig? OpenAI tog månader på sig att upptäcka incidenten och meddela de berörda australiska myndigheterna – det är oacceptabelt enligt min standard.

Rumman Chowdhury vid USA:s senats AI Insight Forum i Washington DC. Foto: Getty Images/Stefani Reynolds.

Jag får ofta frågan om AI är ett existentiellt hot mot mänskligheten. För ett modehus är den mer användbara frågan vad den kan göra för din verksamhet den här veckan. Anställda hör apokalyptiska berättelser från en grupp och "anpassa dig eller bli lämnad kvar" från den andra – och ibland är de båda samma. Båda stänger av tänkandet, och ingen av dem säger till någon vad de ska göra med denna motstridiga information.

Det är här gott ledarskap kommer in. Du bör inte vara rädd för att säga: det här använder vi AI till, det här kommer vi aldrig att göra, och det här är vem som är ansvarig när det går fel. Berätta för dina kreativa team vilka delar av deras arbete AI inte kommer att ersätta, och gör sedan din personal till en del av testningen. De som driver dina butiker och svarar dina kunder kommer att hitta brister snabbare än någon leverantörsdemo. Belöna dem för att de rapporterar problem tidigt, inte för att de döljer dem. Använd AI för att betjäna din kund, inte för att ersätta personen som din kund kom för.

Självreglering har inte förtjänat allmänhetens förtroende inom teknik, och den kommer inte att förtjäna det inom mode heller. VarumärkenKunder kommer att lita på varumärken som är tydliga med var de använder AI och var de inte gör det, märker syntetiska bilder, inhämtar samtycke innan de kopierar någons likhet och bjuder in oberoende granskare för att verifiera att de håller sina löften. En del av detta krävs redan enligt lag. New York kräver samtycke från modeller innan man skapar en digital replika av dem, och tydliga märkningar på annonser med syntetiska artister. Allt som inte täcks av reglering handlar om val. Aerie gjorde det valet när man lovade inga AI-genererade kroppar eller personer i sina annonser, och tillkännagivandet blev deras mest gillade Instagram-inlägg på ett år. För flera år sedan sade jag till USA:s kongress att "bromsar hjälper dig att köra snabbare." Jag tror fortfarande på det. Varje gång jag har hjälpt till att bygga AI med verkställbara skyddsräcken har människor blivit mer villiga att använda den, eftersom de visste att någon var ansvarig om något gick fel. Kunder som bestämmer om de ska lita på ditt varumärke tänker på samma sätt. Skyddsräcken är inte en kostnad för varumärket; de är en del av varumärket. Varumärken som håller människor – och mänskligt val – i centrum för sin AI kommer att vara de som kunderna fortfarande litar på när nästa skandal inträffar.

Vanliga frågor
Vanliga frågor AI-ansvarsskyldighet är det nya varumärkeskapitalet



1 Vad betyder AI-ansvarsskyldighet är det nya varumärkeskapitalet

Det betyder att hur ansvarsfullt ett företag använder AI blir lika värdefullt för dess rykte som dess logotypnamn eller kundförtroende Varumärken som använder AI rättvist och transparent får ett konkurrensförsprång de som inte gör det riskerar att förlora kunder



2 Vad är AI-ansvarsskyldighet i enkla ordalag

Det är att ta ansvar för hur dina AI-system beter sig att se till att de är rättvisa transparenta säkra och att någon är ansvarig när saker går fel



3 Varför är detta plötsligt en så stor sak

Eftersom AI nu finns överallt inom rekrytering utlåning sjukvård kundservice och innehåll När AI fattar partiska eller skadliga beslut lägger kunderna märke till det och motreaktionen drabbar varumärket inte algoritmen



4 Hur skiljer sig AI-ansvarsskyldighet från AI-etik

AI-etik handlar om principer och vad som bör göras AI-ansvarsskyldighet handlar om verkställighet vem som svarar för resultat hur problem åtgärdas och hur du bevisar att du gör det du har lovat



5 Är detta bara en PR-trend

Nej Regulatorer stiftar riktiga lagar stämningar lämnas in och kunder byter aktivt varumärken på grund av förtroendeproblem Det har juridiska och ekonomiska tänder



6 Vilka är fördelarna med att vara ett ansvarstagande AI-varumärke

Starkare kundförtroende bättre juridiskt skydd färre kostsamma incidenter enklare rekrytering av topptalanger och en genuin särskiljare på trånga marknader



7 Vad händer med varumärken som ignorerar AI-ansvarsskyldighet

De riskerar offentliga skandaler regulatoriska böter stämningar kundbojkotter och långsiktig reputationsskada som är svår att ångra



8 Kan du ge ett exempel på AI-ansvarsskyldighet som gjorts rätt

Ett företag som tydligt märker AI-genererat innehåll publicerar resultat av partiskhetsrevisioner låter användare överklaga automatiserade beslut och har en namngiven chef som ansvarar för AI-resultat



9 Och ett exempel på när det går fel

En flygbolagschattbot som hittar på återbetalningspolicyer eller ett rekryteringsverktyg som tyst avvisar kvinnors cv:n båda ledde till offentlig förlägenhet och juridiska problem för de inblandade varumärkena



10 Hur vet jag om ett företag är genuint ansvarstagande eller bara pratar

Leta efter specifikationer publicerade revisioner tydliga AI-policyer processer för mänsklig granskning överklagandemekanismer och namngivna personer med ansvar Vaga uttalanden som vi bryr oss om ansvarsfull