Rumman Chowdhury jest byłą amerykańską wysłanniczką ds. nauki w dziedzinie AI i założycielką Humane Intelligence, korporacji pożytku publicznego.
Całe swoje życie zawodowe spędzam na testowaniu systemów AI i znajdowaniu miejsc, w których zawodzą. Oto, co powiedziałabym każdemu liderowi branży mody lub beauty podejmującemu decyzję o tym, jak wykorzystać tę technologię: wasi klienci są sceptyczni. Ostrzeżenia o katastrofalnych zagrożeniach związanych z AI stały się niemożliwe do zignorowania, a protestujący wychodzą na ulice, domagając się silniejszych zabezpieczeń. Kiedy nawet dyrektorzy generalni firm przewodzących w wyścigu AI ostrzegają, że mogą stracić kontrolę nad własną technologią, jasne jest, że potrzebujemy liderów, którzy podchodzą do wdrażania AI z ostrożnością, odpowiedzialnością i rozsądkiem.
Zwykle im więcej ludzi używa danej technologii, tym mniej się jej boją. Ale z AI jest odwrotnie. Według amerykańskiego think tanku Pew Research Center odsetek Amerykanów, którzy czują „więcej obaw niż ekscytacji” wobec AI, wzrósł z 37% w 2021 r. do 50% w 2025 r. Nowe badania Bentley University i Gallup pokazują, że odsetek osób twierdzących, że AI wyrządza więcej szkody niż pożytku, również rośnie, mimo że ponad 70% określa się jako znające tę technologię. Prawie połowa (47%) Amerykanów z pokolenia Z uważa, że AI wyrządza więcej szkody niż pożytku.
To nie jest lęk przed nieznanym. Używali tych narzędzi, więc wiedzą, że nie żyją obok boskiej superinteligencji. Wiedzą, że to narzędzie, które można wykorzystać na wiele różnych sposobów.
Teraz, gdy branża przechodzi od AI generującej tekst i obrazy do AI podejmującej działania — poprzez agentów, którzy mogą robić zakupy w czyimś imieniu — stawka jest znacznie wyższa. Oto, co uważam za niewygodną prawdę o agentach AI: gdy jeden z nich działa w twoim imieniu, można argumentować, że działa pod twoim nazwiskiem. Tego lata model OpenAI testowany wewnętrznie został poproszony o znalezienie rządowych statystyk dotyczących wydatków na leki w Australii. Nie mógł ich znaleźć, więc znalazł własną drogę do systemu rządowego, pobierając wewnętrzne pliki i dane uwierzytelniające bez polecenia ani autoryzacji. W oświadczeniu wyjaśniającym incydent OpenAI podało, że „wstrzymało szkolenie i ewaluację związaną z użyciem narzędzi dla naszych najbardziej zaawansowanych modeli i wznowi ich szkolenie tylko wtedy, gdy będziemy pewni, że mamy dodatkowe zabezpieczenia na miejscu”.
Wyobraź sobie agenta AI obsługującego zwroty twoich klientów, dane płatnicze lub dane lojalnościowe. Ryzyko dla mody mogłoby być ogromne. Zanim jakakolwiek marka postawi agenta między sobą a klientem, zadałabym cztery pytania. Czego wolno mu dotykać, a co jest poza granicami? Gdzie człowiek musi zatwierdzić, zanim wyda pieniądze, udostępni dane lub użyje czyjegoś wizerunku? Kto przetestował go tak, jak zrobiłby to atakujący — przed premierą, a nie po niej? A jeśli zawiedzie, jak szybko twoi klienci dowiedzą się o tym od ciebie? OpenAI potrzebowało miesięcy, aby odkryć incydent i powiadomić dotknięte australijskie agencje — to niedopuszczalne według moich standardów.
Rumman Chowdhury na Forum Wglądu w AI Senatu USA w Waszyngtonie. Zdjęcie: Getty Images/Stefani Reynolds.
Często pytają mnie, czy AI jest egzystencjalnym zagrożeniem dla ludzkości. Dla domu mody bardziej użytecznym pytaniem jest, co może zrobić dla twojego biznesu w tym tygodniu. Pracownicy słyszą apokaliptyczne narracje od jednej grupy i „przyjmij albo zostaniesz w tyle” od drugiej — a czasami to ta sama grupa. Obie wyłączają myślenie i żadna nie mówi nikomu, co zrobić z tymi sprzecznymi informacjami.
I tu wkracza dobre przywództwo. Nie powinieneś bać się powiedzieć: oto, do czego używamy AI, oto, do czego nigdy nie będziemy, a oto, kto odpowiada, gdy coś pójdzie nie tak. Powiedz swoim zespołom kreatywnym, których części ich pracy AI nie zastąpi, a następnie włącz personel w testowanie. Ludzie, którzy prowadzą twoje sklepy i odpowiadają twoim klientom, znajdą usterki szybciej niż jakiekolwiek demo dostawcy. Nagradzaj ich za wczesne zgłaszanie problemów, a nie za ich ukrywanie. Używaj AI, aby służyć swojemu klientowi, a nie zastąpić osobę, po którą klient przyszedł.
Samoregulacja nie zdobyła zaufania publicznego w technologii i nie zdobędzie go w modzie. Klienci zaufają markom, które jasno mówią, gdzie używają AI, a gdzie nie, oznaczają syntetyczne obrazy, uzyskują zgodę przed kopiowaniem czyjegokolwiek wizerunku i zapraszają niezależnych recenzentów do weryfikacji, że dotrzymują obietnic. Część z tego jest już wymagana przez prawo. Nowy Jork wymaga zgody modelek i modeli przed tworzeniem ich cyfrowej repliki oraz wyraźnych oznaczeń w reklamach z syntetycznymi wykonawcami. Wszystko, co nie jest objęte regulacjami, sprowadza się do wyboru. Aerie dokonało tego wyboru, gdy obiecało, że w swoich reklamach nie będzie ciał ani osób wygenerowanych przez AI, a ogłoszenie stało się jego najczęściej polubionym postem na Instagramie w ciągu roku. Lata temu powiedziałam Kongresowi USA, że „hamulce pomagają jechać szybciej”. Wciąż w to wierzę. Za każdym razem, gdy pomagałam budować AI z egzekwowalnymi zabezpieczeniami, ludzie stawali się bardziej skłonni jej używać, ponieważ wiedzieli, że ktoś odpowiada, jeśli coś pójdzie nie tak. Klienci decydujący, czy zaufać twojej marce, myślą tak samo. Zabezpieczenia nie są kosztem dla marki; są częścią marki. Marki, które stawiają ludzi — i ludzki wybór — w centrum swojej AI, będą tymi, którym klienci wciąż będą ufać, gdy wybuchnie następny skandal.
Najczęściej zadawane pytania
FAQ Odpowiedzialność za AI to nowy kapitał marki
1 Co oznacza odpowiedzialność za AI to nowy kapitał marki
Oznacza to, że to, jak odpowiedzialnie firma używa AI, staje się tak samo cenne dla jej reputacji jak jej logo, nazwa czy zaufanie klientów. Marki, które używają AI uczciwie i przejrzyście, zyskują przewagę konkurencyjną; te, które tego nie robią, ryzykują utratę klientów
2 Czym jest odpowiedzialność za AI w prostych słowach
To branie odpowiedzialności za to, jak zachowują się twoje systemy AI — zapewnienie, że są uczciwe, przejrzyste, bezpieczne i że ktoś odpowiada, gdy coś pójdzie nie tak
3 Dlaczego nagle stało się to tak ważne
Ponieważ AI jest teraz wszędzie — w rekrutacji, pożyczkach, opiece zdrowotnej, obsłudze klienta i treściach. Gdy AI podejmuje stronnicze lub szkodliwe decyzje, klienci to zauważają, a negatywna reakcja spada na markę, nie na algorytm
4 Czym odpowiedzialność za AI różni się od etyki AI
Etyka AI dotyczy zasad i tego, co powinno się robić. Odpowiedzialność za AI dotyczy egzekwowania — kto odpowiada za wyniki, jak naprawia się problemy i jak udowadniasz, że robisz to, co obiecałeś
5 Czy to tylko trend PR
Nie. Regulatorzy uchwalają prawdziwe przepisy, składane są pozwy, a klienci aktywnie zmieniają marki z powodu problemów z zaufaniem. Ma to prawne i finansowe konsekwencje
6 Jakie są korzyści bycia marką odpowiedzialną w zakresie AI
Silniejsze zaufanie klientów, lepsza ochrona prawna, mniej kosztownych incydentów, łatwiejsze zatrudnianie najlepszych talentów i prawdziwy wyróżnik na zatłoczonych rynkach
7 Co dzieje się z markami, które ignorują odpowiedzialność za AI
Ryzykują publiczne skandale, kary regulacyjne, pozwy, bojkoty klientów i długoterminowe szkody dla reputacji, które trudno cofnąć
8 Czy możesz podać przykład dobrze zrealizowanej odpowiedzialności za AI
Firma, która wyraźnie oznacza treści wygenerowane przez AI, publikuje wyniki audytów stronniczości, pozwala użytkownikom odwołać się od automatycznych decyzji i ma wyznaczonego członka kierownictwa odpowiedzialnego za wyniki AI
9 A przykład, gdy poszło źle
Chatbot linii lotniczej, który wymyśla zasady zwrotów, albo narzędzie rekrutacyjne, które po cichu odrzuca CV kobiet — oba doprowadziły do publicznego wstydu i problemów prawnych dla zaangażowanych marek
10 Skąd mam wiedzieć, czy firma jest naprawdę odpowiedzialna, czy tylko mówi
Szukaj konkretów: publikowanych audytów, jasnych polityk dotyczących AI, procesów przeglądu przez człowieka, mechanizmów odwoławczych i wskazanych osób odpowiedzialnych. Ogólnikowe stwierdzenia typu „zależy nam na odpowiedzialnym”