Rumman Chowdhury je bývalá americká vědecká vyslankyně pro AI a zakladatelka Humane Intelligence, společnosti veřejně prospěšného charakteru.

Svůj pracovní život trávím testováním systémů AI a hledáním toho, kde selhávají. Toto bych řekla každému lídrovi v módě nebo kráse, který se rozhoduje, jak tuto technologii používat: vaši zákazníci jsou skeptičtí. Varování před katastrofickými riziky AI už nelze ignorovat a protestující vycházejí do ulic, aby požadovali silnější záruky. Když i generální ředitelé společností vedoucích závod v AI varují, že by mohli ztratit kontrolu nad vlastní technologií, je jasné, že potřebujeme lídry, kteří k zavádění AI přistupují s opatrností, odpovědností a zdravým úsudkem.

Obvykle platí, že čím více lidé technologii používají, tím méně se jí bojí. U AI to ale jde opačným směrem. Podle amerického think tanku Pew Research Center vzrostl podíl Američanů, kteří o AI cítí „více obav než nadšení“, z 37 % v roce 2021 na 50 % v roce 2025. Nový výzkum Bentley University a Gallup zjistil, že roste i podíl lidí, kteří tvrdí, že AI přináší více škody než užitku, přestože více než 70 % sebe sama označuje za znalé této technologie. Téměř polovina (47 %) Američanů z generace Z věří, že AI přináší více škody než užitku.

Není to strach z neznámého. Tyto nástroje používali, takže vědí, že nežijí po boku božské superinteligence. Vědí, že jde o nástroj, který lze použít mnoha různými způsoby.

Nyní, když se průmysl posouvá od AI, která generuje text a obrázky, k AI, která jedná – prostřednictvím agentů, kteří mohou nakupovat jménem lidí –, jsou sázky mnohem vyšší. Zde je to, co považuji za nepříjemnou pravdu o AI agentech: když jeden jedná vaším jménem, v podstatě jedná vaším jménem. Letos v létě byl model OpenAI testovaný interně požádán, aby našel vládní statistiky o výdajích na léky v Austrálii. Nedokázal je najít, a tak si našel vlastní cestu do vládního systému, kde získal interní soubory a přihlašovací údaje bez pokynu nebo autorizace. Ve prohlášení vysvětlujícím incident OpenAI uvedla, že „pozastavila trénink a evaluaci zahrnující použití nástrojů u našich nejschopnějších modelů a obnoví jejich trénink, jen když budeme přesvědčeni, že máme zavedeny dodatečné záruky“.

Představte si AI agenta, který zpracovává vrácení zboží vašich zákazníků, platební údaje nebo data o věrnosti. Rizika pro módu by mohla být obrovská. Než jakákoli značka postaví agenta mezi sebe a zákazníka, položila bych čtyři otázky. Čeho se smí dotknout a co je zakázané? Kde musí člověk schválit, než utratí peníze, sdílí data nebo použije něčí podobu? Kdo to testoval tak, jak by to udělal útočník – před spuštěním, ne po něm? A pokud to selže, jak rychle se vaši zákazníci dozvědí od vás? OpenAI trvalo měsíce, než incident objevila a informovala postižené australské úřady – to je podle mého standardu nepřijatelné.

Rumman Chowdhury na AI Insight Forum amerického Senátu ve Washingtonu DC. Foto: Getty Images/Stefani Reynolds.

Často se mě ptají, zda je AI existenční hrozbou pro lidstvo. Pro módní dům je užitečnější otázkou, co může tento týden udělat pro vaše podnikání. Zaměstnanci slyší apokalyptické narativy od jedné skupiny a „přijměte to, nebo zůstanete pozadu“ od druhé – a někdy jsou obě stejné. Obě vypínají myšlení a ani jedna nikomu neříká, co si s těmito protichůdnými informacemi počít.

Zde přichází na řadu dobré vedení. Neměli byste se bát říct: toto používáme AI pro, toto nikdy nebudeme, a tento člověk je odpovědný, když se to pokazí. Řekněte svým kreativním týmům, které části jejich práce AI nenahradí, a pak zapojte své zaměstnance do testování. Lidé, kteří vedou vaše prodejny a odpovídají vašim zákazníkům, najdou selhání rychleji než jakékoli demo od dodavatele. Odměňte je za to, že problémy hlásí včas, ne za to, že je skrývají. Používejte AI k tomu, abyste sloužili svému zákazníkovi, ne abyste nahradili člověka, za kterým zákazník přišel.

Samoregulace si nezískala důvěru veřejnosti v technologiích a nezíská ji ani v módě. Značky

Zákazníci budou důvěřovat značkám, které jsou jasné v tom, kde AI používají a kde ne, označují syntetické obrázky, získávají souhlas před kopírováním něčí podoby a zvou nezávislé recenzenty, aby ověřili, že dodržují své sliby. Část z toho už vyžaduje zákon. New York vyžaduje souhlas modelek před vytvořením jejich digitální repliky a jasné označení reklam s vystupujícími syntetickými performery. Vše, co není pokryto regulací, je otázkou volby. Aerie se tak rozhodla, když slíbila, že v jejích reklamách nebudou žádná těla ani lidé generovaní AI, a toto oznámení se stalo jejím nejoceňovanějším příspěvkem na Instagramu za rok. Před lety jsem řekla americkému Kongresu, že „brzdy vám pomáhají jet rychleji“. Stále tomu věřím. Pokaždé, když jsem pomohla vytvořit AI s vymahatelnými zárukami, lidé byli ochotnější ji používat, protože věděli, že někdo je odpovědný, když se něco pokazí. Zákazníci rozhodující o tom, zda důvěřovat vaší značce, uvažují stejně. Záruky nejsou nákladem pro značku; jsou součástí značky. Značky, které udržují lidi – a lidskou volbu – v centru své AI, budou těmi, jimž zákazníci stále důvěřují, když přijde další skandál.

Často kladené otázky
FAQs Odpovědnost za AI je novým kapitálem značky



1 Co znamená, že odpovědnost za AI je novým kapitálem značky

Znamená to, že to, jak odpovědně společnost používá AI, se pro její reputaci stává stejně hodnotným jako její logo, název nebo důvěra zákazníků. Značky, které používají AI spravedlivě a transparentně, získávají konkurenční výhodu; ty, které ne, riskují ztrátu zákazníků



2 Co je odpovědnost za AI jednoduše řečeno

Je to převzetí odpovědnosti za to, jak se vaše systémy AI chovají – ujistit se, že jsou spravedlivé, transparentní, bezpečné a že někdo je odpovědný, když se něco pokazí



3 Proč je to najednou tak velká věc

Protože AI je nyní všude – při náboru, poskytování půjček, ve zdravotnictví, zákaznickém servisu a obsahu. Když AI činí zaujatá nebo škodlivá rozhodnutí, zákazníci si toho všimnou a negativní reakce dopadne na značku, ne na algoritmus



4 Jak se odpovědnost za AI liší od etiky AI

Etika AI je o principech a o tom, co by se mělo dělat. Odpovědnost za AI je o vymáhání – kdo odpovídá za výsledky, jak se problémy řeší a jak dokážete, že děláte, co jste slíbili



5 Je to jen PR trend

Ne. Regulátoři přijímají skutečné zákony, podávají se žaloby a zákazníci aktivně přecházejí ke konkurenci kvůli otázkám důvěry. Má to právní a finanční váhu



6 Jaké jsou výhody být značkou s odpovědnou AI

Silnější důvěra zákazníků, lepší právní ochrana, méně nákladných incidentů, snazší nábor špičkových talentů a skutečný odlišující prvek na přeplněných trzích



7 Co se stane značkám, které ignorují odpovědnost za AI

Riskují veřejné skandály, regulační pokuty, žaloby, bojkoty zákazníků a dlouhodobé poškození reputace, které se těžko napravuje



8 Můžete uvést příklad správně zvládnuté odpovědnosti za AI

Společnost, která jasně označuje obsah generovaný AI, zveřejňuje výsledky auditů zaujatosti, umožňuje uživatelům odvolat se proti automatizovaným rozhodnutím a má jmenovaného vedoucího pracovníka odpovědného za výsledky AI



9 A příklad toho, když se to pokazí

Chatbot letecké společnosti, který si vymýšlí pravidla pro vrácení peněz, nebo náborový nástroj, který tiše odmítá životopisy žen – oba vedly k veřejnému zahanbení a právním problémům pro zúčastněné značky



10 Jak poznám, zda je společnost skutečně odpovědná, nebo jen mluví

Hledejte konkrétní věci: zveřejněné audity, jasné zásady pro AI, procesy lidského přezkumu, mechanismy odvolání a jmenované odpovědné osoby. Vágní prohlášení jako „záleží nám na odpovědném