Rumman Chowdhury este fostul emisar științific al SUA pentru IA și fondator al Humane Intelligence, o corporație de beneficiu public.
Îmi petrec viața profesională testând sisteme de IA și găsind unde eșuează. Iată ce le-aș spune oricărui lider din modă sau frumusețe care decide cum să folosească această tehnologie: clienții tăi sunt sceptici. Avertismentele apocaliptice despre riscurile IA au devenit imposibil de ignorat, iar protestatarii ies în stradă pentru a cere garanții mai puternice. Când chiar și directorii generali ai companiilor care conduc cursa IA avertizează că ar putea pierde controlul asupra propriei tehnologii, este clar că avem nevoie de lideri care abordează adoptarea IA cu prudență, responsabilitate și judecată solidă.
De obicei, cu cât oamenii folosesc mai mult o tehnologie, cu atât se tem mai puțin de ea. Dar IA merge în direcția opusă. Potrivit think tank-ului american Pew Research Center, proporția americanilor care se simt „mai îngrijorați decât entuziasmați” de IA a crescut de la 37% în 2021 la 50% în 2025. Cercetări noi de la Universitatea Bentley și Gallup arată că proporția persoanelor care spun că IA face mai mult rău decât bine este și ea în creștere, chiar dacă peste 70% se descriu ca fiind informați despre această tehnologie. Aproape jumătate (47%) dintre americanii din Generația Z cred că IA face mai mult rău decât bine.
Aceasta nu este frica de necunoscut. Au folosit aceste instrumente, deci știu că nu trăiesc alături de o superinteligență divină. Știu că acesta este un instrument care poate fi folosit în multe moduri diferite.
Acum că industria trece de la IA care generează text și imagini la IA care întreprinde acțiuni — prin agenți care pot face cumpărături în numele oamenilor — mizele sunt mult mai mari. Iată ce cred că este adevărul inconfortabil despre agenții IA: când unul acționează în numele tău, se poate argumenta că acționează în numele tău. Vara aceasta, un model OpenAI testat intern a fost rugat să găsească statistici guvernamentale privind cheltuielile cu medicamente în Australia. Nu le-a putut găsi, așa că și-a găsit propria cale într-un sistem guvernamental, recuperând fișiere interne și acreditări fără direcție sau autorizare. Într-o declarație care explică incidentul, OpenAI a spus că a „suspendat instruirea și evaluarea care implică utilizarea instrumentelor pentru modelele noastre cele mai capabile și va relua instruirea lor doar când vom fi încrezători că avem garanții suplimentare în vigoare.”
Imaginați-vă un agent IA care gestionează returnările clienților tăi, detaliile de plată sau datele de loialitate. Riscurile pentru modă ar putea fi uriașe. Înainte ca orice brand să pună un agent între el și un client, aș pune patru întrebări. Ce are voie să atingă și ce este interzis? Unde trebuie o persoană să aprobe înainte ca acesta să cheltuiască bani, să partajeze date sau să folosească imaginea cuiva? Cine l-a testat așa cum ar face-o un atacator — înainte de lansare, nu după? Și dacă eșuează, cât de repede vor afla clienții tăi despre asta de la tine? OpenAI a avut nevoie de luni pentru a descoperi incidentul și a notifica agențiile australiene afectate — acest lucru este inacceptabil după standardul meu.
Rumman Chowdhury la Forumul de Perspective privind IA al Senatului SUA din Washington DC. Foto: Getty Images/Stefani Reynolds.
Sunt adesea întrebată dacă IA este o amenințare existențială pentru umanitate. Pentru o casă de modă, întrebarea mai utilă este ce poate face pentru afacerea ta săptămâna aceasta. Angajații aud narațiuni apocaliptice de la un grup și „adoptă sau rămâi în urmă” de la celălalt — și uneori, ambele sunt același lucru. Ambele blochează gândirea și niciuna nu spune nimănui ce să facă cu aceste informații contradictorii.
Aici intervine o conducere bună. Nu ar trebui să-ți fie frică să spui: iată pentru ce folosim IA, iată pentru ce nu o vom folosi niciodată și iată cine este responsabil când ceva merge prost. Spune echipelor tale creative care părți ale muncii lor nu vor fi înlocuite de IA, apoi fă-ți personalul parte din testare. Oamenii care conduc magazinele tale și răspund clienților tăi vor găsi eșecuri mai repede decât orice demonstrație a unui furnizor. Recompensează-i pentru raportarea timpurie a problemelor, nu pentru ascunderea lor. Folosește IA pentru a-ți servi clientul, nu pentru a înlocui persoana pentru care a venit clientul tău.
Autoreglementarea nu a câștigat încrederea publicului în tehnologie și nu o va câștiga nici în modă. Brandurile Clienții vor avea încredere în brandurile care sunt clare despre unde folosesc IA și unde nu, etichetează imaginile sintetice, obțin consimțământul înainte de a copia imaginea cuiva și invită evaluatori independenți să verifice că își țin promisiunile. O parte din aceasta este deja cerută de lege. New York-ul cere consimțământul modelelor înainte de a crea o replică digitală a acestora și etichete clare pe reclamele care prezintă interpreți sintetici. Orice nu este acoperit de reglementare se reduce la alegere. Aerie a făcut acea alegere când a promis că nu vor exista corpuri sau persoane generate de IA în reclamele sale, iar anunțul a devenit postarea sa de pe Instagram cu cele mai multe aprecieri într-un an. Cu ani în urmă, am spus Congresului SUA că „frânele te ajută să conduci mai repede.” Încă cred asta. De fiecare dată când am ajutat la construirea IA cu garanții aplicabile, oamenii au devenit mai dispuși să o folosească, pentru că știau că cineva este responsabil dacă ceva merge prost. Clienții care decid dacă să aibă încredere în brandul tău gândesc la fel. Garanțiile nu sunt un cost pentru brand; ele fac parte din brand. Brandurile care păstrează oamenii — și alegerea umană — în centrul IA vor fi cele în care clienții vor avea încredere când va lovi următorul scandal.
Întrebări frecvente
Întrebări frecvente Responsabilitatea IA este noul capital de brand
1 Ce înseamnă responsabilitatea IA este noul capital de brand
Înseamnă că modul cât de responsabil folosește o companie IA devine la fel de valoros pentru reputația sa ca logo-ul, numele sau încrederea clienților. Brandurile care folosesc IA corect și transparent câștigă un avantaj competitiv; cele care nu o fac riscă să-și piardă clienții
2 Ce este responsabilitatea IA în termeni simpli
Înseamnă asumarea responsabilității pentru modul în care se comportă sistemele tale de IA — asigurându-te că sunt corecte, transparente, sigure și că cineva este răspunzător când lucrurile merg prost
3 De ce este aceasta brusc o problemă atât de mare
Pentru că IA este acum peste tot — în angajare, creditare, asistență medicală, servicii pentru clienți și conținut. Când IA ia decizii părtinitoare sau dăunătoare, clienții observă, iar reacția negativă se răsfrânge asupra brandului, nu asupra algoritmului
4 Cum este responsabilitatea IA diferită de etica IA
Etica IA este despre principii și ce ar trebui făcut. Responsabilitatea IA este despre aplicare — cine răspunde pentru rezultate, cum se rezolvă problemele și cum dovedești că faci ceea ce ai promis
5 Este doar o tendință de PR
Nu. Reglementatorii adoptă legi reale, se depun procese, iar clienții își schimbă activ brandurile din cauza problemelor de încredere. Are putere legală și financiară
6 Care sunt beneficiile de a fi un brand IA responsabil
Încredere mai puternică din partea clienților, protecție legală mai bună, mai puține incidente costisitoare, angajare mai ușoară a talentelor de top și un veritabil factor de diferențiere pe piețe aglomerate
7 Ce se întâmplă cu brandurile care ignoră responsabilitatea IA
Riscă scandaluri publice, amenzi de reglementare, procese, boicoturi ale clienților și daune de reputație pe termen lung greu de anulat
8 Poți da un exemplu de responsabilitate IA făcută corect
O companie care etichetează clar conținutul generat de IA, publică rezultatele auditurilor privind părtinirea, le permite utilizatorilor să conteste deciziile automatizate și are un executiv numit responsabil pentru rezultatele IA
9 Și un exemplu de mers prost
Un chatbot al unei companii aeriene care inventează politici de rambursare sau un instrument de angajare care respinge în tăcere CV-urile femeilor — ambele au dus la jenă publică și probleme legale pentru brandurile implicate
10 Cum știu dacă o companie este cu adevărat responsabilă sau doar vorbește
Caută specificuri: audituri publicate, politici clare privind IA, procese de revizuire umană, mecanisme de contestare și persoane numite responsabile. Declarații vagi precum „ne pasă de responsabil”