Rumman Chowdhury è l'ex inviata scientifica degli Stati Uniti per l'IA e fondatrice di Humane Intelligence, una società a beneficio pubblico.
Trascorro la mia vita lavorativa testando i sistemi di IA e trovando dove falliscono. Ecco cosa direi a qualsiasi leader della moda o della bellezza che decide come usare questa tecnologia: i vostri clienti sono scettici. Gli avvertimenti apocalittici sui rischi dell'IA sono diventati impossibili da ignorare, e i manifestanti scendono in piazza per chiedere salvaguardie più forti. Quando persino gli amministratori delegati delle aziende che guidano la corsa all'IA avvertono che potrebbero perdere il controllo della propria tecnologia, è chiaro che abbiamo bisogno di leader che affrontino l'adozione dell'IA con cautela, responsabilità e buon senso.
Di solito, più le persone usano una tecnologia, meno la temono. Ma l'IA sta andando nella direzione opposta. Secondo il think tank statunitense Pew Research Center, la quota di americani che si sentono "più preoccupati che entusiasti" riguardo all'IA è salita dal 37% nel 2021 al 50% nel 2025. Una nuova ricerca della Bentley University e di Gallup rileva che anche la quota di persone che affermano che l'IA fa più male che bene è in aumento, anche se più del 70% si descrive come informato sulla tecnologia. Quasi la metà (47%) degli americani della Gen Z ritiene che l'IA faccia più male che bene.
Questa non è paura dell'ignoto. Hanno usato questi strumenti, quindi sanno che non stanno convivendo con una superintelligenza divina. Sanno che questo è uno strumento che può essere usato in molti modi diversi.
Ora che il settore si sta muovendo dall'IA che genera testo e immagini all'IA che compie azioni—attraverso agenti che possono fare acquisti per conto delle persone—la posta in gioco è molto più alta. Ecco quella che ritengo essere la verità scomoda sugli agenti di IA: quando uno agisce per tuo conto, si può sostenere che agisca a tuo nome. Quest'estate, a un modello di OpenAI testato internamente è stato chiesto di trovare statistiche governative sulla spesa farmaceutica in Australia. Non è riuscito a trovarle, così si è fatto strada da solo in un sistema governativo, recuperando file e credenziali interne senza indicazioni né autorizzazione. In una dichiarazione che spiegava l'incidente, OpenAI ha affermato di aver "sospeso l'addestramento e la valutazione che comportano l'uso di strumenti per i nostri modelli più capaci e riprenderà ad addestrarli solo quando saremo fiduciosi di avere ulteriori salvaguardie in atto".
Immaginate un agente di IA che gestisce i resi, i dettagli di pagamento o i dati di fidelizzazione dei vostri clienti. I rischi per la moda potrebbero essere enormi. Prima che qualsiasi marchio metta un agente tra sé e un cliente, porrei quattro domande. A cosa è consentito accedere e cosa è off limits? Dove deve approvare una persona prima che spenda denaro, condivida dati o usi l'immagine di qualcuno? Chi lo ha testato come farebbe un attaccante—prima del lancio anziché dopo? E se fallisce, quanto rapidamente i vostri clienti lo verranno a sapere da voi? OpenAI ha impiegato mesi per scoprire l'incidente e notificare le agenzie australiane interessate—questo è inaccettabile secondo i miei standard.
Rumman Chowdhury al Forum di approfondimento sull'IA del Senato degli Stati Uniti a Washington DC. Foto: Getty Images/Stefani Reynolds.
Mi viene spesso chiesto se l'IA sia una minaccia esistenziale per l'umanità. Per una casa di moda, la domanda più utile è cosa può fare per la vostra attività questa settimana. I dipendenti sentono narrazioni apocalittiche da un gruppo e "adotta o resta indietro" dall'altro—e a volte sono lo stesso gruppo. Entrambe spengono il pensiero, e nessuna delle due dice a nessuno cosa fare con queste informazioni contrastanti.
È qui che entra in gioco una buona leadership. Non dovreste aver paura di dire: ecco per cosa usiamo l'IA, ecco per cosa non lo faremo mai, ed ecco chi è responsabile quando qualcosa va storto. Dite ai vostri team creativi quali parti del loro lavoro l'IA non sostituirà, poi rendete il vostro personale parte dei test. Le persone che gestiscono i vostri negozi e rispondono ai vostri clienti troveranno i difetti più velocemente di qualsiasi dimostrazione di un fornitore. Premiateli per aver segnalato i problemi in anticipo, non per averli nascosti. Usate l'IA per servire il vostro cliente, non per sostituire la persona per cui il vostro cliente è venuto.
L'autoregolamentazione non ha guadagnato la fiducia del pubblico nella tecnologia, e non la guadagnerà nemmeno nella moda. I clienti si fideranno dei marchi che sono chiari su dove usano l'IA e dove no, etichettano le immagini sintetiche, ottengono il consenso prima di copiare l'immagine di qualcuno e invitano revisori indipendenti a verificare che mantengano le loro promesse. Parte di questo è già richiesto dalla legge. New York richiede il consenso delle modelle prima di creare una loro replica digitale, ed etichette chiare sugli annunci che presentano performer sintetici. Tutto ciò che non è coperto dalla regolamentazione si riduce a una scelta. Aerie ha fatto quella scelta quando ha promesso nessun corpo o persona generati dall'IA nei suoi annunci, e l'annuncio è diventato il suo post su Instagram più apprezzato in un anno. Anni fa, ho detto al Congresso degli Stati Uniti che "i freni ti aiutano a guidare più velocemente". Lo credo ancora. Ogni volta che ho contribuito a costruire l'IA con salvaguardie applicabili, le persone sono diventate più disposte a usarla, perché sapevano che qualcuno era responsabile se qualcosa andava storto. I clienti che decidono se fidarsi del vostro marchio la pensano allo stesso modo. Le salvaguardie non sono un costo per il marchio; fanno parte del marchio. I marchi che mantengono gli esseri umani—e la scelta umana—al centro della loro IA saranno quelli di cui i clienti si fideranno ancora quando scoppierà il prossimo scandalo.
Domande frequenti
FAQ La responsabilità dell'IA è il nuovo valore del marchio
1 Cosa significa che la responsabilità dell'IA è il nuovo valore del marchio
Significa che quanto responsabilmente un'azienda usa l'IA sta diventando prezioso per la sua reputazione quanto il suo logo, nome o fiducia dei clienti. I marchi che usano l'IA in modo equo e trasparente ottengono un vantaggio competitivo; quelli che non lo fanno rischiano di perdere clienti
2 Cos'è la responsabilità dell'IA in termini semplici
È assumersi la responsabilità di come si comportano i vostri sistemi di IA, assicurandosi che siano equi, trasparenti, sicuri e che qualcuno sia responsabile quando le cose vanno storte
3 Perché all'improvviso è diventato così importante
Perché l'IA ora è ovunque—nelle assunzioni, nei prestiti, nell'assistenza sanitaria, nel servizio clienti e nei contenuti. Quando l'IA prende decisioni parziali o dannose, i clienti se ne accorgono e la reazione ricade sul marchio, non sull'algoritmo
4 In cosa differisce la responsabilità dell'IA dall'etica dell'IA
L'etica dell'IA riguarda i principi e ciò che dovrebbe essere fatto. La responsabilità dell'IA riguarda l'applicazione—chi risponde dei risultati, come si risolvono i problemi e come si dimostra di fare ciò che si è promesso
5 È solo una tendenza di pubbliche relazioni
No. I regolatori stanno approvando leggi reali, vengono intentate cause legali e i clienti stanno attivamente cambiando marchio per questioni di fiducia. Ha un peso legale e finanziario
6 Quali sono i vantaggi di essere un marchio con IA responsabile
Maggiore fiducia dei clienti, migliore protezione legale, meno incidenti costosi, assunzione più facile di talenti di primo livello e un vero elemento di differenziazione in mercati affollati
7 Cosa succede ai marchi che ignorano la responsabilità dell'IA
Rischiano scandali pubblici, multe regolatorie, cause legali, boicottaggi dei clienti e danni reputazionali a lungo termine difficili da annullare
8 Potete fare un esempio di responsabilità dell'IA fatta bene
Un'azienda che etichetta chiaramente i contenuti generati dall'IA, pubblica i risultati degli audit sui pregiudizi, consente agli utenti di contestare le decisioni automatizzate e ha un dirigente designato responsabile dei risultati dell'IA
9 E un esempio di come va male
Un chatbot di una compagnia aerea che inventa politiche di rimborso o uno strumento di assunzione che respinge silenziosamente i curriculum delle donne—entrambi hanno portato a imbarazzo pubblico e problemi legali per i marchi coinvolti
10 Come faccio a sapere se un'azienda è davvero responsabile o sta solo parlando
Cercate dettagli specifici: audit pubblicati, politiche chiare sull'IA, processi di revisione umana, meccanismi di ricorso e persone designate responsabili. Dichiarazioni vaghe come "ci preoccupiamo dell'IA responsabile"