Rumman Chowdhury on entinen Yhdysvaltojen tiedelähettiläs tekoälyn alalla ja Humane Intelligencen, yleishyödyllisen osakeyhtiön, perustaja.
Työelämäni kuluu tekoälyjärjestelmien testaamiseen ja niiden puutteiden löytämiseen. Tässä on se, mitä sanoisin kenelle tahansa muoti- tai kauneusalan johtajalle, joka päättää tämän teknologian käytöstä: asiakkaasi ovat skeptisiä. Maailmanlopun varoituksista tekoälyn riskeistä on tullut mahdotonta sivuuttaa, ja mielenosoittajat lähtevät kaduille vaatimaan vahvempia suojatoimia. Kun jopa tekoälykilpailua johtavien yritysten toimitusjohtajat varoittavat, että he voivat menettää hallinnan omaan teknologiaansa, on selvää, että tarvitsemme johtajia, jotka suhtautuvat tekoälyn käyttöönottoon varovaisuudella, vastuullisuudella ja harkintakyvyllä.
Yleensä mitä enemmän ihmiset käyttävät teknologiaa, sitä vähemmän he pelkäävät sitä. Mutta tekoälyn kohdalla käy päinvastoin. Yhdysvaltalaisen ajatushautomon Pew Research Centerin mukaan amerikkalaisten osuus, jotka tuntevat olevansa "enemmän huolissaan kuin innoissaan" tekoälystä, nousi 37 prosentista vuonna 2021 50 prosenttiin vuonna 2025. Bentleyn yliopiston ja Gallupin uusi tutkimus osoittaa, että myös niiden osuus, jotka sanovat tekoälyn tekevän enemmän haittaa kuin hyötyä, on kasvussa, vaikka yli 70 prosenttia kuvailee itseään teknologian tuntijoiksi. Lähes puolet (47 %) Yhdysvaltojen Z-sukupolvesta uskoo, että tekoäly tekee enemmän haittaa kuin hyötyä.
Tämä ei ole tuntemattoman pelkoa. He ovat käyttäneet näitä työkaluja, joten he tietävät, etteivät he elä jumalankaltaisen superälyn rinnalla. He tietävät, että tämä on työkalu, jota voidaan käyttää monin eri tavoin.
Nyt kun ala siirtyy tekoälystä, joka tuottaa tekstiä ja kuvia, tekoälyyn, joka ryhtyy toimiin – agenttien kautta, jotka voivat ostaa ihmisten puolesta – panokset ovat paljon korkeammat. Tässä on mielestäni epämukava totuus tekoälyagenteista: kun agentti toimii puolestasi, se toimii kenties nimissäsi. Tänä kesänä OpenAI:n mallia, jota testattiin sisäisesti, pyydettiin etsimään hallituksen tilastoja Australian lääkemenoista. Se ei löytänyt niitä, joten se löysi oman tiensä hallituksen järjestelmään ja nouti sisäisiä tiedostoja ja tunnistetietoja ilman ohjausta tai valtuutusta. Selityksessään tapauksesta OpenAI sanoi "keskeyttäneensä koulutuksen ja arvioinnin, joka liittyy työkalujen käyttöön kyvykkäimmillä malleillamme, ja jatkavansa niiden koulutusta vain, kun olemme varmoja siitä, että meillä on lisäsuojatoimia käytössä".
Kuvittele tekoälyagentti hoitamassa asiakkaidesi palautuksia, maksutietoja tai kanta-asiakastietoja. Riskit muotialalle voivat olla valtavat. Ennen kuin mikään brändi asettaa agentin itsensä ja asiakkaan väliin, kysyisin neljä kysymystä. Mihin se saa koskea ja mikä on kiellettyä? Missä ihmisen on hyväksyttävä ennen kuin se käyttää rahaa, jakaa tietoja tai käyttää jonkun kuvaa? Kuka on testannut sitä niin kuin hyökkääjä tekisi – ennen lanseerausta eikä sen jälkeen? Ja jos se epäonnistuu, kuinka nopeasti asiakkaasi kuulevat siitä sinulta? OpenAI:lta kesti kuukausia havaita tapaus ja ilmoittaa siitä asianomaisille australialaisille virastoille – se on minun mittapuullani hyväksymätöntä.
Rumman Chowdhury Yhdysvaltojen senaatin AI Insight Forumissa Washington DC:ssä. Kuva: Getty Images/Stefani Reynolds.
Minulta kysytään usein, onko tekoäly eksistentiaalinen uhka ihmiskunnalle. Muotitalolle hyödyllisempi kysymys on, mitä se voi tehdä liiketoiminnallesi tällä viikolla. Työntekijät kuulevat maailmanlopun kertomuksia yhdeltä ryhmältä ja "omaksu tai jää jälkeen" toiselta – ja joskus ne ovat sama ryhmä. Molemmat sulkevat ajattelun, eikä kumpikaan kerro kenellekään, mitä tälle ristiriitaiselle tiedolle pitäisi tehdä.
Tässä hyvä johtajuus astuu kuvaan. Sinun ei pitäisi pelätä sanoa: tähän käytämme tekoälyä, tähän emme koskaan, ja tämä henkilö on vastuussa, kun asiat menevät pieleen. Kerro luoville tiimeillesi, mitä osia heidän työstään tekoäly ei korvaa, ja tee henkilöstöstäsi osa testausta. Ihmiset, jotka pyörittävät myymälöitäsi ja vastaavat asiakkaille, löytävät puutteet nopeammin kuin mikään myyjän esittely. Palkitse heitä ongelmien varhaisesta raportoinnista, ei niiden piilottelusta. Käytä tekoälyä palvelemaan asiakastasi, ei korvaamaan sitä ihmistä, jonka vuoksi asiakkaasi tuli.
Itsesääntely ei ole ansainnut yleisön luottamusta teknologia-alalla, eikä se ansaitse sitä muotialallakaan. Brändit, jotka ovat selkeitä siitä, missä ne käyttävät tekoälyä ja missä eivät, merkitsevät synteettiset kuvat, hankkivat suostumuksen ennen jonkun kuvan kopioimista ja kutsuvat riippumattomia arvioijia varmistamaan, että ne pitävät lupauksensa, saavat asiakkaiden luottamuksen. Osa tästä on jo lain vaatimaa. New York vaatii mallien suostumuksen ennen niistä tehdyn digitaalisen kopion luomista ja selkeät merkinnät mainoksiin, joissa esiintyy synteettisiä esiintyjiä. Kaikki se, mitä sääntely ei kata, on valintakysymys. Aerie teki tämän valinnan luvatessaan, ettei sen mainoksissa ole tekoälyn tuottamia kehoja tai ihmisiä, ja ilmoituksesta tuli sen vuoden tykätyin Instagram-julkaisu. Vuosia sitten sanoin Yhdysvaltojen kongressille, että "jarrut auttavat sinua ajamaan nopeammin". Uskon siihen edelleen. Joka kerta kun olen ollut mukana rakentamassa tekoälyä, jossa on valvottavia suojatoimia, ihmiset ovat tulleet halukkaammiksi käyttämään sitä, koska he tiesivät, että joku on vastuussa, jos jotain menee pieleen. Asiakkaat, jotka päättävät, voivatko luottaa brändiisi, ajattelevat samalla tavalla. Suojatoimet eivät ole brändille kustannus; ne ovat osa brändiä. Brändit, jotka pitävät ihmiset – ja ihmisen valinnan – tekoälynsä keskiössä, ovat niitä, joihin asiakkaat edelleen luottavat, kun seuraava skandaali iskee.
Usein kysytyt kysymykset
UKK Tekoälyn vastuullisuus on uusi brändipääoma
1 Mitä tarkoittaa, että tekoälyn vastuullisuus on uusi brändipääoma
Se tarkoittaa, että se, kuinka vastuullisesti yritys käyttää tekoälyä, tulee maineelle yhtä arvokkaaksi kuin sen logo, nimi tai asiakasluottamus. Brändit, jotka käyttävät tekoälyä reilusti ja läpinäkyvästi, saavat kilpailuetua; ne, jotka eivät, vaarantavat asiakkaiden menettämisen
2 Mitä tekoälyn vastuullisuus tarkoittaa yksinkertaisesti sanottuna
Se on vastuun ottamista siitä, miten tekoälyjärjestelmäsi käyttäytyvät – varmistamista, että ne ovat reiluja, läpinäkyviä ja turvallisia, ja että joku on vastuussa, kun asiat menevät pieleen
3 Miksi tämä on yhtäkkiä niin iso juttu
Koska tekoäly on nyt kaikkialla – rekrytoinnissa, lainanannossa, terveydenhuollossa, asiakaspalvelussa ja sisällössä. Kun tekoäly tekee puolueellisia tai haitallisia päätöksiä, asiakkaat huomaavat sen, ja vastareaktio osuu brändiin, ei algoritmiin
4 Miten tekoälyn vastuullisuus eroaa tekoälyn etiikasta
Tekoälyn etiikka koskee periaatteita ja sitä, mitä pitäisi tehdä. Tekoälyn vastuullisuus koskee täytäntöönpanoa – kuka vastaa tuloksista, miten ongelmat korjataan ja miten todistat tekeväsi sen, mitä lupasit
5 Onko tämä vain PR-trendi
Ei. Sääntelijät säätävät todellisia lakeja, kanteita nostetaan ja asiakkaat vaihtavat aktiivisesti brändejä luottamuskysymysten vuoksi. Sillä on oikeudellista ja taloudellista painoarvoa
6 Mitä hyötyä on olla vastuullinen tekoälybrändi
Vahvempi asiakasluottamus, parempi oikeudellinen suoja, vähemmän kalliita tapauksia, helpompi huippuosaajien rekrytointi ja aito erottautumistekijä ruuhkaisilla markkinoilla
7 Mitä tapahtuu brändeille, jotka sivuuttavat tekoälyn vastuullisuuden
Ne vaarantavat julkisia skandaaleja, sääntelysakkoja, kanteita, asiakkaiden boikotteja ja pitkäaikaista mainehaittaa, jota on vaikea peruuttaa
8 Voitko antaa esimerkin oikein tehdystä tekoälyn vastuullisuudesta
Yritys, joka merkitsee selkeästi tekoälyn tuottaman sisällön, julkaisee puolueellisuustarkastusten tulokset, antaa käyttäjien valittaa automatisoiduista päätöksistä ja jolla on nimetty johtaja vastuussa tekoälyn tuloksista
9 Ja esimerkki siitä, kun se menee pieleen
Lentoyhtiön chatbot, joka keksii hyvityskäytäntöjä, tai rekrytointityökalu, joka hiljaisesti hylkää naisten ansioluettelot – molemmat johtivat julkiseen nöyryytykseen ja oikeudellisiin ongelmiin asianomaisille brändeille
10 Mistä tiedän, onko yritys aidosti vastuullinen vai vain puhuu
Etsi yksityiskohtia: julkaistuja tarkastuksia, selkeitä tekoälykäytäntöjä, ihmisen suorittamia tarkistusprosesseja, valitusmekanismeja ja nimettyjä vastuuhenkilöitä. Epämääräiset lausunnot, kuten "välitämme vastuullisuudesta"