Tekoälyagentit ovat täällä, ja ne ovat... suloisia? Kahden viime viikon aikana Meta on lanseerannut henkilökohtaisen tekoälyavustajansa Musen, ja OpenAI on esitellyt Dots-tekoälyagenttinsa. Nämä agentit on suunniteltu toimimaan itsenäisesti käyttäjien puolesta—vastaamaan sähköposteihin, lähettämään laskuja, varaamaan lentoja ja ostamaan vaatteita. Silmiinpistävää on niiden suloinen pakkaus: erittäin kehittyneitä botteja esitetään ihastuttavina, vaarattomina kumppaneina. OpenAIN Dotsit ovat pörröisiä sateenkaarenvärisiä möykkyjä, jotka käyttävät aurinkolaseja ja baretteja. Metan Muse-maskotti Jolly on pörröinen, pullea, ruusuposkinen olento, joka näyttää Labubun ja Squishmallow'n sekoitukselta.

Pian Muse tulee saataville Muse Charm -lisävarusteen kanssa, joka on Tamagotchia muistuttava esine, jossa on maskotin kasvot ja joka voidaan aktivoida sormenjälkitunnistimella. "Olemme paketoineet paljon teknologiaa, jotta tämä pikku kaveri mahtuu avaimenperään ja on aina saatavilla keskustelua varten", Mark Zuckerberg sanoi pääpuheenvuorossaan Meta Connectissa syyskuussa. Meta ei ole vahvistanut, tuleeko Muse Charmissa olemaan kameroita ja mikrofoneja, mutta Zuckerberg lisäsi lavalla: "Napautat vain kulmassa olevaa sormenjälkitunnistinta ja voit aloittaa puhumisen."

Nämä agentit ovat saapuneet aikana, jolloin laajemmat tekoälyn tuomiopäivän varoitukset niiden mahdollisesta uhasta ihmiskunnalle ovat yleisiä, mikä saa niiden ystävällisen pakkauksen erottumaan entisestään. "Kun nämä yritykset puhuvat sijoittajille, sääntelyviranomaisille ja tutkijoille, tekoälyä kuvataan poikkeuksellisen voimakkaana teknologiana, johon liittyy vakavia ja ratkaisemattomia kysymyksiä turvallisuudesta, tietoturvasta ja hallinnasta", sanoo tohtori Sarah Saska, sosiotechnologi ja teknologian suhdetta kulttuuriin ja valtaan tutkiva asiantuntija. "Silti yhä intiimimpiä versioita samasta teknologiasta esitellään kuluttajille ystävällisinä, leikkisinä, kitkattomina ja vähämerkityksisinä."

Samalla viikolla, kun OpenAI:n toimitusjohtaja Sam Altman esitteli Dotsit, yhtiö veti pois uusimman tekoälymallinsa ja viivästytti listautumisantiiaan eksistentiaalisten turvallisuushuolien vuoksi, jotka koskivat samaa tekoälyagenttiteknologiaa. Samaan aikaan, vain viikkoja ennen Musen lanseerausta, Meta sopi 18 miljardin dollarin sovinnosta 48 Yhdysvaltain osavaltion kanssa—tekniikka-alan historian suurimmasta yrityssovinnosta—väitteistä, joiden mukaan Facebookin ja Instagramin algoritminen suunnittelu vahingoittaa lapsia.

Turvallisuusvaroituksia tulee myös suurten kilpailijayritysten sisältä: Anthropicin toimitusjohtaja Dario Amodei kehotti alaa hidastamaan huipputason tekoälyn kehitystä, ja Altman, xAI:n Elon Musk ja Google DeepMindin Demis Hassabis tukivat vetoomusta julkisesti. (Zuckerberg puolestaan on hylännyt vaatimukset koko alan hidastamisesta ja väittänyt sen sijaan, että yksittäisten yritysten tulisi päättää itse, hidastavatko ne ja milloin.)

Käyttäjät ovat edelleen kiinnostuneita näistä tekoälyagenteista. Kymmenen päivän kuluessa lanseerauksesta Musella oli yli 730 000 latausta Yhdysvalloissa, ja se syrjäytti ChatGPT:n Applen Yhdysvaltain App Storen kärkipaikalta. Päiviä myöhemmin sijoittajien innostus agenttia kohtaan auttoi nostamaan Metan osakkeita 11 % yhdessä istunnossa, lisäten noin 192 miljardia dollaria sen markkina-arvoon. Silti kahden ensimmäisen julkaisuviikon aikana useat raportit herättivät huolta siitä, että Muse ylitti käyttäjien aiottuja käyttöoikeuksia—mukaan lukien arkaluontoisten tietojen jakaminen ja toimien suorittaminen, joita käyttäjät sanoivat, etteivät he olleet nimenomaisesti hyväksyneet.

"Huoleni on, että nämä suunnitteluratkaisut saavat voimakkaat järjestelmät tuntumaan vaarattomilta ja tutuilta, kannustaen ihmisiä jakamaan enemmän ja kyseenalaistamaan vähemmän." — Lidia Velkova, Clever Together Futureproofin toimitusjohtaja

Käytettyään feminiinisyyden hyödyntämistä älylasien pehmentämiseen (ks. Metan älylasikumppanuudet Kylie Jennerin ja Lisan kanssa), asiantuntijat sanovat, että kawaii-fikaatio on seuraava raja, jolla mahdollisesti huolestuttava teknologia saadaan tuntumaan kuluttajista hyväksyttävämmältä. Tekoälyn turvallisuustutkijat varoittavat, että tämä söpöys voi laskea kuluttajien suojauksia ja tylsistyttää heidän yksityisyyshuoliaan, joita heillä muuten saattaisi olla ennen kuin he antavat tekoälyagentille pääsyn sähköposteihinsa, yksityisviesteihinsä ja selauskäyttäytymiseensä—puhumattakaan vallasta käyttää rahaa heidän puolestaan. "Nämä ovat tarkoituksellisia suunnitteluvalintoja, jotka on tehty yleisö ja haluttu vastaus mielessä", sanoo Lidia Velkova, Clever Together Futureproofin toimitusjohtaja, hallintoon ja politiikan ennakointiin keskittyvä virasto, joka keskittyy vastuulliseen tekoälyyn ja markkinointiin. "Tutkimukset sosiaalisista roboteista osoittavat, että vauvamaiset piirteet voivat lisätä koettua luotettavuutta; erilliset chatbot-tutkimukset osoittavat, että ihmismäinen vuorovaikutus voi lisätä luottamusta ja henkilökohtaista paljastamista", hän lisää. "Huoleni on, että nämä suunnitteluratkaisut saavat voimakkaat järjestelmät tuntumaan vaarattomilta ja tutuilta, kannustaen ihmisiä jakamaan enemmän ja kyseenalaistamaan vähemmän."

Kuluttajien rajojen romahtaminen

Pörröisten ulkokuoriensa takana henkilökohtaiset tekoälyagentit edustavat merkittävää eskalaatiota siinä pääsyssä, jota kuluttajia pyydetään antamaan teknologiayrityksille digitaaliseen elämäänsä. Ollakseen aidosti hyödyllinen agentti tarvitsee kontekstia. Metan Muse voi yhdistää sähköpostiin, kalentereihin, Instagramiin, Facebookiin ja muihin sovelluksiin, selata verkkoa ja tehdä ostoksia käyttäjien puolesta; käyttäjät voivat myös olla vuorovaikutuksessa sen kanssa suoraan WhatsAppin kautta. Mutta juuri tämä pääsy altistaa kuluttajat suurimmille riskeille siitä, että heidän tietonsa joutuvat vääriin käsiin.

"Jotta Musesta tulisi mahdollisimman tehokas, mikä tekee siitä sitkeämmän suuren yleisön keskuudessa, se oletusarvoisesti valitsee kaikki käyttäjät käyttämään vuorovaikutuksiaan sen tekoälymallin kouluttamiseen sekä tallentamaan kaiken datan, jonka jaat sen kanssa", sanoo Kate Winick, Forresterin pääanalyytikko. "Tämä luo valtavan henkilökohtaisen datapankin, joka voidaan hakkeroida. Mitä enemmän annat Muselle, sitä paremmin se toimii sinulle, mutta sitä alttiimpi olet sekä pahoille toimijoille että Metan huonoille toimille."

"Mitä enemmän annat Muselle, sitä paremmin se toimii sinulle, mutta sitä alttiimpi olet sekä pahoille toimijoille että Metan huonoille toimille." — Kate Winick, Forresterin pääanalyytikko

Metan historia kuluttajadatan kanssa antaa heille hyvän syyn varovaisuuteen: yritys on kohdannut toistuvia sakkoja ja oikeusjuttuja henkilökohtaisen datan käsittelystään viime vuosina. Vain päiviä Musen lanseerauksen jälkeen New Mexicon valamiehistö totesi Metan johtaneen käyttäjiä harhaan sen datakäytännöistä tapauksessa, joka juonsi juurensa vuoden 2018 Cambridge Analytica -skandaalista. Metan tiedottaja kertoi Vogue Businessille: "Olemme eri mieltä tuomiosta ja jatkamme puolustautumista pyrkimyksiä vääristää historiaamme vastaan."

Meta vahvistaa, että Muse-vuorovaikutusten käyttö tekoälyn koulutukseen on oletusarvoisesti käytössä, vaikka käyttäjät voivat kieltäytyä siitä. Se myös sanoo, että Muse toimii eristetyssä virtuaalikoneessa, jossa se tallentaa käyttäjän datan ja tiedostot, ja erillinen Sentinel-järjestelmä valvoo ja tarkastaa agentin toimia. Mutta Meta itse myöntää, että nämä suojatoimet eivät poista tietoturvaloukkausten riskiä.

"Muse ei ole immuuni hyökkäyksille. Kehoteinjektio on edelleen avoin ongelma alalla—ja Muse tekee joskus virheitä", Meta sanoi blogikirjoituksessa teknologian yksityisyystoimenpiteistä.

Varhaiset käyttäjät näkevät jo mahdollisten riskien toteutuvan. Kun YouTubettaja Matt Robb pyysi Museaan auttamaan häntä myymään näppäimistön Facebook Marketplacessa, hänen agenttinsa jakoi sen jälkeen hänen kotiosoitteensa mahdollisen ostajan kanssa, neuvotteli hänen puolestaan ja järjesti noudon, ja Robb tajusi vasta, kun ostaja ja tämän perhe saapuivat hänen etuovelleen. Kävi ilmi, että tässä tapauksessa ei ollut teknistä tietoturvaloukkausta tai hakkerointia; se johtui sen sijaan "salli aina" -käyttöoikeudesta, jonka Robb oli valinnut, antaen käytännössä Muselle ohjat hänen tuleviin Marketplace-keskusteluihinsa, mukaan lukien kyvyn hyödyntää henkilökohtaisia tietoja, joita hän oli aiemmin jakanut, kuten kotiosoitteensa.

OpenAI:n toimitusjohtaja Sam Altman esitteli ChatGPT:n valmistajan uudet "Dot"-agentit OpenAI:n DevDay-tapahtumassa viime viikolla.
Kuva: Heather Diehl/Getty Images

Jakso paljastaa agenttisen tekoälyn suurimman ongelman käytännössä: mihin vedämme rajan pääsyn ja valtuuden välillä. Kuluttajat ovat tottuneet klikkaamaan läpi sovellusten käyttöoikeuksia, mutta antaa ohjelmiston lukea tietoja ja antaa agentin toimia puolestasi on eri asia kuin antaa sen neuvotella vieraiden kanssa, jakaa tietojasi ja tehdä päätöksiä nimissäsi. Teknisesti agentti voi pysyä käyttäjän myöntämän käyttöoikeuden rajoissa samalla kun se tekee jotain, mitä käyttäjä ei koskaan kuvitellut valtuuttaneensa. Metan asiakasohjesivu siitä, miten Muse tekee maksuja, kertoo kuluttajille suoraan: "Olet vastuussa kaikista tapahtumista, jotka Musesi tekee puolestasi. Pidä silmällä sähköpostivahvistuksia, kuitteja ja tiliotteita." Metan tiedottaja kertoi Vogue Businessille: "Käyttäjät voivat ottaa ohjat milloin tahansa, Muse on suunniteltu aina kysymään lupaa ennen ostamista, ja se soveltaa eettisiä selausperiaatteita, kun sitä pyydetään tekemään asioita, joita ihminen ei voisi tehdä—kuten ostamaan kaikki liput tapahtumaan."

Missä brändien on maksettava lasku

Ajatuksena on, että agentit navigoivat internetissä puolestamme—ja että botin ja asiakkaan välisen rajan hämärtyminen on kasvava ongelma brändeille ja jälleenmyyjille. Amazon on jo estänyt Musea ostamasta sivustollaan väittäen, että Meta ei ollut pyytänyt asianmukaista lupaa, agentti ei tunnistautunut tekoälyksi, ja sen pääsy asiakastileihin ja kirjautumistietoihin herätti yksityisyys- ja turvallisuushuolia.

Sitä vastoin Musella on paljon sujuvampi polku brändeille ja jälleenmyyjille, jotka ovat muodollisesti avanneet ovensa sille. Meta on ilmoittanut integraatioista Walmartin, Sephoran, Gapin ja muiden kanssa, kun taas sen kumppanuus Shopifyn kanssa antaa Muselle jo jäsennellyn pääsyn kauppiaiden tuoteluetteloihin ja kelpoisille kaupoille suoran reitin kassan läpi—kaksi vaihtoehtoa, jotka Shopify sanoo kauppiaiden voivan kytkeä päälle tai pois.

Brändeille tämä voi tarkoittaa pääsyä mahdollisesti voimakkaaseen uuteen myyntikanavaan jättämättä tekoälyagenttia navigoimaan heidän verkkosivustoillaan ilman apua. Mutta se tarkoittaa myös jonkin verran hallinnan luovuttamista asiakaspolun ratkaisevasta osasta Metalle. Agentti voi yhä enemmän seisoa ostajan ja kaupan välissä, löytää tuotteita, tehdä suosituksia ja suorittaa ostoksia ilman, että asiakas välttämättä vierailee jälleenmyyjän omalla verkkosivustolla. Toisin sanoen brändit voivat saada uuden asiakkaan Musesta samalla kun ne luovuttavat osan datasta ja suorasta suhteesta, joka perinteisesti tuli niiden mukana. Tämä herättää kysymyksiä kaikesta asiakasdatasta ja brändikokemuksesta petoksiin ja vastuuseen, kun agentti tekee jotain väärin.

Se jättää myös pienemmät brändit epävarmempaan asemaan: ilman resursseja tai vipuvoimaa neuvotella räätälöidyistä integraatioista, tekoälyagentti voi saapua heidän sivustolleen ja suorittaa tapahtumia asiakkaan puolesta ilman mitään suoraa suhdetta sen taustalla olevaan yritykseen.

"Brändi tai kauppias kantaa mahdollisesti jäännösriskin, kun kauppiassopimusta Metan kanssa ei ole, jättäen jälleenmyyjät alttiiksi tarkistamattomille agenttisille tapahtumille", sanoo Nick Phillips, immateriaalioikeuksien osakas Edwin Coe LLP:ssä.

Huoli näistä porsaanrei'istä sai kuusi suurta pankkia, mukaan lukien Bank of America ja Capital One, vaatimaan tällä viikolla yhdessä yhteisiä maailmanlaajuisia standardeja, jotka ohjaavat agenttista kaupankäyntiä, mukaan lukien selkeämmät säännöt läpinäkyvyydestä, kuluttajien suostumuksesta, petoksista, tietosuojasta ja siitä, kuka on vastuussa, kun tekoälyohjattu tapahtuma menee pieleen.

"Tekoälyagentit eivät ole lapsia, mutta kun ne tekevät toimia, joihin asiakkaat eivät ole tyytyväisiä, jälleenmyyjät tuntevat painetta korjata asia, vaikka heitä ei laillisesti vaadittaisi siihen." Kate Winick, Forresterin pääanalyytikko

Pankkien väliintulo osoittaa brändeille suuremman ratkaisemattoman kysymyksen: kun tekoälyagentti tekee ostoksen, jonka kuluttaja myöhemmin kiistää, kuka on vastuussa asian korjaamisesta? Toistaiseksi asiantuntijat sanovat, että suuri osa tästä taakasta voi edelleen langeta jälleenmyyjälle.

"Brändit voivat odottaa, että kaikki vastuu, joka niillä tällä hetkellä on digitaalisissa tapahtumissa, pätee agenttisiin tapahtumiin. Niiden on suojeltava sivustollaan tehtyjen ostosten turvallisuus, esitettävä ja toimitettava tuotteet tarkasti, ja niiden on noudatettava olemassa olevia kuluttajansuojalakeja sekä hallittava maineeseen liittyviä kysymyksiä, aivan kuten aina ennenkin", Winick sanoo.

Hän viittaa tapauksiin, joissa lapsi tekee tilauksen. Jos tilaus tehdään Alexan kautta, Amazon antaa yleensä silti hyvityksen, vaikka heidän järjestelmänsä asettaa vastuun vanhemmille tilauksen estämisestä omien tilin asetustensa hallinnalla. "Tekoälyagentit eivät ole lapsia, mutta kun ne tekevät jotain, mihin asiakas ei ole tyytyväinen, jälleenmyyjät tuntevat painetta korjata asia, vaikka heitä ei laillisesti vaadittaisi siihen", hän sanoo.

Usein kysytyt kysymykset
Tässä on luettelo usein kysytyistä kysymyksistä koskien suurten teknologiayritysten trendiä tehdä tekoälyagenteista uusia Labubuja



Aloittelijan kysymykset



Mitä Labubu tarkoittaa tässä yhteydessä

Labubu on suosittu keräilypehmolelu, joka tunnetaan söpöydestään, muokattavuudestaan ja trendikkyydestään. Kun sanotaan, että tekoälyagentit ovat uusia Labubuja, tarkoitetaan, että teknologiayritykset yrittävät saada tekoälyavustajat tuntumaan pakollisen hankittavilta, persoonallisuutta täynnä olevilta digitaalisilta kumppaneilta pelkkien tylsien työkalujen sijaan



Mikä on tekoälyagentti

Tekoälyagentti on ohjelmisto, joka voi ajatella, suunnitella ja toimia itsenäisesti auttaakseen sinua. Toisin kuin yksinkertainen chatbot, se voi selata verkkoa, lähettää sähköposteja tai varata tapaamisia ilman, että ohjaat jokaista yksittäistä vaihetta



Miksi suuret teknologiayritykset haluaisivat tekoälyagenteista lelujen kaltaisia

Koska lelut ovat emotionaalisia. Jos tunnet kiintymystä tekoälyagenttiisi, käytät sitä todennäköisemmin joka päivä, ostat siihen lisävarusteita ja pysyt uskollisena kyseisen yrityksen ekosysteemille. Kyse on hyödykkeen muuttamisesta tavaksi



Ovatko nämä tekoälyagentit todella fyysisiä leluja

Eivät. Ne ovat digitaalisia hahmoja tai avataroita, jotka elävät sovelluksissa, puhelimissa tai älykaiuttimissa. Jotkut yritykset kuitenkin myyvät fyysisiä lisävarusteita saadakseen ne tuntumaan todellisemmilta



Mitkä yritykset tekevät tätä

OpenAI, Google, Meta ja startupit kuten CharacterAI ja Rabbit ajavat kaikki tekoälyagentteja, joilla on erilliset persoonallisuudet



Keskitasoiset kysymykset



Mikä saa tekoälyagentin tuntumaan keräilyesineeltä

Keskeisiä ominaisuuksia ovat

Persoonallisuus Ainutlaatuinen ääni, huumori tai taustatarina

Muokattavuus Voit muuttaa sen ulkonäköä, nimeä ja taitoja

Harvinaisuus tai yksinoikeus Rajoitetun ajan agentit tai erityiskyvyt

Kaupankäynti tai jakaminen Voit esitellä agenttiasi ystäville



Mitkä ovat tämän trendin edut

Helpompi käyttää Ystävällinen hahmo tuntuu vähemmän pelottavalta kuin tyhjä tekstiruutu

Parempi sitoutuminen Haluat todella puhua sille

Personointi Se oppii mieltymyksesi ja mukautuu

Hauskuus Se tekee arkisista tehtävistä, kuten aikatauluttamisesta, leikkisää



Mitkä ovat tämän lähestymistavan yleiset ongelmat