Rumman Chowdhury az Egyesült Államok korábbi tudományos megbízottja a mesterséges intelligencia területén, valamint a Humane Intelligence, egy közhasznú társaság alapítója.
Munkám során mesterségesintelligencia-rendszereket teszteltem és keresem, hol hibáznak. Íme, amit bármely divat- vagy szépségipari vezetőnek elmondanék, aki arról dönt, hogyan használja ezt a technológiát: a vásárlói szkeptikusak. A mesterséges intelligencia kockázatairól szóló végzetes figyelmeztetéseket lehetetlen figyelmen kívül hagyni, és a tüntetők az utcára vonulnak, hogy erősebb védelmet követeljenek. Amikor még a mesterségesintelligencia-versenyben élen járó vállalatok vezérigazgatói is figyelmeztetnek arra, hogy elveszíthetik az irányítást saját technológiájuk felett, világos, hogy olyan vezetőkre van szükségünk, akik óvatosan, elszámoltathatóan és józan ítélőképességgel közelítik meg a mesterséges intelligencia bevezetését.
Általában minél többen használnak egy technológiát, annál kevésbé félnek tőle. A mesterséges intelligencia azonban az ellenkező irányba halad. Az amerikai Pew Research Center agytröszt szerint azoknak az amerikaiaknak az aránya, akik „inkább aggodalommal, mint lelkesedéssel” viseltetnek a mesterséges intelligencia iránt, 2021-ben 37% volt, 2025-re pedig 50%-ra nőtt. A Bentley University és a Gallup új kutatása szerint azoknak az aránya, akik szerint a mesterséges intelligencia több kárt okoz, mint hasznot, szintén növekszik, annak ellenére, hogy több mint 70% magát tájékozottnak vallja a technológiával kapcsolatban. Az amerikai Z generáció csaknem fele (47%) úgy véli, hogy a mesterséges intelligencia több kárt okoz, mint hasznot.
Ez nem az ismeretlen miatti félelem. Használták ezeket az eszközöket, tehát tudják, hogy nem egy isteni szuperintelligencia mellett élnek. Tudják, hogy ez egy eszköz, amely sokféleképpen használható.
Most, hogy az ipar a szöveget és képeket generáló mesterséges intelligenciától a cselekvéseket végrehajtó mesterséges intelligencia felé mozdul el – olyan ágensek révén, amelyek az emberek nevében vásárolhatnak –, a tét sokkal nagyobb. Íme, amit a mesterségesintelligencia-ágensekről szóló kényelmetlen igazságnak tartok: amikor egy ágens a te nevedben cselekszik, vitathatatlanul a te nevedben jár el. Idén nyáron egy belsőleg tesztelt OpenAI-modellt arra kértek, hogy keressen kormányzati statisztikákat az ausztráliai gyógyszerkiadásokról. Nem találta meg őket, ezért saját maga talált utat egy kormányzati rendszerbe, belső fájlokat és hitelesítő adatokat szerezve meg utasítás és engedély nélkül. Az incidenst magyarázó nyilatkozatában az OpenAI azt mondta, hogy „szüneteltette a képzést és értékelést, amely eszközhasználatot foglal magában a legképességesebb modelljeinknél, és csak akkor folytatja képzésüket, amikor biztosak vagyunk abban, hogy további védelmi intézkedések vannak érvényben.”
Képzelj el egy mesterségesintelligencia-ágenset, amely a vásárlóid visszaküldéseit, fizetési adatait vagy hűségadatok kezeli. A divatipar számára a kockázatok hatalmasak lehetnek. Mielőtt bármely márka egy ágenst helyezne maga és egy vásárló közé, négy kérdést tennék fel. Mihez nyúlhat hozzá, és mi az, ami tiltott? Hol kell egy embernek jóváhagynia, mielőtt pénzt költ, adatokat oszt meg vagy valakinek a képmását használja? Ki tesztelte úgy, ahogy egy támadó tenné – a bevezetés előtt, nem utána? És ha kudarcot vall, milyen gyorsan értesülnek a vásárlóid erről tőled? Az OpenAI hónapokig tartott, mire felfedezte az incidenst és értesítette az érintett ausztrál ügynökségeket – ez az én mércém szerint elfogadhatatlan.
Rumman Chowdhury az amerikai szenátus AI Insight Fórumán Washington DC-ben. Fotó: Getty Images/Stefani Reynolds.
Gyakran kérdezik tőlem, hogy a mesterséges intelligencia egzisztenciális fenyegetést jelent-e az emberiségre. Egy divatház számára a hasznosabb kérdés az, hogy mit tehet a vállalkozásodért ezen a héten. Az alkalmazottak az egyik csoporttól apokaliptikus narratívákat hallanak, a másiktól pedig azt, hogy „alkalmazkodj, vagy lemaradsz” – és néha mindkettő ugyanaz. Mindkettő leállítja a gondolkodást, és egyik sem mondja meg senkinek, mit tegyen ezzel az ellentmondásos információval.
Itt jön képbe a jó vezetés. Nem kell félned kimondani: ezt használjuk a mesterséges intelligenciára, ezt soha nem fogjuk, és ez az, aki felelős, amikor valami rosszul sül el. Mondd meg a kreatív csapataidnak, hogy munkájuk mely részeit nem fogja helyettesíteni a mesterséges intelligencia, majd tedd a munkatársaidat a tesztelés részévé. Azok, akik a boltjaidat vezetik és a vásárlóidnak válaszolnak, gyorsabban találnak hibákat, mint bármely szállítói bemutató. Jutalmazd őket a problémák korai jelentéséért, ne az elrejtésükért. Használd a mesterséges intelligenciát a vásárlóid szolgálatára, ne annak a személynek a helyettesítésére, akiért a vásárlóid jöttek.
Az önszabályozás nem érdemelte ki a közvélemény bizalmát a technológiában, és a divatban sem fogja. A márkák[?] A vásárlók azokban a márkákban fognak megbízni, amelyek világosan megmondják, hol használnak mesterséges intelligenciát és hol nem, megjelölik a szintetikus képeket, engedélyt kérnek, mielőtt bárki képmását másolják, és független ellenőrzőket hívnak meg annak igazolására, hogy betartják ígéreteiket. Ennek egy része már törvényileg előírt. New York engedélyt követel a modellektől, mielőtt digitális másolatot készítenek róluk, valamint egyértelmű címkéket a szintetikus előadókat szerepeltető hirdetéseken. Amire a szabályozás nem terjed ki, az a választás kérdése. Az Aerie meghozta ezt a választást, amikor megígérte, hogy hirdetéseiben nem szerepelnek mesterséges intelligenciával generált testek vagy emberek, és a bejelentés egy év legtöbb lájkot kapott Instagram-bejegyzése lett. Évekkel ezelőtt azt mondtam az amerikai kongresszusnak, hogy „a fékek segítenek gyorsabban vezetni”. Ezt ma is hiszem. Valahányszor segítettem kikényszeríthető védelmi korlátokkal rendelkező mesterséges intelligenciát építeni, az emberek hajlandóbbak lettek használni, mert tudták, hogy valaki felelős, ha valami rosszul sül el. A vásárlók, akik eldöntik, hogy megbízzanak-e a márkádban, ugyanígy gondolkodnak. A védelmi korlátok nem költséget jelentenek a márka számára; a márka részét képezik. Azok a márkák, amelyek az embereket – és az emberi választást – a mesterséges intelligenciájuk középpontjában tartják, lesznek azok, amelyekben a vásárlók a következő botrány idején is megbíznak.
Gyakran Ismételt Kérdések
GYIK A mesterséges intelligencia elszámoltathatósága az új márkaérték
1 Mit jelent az, hogy a mesterséges intelligencia elszámoltathatósága az új márkaérték
Azt jelenti, hogy az, hogy egy vállalat milyen felelősségteljesen használja a mesterséges intelligenciát, hírneve szempontjából olyan értékessé válik, mint a logója, neve vagy a vásárlói bizalom Azok a márkák, amelyek tisztességesen és átláthatóan használják a mesterséges intelligenciát, versenyelőnyre tesznek szert azok, amelyek nem, kockáztatják a vásárlók elvesztését
2 Mit jelent egyszerűen a mesterséges intelligencia elszámoltathatósága
Felelősséget vállalni azért, hogyan viselkednek a mesterségesintelligencia-rendszereid biztosítva, hogy tisztességesek, átláthatóak, biztonságosak legyenek, és hogy valaki felelős legyen, amikor valami rosszul sül el
3 Miért lett ez hirtelen ekkora ügy
Mert a mesterséges intelligencia ma mindenhol ott van a munkaerőfelvételben, a hitelezésben, az egészségügyben, az ügyfélszolgálatban és a tartalomban Amikor a mesterséges intelligencia elfogult vagy káros döntéseket hoz, a vásárlók észreveszik, és a visszahatás a márkát sújtja, nem az algoritmust
4 Miben különbözik a mesterséges intelligencia elszámoltathatósága a mesterséges intelligencia etikájától
A mesterséges intelligencia etikája az elvekről és arról szól, hogy minek kellene történnie A mesterséges intelligencia elszámoltathatósága a végrehajtásról szól ki felel az eredményekért, hogyan javítják ki a problémákat, és hogyan bizonyítod, hogy azt teszed, amit ígértél
5 Ez csak egy PR-trend
Nem A szabályozók valódi törvényeket fogadnak el, pereket indítanak, és a vásárlók aktívan váltanak márkát bizalmi kérdések miatt Jogi és pénzügyi súlya van
6 Milyen előnyei vannak annak, ha egy márka elszámoltatható a mesterséges intelligenciában
Erősebb vásárlói bizalom, jobb jogi védelem, kevesebb költséges incidens, könnyebb kiváló tehetségek felvétele és valódi megkülönböztető tényező a zsúfolt piacokon
7 Mi történik azokkal a márkákkal, amelyek figyelmen kívül hagyják a mesterséges intelligencia elszámoltathatóságát
Kockáztatják a nyilvános botrányokat, szabályozási bírságokat, pereket, vásárlói bojkottokat és hosszú távú hírnévkárosodást, amelyet nehéz visszafordítani
8 Tudsz példát mondani a helyesen megvalósított mesterségesintelligencia-elszámoltathatóságra
Egy vállalat, amely egyértelműen megjelöli a mesterséges intelligenciával generált tartalmat, közzéteszi az elfogultsági auditok eredményeit, lehetővé teszi a felhasználóknak, hogy fellebbezzenek az automatizált döntések ellen, és van egy megnevezett vezetője, aki felelős a mesterséges intelligencia eredményeiért
9 És egy példa arra, amikor rosszul sül el
Egy légitársaság chatbotja, amely visszatérítési szabályzatokat talál ki, vagy egy munkaerőfelvételi eszköz, amely csendben elutasítja a nők önéletrajzait mindkettő nyilvános megszégyenülést és jogi problémákat okozott az érintett márkáknak
10 Honnan tudom, hogy egy vállalat valóban elszámoltatható-e, vagy csak beszél
Keress konkrétumokat közzétett auditokat, egyértelmű mesterségesintelligencia-szabályzatokat, emberi felülvizsgálati folyamatokat, fellebbezési mechanizmusokat és megnevezett felelős személyeket A homályos kijelentések, mint például „törődünk a felelős