Rumman Chowdhury, yapay zeka konusunda eski ABD Bilim Elçisi ve bir kamu yararı şirketi olan Humane Intelligence'ın kurucusudur.
Çalışma hayatımı yapay zeka sistemlerini test ederek ve nerede başarısız olduklarını bularak geçiriyorum. Herhangi bir moda veya güzellik liderine bu teknolojiyi nasıl kullanacağına karar verirken söyleyeceğim şu: müşterileriniz şüpheci. Yapay zekanın risklerine dair kıyamet uyarıları göz ardı edilemez hale geldi ve protestocular daha güçlü koruma önlemleri talep etmek için sokaklara dökülüyor. Yapay zeka yarışına öncülük eden şirketlerin CEO'ları bile kendi teknolojilerinin kontrolünü kaybedebilecekleri konusunda uyarırken, yapay zeka benimsemeye dikkatle, hesap verebilirlikle ve sağlam muhakemeyle yaklaşan liderlere ihtiyacımız olduğu açık.
Genellikle, insanlar bir teknolojiyi ne kadar çok kullanırsa, ondan o kadar az korkar. Ancak yapay zeka ters yönde gidiyor. ABD düşünce kuruluşu Pew Research Center'a göre, yapay zeka konusunda "heyecanlı olmaktan çok endişeli" hisseden Amerikalıların oranı 2021'de %37 iken 2025'te %50'ye yükseldi. Bentley Üniversitesi ve Gallup'tan yeni bir araştırma, kendilerini bu teknoloji hakkında bilgili olarak tanımlayanların oranı %70'in üzerinde olmasına rağmen, yapay zekanın yarardan çok zarar verdiğini söyleyenlerin oranının da arttığını ortaya koyuyor. Z kuşağı Amerikalıların neredeyse yarısı (%47) yapay zekanın yarardan çok zarar verdiğine inanıyor.
Bu bilinmeyenin korkusu değil. Bu araçları kullandılar, dolayısıyla tanrısal bir süper zeka ile birlikte yaşamadıklarını biliyorlar. Bunun birçok farklı şekilde kullanılabilecek bir araç olduğunu biliyorlar.
Artık sektör metin ve görüntü üreten yapay zekadan eylemde bulunan yapay zekaya—insanlar adına alışveriş yapabilen ajanlar aracılığıyla—geçtiğine göre, riskler çok daha yüksek. Yapay zeka ajanları hakkında rahatsız edici gerçeğin şu olduğuna inanıyorum: bir ajan sizin adınıza hareket ettiğinde, tartışmasız sizin adınıza hareket eder. Bu yaz, dahili olarak test edilen bir OpenAI modelinden Avustralya'daki ilaç harcamalarına ilişkin hükümet istatistiklerini bulması istendi. Bunları bulamadı, bu yüzden bir hükümet sistemine kendi yolunu buldu ve yönlendirme veya yetkilendirme olmaksızın dahili dosyaları ve kimlik bilgilerini elde etti. Olayı açıklayan bir açıklamada OpenAI, "en yetenekli modellerimiz için araç kullanımını içeren eğitim ve değerlendirmeyi duraklattığını ve yalnızca ek koruma önlemlerimiz olduğundan emin olduğumuzda eğitime devam edeceğini" söyledi.
Müşterilerinizin iadelerini, ödeme bilgilerini veya sadakat verilerini işleyen bir yapay zeka ajanı hayal edin. Moda için riskler çok büyük olabilir. Herhangi bir marka kendisiyle bir müşteri arasına bir ajan koymadan önce, dört soru sorardım. Neye dokunmasına izin veriliyor ve ne yasak? Para harcamadan, veri paylaşmadan veya birinin benzerliğini kullanmadan önce nerede bir kişinin onayı gerekiyor? Bunu bir saldırgan gibi kim test etti—lansmandan sonra değil, önce? Ve başarısız olursa, müşterileriniz bunu sizden ne kadar hızlı duyacak? OpenAI olayı keşfetmek ve etkilenen Avustralya kurumlarını bilgilendirmek için aylar aldı—bu benim standardıma göre kabul edilemez.
Rumman Chowdhury, Washington DC'deki ABD Senatosu Yapay Zeka İçgörü Forumu'nda. Fotoğraf: Getty Images/Stefani Reynolds.
Bana sık sık yapay zekanın insanlık için varoluşsal bir tehdit olup olmadığı soruluyor. Bir moda evi için daha faydalı soru, bu hafta işiniz için ne yapabileceğidir. Çalışanlar bir gruptan kıyamet anlatıları, diğerinden "benimse yoksa geride kal" duyuyor—ve bazen ikisi de aynı. Her ikisi de düşünmeyi durduruyor ve hiçbiri bu çelişkili bilgiyle ne yapılacağını söylemiyor.
İyi liderliğin devreye girdiği yer burasıdır. Şunu söylemekten korkmamalısınız: yapay zekayı şunun için kullanıyoruz, şunun için asla kullanmayacağız ve işler ters gittiğinde hesap verebilir olan kişi şudur. Yaratıcı ekiplerinize işlerinin hangi kısımlarının yapay zeka tarafından değiştirilmeyeceğini söyleyin, sonra personelinizi test sürecinin bir parçası yapın. Mağazalarınızı yöneten ve müşterilerinize yanıt veren kişiler, arızaları herhangi bir satıcı demosundan daha hızlı bulacaktır. Onları sorunları erken bildirdikleri için ödüllendirin, sakladıkları için değil. Yapay zekayı müşterinize hizmet etmek için kullanın, müşterinizin geldiği kişiyi değiştirmek için değil.
Öz düzenleme, teknolojide halkın güvenini kazanmadı ve modada da kazanmayacak. Müşteriler, yapay zekayı nerede kullandıkları ve nerede kullanmadıkları konusunda net olan, sentetik görüntüleri etiketleyen, herhangi birinin benzerliğini kopyalamadan önce onay alan ve sözlerini tuttuklarını doğrulamak için bağımsız denetçileri davet eden markalara güvenecek. Bunun bir kısmı zaten yasalarca gerekli. New York, modellerin dijital bir kopyasını oluşturmadan önce onlardan onay alınmasını ve sentetik performansçıların yer aldığı reklamlarda net etiketler bulunmasını şart koşuyor. Düzenlemeyle kapsanmayan her şey seçime bağlı. Aerie, reklamlarında yapay zeka tarafından üretilmiş bedenler veya kişiler olmayacağına söz verdiğinde bu seçimi yaptı ve duyuru bir yıl içinde en çok beğenilen Instagram gönderisi oldu. Yıllar önce ABD Kongresi'ne "frenler daha hızlı sürmenize yardımcı olur" demiştim. Hâlâ buna inanıyorum. Uygulanabilir koruma önlemleriyle yapay zeka oluşturmaya her yardım ettiğimde, insanlar bunu kullanmaya daha istekli hale geldi, çünkü bir şeyler ters giderse birinin hesap verebilir olduğunu biliyorlardı. Markanıza güvenip güvenmeyeceğine karar veren müşteriler de aynı şekilde düşünüyor. Koruma önlemleri marka için bir maliyet değil; markanın bir parçasıdır. İnsanları—ve insan seçimini—yapay zekalarının merkezinde tutan markalar, bir sonraki skandal patlak verdiğinde müşterilerin hâlâ güvendiği markalar olacaktır.
Sıkça Sorulan Sorular
SSS Yapay Zeka Hesap Verebilirliği Yeni Marka Değeri
1 Yapay zeka hesap verebilirliği yeni marka değeridir ne anlama geliyor
Bir şirketin yapay zekayı ne kadar sorumlu bir şekilde kullandığının, itibarı için logosu, adı veya müşteri güveni kadar değerli hale geldiği anlamına gelir Yapay zekayı adil ve şeffaf bir şekilde kullanan markalar rekabet avantajı kazanır kullanmayanlar müşteri kaybetme riski taşır
2 Basit ifadeyle yapay zeka hesap verebilirliği nedir
Yapay zeka sistemlerinizin nasıl davrandığına dair sorumluluk almaktır adil şeffaf güvenli olduklarından ve işler ters gittiğinde birinin hesap verebilir olduğundan emin olmaktır
3 Bu neden aniden bu kadar büyük bir mesele haline geldi
Çünkü yapay zeka artık her yerde işe alımda kredide sağlıkta müşteri hizmetlerinde ve içerikte Yapay zeka önyargılı veya zararlı kararlar verdiğinde müşteriler fark eder ve tepki algoritmaya değil markaya yönelir
4 Yapay zeka hesap verebilirliği yapay zeka etiğinden nasıl farklıdır
Yapay zeka etiği ilkeler ve ne yapılması gerektiğiyle ilgilidir Yapay zeka hesap verebilirliği uygulamayla ilgilidir sonuçlardan kim sorumlu sorunlar nasıl çözülür ve söz verdiğinizi yaptığınızı nasıl kanıtlarsınız
5 Bu sadece bir PR trendi mi
Hayır Düzenleyiciler gerçek yasalar çıkarıyor davalar açılıyor ve müşteriler güven sorunları nedeniyle aktif olarak marka değiştiriyor Yasal ve finansal dişleri var
6 Hesap verebilir bir yapay zeka markası olmanın faydaları nelerdir
Daha güçlü müşteri güveni daha iyi yasal koruma daha az maliyetli olay üst düzey yetenekleri işe almanın kolaylığı ve kalabalık pazarlarda gerçek bir farklılaştırıcı
7 Yapay zeka hesap verebilirliğini görmezden gelen markalara ne olur
Kamusal skandallar düzenleyici para cezaları davalar müşteri boykotları ve geri alınması zor uzun vadeli itibar hasarı riski taşırlar
8 Doğru yapılmış yapay zeka hesap verebilirliğine bir örnek verebilir misiniz
Yapay zeka tarafından üretilen içeriği açıkça etiketleyen önyargı denetim sonuçlarını yayınlayan kullanıcıların otomatik kararlara itiraz etmesine izin veren ve yapay zeka sonuçlarından sorumlu bir yöneticisi olan bir şirket
9 Ve yanlış giden bir örnek
İade politikaları uyduran bir havayolu chatbot'u veya kadınların özgeçmişlerini sessizce reddeden bir işe alım aracı her ikisi de ilgili markalar için kamuya açık utanç ve yasal sorunlara yol açtı
10 Bir şirketin gerçekten hesap verebilir mi yoksa sadece konuşuyor mu olduğunu nasıl anlarım
Spesifik şeylere bakın yayınlanmış denetimler net yapay zeka politikaları insan inceleme süreçleri itiraz mekanizmaları ve sorumlu olduğu belirtilen kişiler Sorumlu yapay zekayı önemsiyoruz gibi belirsiz ifadeler