Teknolojinin hızla popülerleşmesi, şirketlerin yapay zeka kullanımına ilişkin beyanlarının da daha fazla sorgulanmasına yol açıyor.
Şirketlerin ürün veya hizmetlerinde yapay zekayı olduğundan daha kapsamlı ya da etkili gösterdiği durumlar "AI Washing" olarak adlandırılıyor.
Bu kavram, çevresel konularda kullanılan "greenwashing" terimine benzer şekilde, gerçekte sınırlı olan yapay zeka kullanımının pazarlama faaliyetlerinde abartılması anlamına geliyor.
Şirketlerin "AI Washing" tanıtımı
Bazı şirketler gerçekte basit algoritmalar kullanmasına rağmen ürünlerini yapay zeka destekli olarak tanıtırken, bazıları mevcut teknolojilerin performansını abartabiliyor ya da henüz tam olarak çalışmayan sistemleri hazır gibi sunabiliyor. Bazı firmalar ise mevcut yazılımlarına yalnızca bir sohbet botu ekleyerek ürünü "AI destekli" olarak pazarlayabiliyor.
Yatırım dünyasında da benzer bir eğilim gözlemleniyor. Teknoloji yatırımlarına odaklanan OpenOcean verilerine göre, 2022 yılında girişimlerin yalnızca yüzde 10'u, sunumlarında yapay zekadan bahsederken bu oran 2023'te yüzde 25'in üzerine çıktı. Bu yıl ise oranın üçte bir seviyesini aşmasının beklendiği ifade ediliyor.
Araştırmalar, bu eğilimin yeni olmadığını gösteriyor. MMC Ventures tarafından 2019 yılında yayımlanan bir çalışmada, kendisini "yapay zeka girişimi" olarak tanımlayan şirketlerin yüzde 40'ının gerçekte kayda değer bir yapay zeka kullanmadığı tespit edildi.
Yapay zeka kavramının net bir tanımının bulunmaması da tartışmaları derinleştiren unsurlar arasında yer alıyor.
BBC'nin 27 Haziran 2024'teki haberinde görüşlerine yer verilen uluslararası denetim, vergi ve danışmanlık hizmetleri şirketi KPMG'de yeni teknoloji riskleri sorumlusu olarak görev yapan Douglas Dick, yapay zekanın tek bir ortak tanımının olmamasının, yapay zeka manipülasyonu sorununu daha da kötüleştirdiğini belirtti.
Dick, "Bir grup insana yapay zekanın tanımını sorsam, hepsi farklı bir cevap verirdi. Terim çok geniş ve gevşek bir şekilde, net bir referans noktası olmadan kullanılıyor. Yapay zeka manipülasyonunun ortaya çıkmasına izin veren de bu belirsizliktir." ifadesini kullandı.
Bu durumun işletmeler için "endişe verici etkilere yol açabileceğini" ifade eden Dick, bunların teknoloji ve hizmetler için fazla ödeme yapmak ve yapay zekanın yardımcı olması beklenen operasyonel hedeflere ulaşamamak olabileceğini belirtti.
Terimin geniş ve esnek biçimde kullanılması da şirketlerin farklı düzeydeki teknolojileri aynı başlık altında sunmasına imkan tanıyor.
Tüketici güvensizliğine yol açabiliyor
"AI Washing"in etkileri yalnızca pazarlamayla sınırlı kalmıyor. Şirketler açısından beklentilerin karşılanamaması operasyonel sorunlara yol açabilirken, yatırımcılar için gerçekten yenilikçi girişimlerin tespit edilmesini zorlaştırabiliyor.
Tüketiciler açısından ise beklenti ile gerçek performans arasındaki fark güven kaybına neden olabiliyor.
Konu, düzenleyici kurumların da gündeminde. ABD'de Securities and Exchange Commission (SEC), iki yatırım danışmanlığı şirketini yapay zeka kullanımına ilişkin yanıltıcı beyanlarda bulundukları gerekçesiyle suçladı. Bu adım, yapay zeka iddialarına yönelik denetimlerin artabileceğine işaret ediyor.
Amazon ve "AI Washing" kullanımı
"AI Washing" ile ilgili tartışmanın en dikkat çeken örneklerinden biri, ABD merkezli Amazon şirketi tarafından geliştirilen "Just Walk Out" sistemi oldu.
Şirketin Amazon Fresh ve Amazon Go mağazalarında kullanılan sistem, müşterilerin ürünleri alıp kasaya uğramadan mağazadan çıkmasını sağlıyor.
Sensörler ve yazılımlar aracılığıyla müşterinin aldığı ürünlerin tespit edilmesi ve ücretin otomatik olarak tahsil edilmesi prensibine dayanan sistem, yapay zeka destekli olarak tanıtıldı. Ancak yıl içinde yayımlanan bazı haberlerde, sistemin tamamen yapay zekaya dayanmadığı ve işlemlerin önemli bir kısmının Hindistan'dan yaklaşık 1000 çalışan tarafından manuel olarak kontrol edildiği öne sürüldü. Bu kontrollerin, işlemlerin yaklaşık dörtte üçünü kapsadığı iddia edildi.
Amazon, iddiaların "yanıltıcı" olduğunu belirterek, Hindistan'daki çalışanların tüm mağazalardan gelen görüntüleri incelemediğini, yalnızca sistemin doğruluğunu artırmak amacıyla değerlendirme yaptığını açıkladı.Şirket, bu sürecin yüksek doğruluk hedefleyen birçok yapay zeka sisteminde yaygın olarak kullanılan insan denetimi uygulamalarından farklı olmadığını ifade etti.