Endişelendiren çalışma: Şirketler yapay zeka ile insanların kararlarını etkileyecek

Dikkat ekonomisinden niyet ekonomisine geçiş

Leverhulme Center for the Future of Intelligence (LCFI) araştırmacılarına göre, niyet ekonomisi, mevcut dikkat ekonomisinin bir adım ötesine geçiyor. Sosyal medya platformları, kullanıcıların dikkatini çekerek reklam gelirlerini artırırken, niyet ekonomisi yapay zeka destekli araçlarla kullanıcıların motivasyonlarını anlamayı, tahmin etmeyi ve hatta yönlendirmeyi amaçlıyor. En basit tanımla, çalışma, yapay zekayı manipülatif bir konumda değerlendiriyor.

LCFI tarihçisi Dr. Jonnie Penn, “On yıllardır “dikkat” internetin para birimi oldu. Facebook ve Instagram gibi sosyal medya platformlarıyla dikkatinizi paylaşmak çevrimiçi ekonomiyi yönlendirdi.” derken şöyle devam etti: “Düzenlenmediği sürece, niyet ekonomisi motivasyonlarınızı yeni para birimi olarak değerlendirecek. Bu, insanların niyetlerini hedef alan, yönlendiren ve satanlar için adeta bir altına hücum dönemi olacak.”

Çalışma, ChatGPT sohbet robotu gibi yapay zeka araçlarının temelini oluşturan teknoloji olan büyük dil modellerinin (LLM), “kasıtlı, davranışsal ve psikolojik verilere” dayalı olarak kullanıcıları “tahmin etmek ve yönlendirmek” için kullanılacağını iddia ediyor.

Bugün dikkat ekonomisi, reklam verenlerin anlık veri analizleriyle kullanıcıların ilgisini çekmesini sağlıyor. Ancak LLM’lerin gelişimiyle bu süreç çok daha kişiselleşmiş ve tahmin odaklı hale gelebilir.

Araştırmada verilen örneklerden biri, bir yapay zeka modelinin kullanıcıya şu soruyu yöneltebilmesi: “Bu akşam Spider-Man filmini izlemeyi düşündünüz mü?” veya “Kendinizi yorgun hissettiğinizi söylediniz, sizin için konuştuğumuz o sinema biletini ayırmamı ister misiniz?” Bu tür öneriler, kullanıcıların geçmiş davranışlarını ve kişisel tercihlerini analiz ederek yapılabilecek.

Daha da kişiselleştirilmiş reklamlar

Bu süreç, yalnızca bireysel ihtiyaçları tahmin etmekle sınırlı değil. Araştırmaya göre, niyet ekonomisi yalnızca bireysel özgürlükleri değil, aynı zamanda adil seçimler, özgür basın ve piyasa rekabeti gibi temel demokratik ilkeleri de tehdit edebilir.

Meta’nın geliştirdiği Cicero adlı yapay zeka modeline atıfta bulunan araştırma, bu teknolojilerin insan davranışlarını tahmin etmede ve yönlendirmede nasıl kullanılabileceğini gösteriyor. Cicero, strateji ve diplomasi oyunu olan Diplomacy’de insan seviyesinde başarı göstermesiyle dikkat çekiyor. Oyunun temel dinamikleri, rakiplerin niyetlerini anlamaya dayanıyor ve bu yetenek, ticari ve reklamcılık uygulamalarında büyük potansiyel taşıyor. Cicero, insanları kandırarak oyunu kazanıyordu.

Penn, bu senaryolar üzerine düzenleme çağrısında bulunurken şunları söyledi: “Böyle bir pazarın, adil seçimler, özgür bir basın ve adil piyasa rekabeti de dahil olmak üzere, insanların istekleri üzerindeki olası etkilerini ve istenmeyen sonuçlarını kurbanı olmadan önce düşünmeliyiz.”