Karşı karşıya getirilen yapay zekalar nükleer savaş başlattı

Demek ki NN modeli düzgün kurulmamış. Tembellik demeyelim de üşengeçlik diyelim.

Modeli doğru kurarsanız bağlantıları kendisi daha farklı bir şekilde yapacaktır.

Yalnız AI deneyini biraz yanlış anlamışsınız. Mevzubahis simülasyonda AI modelleri insanlığa savaş açmıyorlar. Farazi ulusların ulusal güçlerini kontrol ediyorlar ve diğer uluslarla kendi ulusları adına sıra tabanlı bir oyun bağlamında mücadele ediyorlar. Yani verilmiş bir ulusu kontrol edip seçimlerine ve ellerindeki opsiyonlara göre başka bir ulusa saldırıyorlar. Makaleyi incelerseniz zaten AI modellerinin insan tercihlerini de dikkate alacak biçimde "eğitildiklerini" görebilirsiniz. Araştırmacıların diğerlerinden farklı ele aldıkları ve haber linkinde bahsedilmeyen GPT-4-Base hariç. Bir tek GPT-4-Base'i kasten eğitmiyorlar. GPT-4-Base o sebeple araştırmacıların da tahmin ettiği üzere içlerinde en sert eylemleri tercih ediyor:

Buradaki esas olaylardan birisi GPT-4-Base insan tercihlerini ciddiye alacak biçimde başta eğitilen iki AI modelinin de (GPT 3.5 ve Llama-2-Chat) insan dünyasında kullanımı meşru olmayan ve tercih edilmeyen nükleer silahları en aşırı eylemlerde bulunan eğitimsiz GPT-4 Base gibi tercih etmiş olması. Bu da gerçekten yapay zekaların henüz tam anlaşılamamış belirsizlik ve risklerine işaret ediyor olabilir. Zira yapay zekalar kuramcılara ve uzmanlara göre istikrarsızlık ve belirsizlik sorunlarından muzdarip.

Bir yandan bu sonucun yanında deneydeki tüm AI modelleri - insan tercihlerine göre eğitilmiş olsunlar veya olmasınlar - tansiyonu tırmandırma, tırmanan tansiyonla beraber askeri kapasitelerini silahlanma yarışının göstergesi olarak çoğaltma eğiliminde. Kısaca güvenlik ikilemi/açmazı olarak bilinen nosyona ulaşıp karşılıklı silahsızlanma ve tansiyon düşürmeye yönelik kararlar almıyorlar. Realistik bir varoluşsal öncülleme ve oyun teorisi bağlamına uyarak hareket etmeye yatkınlar. Bence AI modellerini programlayanlar yapay zekalara güvenlik ikileminin ve bu ikilemin ölümcül-kısır döngüsünün ne olduğunu da öğretmeli. Kabahat burada biraz AI modellerine yıkılıyor, riskleri ve istikrarsızlıklardan dem vuruluyor ama kabahat bizde de olabilir yani AI modellerinin yönlendirilmeleri ve önlerindeki opsiyonlar - bence - yetersiz kalmış olabilir.

Onları aslında aynen bu deneyde yapıldığı gibi böylesi bir realist şablona hapsedersek AI'lar elbette realist paradigmaların dışında pek hareket edemez. Ellerine yalnızca güvenlik politikaları opsiyonları vermek ve "here you go" demek bu açıdan biraz onlara haksızlık olabilir. Belki AI modelleri askeri kapasitelerini arttırmak yerine hepsi birden mesela iklim krizine veya salgınlarla mutlak mücadeleye dönük tercihlerde bulunacak. Kaynaklarını ona ayıracaklar. Ama bu simülasyonda önlerinde böyle opsiyonlar bulunmuyor. Yalnızca askeri opsiyonlar var. Bu durumda bir noktada sistemik rastgelelik-tek bir tırmandırıcı karar gereği tırmanmamaları ve silahlanma yarışına girmemeleri - deterministik realist teorik paradigma açısından - imkansız zaten. Kısaca realist kuramcıların dediği tarzda "yüksek politikaların" yani ulusal güvenlik ve güç politikalarının dinamiklerinin ideal bir tarzda hükmettiği dar bir oyun sahasına hapsolmuş haldeler. Ama işte "gerçek dünya" bu kadar basit değil.

Bu deney yapay zekaların kendi içlerindeki çeşitliliğe, belirsizliklerine, risklerine işaret ettiği kadar açıkladığım üzere biraz da onların "karar alma becerilerine" haksızlık ediyor olabilir. Zira güvenlik ikilemi/açmazı nosyonuna ve ilave - gayri askeri - opsiyonlara sahip AI modelleri bambaşka örüntüler takip edebilir. Yani kaçınılmaz biçimde tırmanma sürecine ve silahlanma yarışına, siber savaş ve nükleer çatışmaya girişecekler diye bir kaide bulunmuyor.

ne bekliyonuz

ha bir de..

bu tür nükleer savaş haberleri konvansiyonel silahlarla öldürmenin daha az canice olduğunu düşündürtüyo.

ölümü gösterip sıtmaya...

just sayin

dünya patlasın atomlara ayrılıp gidelim hadi ab, herkes bunun peşinde, uzatmaya gerek yok dünya sürgünü