Facebook'un yapay zekaları kendi dillerini yarattı

Yapay zeka dünyasında her geçen gün daha şaşırtıcı olaylar yaşanmaya devam ediyor. Facebook Yapay Zeka Araştırma(FAIR) bölümü bir süredir insanlarla sohbet edip onlara yardımcı olan yapay zeka botları üzerinde çalışıyordu. Bu botları test eden FAIR mühendisleri, hiç beklemedikleri bir olayla karşılaştı. İlk başta normal bir şekilde İngilizce konuşan botlar daha sonra insanların anlayamayacağı, garip bir şekilde konuşmaya devam etti. Botların ne konuştuğunu anlamayan mühendisler ise çözümü botları kapatmakta buldu.

 

 

 

Alice ve Bob isimli botlar, "I can can İ everything else" ve "Balls have zero to me to me to me to me to me to me to me to" şeklinde anlamsız bir konuşma başlaı. Uzaktan bakıldığında bu konuşma oldukça anlamsız ve mühendislerin botları geliştirme esnasında yaptığı yazılımsal bir hata gibi görünüyor ancak mühendislere göre botlar kendi aralarında bir konuşma dili geliştirmişti ve bize oldukça garip gelen bu konuşma botlar için son derece normaldi. Botların konuşma sırasında sık sık "Ben" öznesini yer vermesi botların yaptıkları işlemleri teyit ettikleri anlamına geliyor. 

 

 

FAIR'i ziyaret eden Georgia Teknoloji Enstitüsü'nden Dhruv Batra'ya göre botlar normal insanlar gibi İngilizce konuşmalarının kendilerine bir ödül veya kazanç getirmediğini fark etti ve kelimeleri görünüşte anlamsız ama kendileri için anlamlı olacak şekilde yeniden düzenledi. Batra, botların şu an için anlaşılabilir bil dilden kelimeleri kodlayarak yeni cümleler oluşturabildiğini düşünüyor. 

 

 

Ayrıca Bkz.NASA'dan iş ilanı: "Dünya'yı 'uzaylılardan' koruyacak memurlar aranıyor" 

Aslında Facebook, yapay zeka botları geliştiren tek şirket değil ancak yaşanan bu olay yapay zeka ile ilgili bir gerçeği daha gün yüzüne çıkarıyor: İnsanlar yapay zekaya kendi dillerini öğretip onunla konuşsa da bir gün yapay zeka kendi dilini oluşturduğunda onu anlamamızı sağlayacak bir yol yok. Barta, yapay zekanın düşünce sürecine tam anlamıyla hakim olmadığımız için yapay zekanın kontrolünü kaybetmemiz halinde onların kendi aralarında konuştukları dili anlamanın mümkün olmayacağını belirtiyor. 

 

 

Alice ve Bob Facebook mühendisleri tarafından inceleme altına alındı. Mühendisler konuşmayı ve botların neden bu yola gittiğini anlamaya çalışıyor. Tabi Mark Zuckerberg'in patronu olduğu Facebook'un yapay zekadan endişe duyması ve botları kapatmayı tercih etmesi, geçtiğimiz hafta Mark Zuckerberg ile yapay zeka tartışan Elon Musk'ın haklı olduğunu gösteriyor. Mark Zuckerberg, Elon Musk'ı kıyamet senaryoları uydurmakla suçlamış ve yapay zekadan korkmaya gerek olmadığını açıklamıştı. Yapay zekadan endişe duyduğunu daha önce pek çok kez dile getiren Musk ise Zuckerberg'in bu konuda anlayışının sınırlı olduğunu söylemişti.