Yapay zekanın dev isimleri 22 kelimeyle “yok olma” riskine karşı uyardı!

Felaket senaryoları yazılmaya devam ediliyor, blokladıklarımda damlamış hemen.

Şu konuya bir açıklık getireyim kendi tecrübe ettiğim kadarı ile.

Yapay "zeka"ya verilen eğitimi bir insana yapılan öğretme olarak algılamayın, makineler böyle öğrenmiyor.

Verilen eğitimi bir çeşit şablon ezberletme olarak düşünün, bu eğitimde ek bir eleştiri algoritmasıda bulunuyor sonucundada şablonları datasetleri veriyorsunuz, oda size harmanlayıp bir sonuç çıkartıyor, bir çeşit yeni nesil veritabanı motoru gibi. Farkı verinin çok büyük olması ve anahtarlama sistemi. Bilmem kaç milyar parametreli olması filan.

Yani ortada gerçek bir zeka filan yok. Bir karar mekanizmasıda yok. Düşünceyi, fikiri ateşleyende, gözlemleyende yok. Yaratıcılık hiç yok. Sadece verilerin birbirine belirli mantıksal formüllerle karıştırılması söz konusu.

Bir model iyi amaçlarla, iyi kaynaklarla "eğitilirse" iyi sonuçlar alırsınız, kötü şeylerle "eğitilirse" kötü sonuçlar alırsınız, olay bundan ibaret.

(Bu durum bu araçların sonuçlarından sadece kullanıcıların sorumlu tutulması için bence yeterli.Makineler hala makine gibi çalışıyor çünkü.)

Eşi benzeri olmayan görüntüler oluşturuyoruz diyebilirsiniz, fakat hepsi, modeller, aksesuarlar, çevre detayları,fırça stili hepsi daha önceden üretilmiş şeylerin birbirine karıştırılmasından ibaret. Ortada yeni birşey yok çünkü yaratıcılık yok. Farklı karışımlar farklı görüntüler oluşturuyor olay bundan ibaret.

En azından güncel durum için böyle benim anladığım kadarı ile.

Gerçek bir yapay zekadan bahsedebilmemiz için öncelikle makinelerin karar mekanızması olması, yaratıcılığının olması gerekiyor önceden öğretilmiş parametrelere dayalı sonuçlar değil, anlık parametreler üretebilmesi gerekiyor, bunu daha basit nasıl anlatabilirim bilmiyorum.

Yukarıda bahsettiğim gözlemci olayı ise bir olayın gerçek kabul edilip edilmemesi ile alakalı bu yüzden biraz felsefik, çift yarık deneyindeki gözlemci paradoksu gibi. Eğer bir makinenin elde ettiği sonuçlar hiçbir canlı tarafından gözlemlemezse makinenin elde edeceği sonuçlar canlı bir gözlemcinin elde edeceği sonuçlar ile aynı mı olacak. Kuantum parçacıkların gözlemcilerden etkilendiğini 3 aşamalı şuan adını unuttuğum bir deney sayesinde zaten biliyoruz.

Hep felaket senaryoları sıktı artık

Yahu sen eğer Cumhurbaşkanı isen yardımcılığında, danışmanlığında bulanan üstün zekalılar, dahiler ne derse desin son kararı sen verirsin.

Bu açıdan bir sorun yok. Yani yapay zekaya asla yetki verilmez.

Yukarıda bahsedilen sorun ise sıradan insanların YZ'ye erişimindeki endişe olmalı.

Dolandırıcı bir internet sitesi hazırlarken bunun inandırıcılığı, çekiciliği, hedef kitlesine uygun görsellerin ve anlatımın YZ'ye yaptırılabilir olması problem olmalı.

Saf vatandaşı değil mesela uzman bir doktoru ikna eden (sahte)tıbbi ürünlerin tanıtımı YZ'ye yaptırılabiliyor olması vb.

Olmayan ürün tasarımları...

Savaşlarda çok problem çıkarır bu. Düşünsenize çatışma bölgesinde ki tüm adamlarınızın tane tane en detaylı bilgilerini bilen bir YZ, düşmanın gelecek hareketlerini ve bölgede ki düşmanların hareketlerinden profil çıkarıp bilgilendirme yapıyor.

Şaka gibi görünse de bence çoktan bu tip bir yapay zekanın eğitimine başlanmıştır 

Bu bir felaket senaryosu değil mi