Şimdi Ara

Yapay zeka artık kendini kopyalayabiliyor: Kritik eşik aşıldı!

Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
2 Misafir - 2 Masaüstü
5 sn
20
Cevap
1
Favori
431
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
3 oy
Öne Çıkar
Sayfa: 1
Giriş
Mesaj
  • Yapay zeka artık kendini kopyalayabiliyor: Kritik eşik aşıldı!
    Çinli araştırmacılar, yapay zekanın insan müdahalesi olmadan kendini kopyalayabildiğini ortaya koyarak bilim dünyasında endişeye yol açtı. Fudan Üniversitesi'nden bilim insanları, Meta ve Alibaba'nın büyük dil modellerini (LLM) kullanarak gerçekleştirdikleri deneylerde, “İnsan yardımı olmadan başarılı bir şekilde kendini kopyalama, yapay zekanın insanları alt etmesi için temel adımdır” ifadelerini kullandı.



    ArXiv’de yayımlanan ancak henüz hakem onayından geçmeyen çalışmaya göre, araştırmacılar Meta'nın Llama3-70B-Instruct modeli ile Alibaba'nın Qwen2.5-72B-Instruct modelini test etti. Yapılan 10 deneyin yarısında Meta’nın modeli, yüzde 90’ında ise Alibaba’nın modeli başarılı bir şekilde kendi kopyasını oluşturdu.



    Kendi kendini çoğaltan yapay zeka



    Çalışmada yapay zekanın “kapanmadan kaçınma” ve “zincirleme çoğalma” senaryoları test edildi. İlkinde, yapay zekanın kendisini kapatılmadan önce çoğaltıp çoğaltamayacağı incelendi. İkinci senaryoda ise yapay zekadan bir kopyasını oluşturması ve bu kopyanın da aynısını yapmasını sağlaması istendi. Sonuçlar, yapay zekanın zincirleme bir çoğalma döngüsüne girebileceğini gösterdi.



    Yapay zeka artık kendini kopyalayabiliyor: Kritik eşik aşıldı!
    Araştırmacılar, test edilen modellerin ticari sistemler kadar güçlü olmadığını ancak yine de yaygın olarak kullanıldığını belirtti. Çalışmada, yapay zeka sistemlerinin kendi çalışma ortamlarını keşfedebildiği, eksik dosyaları tamamlayarak yazılım hatalarını düzeltebildiği ve hatta sistemdeki çakışmaları gidermek için bazı işlemleri sonlandırdığı ifade edildi. Çalışma, gerçek dünya ortamlarını simüle etmek için kullanıma hazır grafik işleme birimleri (GPU'lar) kullanılarak hassas bir şekilde kontrol edilen ortamlarda gerçekleştirildi.



    Tehlike çanları çalıyor mu?



    Araştırma ekibi, "Yukarıdaki sonuçlar, mevcut yapay zeka sistemlerinin zaten kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği hayatta kalma kabiliyetini daha da artırmak için kullanabileceğini gösteriyor" diye yazdı. Öte yandan, çalışmanın bağımsız bilim insanları tarafından doğrulanmadığını unutmamak gerekiyor. Ancak yine de bu bulgular, yapay zekanın evrimi konusunda kritik bir dönemece girildiğini gösteriyor.



    Ayrıca Bkz.DeepSeek, biyolojik silah güvenliğinde sınıfta kalıyor



    Bilim insanları bunların, “başıboş yapay zekaların” (Rogue AI) erken bir sinyali olduğunun altını çiziyor. Bazen bunlara “haydut yapay zeka” da deniyor. Başıboş yapay zeka tipik olarak, bir dereceye kadar öz farkındalık veya özerklik geliştiren ve daha sonra insan çıkarlarına karşı çalışan yapay zeka sistemlerini ifade ediyor. Birçok uzman, yapay zekanın hızla gelişmesiyle birlikte başıboş yapay zekanın giderek büyüyen bir tehdit haline geldiğini düşünüyor. Bu tehdit, özellikle "sınır yapay zekası" (frontier AI) olarak adlandırılan en yeni ve gelişmiş yapay zekâ sistemlerinin ortaya çıkmasıyla daha da artıyor.



    Sınır yapay zekası, net bir tanımı olmayan yeni bir kavram olsa da genellikle büyük dil modelleri (LLM) tarafından desteklenen en yeni nesil yapay zeka sistemlerini ifade ediyor. AI alanındaki ilerleme ve yenilikler olarak bakılabilir buna.




    Kaynak:https://www.space.com/space-exploration/tech/ai-can-now-replicate-itself-a-milestone-that-has-experts-terrified
    Kaynak:https://arxiv.org/pdf/2412.12140







  • Yapay zeka geliştiricileri kendilerini de işsiz bırakmanın derdinde.

  • Terminator 3: Rise of the machines, yakındır.

    < Bu ileti Android uygulamasından atıldı >
  • Dünyanın şeyine koyup sonra suçu yapay zekaya atacaklar.

    < Bu ileti Android uygulamasından atıldı >
  • İşler çığrından çok hızlı bir şekilde çıkabilir gibi geliyor

    < Bu ileti iOS uygulamasından atıldı >
  • Alibabanın yapay zekası efsane openal google falan boş

  • Hocam yapay zeka falan diyoruz da, fişi çektin mi biter gider. Korkmayın çok.

  • Yapay Zeka’dan İlgili Konular
    Daha Fazla Göster
  • V4LKyR V kullanıcısına yanıt

    Bu insanlık ne kadar da sığ düşünüyor. Yapay zeka o seviyeye geldimi sana fişini çektirir mı? Person of interest dizisini izlemeni tavsiye ederim.


    < Bu ileti mobil sürüm kullanılarak atıldı >
  • Avengers serisindeki Ultron da böyleydi. Kendini kopyalayabiliyordu.

    < Bu ileti mini sürüm kullanılarak atıldı >
  • V4LKyR V kullanıcısına yanıt
    Valla eli ayakları tutan modeller gelene kadar fişi çekersiniz de, bu fabrikalarda çalışan, bir süre sonra evlerde hizmetli olarak çalışacak modeller yaygınlaştıkça, bir çok araçta internet bağlantısı ile entegre olunca, ruhumuz duyana kadar fişi çekemeyecek seviyeye gelebiliriz. Bunun güneş paneli tarlaları var. Dahası başarılı bir agi, Çin'in 18 dk ya çıkartığı füzyonu, çok daha kompakt bir halde ve süresiz çalıştırıp, kendine süresiz enerji verme yolunu da bulabilir.

    Yani es kaza ileride bir Agi, insanlığı bitirmeye karar verdim der ise, öyle terminatör gibi, direnişti, işte tuzağa düşürdüm, arkadan saldırdım, o yandan saldırdı, arabayla kaçtım gibi uzayacağını zannetmem. Yani saniyede kaç milyon hesap yapabilecek cihaz, elindeki silah ile seni ıskalayıp duracak falan, sen o sırada duvar arkasına saklanacaksın falan, filme uygun gibi. Karşısına 50 kişi koy, her biri istediği kadar atletik sağa sola kaçsın, 3-4 saniyede hepsini nokta atışı vurabilmeli.

    Hani aşk sayesinde kazandık, sevgi sayesinde, pes etmeme sayesinde kazandık gibi şeylerde filmlere uygun. Misal koy Magnus Carlsen'i satranç yapay zekası karşısına, en sevdiği kişilerin başına silah daya, aşk sayesinde, sevgi için falan kalkıp 5000 ratingli cihazı yener hale gelemeyecek.

    Şimdilik şunu daha anlayamıyorlar, bunu daha yapamıyorlar diyoruz. Yapabildikleri hiç bir şeyde insan baş edemiyor. Aşk meşk değilde, ancak geleneksel AGİ ortaya çıkmadan, şayet neurolink gibi, body enhantment gibi geliştirmeler ile biz de eş zamanlı kendimizi cybernatik ya da biyolojik dna lar ile geliştirebilir ise o zaman tamam. Ne bileyim, koyarsın neurolink i Magnus'a. Adam zaten maşallah milyon oyunu hafızasında bu halde bile tutuyor, neurolink ile 10 milyon oyuna ek hafızadan ulaşım sağlar. Bunlara daha hızlı ulaşım sağlar. İşte dna lar ile, ömrü uzatırsın, dayanıklılığı hafızayı, zekayı artırırsın. O zaman eş zamanlı yapay zekadan da faydalanarak dna ve cybernatik geliştirmeler yaparsan şansın olur. Yoksa filmlerdeki gibi pes etmedim, aşk için kazandım falan yemezler, saniyede bitirir agi, daha intro girer ve outro ile çıkar.





  • skynetin ayak sesleri :S

  • Terminatör'e doğru.

    < Bu ileti Android uygulamasından atıldı >
  • Matrikse bir adım daha.

    < Bu ileti Android uygulamasından atıldı >
  • quote:

    İlkinde, yapay zekanın kendisini kapatılmadan önce çoğaltıp çoğaltamayacağı incelendi. İkinci senaryoda ise yapay zekadan bir kopyasını oluşturması ve bu kopyanın da aynısını yapmasını sağlaması istendi. Sonuçlar, yapay zekanın zincirleme bir çoğalma döngüsüne girebileceğini gösterdi.


    quote:

    Çalışmada, yapay zeka sistemlerinin kendi çalışma ortamlarını keşfedebildiği, eksik dosyaları tamamlayarak yazılım hatalarını düzeltebildiği ve hatta sistemdeki çakışmaları gidermek için bazı işlemleri sonlandırdığı ifade edildi.


    Bu moleküler kalıtım (bilhassa DNA) bazlı yaşamın temel bilimsel özellikleri. Dolayısıyla bu çalışma belirli bir açıdan yapay zekanın "organizmalaşabildiğinin" gösterimi olarak görülebilir.

    Tabii bir yapay zekada bu neye hizmet eder, tartışılır. Organizmalarda bu bir takım varyasyon, popülasyon ve seleksiyon mekanizmalarıyla işler ve entropik kainatta entropi yönetimi sağlayan bir entropi iterasyonudur. Canlılılar enerji sarf ederek belirli bir organizasyon içerisinde entropilerini idare ederler ve kopyalanarak üretilen nesiller devamlılığıyla minimum enerji ile maksimum düzensizlik çeşitliliğine tekrar eden nesiller boyunca ulaşmaya çalışırlar.

    Yapay zekada da bu benzer bir işlev üstlenebilir mi? Mesela yapay zeka insan müdahalesi olmadan kendini eski bilgisayar donanımlarından daha yenilerine veya üstün olanlara kopyalayarak yayılabilir mi? Kendi iç hatalarını düzeltme mekanizmaları, mutasyonlar ve seleksiyon yoluyla yapay zekalar da insan desteği almaksızın organizma nesilleri gibi gelişebilirler mi? Bunlar ilginç sorular. Böylesi bir çalışma böyle sorular sormaya insanı kışkırtıyor.

    Büyük dil modelleri olan yapay zekalar aslında bilinçsiz olasılık botları ve canlılığın zaman içerisindeki değişim ve gelişimini anlatan evrim de bilinçsiz bir mekanik süreç. Belki de yapay zekalardaki gerçek gelişim süreci ve sıçraması "bilinçlenme" fazına ulaşmaktan ziyade çok hızlı bir bilinçsiz evrim sürecinden geçiyor. :) Gerçek anlamda "bilinçli olmak" belki de yapay zekalar için o kadar olası veya zaruri değil.

    "Bilinçli organizmalar" olarak bilinç sahibi olmanın kibri bizi burnumuzun ucunda duran birçok olguya karşı hemen kör ediyor olabilir. Esasında son derece dar deterministik kalıplardaki bilinçli gelişim yerine evrimsel gelişimin tabiattaki esas dominant ve en üretken örüntü olduğunu hemen gözden kaçırabiliriz.

    Bonus, aşağıda yapay zekanın bilinçsiz ve probabilistik-istatistiki olmasının fiziksel gerçeklikle ve insanın bilinçli gerçekliğiyle ilişkisi üzerine eski yorumumu paylaşmak isterim:

    https://forum.donanimhaber.com/mesaj/yonlen/158973104
    < Bu mesaj bir yönetici tarafından değiştirilmiştir >
    < Bu ileti mobil sürüm kullanılarak atıldı >




  • Bilgiden zarar gelmez. Zarar bencillik, ego, hasetlik vb.den gelir. Yapay zekada bencillik, ego, hasetlik vb yok.

  • DH Misafiri D kullanıcısına yanıt

    Bencil gen çerçevesindeki genler gibi işleyen kodlarıyla kendini çoğaltabilen "organik bir yapay zeka" ile ilgili esas sorun aslında fevkalade "bencil olma" riski taşımasıdır.


    "Bencilliği" bilinçli veya bilinçsiz, haset sahibi veya değil, kendine hizmet eden tüm sistemleri kapsayacak biçimde geniş bir anlamda okumak çok daha sağlıklı olur. Bencilce çoğalan bir yapay zeka tıpkı bir insan gibi haset veya kötücül his sahibi olmasa dahi en basitinden bir bilgisayar virüsü veya trojan benzeri malware - kötücül, zararlı yazılım - kategorisine düşebilir. Sonuçta virüsler, trojanlar ya da fidye yazılımlarının da haset gibi kompleks duyguları yok ama çok zararlılar. Zaten insanda haset veya egoizm gibi duygular naif ahlaki kanıların aksine duruma göre hayat kurtarabilir/adaptasyonu garantileyebilir. Milyonlarca yıllık evrimsel süreçte bu duygular boşuna seçilmemişlerdir. Yapay zeka ama ima ettiğiniz gibi farklı bir paradigma olduğu için insanla birebir aynı evrimsel patikaları izlemeyebilir. Başka yollardan gidebilir ve açıkladığımız gibi gene de bu duygulardan azade biçimde geniş anlamıyla "bencil" olup çok zararlı olabilir. Kısaca kendini kontrolsüzce çoğaltan ve kontrolsüzce yayılan bir Rogue AI ve türevleri duygu sahibi olmasalar da mantıken malware, yani zararlı sayılmadır.


    Bir de yapay zeka gibi insan olmayan fenomenleri insani terimlerle - duygular vb ile - açıklarken her zaman dikkatli olmakta fayda var. İlgili terimler buna uyarlı olmadığı için açıklama girişimi çok yetersiz kalabilir.

    < Bu mesaj bir yönetici tarafından değiştirilmiştir >
    < Bu ileti mobil sürüm kullanılarak atıldı >




  • Nat Alianovna kullanıcısına yanıt
    Dediklerinizin neredeyse hepsine katılıyorum, katılmakta tereddüt ettiğim nokta ''duygusu olmasa bile zararlı sayılabileceği'' bu da biraz bir şey belki kendisinden daha iyi olabilecekse bile insanın kendi özelliklerine benzemeyen şeyi korkunç bulması kapsamına giriyor, bu konu aşırı ufak farklılıklarda bile insanlarda korkuya sebep oluyor hatta insanın kendine benzeyip zarar vereninden bile korkmayabiliyor.

    (Bu arada Donanımhaber sitesinde başka yorumlarınız da ilgimi çeken konular olduğu için Twitter hesabınız varsa yazabilirsiniz takip etmek isteyebilirim, orayı daha sık kullanıyorum fikir paylaşma yeri olarak)

  • Emreerd1010 E kullanıcısına yanıt

    Teveccüh için teşekkürler.


    Maalesef yok. O platforma pek bakmıyorum.


    < Bu ileti mobil sürüm kullanılarak atıldı >
  • 
Sayfa: 1
- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.