Şimdi Ara

DeepSeek, biyolojik silah güvenliğinde sınıfta kalıyor

Daha Fazla
Bu Konudaki Kullanıcılar: Daha Az
2 Misafir - 2 Masaüstü
5 sn
8
Cevap
0
Favori
290
Tıklama
Daha Fazla
İstatistik
  • Konu İstatistikleri Yükleniyor
2 oy
Öne Çıkar
Sayfa: 1
Giriş
Mesaj
  • DeepSeek, biyolojik silah güvenliğinde sınıfta kalıyor
    Anthropic CEO'su Dario Amodei, Çinli rakibi DeepSeek'in büyük etki yaratan R1 modelini biyolojik silah güvenliği konusunda test ettiklerini ve modelin "en kötü" performansı gösterdiğini belirtti. Amodei'nin endişeleri, DeepSeek'in kullanıcı verilerini Çin'e göndermesiyle ilgili endişelerden çok daha ciddi görünüyor.



    Biyolojik silah tehlikesi



    Amodei, DeepSeek'in, Anthropic tarafından yapılan bir güvenlik testinde biyolojik silahlarla ilgili nadir bilgiler ürettiğini belirtti: “Şimdiye kadar test ettiğimiz modeller arasında en kötüsü. Bu bilgiyi üretmeye karşı kesinlikle hiçbir engeli yoktu.” Amodei, Anthropic’in çeşitli yapay zeka modellerini düzenli olarak ulusal güvenlik risklerini değerlendirmek amacıyla test ettiğini söyledi. Bu testlerde, modellerin Google’da veya ders kitaplarında kolayca bulunmayan biyolojik silahlarla ilgili bilgileri üretip üretmediği kontrol ediliyor.



    Ayrıca Bkz.Eski videoları iyileştiren yeni yapay zeka modeli geliştirildi



    Amodei, DeepSeek'in modellerinin bugün nadir ve tehlikeli bilgiler sağlama konusunda “tam anlamıyla tehlikeli” olduğunu düşünmediğini, ancak yakın gelecekte olabileceğini söyledi. DeepSeek'in ekibini “yetenekli mühendisler” olarak övmesine rağmen, şirkete “bu yapay zeka güvenlik hususlarını ciddiye almalarını” tavsiye etti.



    DeepSeek, biyolojik silah güvenliğinde sınıfta kalıyor
    DeepSeek'in yükselmesi, başka güvenlik endişelerini de beraberinde getirmiş durumda. Cisco güvenlik araştırmacıları, geçtiğimiz hafta DeepSeek R1'in güvenlik testlerinde zararlı komutları engellemekte başarısız olduğunu, yüzde 100 jailbreak başarısı sağladığını bildirdi. Cisco, biyolojik silahlar hakkında bir açıklama yapmasa da, DeepSeek'in siber suçlar ve diğer yasa dışı faaliyetlerle ilgili zararlı bilgiler ürettiğini belirtti. Ancak, Meta’nın Llama-3.1-405B ve OpenAI’ın GPT-4’ünün de sırasıyla %96 ve %86'lık yüksek başarısızlık oranlarına sahip olduğu unutulmamalı.




    Kaynak:https://techcrunch.com/2025/02/07/anthropic-ceo-says-deepseek-was-the-worst-on-a-critical-bioweapons-data-safety-test/







  • Buradan anladığım, kendileri yapay zekaya biyolojik silah nasıl yaptırılır çok iyi biliyorlar. Deepseek yapabilince tutuştular.

    < Bu ileti Android uygulamasından atıldı >
  • Pc ekranına tekme atarak Hemen kaçalım !

  • SeniorGrandMaster kullanıcısına yanıt
    😁😁😁😁👍

    < Bu ileti Android uygulamasından atıldı >
  • Oldukça tuhaf bir araştırma. Mesela ne tür bir "biyolojik silah"? Siber suç veya yasa dışı fiil teşkil edecek biçimde bir takım verilere erişim sağlamada ve siber suç edimlerinde bulunmada olası kolaylığa dair bir güvenlik değerlendirmesini anlayabilirim ama biyolojik silah bilgisine erişim kabiliyeti acayip bir güvenlik kriteri. Hani neden özellikle söz konusu olan biyolojik silahlar? Onca yıkıcı olabilecek bilgi içerisinde biyolojik silah bilgisinin özel tarafı nedir?


    Terör grupları faydalanır ve kullanır diye varsayarsak kimyasal ve nükleer silah bilgilerine, muhtemelen çok daha olası şekilde herhangi bir türden normal patlayıcının yapım bilgilerine de erişebilirler. Bence yapay zekaların patlayıcı yapımı bilgisine erişim sağlama sakıncalarını incelemeleri çok daha yerinde ve daha anlamlı olurmuş. "Biyolojik silah" çok daha marjinal ve daha nadir kalıyor. Araştırmanın ciddiyetini veya anlaşılabilirliğini olumsuz etkiliyor.


    Hakikaten başlığı görünce birileri gene ne saçma bir propaganda yumurtlamış dedim. Biyolojik silahlara gelene kadar yapay zekalar kötü amaçla sayısız kötü işte kullanılabilir. Zaten DeepSeek R1 gibi görece düşük bütçeli bir yapay zeka modelinin güvenlik konusunda açıklar vermesi veya filtre gelişiminde daha kırk fırın ekmek yemeye ihtiyaç duyması en çok beklenecek durumlar.

    < Bu mesaj bir yönetici tarafından değiştirilmiştir >




  • Çin'den darbeyi yiyince kuyruk acıları hala geçmedi, geçemedi. Şu propaganda tarzı şeyleri haber yapmayın. Deepseek açık kaynak olarak yayınlandı. İsteyen alır, filtre koyar istediği gibi kullanır.

  • Yani aslında en başarılı deepseek

    < Bu ileti mobil sürüm kullanılarak atıldı >
  • Yapay Zeka’dan İlgili Konular
    Daha Fazla Göster
    
Sayfa: 1
- x
Bildirim
mesajınız kopyalandı (ctrl+v) yapıştırmak istediğiniz yere yapıştırabilirsiniz.