Yapay zekalar için ilk virüs geliştirildi: ChatGPT ve Google Gemini’yi zehirliyor

Metin Yasir Akpınar · 2024-03-02T21:01:07.0000000+03:00

[html] Geçtiğimiz yıl ve mevcut durumda çok sayıda şirket birbirine bağlı üretken yapay zeka ekosistemleri oluşturarak bunları yeni ve mevcut uygulamalarına dahil etti. Ancak uzmanlar bir süredir diyalog zehirlenmesi, gizlilik sızıntısı ve jailbreak gibi kritik sorunlar hakkında uyarıyor. Yapılan yeni bir çalışmada araştırmacılar bu riski gözler önüne sermek için kendi kendini kopyalayan istemler kullanarak üretken yapay zeka (GenAI olarak kısaltılabilir) ekosistemlerini hedef almak üzere tasarlanmış ilk solucan olan Morris II 'yi geliştirdi. Yapay zekalar için ilk virüs Yapay zekalar için geliştirilen ilk virüs olan Morris II , yapay zeka e-posta asistanlarının kişisel verileri sızdırmasına ve test ortamında spam e-postalar göndermesine neden oldu. Araştırmacılar, yeni " sıfır tıklamalı " yapay zeka solucanının, metin ve görüntü girdileri aracılığıyla düşmanca kendi kendini kopyalayan bir istem kullanarak ChatGPT , Gemini ve açık kaynaklı yapay zeka modeli LLaVA 'dan yararlanabildiğini tespit etti. Bu girdiler sayesinde solucanın ekosistemi içindeki bağlantıdan yararlanarak saldırıyı diğer modellere de ulaştırmasının mümkün olduğu belirtiliyor. Araştırmaya göre virüs, kimlik avı saldırıları düzenlemek, spam e-postalar göndermek ve hatta propaganda yaymak için kullanılabilir. Bu araştırmanın amacı, hiçbir yazılımın ya da GenAI araçlarını oluşturan büyük dil modellerinin bilgisayar virüsleri tehdidine karşı bağışık olmadığını göstermek. Bu arada Cornell Üniversitesi, yazılım firması Intuit ve Technion’dan araştırmacılar tarafından geliştirilen Morris 2, adını 1988 yılında Cornell öğrencisi Robert Morris tarafından geliştirilen ve kendi kendini kopyalayan ilk bilgisayar solucanlarından biri olan Morris Worm'dan alıyor . O dönemlerde Morris Worm, internete bağlı tüm bilgisayarların yaklaşık %10'unu çökertmişti. Ayrıca Bkz. Elon Musk, ChatGPT üreticisi OpenAI’a dava açtı: "Bu açık bir ihanet" Araştırmacılara göre üretken yapay zeka ekosistemindeki kötü mimari tasarım kendi kendini kopyalayan kötü amaçlı yazılımların oluşturmasına izin veriyor. Dolayısıyla bu, GenAI araçlarının daha iyi güvenlik özellikleri sunması gerektiğine işaret ediyor. Morris Worm gibi bir yazılım günümüzde veya gelecekte GenAI ekosistemlerine bulaşırsa etkileri çok büyük olabilir. $.getJSON("https://gdata.youtube.com/feeds/api/videos/FL3qHH02Yd4?v=2&alt=jsonc&callback=?", function(json){$("#ytbaslik_FL3qHH02Yd4_158174630").html(json.data.title);$("#ytsure_FL3qHH02Yd4_158174630").html(sToMinutes(json.data.duration));}); Kaynak: https://www.pcmag.com/news/malware-worm-poison-chatgpt-gemini-powered-assistants Kaynak: https://sites.google.com/view/compromptmized [/html]

Sıcak Fırsatlarda Tıklananlar

Editörün Seçtiği Fırsatlar

Salomon 409220M Outsnap Cswp Siyah Erkek Bot : Amazon.com.tr: Moda https://www.amazon.com.tr/dp/B07M6BNJLQ 11 sa. önce paylaşıldı

Ingenuity Baby Base 2'si 1 Arada Yükseltici Besleme ve Kendinden Saklama Tepsili Yer Oturağı, Arduvaz : Amazon.com.tr: Bebek https://www.amazon.com.tr/Ingenuity-Booster-Feeding-Floor-Self-Storing/dp/B0CKNWFJQ7 10 sa. önce paylaşıldı

Özdilek Floretta Çizgili Pamuklu Battaniye 130 x 170 CM Gri Fiyatları ve Özellikleri https://www.n11.com/urun/ozdilek-floretta-cizgili-pamuklu-battaniye-130-x-170-cm-gri-63866150 dün paylaşıldı

Daha Fazla

Bu Konudaki Kullanıcılar: Daha Az

2 Misafir - 2 Masaüstü

5 sn

10
Cevap

0
Favori

358
Tıklama

Daha Fazla
İstatistik

Konu İstatistikleri Yükleniyor

Konuya Özel

2 oy

Öne Çıkar

Cevapla

Sayfa: 1

Giriş

Mesaj

Metin Yasir Akpınar

Haber Editörü

7655 Mesaj

Tüm Başarılarını Gör

ANASAYFA GÖRÜNÜMÜNE GEÇ

Yapay zekalar için ilk virüs

Yapay zekalar için geliştirilen ilk virüs olan Morris II, yapay zeka e-posta asistanlarının kişisel verileri sızdırmasına ve test ortamında spam e-postalar göndermesine neden oldu.

Araştırmacılar, yeni "sıfır tıklamalı" yapay zeka solucanının, metin ve görüntü girdileri aracılığıyla düşmanca kendi kendini kopyalayan bir istem kullanarak ChatGPT, Gemini ve açık kaynaklı yapay zeka modeli LLaVA'dan yararlanabildiğini tespit etti. Bu girdiler sayesinde solucanın ekosistemi içindeki bağlantıdan yararlanarak saldırıyı diğer modellere de ulaştırmasının mümkün olduğu belirtiliyor. Araştırmaya göre virüs, kimlik avı saldırıları düzenlemek, spam e-postalar göndermek ve hatta propaganda yaymak için kullanılabilir.

Ayrıca Bkz.Elon Musk, ChatGPT üreticisi OpenAI’a dava açtı: "Bu açık bir ihanet"

Araştırmacılara göre üretken yapay zeka ekosistemindeki kötü mimari tasarım kendi kendini kopyalayan kötü amaçlı yazılımların oluşturmasına izin veriyor. Dolayısıyla bu, GenAI araçlarının daha iyi güvenlik özellikleri sunması gerektiğine işaret ediyor. Morris Worm gibi bir yazılım günümüzde veya gelecekte GenAI ekosistemlerine bulaşırsa etkileri çok büyük olabilir.

Kaynak:https://www.pcmag.com/news/malware-worm-poison-chatgpt-gemini-powered-assistants
Kaynak:https://sites.google.com/view/compromptmized

candirli

Yüzbaşı

575 Mesaj

Tüm Başarılarını Gör

Nat Alianovna

Admin

4238 Mesaj

Tüm Başarılarını Gör

aliceqper

Yüzbaşı

636 Mesaj

Tüm Başarılarını Gör

stableRevulation

Yarbay

2555 Mesaj

Tüm Başarılarını Gör

DH Misafiri

Misafir Üyelik

102136 Mesaj

Tüm Başarılarını Gör

DH Misafiri

Misafir Üyelik

102136 Mesaj

Tüm Başarılarını Gör

DH Misafiri

Misafir Üyelik

102136 Mesaj

Tüm Başarılarını Gör

Sayfa: 1

Benzer içerikler

Ip işlemleri

Bu mesaj IP'si ile atılan mesajları ara Bu kullanıcının son IP'si ile atılan mesajları ara Bu mesaj IP'si ile kullanıcı ara Bu kullanıcının son IP'si ile kullanıcı ara

KAPAT X

%40
Kazan

%2,8
Kazan

%6,5
Kazan

%25
Kazan

%1,6
Kazan

%3,2
Kazan

%5,5
Kazan

%3,2
Kazan

%5
Kazan

%3,2
Kazan

%5
Kazan

%2
Kazan

Alışveriş Yaptıkça Para Kazan Harekete Geç »