Instagram'ın algoritması pedofili ağlarını ön plana çıkarıyor!

Instagram, pedofili içeriklerini öne çıkarıyor

Araştırmacılar tarafından bulunan hesaplar #pedowhore, #preteensex ve #pedobait gibi bariz ve açık hashtag'ler kullanarak reklam yapıyor. Bu hesaplar, kullanıcıların satın alabileceği ya da sipariş verebileceği, video ve görüntüler de dahil olmak üzere içerik "menüleri" sunuyorlar.

Araştırmacılar bir test hesabı oluşturup bu ağlar tarafından paylaşılan içerikleri görüntülediklerinde, kendilerine hemen takip etmeleri için daha fazla hesap önerildiğini belirtiyor. WSJ, "Bu önerilerden sadece birkaçını takip etmek, bir test hesabını çocukları cinselleştiren içerikle doldurmak için yeterliydi." diyor.

Meta konu üzerinde çalışıyor

Rapora yanıt olarak Meta, soruşturmanın gündeme getirdiği sorunları ele almak üzere bir birim oluşturduğunu söyledi. Şirket, "Çocuk istismarı korkunç bir suçtur. Bu davranışa karşı aktif olarak savunma yapmanın yollarını sürekli araştırıyoruz." dedi.

Ayrıca Bkz.Son kale yıkıldı: Instagram'a yapay zeka geliyor!

Meta, sadece Ocak ayında çocuk güvenliği politikalarını ihlal eden 490.000 hesabı ve son iki yılda 27 pedofil ağını kaldırdığını belirtti. Facebook ve WhatsApp'ın da sahibi olan şirket, çocukların cinselleştirilmesiyle ilişkili binlerce hashtag'i de engellediğini ve bu terimlerin kullanıcı aramalarında kullanılmasını kısıtladığını söyledi.

Diğer platformlar da incelendi

Raporda diğer platformlar da incelenmiş ancak bu platformların bu tür ağları büyütmeye daha az elverişli oldukları tespit edilmiş durumda. Stanford araştırmacıları, Twitter'da çok daha az kullanıcı olmasına rağmen çocuk cinsel istismarı materyali satmayı teklif eden 128 hesap buldular, bu sayı Instagram'da bulduklarının üçte birinden daha az. TikTok ve Snapchat'te bu tür ağlarda büyüme görülmediği belirtildi.

Stanford Internet Observatory’nin baş teknoloji uzmanı David Thiel, yaptığı açıklamada, Instagram'ın kullanıcıları öne çıkaran ve kullanıcıları birbirine bağlamak için tasarlanan öneri sistemleri ile istismar edici içeriği inceleyen ve kaldıran güvenlik özellikleri arasında doğru dengeyi kuramadığını söyledi.