Google, yapay zeka görselleri için özel filigran geliştirdi

Google DeepMind SynthID

Ayrıca Bkz.Robot Sophia aldatmaca mı yoksa gerçek mi? İşte Sophia’nın gerçek yüzü

Geçtiğimiz ay Beyaz Saray’da OpenAI, Google ve Meta gibi önde gelen yapay zeka şirketleri bir araya gelerek yapay zeka tarafından üretilen içeriğin kötüye kullanılmasıyla mücadele etmek amacıyla filigran araçları geliştirmek için gönüllü olarak taahhütlerde bulunmuşlardı. Google'ın Mayıs ayındaki yıllık I/O konferansında CEO Sundar Pichai, şirketin modellerini en başından itibaren filigran ve diğer teknikleri içerecek şekilde oluşturduğunu söylemişti. Google DeepMind şimdi böyle bir aracı kullanıma alan ilk şirket oldu.

Normal filigranlar gibi değil

Normalde filigranlar, görüntülerin üzerine görünür kaplamalar ya da meta verilerine bilgi eklenerek filigranlanır. Ancak Google DeepMind araştırma başkan yardımcısı Pushmeet Kohli, bu yöntemin "kırılgan" olduğunu ve görüntüler kırpıldığında, yeniden boyutlandırıldığında veya düzenlendiğinde filigranın kaybolabileceğini belirtiyor.

SynthID, iki sinir ağı kullanılarak oluşturuluyor. Biri orijinal görüntüyü alıyor ve onunla neredeyse aynı görünen, ancak bazı pikselleri ince bir şekilde değiştirilmiş başka bir görüntü üretiyor. Bu, insan gözüyle görülemeyen gömülü bir desen yaratıyor. İkinci sinir ağı bu deseni tespit edebiliyor ve görüntüde filigran olup olmadığını söylüyor. SynthID ayrıca görüntü kırpılsa, düzenlense veya yeniden boyutlandırılsa bile tespit edilebilecek.

Öte yandan benzer teknikler halihazırda mevcut ve açık kaynaklı yapay zeka görüntü üreticisi Stable Diffusion'da kullanılıyor. Meta da filigranlar üzerine araştırmalar yürütüyor, ancak henüz halka açık bir filigranlama aracı piyasaya sürülmüş değil. Öte yandan Kohli, filigranların nihai çözüm olmadığını ve genellikle bunların kırıldıklarını belirtiyor. DeepMind, bu aracı şimdilik test ediyor ve açıklarını bularak kapatmayı hedefliyor.