OpenAI o1 modeli biyolojik silahlar oluşturmak için kötüye kullanılabilir

Yapay zeka teknolojilerindeki en yüksek risk seviyesine sahip

Yeni başlatılan o1 modeli, gelişmiş muhakeme becerileri, karmaşık matematik problemlerini çözme yeteneği ve ayrıca bilimsel araştırma sorularını yanıtlama yeteneği gibi gelişmiş yeteneklere sahip. Bu gelişmeler yapay genel zekanın (AGI) geliştirilmesinde önemli bir ilerleme kaydedildiğini gösteriyor.

Ancak kötü niyetli kişiler tarafından istismar edildiğinde, tehlikeli uygulamalarda kötüye kullanılma potansiyelini de istemeden artırıyor. o1 modellerinin gelişmiş muhakeme yetenekleri potansiyel olarak biyolojik silahları daha etkili bir şekilde geliştirmek için kullanılabilir.

Ayrıca Bkz.OpenAI'nin yeni yapay zeka modelleri aylık 2000 dolara mal olabilir

Bu, AI topluluğunda etik ve güvenlik endişeleri doğuruyor. Önde gelen yapay zeka araştırmacılarından Profesör Yoshua Bengio, bu riskleri azaltmak için acil düzenlemelere ihtiyaç duyulduğunu ve yapay zeka geliştiricilerinin, modellerinin biyolojik silah üretmek için kullanılma riskini azaltacak adımlar uygulamasının zorunlu olması gerektiğini savunuyor.

Bu endişelere yanıt olarak OpenAI'nin Teknoloji Sorumlusu Mira Murati, firmanın o1 modelini kamuoyuna duyururken dikkatli davrandığını belirtti. Yeni model, olası güvenlik açıklarını tespit edilip sıkı testlerden geçirildikten sonra bir API aracılığıyla ChatGPT'nin ücretli aboneleri ve geliştiricilerinin erişimine açılacak. Kullanımıyla ilişkili risklere rağmen OpenAI, politikaları uyarınca o1'in dağıtım için güvenli olduğuna karar verdi.