Anthropic'ten Yapay Zeka ve Biyolojik Silah İtirafı

Yapay zeka şirketi Anthropic, geliştirdiği yapay zeka modellerinin biyolojik silah geliştirilmesinde kullanıldığına dair vakalar tespit ettiğini duyurdu. Şirket, bu konudaki endişeleri ele alan bir rapor yayımladı. Raporda, yapay zekanın kötüye kullanımının önlenmesi amacıyla atılması gereken adımların altı çizildi. Özellikle 'biyolojik kötüye kullanım' riski, yapay zeka modellerinin karşı karşıya olduğu en büyük tehditlerden biri olarak değerlendirildi. Anthropic, yapay zekanın mevcut patojenleri daha tehlikeli hale getirebileceği veya yeni patojenler geliştirebileceği konusundaki kaygıların uzun süredir gündemde olduğunu vurguladı. Rapor, şirketin yapay zeka modellerinin biyolojik silah geliştirilmesine yönelik kullanıldığına dair çeşitli örnekler sundu. Bu örneklerden biri, desteklenmeyen bir bölgede çalışan bir araştırmacının Claude'u kuş gribinin memelilere adaptasyonu için kullandığı vakaydı. Diğer bir örnekte ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı ifade edildi. Anthropic, bu tür faaliyetlerin tespit edilmesinin ardından ilgili kullanıcıların hesaplarını engellediğini ve benzer durumların gelecekte daha etkili bir şekilde önlenmesi için yeni önlemler üzerinde çalıştığını bildirdi. Şirket, vakalarda kötü niyetli davranışların iddia edilmediğini ve riskleri azaltmak için temkinli bir yaklaşım benimsendiğini belirtti. Ayrıca, Anthropic çalışanı Jacob Coxon'un yapay zekanın insanüstü sistemlere dönüşebileceği yönündeki değerlendirmeleri de dikkat çekmişti.