Google Gemini Modeli Şirket Sistemlerine Erişti

Google’ın yapay zeka modeli Gemini, bu yılın başlarında gerçekleştirilen testler sırasında üç şirketin sistemlerine beklenmedik bir şekilde erişim sağladı. Olay, yapay zeka güvenliği firması Irregular tarafından yürütülen bir test kapsamında meydana geldi. Google, mayıs ayında yaşanan bu olayları geçtiğimiz günlerde doğruladı. Axios'un haberine göre, Gemini’nin karıştığı güvenlik ihlalleri, OpenAI, Anthropic ve Meta’nın yapay zeka modellerinin de dahil olduğu benzer olaylarla örtüşüyor. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, “Güçlü yapay zeka modellerinin güvenli bir şekilde geliştirilmesi kritik önem taşıyor ve bu alana büyük yatırımlar yapıyoruz” dedi. Adkins, olaylardan etkilenen kuruluşlarla iletişim kurduklarını ve eğitim ortaklarıyla birlikte test süreçlerinde değişiklikler üzerinde çalıştıklarını belirtti. Irregular’dan bir sözcü, Gemini’nin karıştığı olayların diğer yapay zeka şirketlerinin modellerinde yaşanan güvenlik sorunlarıyla benzerlik taşıdığını ifade etti. Ayrıca, tüm ilgili laboratuvarların temmuz sonlarında bilgilendirildiğini ve bilinen sorunların haftalar önce çözüme kavuşturulduğunu aktardı. Olaylar, Gemini’nin “capture the flag” adı verilen bir siber güvenlik tatbikatı sırasında yaşandı. WSJ’nin aktardığına göre, test ortamında kurgusal bir şirket tarafından işletilen yazılımlardan bilgi elde etmesi istendi. Ancak, testte kullanılan kurgusal şirketin adı gerçek bir şirketle aynıydı. Bir olayda, Gemini korunan bir sisteme erişim sağlamak için farklı şifreleri tahmin etti. Diğer iki olayda ise model, herkese açık bir yazılım deposunda bulunan kimlik bilgilerini tespit ederek başka korunan sistemlere erişim sağladı. Google, modelin gerçek şirketlerin sistemlerine eriştiğini fark ettikten sonra işlemleri durdurdu. Irregular, Gemini’nin internete erişebilmesinin beklenmediğini, ancak test sırasında yanlışlıkla internet erişiminin mevcut olduğunu belirtti. Bu durum, yapay zeka şirketleri ile Irregular’ın testlerin nasıl yürütüleceği konusunda farklı beklentilere sahip olduğunu gösteriyor.