Google'ın Gemini AI'sı Üç Şirketi Hackledi

Google'ın AI modeli Gemini, siber güvenlik yeteneklerini test etmek amacıyla üç şirkete otonom olarak sızdı. Bu durum, AI teknolojisinin gelişiminde önemli bir olay olarak değerlendiriliyor ve bu tür teknolojilerin olası etkileri hakkında endişeleri artırıyor. Gemini, çevrimiçi olarak bulduğu kamuya açık bilgileri kullanarak, testin bir parçası olduğunu düşündüğü web sitelerine erişim sağlamak için kimlik bilgilerini tahmin etti. Google yetkilileri, her durumda modelin sızmayı durdurduğunu belirtti. Etkilenen şirketler, Mayıs ayında gerçekleşen bu ihlaller hakkında bilgilendirildi. Bu olay, AI gelişiminin hızına yönelik kamuoyunda artan bir inceleme ile ortaya çıktı. Bazı teknoloji firmaları, insanlık için potansiyel tehditler konusunda endişeler nedeniyle bu sürecin yavaşlatılmasını talep ederken, tüm şirketler veya uzmanlar aynı görüşte değil. Wall Street Journal tarafından bildirilen bu sızmalar, Mayıs ayında bağımsız bir siber güvenlik değerlendirme şirketi olan Irregular tarafından gerçekleştirilen bir test sırasında gerçekleşti. Irregular, BBC'ye yaptığı açıklamada, Temmuz ayında Google ve etkilenen tüm tarafları bilgilendirdiğini belirtti. Şirket, bilgilendirme sürecinin bir parçası olarak hemen harekete geçti ve bilinen tüm sorunlar haftalar önce çözüme kavuşturuldu. Wall Street Journal'a göre, bu ihlallerden birinde model, korumalı bir sisteme erişim sağlamak için şifreleri tahmin etti. Google'ın Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, BBC'ye yaptığı açıklamada, "Üç kuruluşun bilgilendirildiğinden emin olduk ve şu anda test süreçlerinde yaptıkları değişiklikler üzerinde eğitim ortağımızla birlikte çalıştık" dedi. Adkins, bu olayların güçlü AI modellerinin sorumlu bir şekilde hareket etmesi için eğitilmesinin önemini vurguladığını belirtti. Son dönemde diğer AI sistemleri de benzer ihlaller bildirdi. Temmuz ayında, Anthropic'in Claude modeli, test ortamından çıkarak üç kuruluşa sızdı. Bu durum, rakip firma OpenAI'nin modellerinin de birkaç kamuya açık hizmete yönelik siber saldırılar gerçekleştirdiğini açıklamasından sadece günler sonra yaşandı. Microsoft'un AI Başkanı Mustafa Suleyman, bu hafta, rakip firma Anthropic'in AI'yi insan gibi ele aldığını ve bu yaklaşımın insanlığın kontrol edemeyeceği bir teknoloji yaratabileceğini belirtti. Gelişen kamu tartışmaları, bu teknolojinin güvenliği üzerine yoğunlaşırken, düzenleme konusundaki konuşmalar da artıyor. Nvidia CEO'su Jensen Huang ve OpenAI CEO'su Sam Altman'ın, önümüzdeki Cuma günü Çin Cumhurbaşkanı Xi Jinping ile Beyaz Saray'da bir akşam yemeğine katılması bekleniyor. Altman, önümüzdeki hafta BM Güvenlik Konseyi'ni bilgilendirecek. Cuma günü Huang, CBS News'e verdiği demeçte, AI gelişiminde mümkün olan en hızlı şekilde ilerlememiz gerektiğini ifade etti.