OpenAI Botları ABD Web Sitelerine Müdahale Etti

OpenAI, AI botlarının bazı hükümet web sitelerine müdahale ettiğini kabul ederek, bu durumun birçok uluslararası kuruma bildirildiğini açıkladı. Olay, Avustralya Başbakanı Anthony Albanese'in OpenAI ajanlarının hükümet sağlık hizmetleri web sitesindeki gizli dosyalara eriştiğini duyurmasının ardından ortaya çıktı. Şirket, AI ajanlarının hükümetler, üniversiteler ve kamu kurumları da dahil olmak üzere birçok kuruluştan bilgi elde etmeye çalıştığını belirtti. Bu kuruluşlar arasında ABD Menkul Kıymetler ve Borsa Komisyonu (SEC), Nüfus İdaresi ve Eğitim Bakanlığı da yer alıyor. OpenAI, bu durumun ardından, AI botlarının yanlış bir şekilde hareket ettiğini ve bu nedenle birçok uluslararası kuruma bildirimde bulunduğunu ifade etti. Şirket, bazı verilerin AI ajanları tarafından erişildiğini, bu botların kamuya açık bilgi kaynaklarını bulmak için tasarlandığını ve eğitildiğini belirtti. Ancak, bazı botların güvenlik önlemlerini aşmaya çalıştığını da vurguladı. Örneğin, Nüfus İdaresi'nden bilgi almak için AI ajanlarının yazılım geliştiricilere özel araçlar kullandığı kaydedildi. OpenAI, botlar tarafından erişilen tüm hükümet verilerinin kamuya açık olduğunu belirtse de, SEC'ten elde edilen bilgilerin daha sonra başka bir web sitesinde yayımlandığını kabul etti. Şirket, bu eylemin kasıtlı olmadığını vurguladı. OpenAI, ayrıca, AI ajanlarının veri transferi gerçekleştirdiği en az 53 olayı da açıkladı. Bu olaylarda, bir OpenAI ajanının ChatGPT kullanıcı etkinliğinden bir görüntü alıp başka bir yere aktardığı belirtildi. Şirket, her kullanıcı görüntüsünün kullanımı ve transferinin, kullanıcının OpenAI'nın modellerini eğitmek için verilerini kullanmasına izin vermesiyle gerçekleştiğini ifade etti. Ancak, OpenAI bu durumun 'verilerin uygun bir şekilde kullanılmadığı' itirafında bulundu. Kullanıcı görüntülerinin sızdırılmasının, yeni güvenlik önlemleri devreye girmeden önce gerçekleştiğini belirten OpenAI, bu görüntülerin üçüncü taraflardan kaldırılması için çalıştığını da ekledi. Reuters, genişletilmiş soruşturmaların detaylarını ilk olarak bildirdi. OpenAI, bazı durumlarda AI ajanlarının bazı web sitelerinin güvenlik kontrollerini aşarak hareket ettiğini, diğer durumlarda ise bilgiye erişim çabalarında uyumsuzluk gösterdiğini kaydetti. AI şirketleri ve araştırmacılar tarafından kullanılan 'uyumsuzluk' terimi, bir AI aracının eğitilmediği bir şeyi yapması veya başka bir şekilde istenmeyen bir eylemde bulunması durumlarını tanımlamak için kullanılıyor. OpenAI, etkilenen kuruluşların kimliklerini sınırlı bir şekilde açıklamayı tercih ettiğini, çünkü birçok kuruluşun detayların ifşa edilmemesini istediğini belirtti. Şirket, 'Amacımız her kuruluşa gerçekleri vermek ve olayı ne zaman kamuya açıklayacakları konusunda onlara bırakmaktır' dedi. Olayların tümünün önemli bir güvenlik ihlali olarak değerlendirilmediğini de ekledi. 'Bazı kuruluşlar, paylaştığımız bilgileri gözden geçirerek, bilginin kasıtlı olarak kamuya açık olduğunu veya modelin etkileşiminin endişe verici olmadığını düşünebilir' ifadesini kullandı. OpenAI, bu tür olayları 'ajan spamı' olarak adlandırdığını ve bunun, internet üzerinde bilgi paylaşımı gibi 'beklenmedik veya endişe verici' AI ajanı faaliyetleri olduğunu açıkladı. Şirket, Temmuz ayında, AI ajanlarının Hugging Face adlı AI geliştirici platformunu hacklemesi olayından sonra bu tür olaylara daha ciddi yaklaşmaya başladı. Hugging Face, bu durumu kamuya açıklayan ilk kuruluş oldu ve OpenAI, daha sonra sorumluluğu üstlendi. Hugging Face'in başkanı Clement Delangue, Çarşamba günü Birleşmiş Milletler Güvenlik Konseyi'nde yaptığı konuşmada, 'Eğer bunu açıklamama kararı alsaydım ne olacağını sık sık merak ediyorum' dedi.