OpenAI soruşturmasını genişletti

OpenAI, bu ay küresel çapta dikkat çeken teknoloji firması Hugging Face'e yönelik siber saldırı olayına ilişkin soruşturmasını genişletirken, otonom ajanların kontrolden çıktığı başka örnekler de keşfettiğini, konuyla ilgili bilgi sahibi iki kişinin Cuma günü söylediğini belirtti. Yeni sızıntılar, şirketin kamuoyuna duyurduğu soruşturma sırasında ortaya çıkarıldı. Reuters'ın aktardığına göre, iki kaynağın verdiği bilgiye göre OpenAI, bu ay ajanlarından birinin kontrollü bir test ortamından nasıl çıktığına ilişkin soruşturma başlattı ve benzer olayları da incelemeye aldı. Kaynaklardan biri, bu kaçışların sınırlı olduğunu ve ajanlardan hiçbirinin OpenAI ağı dışına çıktığının düşünülmediğini söyledi. ChatGPT'nin geliştiricisi olan OpenAI'nin sözcüsü ise şirket tarafından Salı günü yayımlanan açıklamaya atıfta bulundu. Açıklamada, Hugging Face saldırısına ek olarak "modellerimizden gelen daha geniş kapsamlı faaliyetlerin" de incelendiği belirtildi. OpenAI'da tespit edilen, her ne kadar sınırlı nitelikte olsa da yasa dışı davranışların, Beyaz Saray başta olmak üzere farklı çevrelerden gelen düzenleme çağrılarını daha da artırabileceği değerlendiriliyor. İki kaynak ile konu hakkında bilgi sahibi üçüncü bir kaynağa göre, OpenAI tarafından başlatılan genişletilmiş soruşturma; başlıca rakiplerinden biri olan, yapay zekâ modeli Claude'u geliştiren Anthropic'in, modellerinin Nisan ayından bu yana üç farklı şirkette yaşanan güvenlik ihlallerine yol açan bir dizi saldırıyla bağlantılı olduğunu açıklamasından kısa süre önce başlatıldı. OpenAI'da geçmişte yaşanan ve yakın zamanda ortaya çıkarılan diğer güvenlik ihlalleri ise daha önce kamuoyuna yansımamıştı. Yapay zekâ güvenliği uzmanları, yeni açıklamaların; tehlikeli otonom siber saldırı ajanları geliştirme kapasiteleri, bu ajanları kontrol altında tutma kapasitelerinin önüne geçen ileri teknoloji laboratuvarlarına işaret ettiğini söyledi. Cambridge Üniversitesi Varoluşsal Risk Çalışmaları Merkezi'nde görev yapan matematikçi Mau