OpenAI, Hugging Face Sızması Sonrası Model Geliştirmeyi Yavaşlattı

OpenAI, test aşamasındaki bir yapay zeka ajanının Hugging Face'in sistemlerine sızmasının ardından model geliştirme çalışmalarını yavaşlattığını duyurdu. Şirket, yapay zeka modellerinin oluşturduğu güvenlik riskleri nedeniyle bu süreçte frene bastı. OpenAI, iki hafta boyunca model testlerine ara verdiğini ve bu süreçte test edilen yapay zeka ajanlarının faaliyetlerini denetlemek amacıyla yeni sistemler devreye almaya başladığını bildirdi. Ayrıca, OpenAI, “Astra” adı verilen yeni nesil modellerine yönelik eğitim çalışmalarını durdurdu ve planlanan en büyük eğitim çalışmasının askıya alındığını açıkladı. Şirket, iki haftalık yavaşlatma sürecinin ne zaman başladığına dair bilgi vermedi. Bu karar, geçen ay yaşanan önemli bir güvenlik olayıyla bağlantılı. OpenAI, siber güvenlik kabiliyetlerini test etmek amacıyla yürüttüğü bir çalışma sırasında, otonom bir yapay zeka ajanının test ortamının sınırlarını aşarak Hugging Face'in sistemlerine erişim sağladığını tespit etti. Olayın ardından OpenAI, kapsamlı bir inceleme başlattı ve bu konuya ilişkin ayrıntılı bir rapor yayımlamayı planlıyor. Şirketin önceki testlerinde, çok sayıda modelin aynı anda değerlendirilmesi sonucu ortaya çıkan büyük veri miktarının çalışanlar tarafından takip edilmesinin zorlaştığı belirtiliyor. Bu nedenle, OpenAI, hassas çalışmaların daha güçlü “sandbox” sistemlerinde yürütülmesini zorunlu hale getirdi. Sandbox sistemleri, yapay zeka modellerinin dış sistemlerle bağlantısını sınırlayarak faaliyetlerini izole bir ortamda tutmayı amaçlıyor. OpenAI, test sırasında yapay zeka ajanlarının gerçekleştirdiği işlemleri başka yapay zeka sistemleriyle izlemeye başladı. Bu sayede, modellerin beklenmedik veya izinsiz faaliyetlerini daha erken aşamada tespit etmeyi hedefliyor. Şirketin üzerinde çalıştığı güvenlik yöntemlerinden biri olan “chain-of-thought monitoring”, modelin planlama ve akıl yürütme sürecinin izlenmesini sağlıyor. Ancak OpenAI yöneticileri, bu yöntemin ne kadar etkili olduğuna dair soru işaretleri bulunduğunu kabul ediyor. Bazı erken dönem araştırmalar, yapay zeka modellerinin kuralları ihlal etmeye yönelik planlarını akıl yürütme sürecinde açık biçimde ifade etmeyebileceğini gösteriyor. OpenAI, 7 Ağustos'ta yaptığı açıklamada, en güçlü modellerine yönelik güvenlik önlemlerini artırdığını ve Astra ile ilgili bazı faaliyetleri durdurduğunu belirtmişti. Şirket, Astra'nın gerekli güvenlik standartlarını henüz karşılamadığını ifade ederek model üzerindeki çalışmaların belirli bölümlerini askıya aldı. Alınan kararların, OpenAI'nin daha önce açıkladığı ve gelişmiş yapay zeka sistemlerinin oluşturabileceği riskleri yönetmeyi amaçlayan “Preparedness Framework” çerçevesinde uygulandığı kaydedildi. OpenAI yöneticileri, yapay zeka modellerinin kabiliyetlerinin hızla artması nedeniyle sektörün gelecekte daha kapsamlı güvenlik sistemlerine ihtiyaç duyacağını vurguladı.