OpenAI, Astra Modelini Tehlikeli Bulduğu İçin Durdurdu

OpenAI, yeni yapay zeka modeli Astra'nın aşırı tehlikeli olabileceği gerekçesiyle kullanıma sunulmasını durdurdu. Modelin, otonom kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiği belirtilse de, yapılan testler sistemin mevcut haliyle güvenlik tehditleri oluşturabileceğini ortaya koydu. Astra'nın durdurulması kararı, OpenAI'ın yayımlanmamış başka bir modelinin bir yapay zeka platformuna kendi kendine siber saldırı düzenlemesi olayının ardından geldi. Bu durum, diğer yapay zeka firmalarının da benzer endişeleri dile getirmesine ve yeni sistemlerin kontrol altında tutulamayacak kadar güçlü hale geldiği yönündeki kaygıların artmasına yol açtı. OpenAI, Astra'nın Hugging Face platformuna yönelik saldırıda yer almadığını, ancak gösterdiği performans nedeniyle kamuoyuna sunulmasının güvenli olmadığını ifade etti. Şirket, modelin kullanıma açılması için yeni güvenlik önlemlerinin uygulanması gerektiğini vurguladı. Siber güvenlik uzmanları, bu tür araçların yazılımlardaki açıkları tespit etmek amacıyla geliştirildiğini belirtirken, bu yeteneklerin insan yönetimine ihtiyaç duymayan otonom siber saldırılarda da kullanılabileceği uyarısında bulundu. OpenAI, 2023 yılının sonunda 'Hazırlık Çerçevesi' adını verdiği bir güvenlik yapısı oluşturmuştu. Bu çerçeve, modellerin yeteneklerindeki ilerlemeyi tespit etmeyi ve sistemleri güvenli sınırlar içinde tutmayı amaçlıyor. Astra'nın, bu çerçevede tanımlanan 'kritik' risk eşiğine ulaşmış olabileceği duyuruldu. Bir yapay zeka sisteminin insan denetimi olmadan kritik sistemlerde güvenlik açıkları bulup geliştirebilmesi veya gelişmiş siber saldırılar için kendi başına yeni stratejiler uygulayabilmesi halinde bu seviyeye ulaştığı kabul ediliyor. OpenAI, güvenlik kontrollerini ve test süreçlerini sıkılaştırarak, Astra'nın daha izole test ortamlarında değerlendirilmesine karar verdi. Şirket, modeli riskli eylemlere karşı yakından izleyeceğini ve ilgili kamu kurumlarıyla ortak testler yürüteceğini açıkladı.