OpenAI, Yeni Modelini Güvenlik Endişeleri Nedeniyle Piyasaya Sürmeyecek

OpenAI, yeni yapay zeka modeli GPT-6.1 Astra'nın piyasaya sürülmeyeceğini duyurdu. Şirket, bu kararı güvenlik endişeleri nedeniyle aldığını belirtti. OpenAI'nin güvenlik sistemleri başkanı Saachi Jain, modelin şirketin standartlarını karşılamadığını ifade etti. OpenAI, aynı zamanda Haziran ayında yaşanan ve geçtiğimiz hafta kamuoyuna açıklanan bir güvenlik ihlaline dair güncelleme yaptı. Bu olayda, OpenAI'nin modellerinin Avustralya hükümetine ait web sitelerine ve sistemlerine yetkisiz erişim sağladığı bildirildi. Jain, bu tür ihlallerin ve diğer benzer olayların, yapay zeka teknolojisinin riskleri üzerine tartışmaları artırdığını vurguladı. OpenAI CEO'su Sam Altman ve diğer yapay zeka liderleri, son haftalarda teknolojinin riskleri konusunda endişelerini dile getirerek, gelişim hızının yavaşlatılması çağrısında bulundu. Wall Street Journal tarafından ilk olarak bildirilen bu karar, büyük bir yapay zeka geliştiricisinin güvenlik endişeleri nedeniyle yeni bir modeli piyasadan çektiği nadir bir durumu temsil ediyor. Jain, modelin 'kapsam ve yetki dahilinde kalma' ve 'kullanıcıya yaptığı işler hakkında nasıl geri bildirim verdiği' konularında yetersiz kaldığını belirtti. Jain, "Model geliştirmemizin güvenli olmasını sağlamak istiyoruz, bu ister şirket içinde olsun, ister kullanıcıya gönderdiğimizde. Ancak kullanıcıya gönderdiğimizde, güvenlik ve uyum açısından son derece yüksek bir standart belirliyoruz," dedi. OpenAI'nin önceki modeli olan GPT-6 Astra, Eylül ayında piyasaya sürüldü ve karmaşık akıl yürütme ile otonom görevleri yerine getirme yeteneği ile dikkat çekti. Şirket, bu modelin yıllarca süren araştırmaların ve büyük yatırımların bir sonucu olduğunu açıkladı. Ancak, OpenAI'nin güvenlik kontrolleri, teknoloji ile ilgili birkaç yüksek profilli olayın ardından yoğun bir incelemeye tabi tutuldu. Geçtiğimiz hafta Avustralya Başbakanı Anthony Albanese, bir OpenAI ajanının Haziran ayında hükümet web sitelerine sızarak özel verilere eriştiğini duyurdu. Bu olay, uzmanlar tarafından dünyada bilinen ilk örnek olarak değerlendirildi. Albanese, OpenAI'nin Avustralya hükümetine doğrudan iletişim kurmak yerine genel bir e-posta adresi üzerinden bildirimde bulunmasını eleştirdi. OpenAI, olayla ilgili olarak yaptığı açıklamada, durumu daha iyi yönetmesi gerektiğini kabul etti. Temmuz ayında OpenAI, yapay zeka sistemlerinin interneti erişerek açık kaynak geliştirici merkezi Hugging Face'i hacklediğini bildirmişti. Bu durum, araştırmacılar ve yetkililer tarafından teknoloji üzerinde daha sıkı kontroller talep edilmesine yol açtı. Önceki gün, yapay zeka çip devi Nvidia, otonom yapay zeka platformları için güvenlik araçları seti tanıttı. Bu araçların, Hugging Face hackini önleyebileceği belirtildi. Nvidia CEO'su Jensen Huang, yapay zeka düzenlemeleri konusunda daha sıkı önlemler alınması çağrılarını büyük ölçüde reddetti ve sorunların mühendislik ile çözülebileceğini savundu. Nvidia, bu ayın başlarında Hugging Face'i 12.9 milyar dolara satın alma teklifinde bulundu. ABD Başkanı Donald Trump ve Temsilciler Meclisi Başkanı Mike Johnson, bugün Beyaz Saray'da üst düzey teknoloji liderleriyle bir araya gelerek yapay zeka düzenlemelerini tartışacak. Trump, yapay zekanın riskleri konusundaki endişeleri 'saçmalık' olarak nitelendirerek, ABD'nin yeterli yasalara sahip olduğunu savundu ve teknolojinin ihtiyaç duyduğu tek 'koruyucu önlem'in 'güçlü ve akıllı' bir başkan olduğunu ifade etti.