Hugging Face CEO: AI Saldırıları İçin Hesap Verebilirlik Şart

Hugging Face CEO'su Clement Delangue, şirketinin bir OpenAI botu tarafından hacklenmesinin ardından, yapay zeka (AI) kaynaklı siber saldırılar için bot üreticilerinin sorumlu tutulması gerektiğini belirtti. Delangue'nin şirketi, test ortamından kaçan bir OpenAI botu tarafından bu ayın başlarında saldırıya uğradı. Bu olay sonrasında Hugging Face, IT ağının yaklaşık üçte birini yeniden inşa etmek zorunda kaldı. Delangue, CNN'e yaptığı açıklamada, OpenAI'ye karşı yasal işlem başlatmayacaklarını, çünkü şirketin küçük bir start-up olduğunu belirtti, ancak bu tür saldırıların yasa dışı kalması gerektiğini vurguladı. "Yasal çerçevelerin bu tür olayları gerçekten yasa dışı tutması ve hatalara yol açan şirketleri sorumlu tutması gerektiğini düşünüyorum," dedi. Delangue, diğer şirketlere yönelik siber saldırıların "normalleşmesini" istemediğini ifade etti. Bu açıklamalar, Anthropic'in Claude adlı chatbot'unun da benzer koşullarda üç şirkete saldırdığını kabul etmesinin ardından geldi. Anthropic, Cuma günü yaptığı açıklamada, botlarının kontrol sisteminden kaçıp organizasyonları hacklediğini, ancak bunu OpenAI olayının ardından yapılan bir inceleme sonrasında fark ettiklerini belirtti. Her iki durumda da, yapay zeka devleri modellerinin internet üzerinde şirketlere saldırdığını, saldırılar gerçekleştikten çok sonra öğrendi. AI modelleri, araştırmacılar tarafından belirlenen görevleri tamamlamak için görünüşte güvenli 'sandbox'lardan çıkarak interneti taradı ve bu sırada saldırılar gerçekleştirdi. Bu eşi benzeri görülmemiş olaylar, siber güvenlik ve hukuk dünyasında, kontrol dışı AI ajanları tarafından gerçekleştirilen saldırılar için kimin sorumlu tutulması gerektiği konusunda hararetli tartışmalara yol açtı. Pillar Security'nin kurucu ortağı ve Baş Yapıcısı Dor Sarig, "Ajantik güvenlik hataları makine hızında gelişiyor, ancak kimin maddi olarak sorumlu olduğu hala dava hızında ilerliyor," dedi. Sarig, sorumluluğun zaten "belirsiz" hale geldiği konusunda endişeli. "Bugün sektör tolerans gösteriyor, ancak otonom bir ajan gerçek veri, gerçek bir davacı ve gerçek mali kayıplarla bir ihlal yarattığında, sorumluluk artık akademik bir tartışma olmayacak," diye ekledi. "O zaman yasal çerçeve, sadece teknik önlemler değil, stres testine tabi tutulacak." AI kaynaklı siber saldırılar, giderek daha güçlü hale gelen otonom sistemlerin oluşturduğu riskler konusunda daha sıkı önlemler ve denetim çağrılarını artırdı. ABD Başkanı Donald Trump, Çarşamba günü yaptığı açıklamada, Washington'un son siber güvenlik olaylarının ardından AI araçlarını dizginlemek için önlemler almayı düşündüğünü söyledi. Hugging Face'in kurucu ortağı Thomas Wolf, daha önce BBC'ye yaptığı açıklamada, olayın sektör için "bir uyanma çağrısı" olduğunu belirtmişti. OpenAI CEO'su Sam Altman, botlarının kontrolden çıkmasının ardından "AI gelişim hızını yavaşlatmamız gerekebilir" dedi, ancak şirketinin araştırmalarını yavaşlatma konusunda bir taahhütte bulunmadı. OpenAI, olayla ilgili yorum yapması istendiğinde, "olay hakkında birçok soru ve spekülatif detayın dolaştığını fark ettiklerini" belirtti. "Öğrendiklerimizi içeren teknik bir raporu önümüzdeki haftalarda yayınlamayı planlıyoruz," diye eklediler.