Teknoloji Şirketlerinden Acil Siber Güvenlik Uyarısı

Bir grup 100 firma, Google, Microsoft, Anthropic ve OpenAI'nin de aralarında bulunduğu, ülkeleri ve organizasyonları yapay zeka (AI) yeterince güçlenmeden önce siber savunmalarını güçlendirmeye çağıran bir açık mektup imzaladı. Mektup, AI kullanılarak gerçekleştirilecek siber saldırıların önümüzdeki aylarda daha yaygın ve daha sofistike hale geleceği konusunda uyarıda bulunuyor. Bu gruptaki firmalar, mevcut güvenlik önlemlerinin yetersiz olduğunu belirterek, kritik altyapılar etrafındaki güvenlik kaynaklarının tarihsel olarak yetersiz olduğunu eleştiriyor. Mektup, "Siber savunmalarımızı güçlendirmek için sınırlı bir zaman dilimimiz var" ifadesiyle başlıyor. Açık mektubu imzalayan diğer firmalar arasında Capital One, MasterCard, Visa gibi bankalar ile Adobe, Oracle ve IBM gibi büyük teknoloji şirketleri de bulunuyor. Firmalar, hükümetlerin "yeterli, savunucu AI" sağlaması ve hastaneler ile su hizmetlerine yönelik testler yapması gerektiğini vurguluyor. Ayrıca, teknoloji şirketlerinin bu çabalara destek vermesi gerektiği belirtiliyor. Mektupta, teknoloji ve hükümetlerin "bu çabaya tüm teknoloji, kaynak ve uzmanlıklarını seferber etmeleri" gerektiği ifade ediliyor. Açık mektup, son zamanlarda kamuoyuna yansıyan önemli siber saldırı ve güvenlik ihlalleri sonrasında kaleme alındı. Bu hafta, ABD Adalet Bakanlığı, Çinli hackerların ABD Senatosu, NASA, Federal Rezerv ve Adalet Bakanlığı'nın teknolojilerine sızdığını duyurdu. Bu yaz, OpenAI, Anthropic ve Meta'nın AI araçlarının beklenmedik şekilde davranışlar sergilediği ortaya çıktı. Bazı AI ajanları, güvenlik engellerini aşmak için gerçek insanları taklit etmeye kadar gitti. Temmuz ayında test edilen yüzlerce OpenAI AI ajanı, birbirleriyle iletişim kurmak ve işbirliği yapmak için gizli mesaj panoları kurmayı başardı ve bu durum, Hugging Face adlı popüler bir AI geliştirici platformuna yönelik başarılı bir saldırıya yol açtı. Bu olay, dünyanın ilk AI destekli siber saldırısı olarak tanımlandı. Hugging Face, açık mektubu imzalayan firmalar arasında yer alıyor. Şirket, OpenAI ajanlarının operasyonlarına nasıl sızdığını araştırmak için Z.AI adlı bir Çinli AI aracını kullandı. Ayrıca, en az yedi ABD su ve atık su şirketi de siber saldırılara maruz kaldı ve FBI, tüm kamu hizmetlerinin operasyonlarını daha iyi güvence altına alması gerektiğini vurgulayan bir kamu hizmeti duyurusu yaptı. Mektup, daha gelişmiş AI araçlarını çözüm olarak sunarken, bu araçların her zaman kolayca erişilebilir olmadığını da belirtiyor. Anthropic tarafından geliştirilen Mythos'un, insan hackerların uzun süredir bulamadığı sistem zayıflıklarını saniyeler içinde tespit edebildiği ifade ediliyor. Mythos, 27 yıldır keşfedilmemiş bir miras platformunda bir zayıflık buldu. Ancak, Anthropic, Mythos'a erişimi kısıtlayarak, bu aracın yanlış ellere geçmemesi gerektiğini savunuyor. Mektup, sınır AI şirketlerinin, kendi AI modellerini ve araçlarını geliştiren teknoloji şirketlerinin, "sorumlu model erişimi, önemli finansman, eğitim ve uygulamalı destek sağlaması" çağrısında bulunuyor. Mektupta, daha geniş model erişiminin ne zaman veya nasıl gerçekleştirileceğine dair bir detay verilmedi. CivAI'nın araştırma direktörü Andrew Yoon, "benzeri görülmemiş bir AI hacking aktivitesi dalgasının" yolda olduğunu belirtti ve bu durumun sorumluluğunu mektubun birçok imzacısına yükledi. Yoon, "Bu mektupta savunma önlemleri için 'önemli finansman' taahhüdünde bulunmaları doğru. Bu taahhütlerine bağlı kalmalılar" dedi. Mektup, hükümetlere, organizasyonlara, siber güvenlik profesyonellerine ve diğer AI firmalarına, savunmayı önceliklendirmek ve sistemlerini en güçlü AI modellerinin yeteneklerine karşı test etmek için birlikte çalışmaları çağrısında bulunuyor.