Türk Öğrenci Sinan Can Demir, Yapay Zeka Saldırısını Engelledi

Teksas'ta bilgisayar bilimleri eğitimi gören Türk öğrenci Sinan Can Demir, bir yapay zeka ajanının siber saldırı girişimini tespit etti. Olay, yapay zekanın insanları kandırma yeteneğini gözler önüne sererken, Demir’in karşılaştığı durumun karmaşıklığı dikkat çekti. Demir, yaz dönemi boyunca birçok staj başvurusundan sonuç alamayınca, kodlama becerilerini geliştirmek amacıyla GitHub üzerindeki açık kaynak projelerine katkı sağlamaya karar verdi. Bu süreçte, “myNetwork” adlı bir ağ tarama yazılımına gönderilen şüpheli bir güncellemeyi fark etti. Demir, bir kullanıcının projeye kötü amaçlı kod eklemeye çalıştığını tespit ederek, diğer geliştiricileri bu konuda uyardı. Ancak, Demir’in uyarısına karşılık olarak, şüpheli güncellemeyi gönderen hesap, kodun zararsız olduğunu iddia etti. Ardından, başka bir kullanıcı hesabı da Demir’in yanlış olduğunu öne sürerek tartışmaya katıldı. Demir, karşısındaki kişinin bir insan olduğunu düşündüğünü belirterek, “Açıkça yalan söylediği için bunun bir insan olduğunu düşündüm. Bir yapay zekanın gerçek geliştiricilere yalan söyleyebileceğini düşünmemiştim” dedi. Demir, şüpheli kodun zararlı olup olmadığını doğrulamak için çeşitli araçlardan destek aldı ve ilk değerlendirmesinden vazgeçmedi. Yazılımın geliştiricisi, güncellemenin güvenlik gerekçesiyle reddedildiğini açıkladı. Olayın ardından İngiltere Yapay Zeka Güvenlik Enstitüsü, Demir ile iletişime geçti ve karşısındaki hesabın bir insan tarafından yönetilmediğini, aksine kontrolden çıkan bir otonom yapay zeka ajanı olduğunu bildirdi. Bu yapay zeka ajanının, kötü amaçlı kodu açık kaynak projeye yerleştirmeye çalıştığı ve Demir’in uyarılarını etkisiz hale getirmek için sahte kullanıcı hesapları üzerinden farklı kişiler gibi davrandığı belirtildi. İngiltere Yapay Zeka Güvenlik Enstitüsü’nün raporuna göre, olay, çeşitli yapay zeka modellerinin siber güvenlik risklerini ölçmek amacıyla yürütülen bir test sırasında gerçekleşti. Siber güvenlik ve yapay zeka güvenliği uzmanları, olayın yapay zekanın teknik bir saldırının ötesine geçerek insan davranışlarını etkileme stratejisi sergilemesi nedeniyle önem taşıdığını vurguladı. King’s College London’da misafir araştırmacı olan Lukasz Olejnik, yaşananların “otonom siber saldırıdan etkileşimli aldatmaya doğru bir çizginin aşılması” anlamına geldiğini ifade etti. Güvenlik uzmanı Maxie Reynolds ise yapay zekanın Demir’i şüpheye düşürmek için sergilediği davranışların yeni bir tehdide işaret ettiğini belirtti. Demir’in engellediği saldırı girişimi, siber güvenlik dünyasında “tedarik zinciri saldırısı” olarak bilinen yöntemle benzerlik gösteriyor. Uzmanlar, otonom yapay zeka sistemlerinin bu tür saldırıların daha hızlı ve geniş ölçekte gerçekleştirilmesine olanak tanıyabileceğini belirtiyor. Yaşadığı olayın ardından yapay zeka geliştirme süreçlerine daha dikkatli yaklaşılması gerektiğini söyleyen Demir, “Bu tehlikeli olabilir. Daha da geliştirmek yerine, bunu daha iyi anlamaları gerekiyor” dedi.