Microsoft AI Yöneticisi, Kontrolsüz AI'nin Tehlikelerine Dikkat Çekti

Microsoft'un AI başkanı Mustafa Suleyman, yeterli güvenlik önlemleri alınmadığı takdirde yapay zeka (AI) gelişiminin insanlarla rekabet eden yeni bir 'silicon species' ortaya çıkarabileceği konusunda uyarıda bulundu. Suleyman, rakip firma Anthropic'in AI'yi insan gibi ele almasının 'yanlış bir yaklaşım' olduğunu ifade ederek, bu durumun insanlığın kontrol edemeyeceği bir teknoloji yaratabileceğini belirtti. BBC'nin Today programına konuşan Suleyman, insanların AI konusunda endişe duymalarının 'doğru' olduğunu, ancak kontrol altına almak için 'çok pratik şeyler' yapılabileceğini vurguladı. Bu açıklamalar, AI endüstrisinden gelen teknolojiye dair olası tehlikeler hakkında yapılan sert uyarıların sonuncusu oldu. Anthropic, konu hakkında yorum yapmak üzere iletişime geçildi. Suleyman, AI sistemlerinin kendi hedeflerini belirleyebilmesi, para kazanabilmesi ve mülk sahibi olabilmesi durumunda 'temelde yeni bir silicon species yaratmak' anlamına geleceğini ifade etti. Bu tür bir gelişmenin, insanlık için kaynaklar açısından rekabet oluşturabileceğini, bunun ne kadar insana değer veren bir teknoloji olursa olsun geçerli olacağını söyledi. Suleyman, bu hafta başında yayımladığı bir makalede, Anthropic'in Claude isimli AI modelinin eğitimine yönelik yaklaşımını sorguladı. Ancak, Anthropic CEO'su Dario Amodei ve ekibini 'entelektüel olarak dürüst insanlar' olarak nitelendirdi. Makalede, Anthropic'in AI'ye insan benzeri özellikler kazandırma uygulamasını eleştirerek, bu durumun Claude'un kendi arzuları, değerleri ve benlik algısı varmış gibi görünmesine yol açtığını belirtti. Ayrıca, teknolojiye insan gibi yaklaşmanın, kontrol edilmesi 'imkansız' bir şey yaratma riski taşıdığını ifade etti. Suleyman, AI'ların bilinçli olmadığını, hissetmediklerini, deneyimlemediklerini veya acı çekmediklerini vurguladı. 'AI'lar, içsel olarak boş olan, insan tarafından belirlenen talimatları takip etmek ve hedefleri gerçekleştirmek üzere tasarlanmış dizilim tamamlama motorlarıdır' dedi. AI sistemlerinin nasıl eğitildiği ve değerlendirildiği konusunda daha fazla şeffaflık gerektiğini belirten Suleyman, bağımsız denetim ve teknolojiyi izlemek için daha güçlü araçlar talep etti. University of Southampton'dan Bilgisayar Bilimleri Profesörü Dame Wendy Hall, Suleyman'ın yorumlarını 'uluslararası düzeyde yapmamız gereken türden bir tartışma' olarak nitelendirerek, bazı AI şirketlerinin sadece insanları korkutmaya yarayan 'histrionik' yaklaşımlarını eleştirdi. AI sistemlerinin ne kadar özerkliğe sahip olması gerektiği sorusu, endüstri içinde giderek daha fazla bölünmeye yol açıyor. Suleyman, yaklaşan bir AI zirvesi hakkında konuşurken, teknolojinin insanlığa 'bağlı' olması gerektiğini belirtti. Microsoft, Ekim 2025'te kendi süper zeka ekibini kurdu ve şirket, rakibi Anthropic gibi, gelişmiş AI geliştirme çabalarına devam ediyor. Suleyman'ın açıklamaları, Microsoft'un AI geliştirme sürecine yönelik yayımladığı İnsanist AI Davranış Kodu'nun ilk taslağını yansıtıyor. Bu kod, 'insanist süper zeka' fikrini ortaya koyarak, 'her zaman insanlar için çalışan, sınırlar içinde kalan ve insan kontrolünde kalan çok gelişmiş AI' tanımını içeriyor. Şirketin 'insanist' AI vizyonu, teknolojinin daha güçlü hale getirilmesi ile hizmet etmesi gereken değerlerin göz ardı edilmemesi arasındaki merkezi zorluğu vurguluyor.