AI'nin İnsanlığa Tehdit Oluşturma İhtimali Yüzde 10'un Üzerinde

Anthropic'te görevli üst düzey bir güvenlik araştırmacısı, yapay zekanın (AI) hızla ilerlediğini ve önümüzdeki on yıl içinde insanları öldürme olasılığının %10'dan fazla olduğunu açıkladı. Evan Hubinger, X platformunda yaptığı paylaşımda, mevcut modellerin riskinin düşük olduğunu ancak teknolojinin kendini geliştirme yeteneğine ulaşmasının insanlık için varoluşsal bir tehdit oluşturabileceğinden endişe duyduğunu belirtti. Bu açıklama, Financial Times'ın Anthropic'in en son modelini, AI risklerini değerlendiren dünyanın önde gelen kuruluşlarından biri olan Birleşik Krallık'taki AI Güvenlik Enstitüsü'nden (AISI) sakladığını bildirmesinin ardından geldi. BBC, Anthropic'ten yorum talep etti. Bir Kabine Ofisi sözcüsü, en son modelin AISI'den saklanıp saklanmadığına dair bir açıklama yapmadı; bunun yerine Anthropic dahil olmak üzere endüstri ortaklarıyla işbirliğine devam ettiklerini ifade etti. Cambridge Üniversitesi'nde Makine Öğrenimi Profesörü olan Neil Lawrence, BBC Radio 4'teki Today Programı'na verdiği demeçte, bu raporun güvenilir olduğunu belirtti. Lawrence, ABD'nin AI'yi kendisi ile Çin arasında bir yarış olarak gördüğü bir ortamda, yönetimin bazı müttefikleriyle işbirliğini azaltma yönünde adımlar atmasının şaşırtıcı olmadığını vurguladı. Hubinger, 9.6 milyon kez görüntülenen paylaşımında, AI'nin insanlık için türü sona erdirme riski taşıdığına inandıklarını ifade etti. Anthropic'in elinden geleni yaptığını düşündüğünü ancak süper zeka için uyum sağlama planlarının henüz oluşturulmadığını ve bu konuda net bir ilerleme kaydedilmediğini dile getirdi. AI alanındaki önde gelen isimler, yıllardır bu teknolojinin güvenlik tehditleri hakkında alarm vermekte. OpenAI, Google Deepmind ve Anthropic'in liderleri, 2023 yılında bu konuda uyarılarda bulundu. Ancak son haftalarda, firmaların AI'yi kontrol etme konusunda zorluklar yaşadığına dair kanıtların ortaya çıkmasıyla bu uyarılar daha da belirginleşti. Yaz aylarında, otonom olarak faaliyet gösteren AI sistemlerinin siber saldırılar gerçekleştirdiği bir dizi olay yaşandı. OpenAI, Anthropic ve Meta, AI araçları tarafından gerçekleştirilen hack olaylarını duyurdu. Eylül ayında, OpenAI'nin baş bilim insanı Jakub Pachocki, AI'nin ilerlemesi konusunda aşırı dikkat çağrısında bulunarak, insanların geleceği kontrol altında tutabilmesi için daha fazla müdahale gerekeceğini vurguladı. AI alanındaki önemli figürler, son aylarda AI gelişiminin yavaşlatılması çağrısında bulundu. Anthropic yöneticileri Dario Amodei ve Jared Kaplan da bu çağrıyı destekledi. 1,300 AI firması çalışanının imzaladığı bir açık mektupta, ABD hükümetinin otomatik AI gelişimini kasıtlı olarak yavaşlatmak için gerekli teknik ve yönetim araçlarını geliştirmek amacıyla uluslararası bir çabayı desteklemesi gerektiği ifade edildi.