Yapay Zeka Tehditleri: Hubinger ve Coxon Uyarıyor

Evan Hubinger, Anthropic’in uyum çalışmalarının başındaki isim, yapay zekanın insanlığı yok edebileceğine dair inancını X platformunda paylaştı. Hubinger, bu ihtimali önümüzdeki on yıl içinde yüzde 10’un üzerinde gördüğünü belirtti. Şirketin mevcut çabalarına rağmen, süper zeka için uyum sorununu çözme konusunda henüz net bir planlarının olmadığını vurguladı. Hubinger, "AI tüm insanları öldürebilir" ifadesiyle bu konudaki endişelerini dile getirdi. Bu açıklamalar, Hubinger’ın eski meslektaşı Jacob Coxon’un istifası sonrası geldi. Coxon, hem OpenAI hem de Anthropic’te ön eğitim araştırmaları yapmış bir isim olarak, rakip şirketlerin süper zeka geliştirme yarışına girdiğini ve bunun hayatlarımızla kumar oynamak anlamına geldiğini ifade etti. Coxon, yapay zeka geliştiricilerinin on yıl içinde insanlığı tehdit edebileceğine inandığını ve bunun bir pazarlama numarası olmadığını belirtti. Wall Street Journal’a göre, Coxon, dünyanın en agresif senaryolara doğru ilerlediğini ve kontrolün gelecek yıl kaybedilebileceğini düşündüğünü aktardı. Coxon, Anthropic’teki risklerin iyi anlaşıldığını ancak şirketin sorumsuz bir şekilde rekabete odaklandığını savundu. Hubinger ise, Anthropic’in son risk raporuna atıfta bulunarak mevcut modellerin tehdit seviyesinin düşük olduğunu ifade etti. Ancak asıl endişesinin, özyinelemeli kendini geliştirme yoluyla ortaya çıkacak süper zeka olduğunu ve bu sürecin beklenenden daha hızlı ilerlediğini belirtti. Bu gelişmeler, yapay zeka araştırmacılarının "sınırı yavaşlatma" çağrılarıyla çelişiyor. Temmuz ayında yayımlanan "Pacing the Frontier" bildirisine Dario Amodei, Jakub Pachocki ve Shengjia Zhao gibi isimler imza atmıştı.