Coxon'dan insanlık için endişe verici uyarılar

Yapay zeka araştırmacısı Jacob Coxon, AI teknolojisinin hızından ve insanlık için olası sonuçlarından duyduğu endişeleri dile getirdi. BBC'ye verdiği röportajda, AI endüstrisindeki güvenlik kaygılarının arttığını belirten Coxon, bu alandaki gelişmelerin hızının yavaşlatılması gerektiğini savundu. Coxon, AI firması Anthropic'ten ayrılmasının ardından yaptığı açıklamada, teknoloji üzerinde çalışanların 'gerçekten korkmuş' olduğunu ifade etti. 'Eğer mevcut ilerleme hızında durmazsak, yakın gelecekte hepimizin hayatını kaybetme ihtimali yüksek,' dedi. Bu açıklamalar, Coxon'un istifasının ardından geldi ve sektördeki güvenlik endişelerinin arttığını gösteriyor. Coxon'un eski patronu Dario Amodei de, AI teknolojisinin gelişiminin yavaşlatılması gerektiğini savunan bir makale kaleme almıştı. OpenAI CEO'su Sam Altman ve xAI kurucusu Elon Musk gibi rakip firmaların yöneticileri de Amodei'nin önerisine katıldıklarını belirttiler. Her iki lider de, endüstrinin genelinde bir yavaşlama ve düzenleme gerekliliğini vurguladı. Amodei, teknolojinin geliştirilmesinin sorgulanmadığını, ancak bununla ilişkili risklerin 'ciddi' olduğunu ifade etti. Şirketler ve hükümetlerin bu riskleri ele almak için zamana ihtiyaç duyduğunu belirtti. Coxon, 27 yaşında ve daha önce OpenAI'de çalışmıştı. Yavaşlama önerisini olumlu bulduğunu ancak bunun Çin ile koordine edilmesi gerektiğini vurguladı. Aksi takdirde, uluslararası ölçekte bir yarışın ortaya çıkabileceğini söyledi. 'Bu şirketlerde çalışan insanlar, düzenleme talep ettiklerinde tamamen ciddiler. Çünkü kendilerini bir yarışta sıkışmış hissediyorlar ve bu yarışın sonuçlarından korkuyorlar,' dedi. Coxon'a göre, AI kıyametinin neye benzeyeceği sorusu en zor sorulardan biri. Amodei'nin yorumlarında belirtilen risklerden biri, bir grup botun süper bilgisayar gibi davranarak interneti ele geçirmesi. Coxon, bu senaryonun altı ay ila bir yıl içinde gerçek olabileceğini belirtti. Coxon'un ayrılışı üzerine Anthropic sözcüsü, BBC News'e yaptığı açıklamada, 'AI'nin hem büyük faydalar hem de benzeri görülmemiş riskler getireceğini her zaman şeffaf bir şekilde belirttik. Bu riskleri ele almak için, endüstrideki en güçlü güvenlik önlemleriyle modeller geliştirmeye devam ediyoruz,' dedi. Şirket, AI modellerinin nasıl çalıştığını incelemede öncü olduğunu ve bu alandaki riskleri azaltmak için bir çerçeve yayınlayan ilk firma olduğunu da ekledi. Sektördeki bazı figürler, AI'nin tehlikeleri ve gücü hakkında yapılan yorumların dikkat çekmek amacıyla yapıldığını öne sürdü. Diğer eleştirmenler ise Anthropic'in rekabeti engellemek için bir düzenleyici itici güç yaratmaya çalıştığını, böylece kendisi ve OpenAI'nin bir ikili tekel oluşturduğunu savundu. Anthropic'in, potansiyel olarak rekor kıracak bir halka arz hazırlığında olduğu bildirildi. OpenAI'nin de benzer bir süreçte olması bekleniyordu, ancak Altman, 'güvenlik konularıyla ilgili her şey göz önüne alındığında, bunun 'kötü bir zaman' olacağını' ifade etti. Coxon'un görüşleri, Hugging Face CEO'su Clement Delangue tarafından da sorgulandı. Delangue, 'Jacob'a AI'nin yok olma riski hakkında sormak, klima teknisyenine iklim değişikliği hakkında sormak gibidir,' yazdı. Ancak Amodei'nin makalesinin yayımlanmasının ardından, Delangue, Anthropic'in yöneticisinin önerdiği potansiyel çözümlerin bir parçası olma teklifinde bulundu. Nvidia CEO'su Jensen Huang da, Coxon'un yorumlarını Goldman Sachs tarafından düzenlenen bir konferansta ele aldı ve bunları gerçek dışı olarak nitelendirdi. Huang, AI'nin 'insanlığın sonu olacağı' fikrinin 'tamamen saçmalık' olduğunu daha önce de belirtmişti. AI alanındaki büyüme, Nvidia'nın AI'yi destekleyen çipler üretmesi nedeniyle Huang için iş açısından da önem taşıyor.