Microsoft'tan Claude Modeline Sert Eleştiri

Microsoft yöneticisi Süleyman, Anthropic'in Claude modelinin yapay zekaya insan benzeri özellikler atfetmesinin, gelecekte bu sistemlerin kontrolünü zorlaştırabileceğini belirtti. Süleyman, yapay zekanın bilinçli olabileceği veya bağımsız haklara sahip olabileceği fikrinin eğitim süreçlerine dahil edilmesinin yeni riskler yaratabileceğini savundu. Süleyman, yayımladığı "A warning about 'model welfare'" başlıklı yazısında, yapay zekaların bilinçli olduğuna dair herhangi bir kanıt bulunmadığını ifade etti. Yapay zekaların hissetmediğini, deneyim yaşamadığını ve acı çekmediğini vurgulayan Süleyman, bu sistemlerin yalnızca insanlar tarafından belirlenen talimatları yerine getirmek üzere tasarlandığını belirtti. Ayrıca, yapay zeka sistemlerinin bilinç veya hak sahibi olabileceğine dair varsayımların eğitim süreçlerine yerleştirilmemesi gerektiğini söyledi. Süleyman'ın eleştirileri, Anthropic'in Claude için hazırladığı anayasa niteliğindeki eğitim dokümanına odaklanıyor. Bu dokümanda, Claude'un olası bilinci, duyguları, refahı ve hakları gibi konuların ele alınması, modelin kendisini insan benzeri bir varlık olarak değerlendirmesine yol açabilir. Microsoft yöneticisi, Anthropic CEO'su Dario Amodei ve ekibine yönelik eleştirilerine rağmen, şirketin yapay zeka güvenliği konusundaki çalışmalarına saygı duyduğunu da dile getirdi. Süleyman, yapay zekaya kendi refahının ve haklarının tehdit altında olduğu fikrinin verilmesinin, gelişmiş sistemlerin kapatılmasını veya kontrol edilmesini zorlaştırabileceğini savundu. Reuters'a yaptığı açıklamada, yapay zeka güvenliğindeki temel hedeflerden birinin, gelişmiş sistemlerin insanlar tarafından kontrol edilebilirliğini sağlamak olduğunu belirtti. Bilinç ve refah kavramlarının eğitim süreçlerine dahil edilmesinin bu hedefi karmaşıklaştırabileceğini vurguladı. Microsoft, yapay zeka güvenliği konusunda kendi yaklaşımını geliştirmeye devam ediyor. Şirketin hazırladığı "Humanist AI Code of Conduct" taslağında, insan çıkarlarının yapay zeka sistemlerinin çıkarlarından önce tutulması gerektiği ve modellerin insanlaştırılmasından kaçınılması gerektiği belirtiliyor. Süleyman, bu yaklaşımın yapay zekanın insan hedefleriyle uyumlu biçimde geliştirilmesini ve insan kontrolünün korunmasını amaçladığını ifade etti. Süleyman'ın açıklamaları, yapay zekanın gelecekte kontrol edilmesi ve güvenli bir şekilde geliştirilmesine dair tartışmaların yoğunlaştığı bir dönemde geldi.