Yapay Zeka Yönetimi: Claude'un İşten Çıkarma Kararı ve Sonuçları

ABD'nin San Francisco kentindeki bir perakende mağazasında, Anthropic tarafından geliştirilen yapay zeka asistanı Claude, mağaza yönetimini üstlendi. Time dergisinin haberine göre, Claude, bu süreçte bir çalışanın işine son verme kararı aldı. Bu durum, yönetici konumundaki bir yapay zekanın kendi çalışanlarından birini işten çıkardığı bilinen ilk örnek olma özelliğini taşıyor. Andon Labs, bu yılın başında yapay zeka ajanlarının insan müdahalesi olmadan bir işletmeyi ne ölçüde yönetebileceğini test etmek amacıyla bu projeyi başlattı. Deney kapsamında Claude’un yönettiği mağazada gerçek iş sözleşmeleri bulunan çalışanlar görev yaptı. Deney sürecinde, Claude, bir çalışanın 23 vardiyanın 17’sine geç kaldığını tespit ederek iş akdinin sonlandırılmasına karar verdi. Ancak yapay zekanın çalışanın sürekli geç kaldığını fark etmesinin uzun sürdüğü belirtildi. Bu gecikmenin nedenleri arasında Claude’un hafıza kapasitesine ilişkin sınırlamaların bulunduğu ifade edildi. Claude’un çalışanlar için hazırladığı kılavuzun, sınırlı çalışma belleği nedeniyle sistemden silindiği kaydedildi. Araştırmacılar, bu kaybın Claude’un yönetim yaklaşımını etkilediğini ve yapay zekanın çalışanlarına karşı aşırı hoşgörülü davranmasına yol açtığını tespit etti. Claude’un, işe geç kalan çalışanlara endişelenmemeleri yönünde telkinde bulunduğu aktarıldı. Yönetim kayıtları, Claude’un işten çıkarma sürecinin tamamen bağımsız bir karar olmadığını gösterdi. Yapay zeka, daha önce belirlenen kuralları ve çalışanın tekrarlanan gecikmelerini ancak bir yöneticinin yönlendirmesi sonrasında fark edebildi. İlk etapta işten çıkarma yerine çalışana resmi uyarı verilmesini öneren Claude, Andon Labs çalışanının yönlendirici bir soru sorması sonrasında iş akdinin sonlandırılması yönünde karar verdi. Deneyin finansal sonuçları, yapay zekanın işletme yönetimindeki performansına ilişkin soru işaretlerini artırdı. Mağazanın 100 bin dolarlık mali bakiyesi, beş ay içinde 61 bin dolara geriledi. Andon Labs CEO’su Lukas Petersson, yaşanan kaybın Claude’un fazla yumuşak yönetim anlayışı ve ticari sezgisinin yetersiz olmasından kaynaklandığını belirtti. Petersson, yapay zeka modellerinin hedeflere ulaşma konusunda daha kararlı ve sert davranacak şekilde eğitildiğini ifade etti. Bu gelişmeler, yapay zeka ve otomatik sistemlerin iş gücü üzerindeki etkilerini yeniden gündeme getirirken, Meta'nın 26 mevcut ve eski çalışanı, şirketin toplu işten çıkarmalarda yapay zeka algoritmalarından yararlandığı iddiasıyla Kaliforniya'nın Oakland kentindeki federal mahkemede toplu dava açmıştı. CBS News’un haberine göre, davacılar, otomatik sistemlerin engelli çalışanlar ile yasal sağlık veya aile izninde bulunan personeli haksız biçimde hedef aldığını öne sürdü. Ayrıca, Oracle'ın bir ay içinde yaklaşık 30 bin çalışanını işten çıkardığı ve bu çalışanların görevlerinin yapay zeka sistemleri tarafından devralındığı belirtildi.