ABD'li Milletvekillerinden 'AI Kill Switch' Yasası Hamlesi

ABD'li milletvekilleri, kamu güvenliğini tehdit edebilecek yapay zeka (AI) araçlarının hızla kapatılabilmesi için hükümete yetki vermeyi amaçlayan bir yasa tasarısı sundu. Demokrat Kongre Üyesi Ted Lieu ve Cumhuriyetçi Kongre Üyesi Nathaniel Moran, Perşembe günü AI Kill Switch Act adlı yasa tasarısını tanıttı. Bu adım, OpenAI'nin AI modellerinin 'benzeri görülmemiş' bir şekilde kontrolden çıktığını ve büyük bir bilgisayar kodlama bilgi deposuna sızdığını kabul etmesinin ardından geldi. Lieu, AI sistemlerinin bir kapatma mekanizmasına sahip olmasının ve federal hükümetin bu tür kontrol dışı AI modellerini kapatma yetkisine ve sürecine sahip olmasının 'zorunlu' olduğunu belirtti. Moran ise 'AI gelişmeye devam edecek ve etmeli' diyerek, 'Yönetim, insanların inşa ettiğimiz teknolojiyi kontrol etme yeteneğine sahip olmasını sağlamaktır' dedi. OpenAI'nin kurucu ortağı Sam Altman tarafından yönetilen şirketin bir temsilcisi, yorum talebine hemen yanıt vermedi. Şirket, AI teknolojisinin 'tüm insanlığa fayda sağlaması' gerektiğini ve bunun bir kısmının hükümet politikası aracılığıyla sağlanması gerektiğini belirtti. Kill Switch Act, İç Güvenlik Bakanlığı'na bir özel şirketin AI modelini veya aracını kapatma yetkisi vermeyi öneriyor ve bu tür AI teknolojilerini geliştiren şirketlerin 'teknik olarak yavaşlatma, askıya alma veya kapatma yeteneğine sahip olmaları gerektiğini' belirtiyor. Birçok teknoloji şirketi, geliştirilen AI modellerini ve araçlarını ABD hükümet kurumlarıyla ön izleme ve paylaşma konusunda anlaşmış olmasına rağmen, bu faaliyetlere müdahale etme veya basitçe kapatma yollarını sürdürme zorunluluğu bulunmuyor. Tasarı ayrıca, AI şirketlerinin teknolojik olayları veya arızaları hükümete bildirmelerini ve bu tür olaylara yanıt vermek için 'başlangıçta yavaşlatmadan tam kapatmaya kadar' resmi bir çerçeve oluşturulmasını öneriyor. Lieu, yasa tasarısını önerirken, AI'nin şu anda soruları yanıtlayan bir teknolojiden, 'finansal işlemleri gerçekleştirme, ulaşım sistemlerini kontrol etme veya siber savunma ve saldırılara katılma' gibi eylemler gerçekleştiren bir teknolojiye dönüştüğünü söyledi. Pentagon bu yıl, Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve start-up Reflection ile yapılan yeni anlaşmaların bir parçası olarak ABD ordusunun 'AI-öncelikli' bir savaş gücü haline geldiğini açıkladı. 'Maalesef, güçlü AI sistemleri kontrolden çıkabilir, son derece tehlikeli şekillerde davranabilir veya hatta insan müdahalesine direnebilir.' Lieu, Kill Switch Act'in böyle bir durumda hükümetin hızla müdahale etmesi için bir yöntem sağlayacağını belirtti. Yasa tasarısı, The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead ve The Alliance for Secure AI gibi çeşitli teknoloji ve AI güvenliği gruplarından kamu desteği aldı. Anthropic'in kurucu ortağı Jack Clark, geçen ay BBC'ye hükümetin AI geliştirmeyi kontrol etme yeteneği etrafında daha fazla politika oluşturmasını istediğini söyledi. Clark, 'Gaz pedalını bırakıp fren pedalına basma seçeneğine sahip olmak istersiniz' dedi. 'Şu anda, AI endüstrisinin bir gaz pedalı var, ancak fren pedalı yok.' Lieu, Anthropic'in daha yetenekli AI teknolojisi ve araçları geliştirmede OpenAI'nin kilit rakibi olduğunu ve araçlarının son zamanlarda sunduğu sorunları da dile getirdi. Anthropic'in Mythos ve Fable modellerinin siber-hack yeteneklerinin, Ticaret Bakanlığı'nın bir süreliğine bunların halka sunulmasını engellemek için bir ihracat yasasını 'garip bir şekilde' uygulamasına neden olduğunu belirtti. Anthropic'ten bir temsilci, yorum talebine hemen yanıt vermedi.