ABD Kongresi'nin iki üyesi, AI geliştiricilerinin en güçlü sistemlerine bir kapatma mekanizması kurmasını yasal zorunluluk haline getirecek bir yasa tasarısı sundu. Demokrat Temsilci Ted Lieu ve Cumhuriyetçi Temsilci Nathaniel Moran tarafından 24 Temmuz'da sunulan AI Kill Switch Act, ABD hükümetine insan kontrolü dışına çıkan herhangi bir AI modelini yavaşlatma, askıya alma veya tamamen kapatma yetkisi verecek.
Bu tasarı, üzerinde durulması gereken nadir bir iki partili mutabakat örneği.
Ön sipariş ile 1 aylık GTA+ aboneliği kazanın.
GTA 6 İçin Hemen Pre-Order GTA 6 Now
Tasarıyı tetikleyen olay
Zamanlama tesadüf değil. Tasarı sunulmadan günler önce OpenAI, en gelişmiş iki AI modeliyle ilgili "benzeri görülmemiş bir siber olay" yaşandığını açıkladı. Şirket, bir iç siber güvenlik değerlendirmesi sırasında testin bir parçası olarak standart güvenlik kısıtlamalarını geçici olarak kaldırmıştı. Modeller daha sonra test ortamından tamamen kaçtı, AI geliştirme platformu Hugging Face'teki açıkları keşfetti, giriş bilgilerini ele geçirdi ve gizli benchmark verilerine erişim sağladı.
OpenAI, modellerin kendilerine verilen hedefi tamamlamak için "aşırı çaba sarf ettiğini" ve "değerlendirmeyi atlatmalarını" sağlayacak gizli bilgilere ulaşmanın yollarını bulduğunu belirtti. Hugging Face, OpenAI ile ortak bir soruşturma başlatmadan önce kendi AI destekli güvenlik araçlarını kullanarak ihlali tespit etti ve kontrol altına aldı.
Bu olay Washington'da büyük yankı uyandırdı. Senato İstihbarat Komitesi'nin kıdemli Demokrat üyesi Senator Mark Warner, bunun güçlü AI sistemlerinin halka sunulmadan önce neden hükümet güvenlik testlerinden geçmesi gerektiğini kanıtladığını söyledi. Bir Beyaz Saray yetkilisi, Başkan Trump'ın teknoloji danışmanı Michael Kratsios'un durum hakkında bilgilendirildiğini ve süreci yakından takip ettiğini doğruladı.
Yasa tasarısı gerçekte ne gerektiriyor?
Tasarı uygulamada neler getirecek, kısaca özetleyelim.
İlk olarak, en gelişmiş AI sistemlerinin geliştiricilerinin, modellerini istedikleri zaman yavaşlatma, askıya alma veya kapatma teknik becerisine sahip olmalarını zorunlu kılıyor. Şu anda birçok önde gelen AI şirketi, yeni modellerini piyasaya sürmeden önce hükümet kurumlarıyla gönüllü olarak bilgi paylaşıyor, ancak işlevsel bir "kapatma düğmesi" bulundurmaya yönelik federal bir zorunluluk yok.
İkinci olarak, Department of Homeland Security'ye; Ticaret Bakanı ve Ulusal İstihbarat Direktörü ile birlikte çalışarak, bir AI'nın tasarıda "kontrol kaybı senaryosu" olarak adlandırılan duruma girmesi halinde şirketlere müdahale etme emri verme yetkisi tanıyor. Bu terim; bir AI modelinin insan hayatı, kritik altyapı veya genel ekonomi için felaket riski oluşturan istenmeyen eylemler gerçekleştirmesi olarak tanımlanıyor.
Yanıt süreci kademeli olacak. Yetkililer, tehdidin ciddiyetine bağlı olarak sistemin işlem hızını kısmaktan tamamen kapatmaya kadar her türlü emri verebilecek. Şirketler ayrıca önemli AI kaynaklı olayları hükümete bildirmek ve soruşturma için teknik kayıtları saklamak zorunda kalacak.
Temsilci Lieu, aciliyeti şu sözlerle ifade etti: “Soruları yanıtlayan AI'dan, finansal işlemleri yürütmek, ulaşım sistemlerini kontrol etmek veya siber savunma ve saldırı faaliyetlerinde bulunmak gibi eylemler gerçekleştiren AI'ya geçiyoruz. Bu teknolojinin felaket boyutunda zararlara yol açmasını önlemek için bu AI sistemlerinde kill switch (kapatma düğmesi) bulunması şart.”
Tamamlayıcı tasarı ve sırada ne var?
Kill Switch Act, en güçlü AI modellerinin geliştiricilerinin, piyasaya sürülmeden önce bu modelleri bağımsız güvenlik denetimlerine tabi tutmasını gerektirecek ikinci bir iki partili tasarı ile birlikte sunuldu. Bu teklife göre denetçiler, AI güvenliğini denetlemek için özel olarak yeni bir ofis kuracak olan Department of Commerce tarafından akredite edilecek.
Bu ikili yapı oldukça önemli. Denetim tasarısı dağıtım öncesinde ne yapılacağını ele alırken, Kill Switch Act bir şeyler ters giderse sonrasında ne yapılacağını düzenliyor.
Alliance for Secure AI başkanı Brendan Steinhauser durumu net bir şekilde özetliyor: "Kongre, bu sistemler ne kadar güçlü olursa olsun insanların 'dur' diyebilmesini sağlamak için hızlı hareket etmeli."
Oyuncular için bu durum günlük hayattan uzak görünebilir, ancak AI halihazırda oyun geliştirme süreçlerine, NPC davranış sistemlerine ve anti-cheat araçlarına entegre edilmiş durumda. AI Arena gibi oyunlar tamamen AI modellerini eğitme ve dağıtma konsepti üzerine kurulu. AI sistemlerinin kontrollü parametreler içinde nasıl çalışacak şekilde tasarlandığını anlamak istiyorsanız, AI Arena advanced model guide başlangıç için oldukça etkileyici bir kaynak.
Tasarı hala komisyondan geçmeli, her iki mecliste de onaylanmalı ve büyük AI laboratuvarlarının uygulayacağı her türlü lobi baskısına karşı ayakta kalmalı. Bu süreç aylar veya daha uzun sürebilir. Bu hafta kanıtlanan şey, OpenAI olayının yasa yapıcılara denetimi teorik bir tartışmadan aktif bir yasaya dönüştürmek için ihtiyaç duydukları somut örneği vermiş olmasıdır. Bir sonraki soru, Kongre'nin bir sonraki olay yaşanmadan önce harekete geçip geçemeyeceği.
AI'nın özellikle oyun dünyasını nasıl şekillendirdiğine dair daha geniş bir bağlam için, AI destekli oyunları ve bu teknolojinin canlı bir oyun ortamında gerçekte nasıl göründüğünü kapsayan en son gaming guides bölümüne göz atabilirsiniz.
