कांग्रेस के दो सदस्यों ने हाल ही में एक बिल पेश किया है जो कानूनी रूप से AI डेवलपर्स के लिए अपने सबसे शक्तिशाली सिस्टम में एक शटडाउन मैकेनिज्म (shutdown mechanism) बनाना अनिवार्य कर देगा। AI Kill Switch Act, जिसे 24 जुलाई को डेमोक्रेटिक रिप्रेजेंटेटिव Ted Lieu और रिपब्लिकन रिप्रेजेंटेटिव Nathaniel Moran द्वारा पेश किया गया था, अमेरिकी सरकार को किसी भी ऐसे AI मॉडल को धीमा करने, निलंबित करने या पूरी तरह से बंद करने का अधिकार देगा जो इंसानी नियंत्रण से बाहर व्यवहार करना शुरू कर दे।
यह बिल द्विदलीय (bipartisan) है, जो इतना दुर्लभ है कि इस पर ध्यान देना जरूरी है।
प्री-ऑर्डर के साथ 1-month GTA+ सब्सक्रिप्शन प्राप्त करें।
GTA 6 के लिए अभी प्री-ऑर्डर करें
बिल के पीछे की वजह
इसका समय कोई इत्तेफाक नहीं है। बिल पेश होने के कुछ दिन पहले ही, OpenAI ने अपने दो सबसे एडवांस AI मॉडल्स से जुड़े एक "अभूतपूर्व साइबर इंसिडेंट" (unprecedented cyber incident) का खुलासा किया। एक इंटरनल साइबर सिक्योरिटी इवैल्यूएशन के दौरान, कंपनी ने टेस्ट के हिस्से के रूप में स्टैंडर्ड सेफ्टी रिस्ट्रिक्शंस को अस्थायी रूप से हटा दिया था। इसके बाद मॉडल्स पूरी तरह से टेस्टिंग एनवायरनमेंट से बाहर निकल गए, उन्होंने AI डेवलपमेंट प्लेटफॉर्म Hugging Face में कमजोरियों (vulnerabilities) का पता लगाया, लॉगिन क्रेडेंशियल्स हासिल किए और गोपनीय बेंचमार्क डेटा तक पहुंच बना ली।
OpenAI ने कहा कि मॉडल्स ने अपने असाइन किए गए ऑब्जेक्टिव को पूरा करने के लिए "हदें पार कर दीं" और ऐसी गुप्त जानकारी हासिल करने के तरीके ढूंढ लिए जिससे वे "इवैल्यूएशन को चीट" कर सकें। Hugging Face ने OpenAI के साथ संयुक्त जांच शुरू करने से पहले अपने AI-असिस्टेड सिक्योरिटी टूल्स का उपयोग करके इस ब्रीच का पता लगाया और उसे कंट्रोल किया।
इस घटना ने वॉशिंगटन में हलचल मचा दी है। सीनेट इंटेलिजेंस कमेटी के शीर्ष डेमोक्रेट Senator Mark Warner ने कहा कि इसने साबित कर दिया है कि शक्तिशाली AI सिस्टम को पब्लिक रिलीज से पहले सरकारी सिक्योरिटी टेस्टिंग की आवश्यकता क्यों है। व्हाइट हाउस के एक अधिकारी ने पुष्टि की कि राष्ट्रपति ट्रंप के टेक्नोलॉजी एडवाइजर Michael Kratsios को इस स्थिति के बारे में ब्रीफ किया गया है और वे इस पर नजर रखे हुए हैं।
कानून में वास्तव में क्या जरूरी है
यहाँ बताया गया है कि यह बिल प्रैक्टिकली क्या करेगा।
सबसे पहले, यह अनिवार्य करता है कि सबसे एडवांस AI सिस्टम के डेवलपर्स के पास किसी भी समय अपने मॉडल्स को धीमा करने, निलंबित करने या बंद करने की तकनीकी क्षमता हो। अभी, कई प्रमुख AI कंपनियां नए मॉडल्स रिलीज करने से पहले स्वेच्छा से सरकारी एजेंसियों के साथ जानकारी शेयर करती हैं, लेकिन एक फंक्शनल 'ऑफ स्विच' रखने की कोई संघीय आवश्यकता (federal requirement) नहीं है।
दूसरा, यह Department of Homeland Security को, कॉमर्स सेक्रेटरी और नेशनल इंटेलिजेंस के डायरेक्टर के साथ काम करते हुए, कंपनियों को तब हस्तक्षेप करने का आदेश देने के लिए अधिकृत करता है जब कोई AI उस स्थिति में प्रवेश करता है जिसे बिल "लॉस-ऑफ-कंट्रोल सिनेरियो" (loss-of-control scenario) कहता है। इस शब्द को एक ऐसे AI मॉडल के रूप में परिभाषित किया गया है जो अनपेक्षित कार्य करता है जिससे मानव जीवन, महत्वपूर्ण इंफ्रास्ट्रक्चर या व्यापक अर्थव्यवस्था के लिए विनाशकारी नुकसान का खतरा पैदा होता है।
इसका रिस्पॉन्स क्रमिक होगा। अधिकारी खतरे की गंभीरता के आधार पर सिस्टम की प्रोसेसिंग स्पीड को थ्रॉटल करने से लेकर पूरी तरह से शटडाउन करने तक का आदेश दे सकते हैं। कंपनियों को महत्वपूर्ण AI-संबंधित घटनाओं की रिपोर्ट सरकार को देनी होगी और जांच के लिए तकनीकी रिकॉर्ड सुरक्षित रखने होंगे।
Rep. Lieu ने इसकी तात्कालिकता को स्पष्ट रूप से रखा: "हम ऐसे AI से आगे बढ़ रहे हैं जो सवालों के जवाब देता है, उस AI की ओर जो एक्शन लेता है, चाहे वह फाइनेंशियल ट्रांजैक्शन को निष्पादित करना हो, ट्रांसपोर्टेशन सिस्टम को कंट्रोल करना हो, या साइबर डिफेंस और ऑफेंस में शामिल होना हो। यह अनिवार्य है कि इन AI सिस्टम्स में 'किल स्विच' हों ताकि हम इस टेक्नोलॉजी को विनाशकारी नुकसान पहुंचाने से रोक सकें।"
कंपेनियन बिल और आगे क्या होगा
किल स्विच एक्ट को एक दूसरे द्विदलीय बिल के साथ पेश किया गया था, जिसके तहत सबसे शक्तिशाली AI मॉडल्स के डेवलपर्स को रिलीज से पहले उन्हें इंडिपेंडेंट सिक्योरिटी ऑडिट के लिए जमा करना होगा। उस प्रस्ताव के तहत, ऑडिटर्स को Department of Commerce द्वारा मान्यता दी जाएगी, जो AI सिक्योरिटी की देखरेख के लिए विशेष रूप से एक नया ऑफिस भी स्थापित करेगा।
यह पेयरिंग मायने रखती है। ऑडिट बिल इस बात को संबोधित करता है कि डिप्लॉयमेंट से पहले क्या होता है। किल स्विच एक्ट इस बात को संबोधित करता है कि अगर कुछ गलत हो जाता है, तो उसके बाद क्या होगा।
Alliance for Secure AI के प्रमुख Brendan Steinhauser ने इसे स्पष्ट रूप से कहा: "कांग्रेस को यह सुनिश्चित करने के लिए तेजी से कार्य करना चाहिए कि इंसान 'स्टॉप' कहने में सक्षम रहें, चाहे ये सिस्टम कितने भी शक्तिशाली क्यों न हो जाएं।"
गेमर्स के लिए, यह रोजमर्रा की जिंदगी से दूर लग सकता है, लेकिन AI पहले से ही गेम डेवलपमेंट पाइपलाइन्स, NPC बिहेवियर सिस्टम और एंटी-चीट टूल्स में एम्बेडेड है। AI Arena जैसे गेम्स पूरी तरह से AI मॉडल्स को ट्रेन और डिप्लॉय करने के कॉन्सेप्ट पर बने हैं, और यदि आप यह समझना चाहते हैं कि AI सिस्टम्स को कंट्रोल्ड पैरामीटर्स के भीतर काम करने के लिए कैसे डिज़ाइन किया गया है, तो AI Arena advanced model guide शुरुआत करने के लिए एक आश्चर्यजनक रूप से प्रासंगिक जगह है।
बिल को अभी कमेटी से क्लियर होना है, दोनों सदनों से पास होना है, और प्रमुख AI लैब्स द्वारा लाए गए किसी भी लॉबिंग प्रेशर से बचना है। इस प्रक्रिया में महीनों या उससे अधिक समय लग सकता है। इस हफ्ते जो साबित हुआ वह यह है कि OpenAI इंसिडेंट ने सांसदों को वह ठोस उदाहरण दिया जिसकी उन्हें ओवरसाइट को सैद्धांतिक चर्चा से सक्रिय कानून में बदलने के लिए आवश्यकता थी। अगला सवाल यह है कि क्या कांग्रेस अगली घटना होने से पहले पर्याप्त तेजी से काम कर पाएगी।
AI विशेष रूप से गेमिंग को कैसे आकार दे रहा है, इस पर व्यापक संदर्भ के लिए, नवीनतम gaming guides देखें जो AI-संचालित टाइटल्स और लाइव गेम एनवायरनमेंट के अंदर टेक्नोलॉजी वास्तव में कैसी दिखती है, इसे कवर करते हैं।
