खतरनाक AI मॉडल पर रोक लगा सकेंगी अदालतें? Anthropic का नया प्रस्ताव
AI कंपनी Anthropic ने कैलिफोर्निया के गवर्नर गैविन न्यूसम को 15 अक्टूबर 2026 को लिखे पत्र में AI सुरक्षा को लेकर कई सुझाव दिए हैं। कंपनी का कहना है कि यदि किसी समीक्षा में पता चलता है कि कोई AI मॉडल जनता के लिए गंभीर खतरा पैदा कर सकता है, तो सरकार को अदालत से उस मॉडल की रिलीज रोकने की मांग करने का विकल्प मिलना चाहिए।
इस प्रस्ताव का उद्देश्य AI सुरक्षा से जुड़े फैसलों के लिए एक कानूनी प्रक्रिया तैयार करना है। इसके तहत किसी मॉडल को रोकने का निर्णय केवल सरकारी आदेश के आधार पर लेने के बजाय अदालत के सामने जोखिम से जुड़े तथ्य रखे जा सकते हैं।
कैसे काम करेगा Anthropic का प्रस्ताव?
Anthropic के सुझाव के मुताबिक, AI कंपनियों के भीतर काम करने वाले स्वतंत्र सुरक्षा मूल्यांकनकर्ता मॉडल से जुड़े संभावित खतरों की पहचान कर सकेंगे। वे अपने निष्कर्ष कैलिफोर्निया के अटॉर्नी जनरल तक पहुंचा सकेंगे। यदि अटॉर्नी जनरल को लगे कि किसी मॉडल से निकट भविष्य में विनाशकारी नुकसान का गंभीर खतरा है, तो सरकार अदालत से हस्तक्षेप की मांग कर सकती है।
प्रस्ताव के तहत अदालत से AI मॉडल की सार्वजनिक तैनाती, कंपनी के आंतरिक इस्तेमाल या उसके आगे के विकास को रोकने का आदेश मांगा जा सकता है। हालांकि, इस व्यवस्था को लागू करने के लिए अभी कानूनी नियम, जोखिम की परिभाषा और समीक्षा की प्रक्रिया तय करना जरूरी होगा।
AI के लिए ‘किल स्विच’ पर भी कंपनी ने उठाए सवाल
Anthropic ने AI मॉडल को पूरी तरह बंद करने वाले ‘किल स्विच’ को लेकर भी अपना पक्ष रखा है। कंपनी के मुताबिक, केवल ऐसा स्विच अनिवार्य करना सरकार को सुरक्षा का झूठा भरोसा दे सकता है। इसके बजाय, खतरा पैदा करने वाले खास AI एजेंट को निष्क्रिय करना या किसी विशेष ग्राहक की मॉडल तक पहुंच रोकना कुछ परिस्थितियों में ज्यादा प्रभावी हो सकता है।
कंपनी का तर्क है कि हर समस्या के लिए पूरे AI मॉडल को बंद करना जरूरी नहीं होना चाहिए। हालांकि, गंभीर स्थिति में मॉडल को तेजी से बंद करने की क्षमता भी सुरक्षा व्यवस्था का हिस्सा हो सकती है।
AI सुरक्षा नियमों पर अमेरिका में बहस तेज
कैलिफोर्निया में AI सुरक्षा नियमों को मजबूत करने पर चर्चा चल रही है। गवर्नर न्यूसम ने सितंबर में विशेषज्ञों के एक पैनल को AI सुरक्षा संबंधी सुझाव तैयार करने के लिए बुलाया था। Anthropic के अलावा OpenAI ने भी 20 अक्टूबर को अपने सुझाव भेजे थे।
इस बीच, अमेरिकी सांसदों के बीच भी ऐसे प्रस्तावों पर चर्चा हुई है, जिनके तहत सरकार को असुरक्षित AI मॉडल की रिलीज रोकने की शक्ति मिल सकती है। हालांकि, उपलब्ध रिपोर्ट के अनुसार, इन संघीय विधायी प्रस्तावों पर अभी आगे की कार्रवाई नहीं हुई है।
क्या अदालतें अभी AI मॉडल पर रोक लगा सकती हैं?
Anthropic का सुझाव अपने आप में कानून नहीं है। इसका अर्थ यह नहीं है कि कैलिफोर्निया की अदालतों को इस प्रस्ताव के आधार पर तुरंत किसी AI मॉडल को रोकने की नई शक्ति मिल गई है। इसके लिए सरकार को प्रस्ताव पर आगे कदम उठाने और आवश्यक कानूनी व्यवस्था बनाने की जरूरत होगी।
इस प्रस्ताव पर आगे की बहस में यह तय करना अहम होगा कि ‘गंभीर खतरे’ की पहचान कैसे की जाएगी, स्वतंत्र मूल्यांकनकर्ता कितने निष्पक्ष होंगे और AI कंपनियों को अदालत में अपना पक्ष रखने तथा फैसले को चुनौती देने का क्या अवसर मिलेगा। फिलहाल यह पहल AI सुरक्षा और तकनीकी नवाचार के बीच संतुलन बनाने की व्यापक बहस का हिस्सा है।
निष्कर्ष: Anthropic चाहती है कि गंभीर जोखिम वाले AI मॉडल पर रोक लगाने के मामलों में सरकार अदालत से आदेश मांग सके। यह प्रस्ताव अभी विचार के स्तर पर है; इसे लागू कानून या अदालतों को मिल चुका नया अधिकार नहीं समझना चाहिए।
