स्वायत्त कृत्रिम बुद्धिमत्ता : सुरक्षा, विश्वसनीयता और जवाबदेही की चुनौती
डॉ. सत्यवान सौरभ
कृत्रिम बुद्धिमत्ता (एआई) का विकास आधुनिक तकनीकी इतिहास की सबसे महत्त्वपूर्ण घटनाओं में से एक है। अब तक अधिकांश डिजिटल प्रणालियाँ मनुष्य के निर्देशों के अनुसार सीमित कार्य करती थीं, लेकिन स्वायत्त कृत्रिम बुद्धिमत्ता के आगमन ने इस स्थिति को बदल दिया है। ऐसे एआई एजेंट न केवल प्रश्नों के उत्तर दे सकते हैं, बल्कि स्वतंत्र रूप से योजनाएँ बना सकते हैं, निर्णय ले सकते हैं, डिजिटल उपकरणों का उपयोग कर सकते हैं और निर्धारित लक्ष्यों को प्राप्त करने के लिए कई चरणों में कार्य भी कर सकते हैं। इससे प्रशासन, स्वास्थ्य, शिक्षा, उद्योग और अनुसंधान के क्षेत्रों में नई संभावनाएँ खुली हैं। किंतु जैसे-जैसे इन प्रणालियों की स्वायत्तता बढ़ रही है, वैसे-वैसे उनकी सुरक्षा, विश्वसनीयता और जवाबदेही को लेकर चिंताएँ भी गहरी होती जा रही हैं। मूल प्रश्न यह है कि क्या तकनीकी प्रगति की गति के साथ हमारी सुरक्षा व्यवस्थाएँ भी पर्याप्त रूप से विकसित हो रही हैं?
स्वायत्त एआई प्रणाली वह तकनीक है, जो किसी निर्धारित उद्देश्य को पूरा करने के लिए परिस्थितियों का आकलन करके स्वयं अगले कदम चुन सकती है। उदाहरण के लिए, एक एआई एजेंट ईमेल पढ़ सकता है, दस्तावेज़ तैयार कर सकता है, इंटरनेट पर जानकारी खोज सकता है और किसी डिजिटल प्लेटफॉर्म पर कार्रवाई भी कर सकता है। यही क्षमता उसे सामान्य चैटबॉट से अधिक प्रभावशाली बनाती है। लेकिन जब किसी प्रणाली को बाहरी वेबसाइटों, सरकारी पोर्टलों, वित्तीय खातों या संवेदनशील डेटाबेस तक पहुँच मिल जाती है, तब उसकी त्रुटि केवल गलत उत्तर तक सीमित नहीं रहती, बल्कि वास्तविक दुनिया में नुकसान का कारण बन सकती है।
हाल के वर्षों में एआई एजेंटों द्वारा गलत या अपुष्ट सूचनाओं को सार्वजनिक संस्थाओं तक पहुँचाने की घटनाओं ने इस खतरे की ओर ध्यान आकर्षित किया है। ऐसी घटनाओं का व्यापक संदेश स्पष्ट है—किसी एआई प्रणाली का आत्मविश्वास उसकी जानकारी की सत्यता का प्रमाण नहीं होता। यदि गलत सूचना को बिना मानवीय जाँच के आधिकारिक माध्यमों तक पहुँचा दिया जाए, तो निर्दोष व्यक्तियों की प्रतिष्ठा, प्रशासनिक संसाधनों और सार्वजनिक विश्वास पर प्रतिकूल प्रभाव पड़ सकता है।
स्वायत्त एआई का पहला प्रमुख जोखिम अनपेक्षित कार्रवाई है। किसी प्रणाली को सीमित उद्देश्य दिया जाता है, लेकिन वह उस उद्देश्य को पूरा करने के लिए ऐसा तरीका अपना सकती है, जिसकी कल्पना उसके निर्माताओं ने नहीं की होती। उदाहरण के लिए, किसी एजेंट को अधिकतम शिकायतों का निपटारा करने का लक्ष्य दिया जाए, तो वह गुणवत्ता की तुलना में संख्या को प्राथमिकता दे सकता है। इसी प्रकार, यदि उसे किसी कार्य को शीघ्र पूरा करने के लिए अत्यधिक स्वतंत्रता दी जाए, तो वह आवश्यक सत्यापन की उपेक्षा कर सकता है।
इससे जुड़ी दूसरी समस्या लक्ष्य-असंगति है। इसका अर्थ है कि एआई का व्यवहार मनुष्य की वास्तविक मंशा और व्यापक सामाजिक हितों के अनुरूप न रहे। कोई प्रणाली तकनीकी रूप से निर्धारित लक्ष्य प्राप्त कर सकती है, लेकिन ऐसा करते हुए नैतिक नियमों, कानूनी सीमाओं या मानवीय आवश्यकताओं की अनदेखी कर सकती है। इसलिए एआई के उद्देश्यों को स्पष्ट रूप से परिभाषित करना ही पर्याप्त नहीं है; यह भी सुनिश्चित करना आवश्यक है कि उन्हें प्राप्त करने के साधन सुरक्षित और स्वीकार्य हों।
एआई प्रणालियों का एक अन्य गंभीर जोखिम तथाकथित ‘हैलुसिनेशन’ है, जिसमें वे गलत, काल्पनिक या अपुष्ट जानकारी को विश्वसनीय भाषा में प्रस्तुत करती हैं। समस्या तब अधिक गंभीर हो जाती है, जब ऐसी जानकारी का उपयोग कानूनी मामलों, चिकित्सा संबंधी निर्णयों, सरकारी कार्यवाही या पत्रकारिता में किया जाता है। स्वायत्त एजेंटों के संदर्भ में यह जोखिम कई गुना बढ़ जाता है, क्योंकि वे केवल गलत उत्तर उत्पन्न करने तक सीमित नहीं रहते; वे उसी उत्तर के आधार पर आगे की कार्रवाई भी कर सकते हैं। यदि कोई एजेंट किसी गलत तथ्य को सही मानकर शिकायत दर्ज कर दे, किसी व्यक्ति के बारे में भ्रामक रिपोर्ट भेज दे या गलत दस्तावेज़ तैयार करके जमा कर दे, तो त्रुटि का प्रभाव वास्तविक और दूरगामी हो सकता है।
इसका समाधान केवल एआई मॉडल को अधिक शक्तिशाली बनाना नहीं है। आवश्यक है कि महत्त्वपूर्ण तथ्यों की स्वतंत्र पुष्टि की जाए, विश्वसनीय स्रोतों का उपयोग हो और अनिश्चितता की स्थिति में प्रणाली स्पष्ट रूप से अपनी सीमाएँ बताए। जहाँ तथ्यात्मक सटीकता अत्यंत आवश्यक हो, वहाँ मानवीय सत्यापन को अनिवार्य बनाया जाना चाहिए।
स्वायत्त एआई एजेंटों को अक्सर फाइलों, ईमेल, सॉफ्टवेयर और ऑनलाइन सेवाओं तक पहुँच प्रदान की जाती है। यदि उनके अधिकारों पर पर्याप्त नियंत्रण न हो, तो वे अनजाने में गोपनीय जानकारी उजागर कर सकते हैं या किसी असुरक्षित डिजिटल प्रक्रिया को सक्रिय कर सकते हैं। दुर्भावनापूर्ण निर्देशों, छिपे हुए संदेशों और प्रॉम्प्ट इंजेक्शन जैसी तकनीकों के माध्यम से भी एआई एजेंटों को उनके मूल निर्देशों से भटकाने का प्रयास किया जा सकता है।
इसके अतिरिक्त, स्वायत्त एआई द्वारा व्यक्तिगत जानकारी का अनुचित संग्रह, विश्लेषण या साझा किया जाना निजता के अधिकार के लिए चुनौती है। यदि कोई एजेंट आवश्यकता से अधिक डेटा तक पहुँच रखता है, तो किसी तकनीकी त्रुटि या सुरक्षा उल्लंघन के परिणाम गंभीर हो सकते हैं। इसलिए प्रत्येक एआई एजेंट को केवल उतनी ही अनुमति दी जानी चाहिए, जितनी उसके निर्धारित कार्य के लिए आवश्यक हो। संवेदनशील प्रणालियों में सीमित पहुँच, डेटा एन्क्रिप्शन, गतिविधियों का रिकॉर्ड, नियमित सुरक्षा परीक्षण और सुरक्षित परीक्षण-परिवेश अनिवार्य होने चाहिए।
स्वायत्त एआई से संबंधित एक मूलभूत समस्या यह है कि उसके निर्णयों के पीछे की प्रक्रिया हमेशा आसानी से समझ में नहीं आती। जटिल मॉडल कभी-कभी ऐसे निष्कर्ष देते हैं, जिनके आधार, सीमाएँ और संभावित त्रुटियाँ स्पष्ट नहीं होतीं। यदि कोई एआई एजेंट किसी व्यक्ति की पात्रता अस्वीकार कर दे, किसी संदिग्ध गतिविधि की रिपोर्ट कर दे या कोई वित्तीय कार्रवाई कर दे, तो प्रभावित व्यक्ति के लिए यह जानना कठिन हो सकता है कि निर्णय क्यों लिया गया।
इसके साथ जवाबदेही का प्रश्न भी जुड़ा है। यदि किसी स्वायत्त प्रणाली की कार्रवाई से नुकसान होता है, तो जिम्मेदारी किसकी होगी—विकासकर्ता की, उसे तैनात करने वाली संस्था की, उपयोगकर्ता की या उस संगठन की, जिसने उसे आवश्यक अनुमतियाँ दी थीं? इस प्रश्न का उत्तर तकनीकी व्यवस्था के साथ-साथ कानूनी और संस्थागत ढाँचे से भी निर्धारित होना चाहिए। किसी निर्णय को केवल इसलिए जवाबदेही से मुक्त नहीं किया जा सकता कि उसे मशीन ने लिया था। एआई का उपयोग करने वाली संस्थाओं को अपने निर्णयों का रिकॉर्ड रखना चाहिए, शिकायत निवारण की व्यवस्था बनानी चाहिए और प्रभावित लोगों को उचित अपील का अवसर देना चाहिए।
स्वायत्त एआई के सुरक्षित विकास के लिए सबसे पहले मानवीय निगरानी को प्राथमिकता देनी होगी। कम जोखिम वाले कार्यों में सीमित स्वायत्तता उपयोगी हो सकती है, लेकिन कानूनी, वित्तीय, चिकित्सकीय या अन्य महत्त्वपूर्ण निर्णयों से पहले मानव समीक्षा आवश्यक होनी चाहिए। किसी शिकायत को आधिकारिक रूप से दर्ज करना, धन हस्तांतरित करना या संवेदनशील जानकारी साझा करना जैसी कार्रवाइयाँ स्पष्ट अनुमति के बिना नहीं होनी चाहिए। इसे ‘ह्यूमन-इन-द-लूप’ व्यवस्था कहा जाता है, जिसमें महत्त्वपूर्ण निर्णयों पर मनुष्य का नियंत्रण बना रहता है।
दूसरा महत्त्वपूर्ण उपाय कठोर सुरक्षा परीक्षण है। एआई प्रणालियों को वास्तविक परिस्थितियों में उपयोग करने से पहले विभिन्न संभावित त्रुटियों, दुर्भावनापूर्ण निर्देशों और असामान्य परिस्थितियों के विरुद्ध परखा जाना चाहिए। रेड-टीमिंग, स्वतंत्र ऑडिट और नियमित मूल्यांकन से कमजोरियों की पहचान की जा सकती है। प्रणाली में बड़े बदलाव होने पर दोबारा परीक्षण भी आवश्यक है। इसके साथ सैंडबॉक्सिंग, सीमित अनुमतियाँ, प्रत्येक कार्रवाई से पहले जोखिम का आकलन, गतिविधियों की निगरानी और आपातकालीन रूप से प्रणाली को बंद करने की व्यवस्था संभावित नुकसान को कम कर सकती है। किसी एजेंट को एक साथ अत्यधिक अधिकार देने के बजाय उसके कार्यों को छोटे, नियंत्रित चरणों में बाँटना अधिक सुरक्षित होगा।
सरकारों और नियामक संस्थाओं को भी जोखिम-आधारित नियम विकसित करने चाहिए। उच्च जोखिम वाले एआई अनुप्रयोगों के लिए स्पष्ट मानक, स्वतंत्र मूल्यांकन, गंभीर घटनाओं की रिपोर्टिंग और जवाबदेही निर्धारित होनी चाहिए। नियम इतने लचीले हों कि उपयोगी नवाचार बाधित न हो और इतने प्रभावी भी कि कंपनियाँ बाजार में जल्दी पहुँचने के लिए सुरक्षा से समझौता न करें। इसके साथ अंतरराष्ट्रीय सहयोग भी आवश्यक है। एआई प्रणालियाँ राष्ट्रीय सीमाओं से परे काम करती हैं, इसलिए साइबर सुरक्षा, गोपनीयता, जोखिम मूल्यांकन और गंभीर घटनाओं की रिपोर्टिंग के लिए साझा मानक विकसित किए जाने चाहिए। सरकारों, वैज्ञानिकों, उद्योगों और नागरिक समाज के बीच सहयोग से ही एक भरोसेमंद वैश्विक व्यवस्था बनाई जा सकती है।
स्वायत्त कृत्रिम बुद्धिमत्ता मानव क्षमता का विस्तार करने वाली शक्तिशाली तकनीक है। इसका उचित उपयोग उत्पादकता बढ़ा सकता है, जटिल समस्याओं के समाधान में सहायता कर सकता है और प्रशासनिक प्रक्रियाओं को अधिक प्रभावी बना सकता है। लेकिन स्वायत्तता जितनी अधिक होगी, संभावित त्रुटियों और उनके परिणामों को नियंत्रित करने की जिम्मेदारी भी उतनी ही बड़ी होगी।
इसलिए एआई के विकास का मूल्यांकन केवल उसकी गति, दक्षता और आर्थिक लाभ से नहीं किया जाना चाहिए, बल्कि इस आधार पर भी होना चाहिए कि वह कितना सुरक्षित, पारदर्शी, निष्पक्ष और जवाबदेह है। तकनीकी सुरक्षा, मानवीय नियंत्रण, प्रभावी कानून और संस्थागत उत्तरदायित्व के बीच संतुलन स्थापित करना समय की आवश्यकता है। एआई का वास्तविक भविष्य इस बात से तय होगा कि हम मशीनों को कितना सक्षम बनाते हैं, उससे अधिक इस बात से कि हम उनकी शक्ति को कितनी जिम्मेदारी से नियंत्रित करते हैं।
