काठमाडौं । सरकारले आर्टिफिसियल इन्टेलिजेन्स (एआई) सम्बन्धी नीतिको मस्यौदा सार्वजनिक गरपछि अहिले यस विषयमा विभिन्न बहसहरु हुन थालेका छन् । एआई विकास र प्रयोगलाई व्यवस्थित गर्न भन्दै सरकारले यो मस्यौदा सार्वजनिक गरेपछि यसको सबल र दुर्बल पक्षको विषयमा सम्बन्धीत पक्षले बहस थालेका हुन् ।
उक्त नीतिको विषयमा सूचना तथा सञ्चार मन्त्रालयले सुझाव समेत मागेको थियो । सरकारले सार्वजनिक गरेको यही नीतिसम्बन्धमा केही एआईसँग सम्बन्धित सरोकारवालाहरूले बहस तथा छलफल गरी सुझाव पेस गरिरहेका छन् । मागहरु पेस गर्दै उनीहरुले हालको एआई नीति निर्माण पारदर्शी सरोकारवालामुखी हुन नसकेको धारणा राखेका छन् ।
एआई नीति प्रक्रियामा सबै सरोकारवाला पक्ष, सरकार निजी क्षेत्र, प्राज्ञिक क्षेत्र, अनुसन्धानकर्ता, प्राविधिक समुदाय, श्रम संगठन, मानव अधिकार र डिजिटल अधिकार संरक्षणमा कार्यरत नागरिक समाजका संस्था तथा आम नागरिकबीच सन्तुलित परामर्श र सहभागिता सुनिश्चित गरिनु पर्ने भएपनिय यस विषयमा मस्यौदा गम्भीर नभएको उनीहरुको भनाइ छ ।
डिजिटल राइट्स नेपाल र एआई एसोशिएसन नेपालले संयुक्त रुपमा सरकारलाई सुझाव बुझाउँदै नीति प्रभावकारी रूपमा कार्यान्वयन गर्न कठिनाइ हुन हुने तथा नागरिक समाजले मानवअधिकार संरक्षण, डाटा गोपनीयता, एआईको सामाजिक प्रभाव, मूल्यांकन तथा नीतिको उत्तरदायी कार्यान्वयनमा महत्वपूर्ण भूमिका खेल्न सक्ने धारणा राखेका छन् ।
यदि नीति निर्माण प्रक्रियामा सीमित पक्षहरूमात्रै समेटिन्छन् भने नीतिले आम नागरिक, पछाडि पारिएका तथा सीमान्तकृत वर्ग तथा श्रम बजारमा पर्ने सम्भावित प्रभावलाई पर्याप्त रूपमा सम्बोधन गर्न नसक्ने ती संस्थाको धारणा छ ।
डिजिटल राइट्स नेपालका कार्यकारी निर्देशक सन्तोष सिग्देलले सरकारद्वारा प्रस्तावित नीतिमा कार्यान्वयनको स्पष्ट नीति उल्लेख नगरेको धारणा राखे । स्पष्ट कार्यनीति उल्लेख नभएको अवस्थामा नीति केवल सिद्धान्तमा सीमित रहन सक्ने र प्रभावकारी रूपमा कार्यान्वयन हुन गाह्रो हुने उनको भनाइ छ ।
दुइटै संघले दिएका सुझावमा एआई नीतिमा प्राथमिकीकरणको अभाव औंल्याएको छ । एआई नीतिमा समग्र एआईसम्बन्धी विभिन्न विषयलाई समेटिएपनि कुन पक्ष वा विषयलाई प्राथमिकीकरण गर्ने त्यो उल्लेख नहुँदा कार्यान्वनय रणनीति निर्माणमा कठिनाइ हुन सक्ने धारणा उनीहरुको छ ।
साथै नीति कार्यान्वयनका लागि कति र कस्तो किसिमको मानव संसाधन, प्राविधिक क्षमता र अन्य भौतिक पूर्वाधारको व्यवस्था कसरी गर्ने भन्ने कुरा स्पष्ट छैन । स्रोत अभावकै कारण नीति कार्यान्वयन अपूर्ण र प्रभावहीन हुनसक्ने सुझावमा उल्लेख गरेको छ ।
प्रस्तावित नीति प्रभावकारी कार्यान्वयनका लागि प्राथमिकीकरण, स्पष्ट कार्ययोजना, समयसीमा आवश्यक स्रोतसाधन, कार्यान्वयन सूचक र जिम्मेवार निकायको बारेमा स्पष्ट उल्लेख गर्नुपर्ने सुझाव संघले दिएका छन् ।
डाटा संरक्षणमा प्रश्न
नेपालमा हालसम्म डाटा सुरक्षा तथा संरक्षणका सम्बन्धमा ठोस कानुन छैन । जसले व्यक्तिगत तथा संस्थागत डाटा दुरुपयोगको जोखिम उच्च बनाएको छ । मस्यौदामा गलत सूचनाबारे उल्लेख भएपनि, यसले सूचना अक्षुण्णता कायम गर्नका लागि आवश्यक ठोस प्राविधिक र कानूनी उपायहरूको खाका प्रस्तुत नगरेको उनीहरुको धारणा छ ।
गलत सूचना उपलब्ध गर्दा यसले अभिव्यक्ति स्वतन्त्रतामा पार्ने प्रभावलाई कसरी समेट्ने भन्ने विषय स्पष्ट नभएको उनीहरुको तर्क छ । साथै यसले एआई प्रणालीहरूमा पूर्वाग्राही डाटा र गलत निर्णयहरूको रोकथाम गर्न आवश्यक पारदर्शीता र जवाफदेहिताको सवाललाई पर्याप्त सम्बोधन नगर्ने दुई संस्थाद्वारा तयार पारेको सुझावमा भनिएको छ ।
एआई प्रणाालीले ठूलो मात्रामा व्यक्तिगत डाटा प्रशोधन गर्ने हुनाले डाटा दुरुपयोग विभेदकारी एल्गोरिदम तथा व्यक्तिगत सूचनाको अनाधिकृत प्रयोगको सम्भावना उच्च रहेको सुझावमा उल्लेख छ । हालको कानूनी संरचना जस्तै ‘विद्युतीय कारोबार ऐन, २०६३’, ‘साइबर सुरक्ष नीति, २०८०,’ डाटा सुरक्षाको व्यवस्था गर्न अपर्याप्त रहेको बुझाइ उनीहरुको छ ।
यस्तो अवस्थामा एआई नीतिले डाटा सुरक्षा, डाटा स्वामित्व तथा डाटा साझा गर्ने प्रक्रियासम्बन्धी ठोस कानूनी र संस्थागत संरचना आवश्यक पर्ने विषयलाई प्राथमिकतामा राख्नुपर्ने धारणा राखेका छन् ।
जोखिम पहिचान र न्यूनीकरण रणनीतिहरू
एआई प्रविधिको प्रभावकारी र उत्तरदायी उपयोग सुनिश्चित गर्न जोखिम पहिचान र न्यूनीकरण रणनीतिहरू आवश्यक रहेको उनीहरुको तर्क छ । एआईसम्बन्धी सुरक्षाका चुनौतीहरू, गोपनीयता जोखिम र पक्षापातपूर्ण निर्णयहरूलाई न्यूनीकरण गर्न नीति तथा नियमन संरचना बलियो बनाउनुपर्ने आवश्यकता सुझावमा औंल्याएको छ ।
हाल नीतिले प्रस्ताव गरेको एआई नियमन परिषद् (दफा १०.१) मा मन्त्रालयका प्रतिनिधिहरूको बाहुल्यता छ । यसले एआई गभर्नेन्समा भन्दा पनि एआई नियमनमा बढी जोड दिएको बुझाइ उनीहरुको छ । एआईबाट सिर्जना हुनसक्ने जोखिम पहिचान र न्यूनीकरण गर्न एआई गभर्नेन्स र एआई एथिक्स समितिको नीतिगत व्यवस्था गरिनुपर्ने सुझाव उनीहरुको छ ।
एआई प्रणालीद्वारा सिर्जना हुनसक्ने सुरक्षासम्बन्धी जोखिम, व्यक्तिगत डाटा संरक्षणसम्बन्धी चासो, एल्गोरिदमिक पक्षपात पहिचान गर्न तथा तिनको प्रभावकारी व्यवस्थापन गर्न एआई गर्भनेन्स फ्रेमवर्कसम्बन्धी नीतिगत व्यवस्था गरिनुपर्ने माग उनीहरुको छ ।
एआई नैतिक समितिको व्यवस्था
एआईको उचित विकास, प्रयोग र कार्यान्वयनलाई नियमन तथा अनुगमन गर्न एक विशेष एआई नैतिकता समितिको व्यवस्था गर्नुपर्ने माग उनीहरुको छ । यस समितिले एआई प्रणालीहरूको पारदर्शीता, उत्तरदायित्व, मानवअधिकार संरक्षण र नीति अनुकूलता सुनिश्चित गर्ने कार्य गनुपर्ने एशोसिएन र डिजिटल राइट्स नेपालले सुझाव दिएको छ ।
एआई एशोसिएन नेपालका अध्यक्ष शैलेन्द्रराज गिरीले एआईसम्बन्धी नीति तथा निर्देशिकाहरू निर्माण, जोखिम व्यवस्थापनका लागि मार्गदर्शन र प्रयोगकर्ताका गुनासा सम्बोधन गर्ने संयन्त्रहरू विकास गर्न भूमिका खेल्नुपर्ने बताए ।
उनले नागरिकको संवेदनशील डाटा विशेषगरी स्वास्थ्य, वित्तिय सेवा र सरकारी क्षेत्रसँग सम्बन्धित व्यक्तिगत जानकारीको संरक्षणसम्बन्धी नीतिगत स्पष्टता हुनुपर्ने धारणा राखे । यस क्षेत्रको डाटा व्यवस्थापन, उपयोग र साझेदारीमा उच्चस्तरीय इन्क्रिप्सन, डाटा पहुँच नियन्त्रणका उपायहरू तथा उल्लंघन रोकथामका लागि सुरक्षा प्रोटोकलहरू लागू गरिनुपर्ने उनको भनाइ छ ।
यसबाहेक डाटा पहुँच र प्रयोगबारे स्पष्ट दिशा निर्देश हुनुपर्ने र नियमित अनुगमन र कार्यान्वन संयन्त्र तथा डाटा उल्लंघन भएमा कानूनी कारवाही प्रणाली स्थापना गर्नुपर्ने उनले बताए ।
एआई प्रविधिको पारदर्शी, उत्तरदायी अनि सुरक्षित प्रयोग सुनिश्चित गर्न मानवीय अनुगमनको लागि स्पष्ट मार्ग निर्देश आवश्यक छ । स्वचालित निर्णय प्रक्रियाहरूमा मानव संलग्नताको भूमिका सुनिश्चित गर्दै समीक्षा र सुधारको लागि स्पष्ट कार्यविधि आवश्यक रहेको उनको भनाइ छ ।
उनले आफूहरुले एआई प्रणालीद्वारा गरिने निर्णयहरूमा मानव समीक्षाको व्यवस्था अनिवार्य गरिनुपर्ने, एआई प्रणालीबाट प्रभावित व्यक्तिहरूलाई अपिल तथा पुनरावलोकन समितिबाट मूल्यांकन गर्ने प्रणालीका बारेमा समेत नीतिगत व्यवस्था गर्न सुझाव दिएको बताए ।
एआई प्रविधिको विकास र प्रयोगसँगै डाटाको सुरक्षा, साइबर हमलाको जोखिम तथा गोपनीयतासम्बन्धी चुनौतीहरू बढिरहेका छन् । एआई प्रणालीहरू पनि साइबर आक्रमणका जोखिमयुक्त लक्ष्य बन्न सकिने हुँदा यस नीतिले मजबुत साइबर सुरक्षा, सुरक्षित डाटाबेस व्यवस्थापन तथा स्वचालित सुरक्षा जोखिम मूल्यांकन प्रणालीहरूको विकासलाई प्राथामिकता दिनुपर्ने सुझाव उनीहरुको छ ।
उनीहरुले सुझावमा लैंगिक दृष्टिकोण, सिमान्तकृत वर्गमा एआईले पार्ने प्रभावको विश्लेषणलगायत विषयको व्यवस्था गर्न पनि आग्रह गरेका छन् ।