एआई विकासमा नैतिकताको प्रश्नः हामी कता जाँदैछौँ ?
माघ २६, २०८२ १०:३८
आर्टिफिसियल इन्टेलिजेन्स (एआई) आज विश्वभर अभूतपूर्व गतिमा विस्तारित भइरहेको प्रविधि हो । यसको अद्भुत क्षमता, उच्च कार्यदक्षता र दैनिक जीवनमा थपिएको सहजताले सबैको ध्यान आफूतर्फ तानेको छ । स्वास्थ्य, शिक्षा, व्यवसाय, सञ्चार लगायतका सबै क्षेत्रमा एआईले नयाँ अवसर र नवप्रवर्तनका ढोका खोलिरहेको छ । तर यिनै सकारात्मक पक्षहरूको आडमा एउटा अत्यन्त महत्त्वपूर्ण विषय भने प्रायः ओझेलमा पर्ने गरेको छ - एआईको नैतिक प्रयोग ।
प्रविधि जति विकसित हुँदै जान्छ, त्यससँग जोडिएका चुनौतीहरू पनि त्यति नै जटिल बन्छन् । एआईले ठुलो मात्रामा डेटा सङ्कलन र विश्लेषण गर्छ, निर्णयहरूलाई स्वचालित बनाउँछ र धेरै छोटो समयमा निष्कर्ष निकाल्न सक्षम हुन्छ ।
यिनै क्षमताहरूले एआईलाई शक्तिशाली बनाएको छ । तर शक्ति जति ठुलो हुन्छ, त्यससँगै जिम्मेवारी पनि उति नै संवेदनशील हुन्छन् । कुनै पनि गलत प्रयोग, त्रुटिपूर्ण निर्णय वा पूर्वाग्रहयुक्त डेटाले व्यक्तिको गोपनीयता मात्र होइन, समाजकै संरचनामा नकारात्मक असर पार्न सक्छ ।
संवेदनशील क्षेत्रमा एआईको प्रयोग र उच्च जोखिम
एआई अहिले स्वास्थ्य, सूचना व्यवस्थापनदेखि अदालतसम्म लागु भइरहेको छ । स्वास्थ्य क्षेत्रमा एआईले रोग पहिचान, उपचार विधि र रोगीको हेरचाहमा सहयोग गरिरहेको छ । न्याय क्षेत्रमा, एआईले प्रमाणहरूको आधारमा केस विश्लेषणमा सहयोग गरिरहेको छ ।
यस्ता क्षेत्रका डेटा अत्यन्त संवेदनशील हुन्छन् । डेटा त्रुटिपूर्ण भयो भने गलत निर्णय वा गोपनीयताको गम्भीर उल्लङ्घन हुन सक्छ । पहिले अपराधी पहिचान गर्न स्केचको प्रयोग हुन्थ्यो । तर आज एआईले अनुहार पहिचानदेखि व्यवहार विश्लेषणसम्म गर्न सक्ने अवस्था आएको छ । तर यसमा जोखिम पनि त्यत्तिकै छन् । जस्तै: निर्दोष व्यक्ति गलत रूपमा अपराधी ठहरिने सम्भावना हुन सक्छ । साथै गोपनीयता, निष्पक्षता र जवाफदेहीतामा पनि ठुला चुनौती सिर्जना गर्न सक्छ ।
त्यसैले प्रविधि जति शक्तिशाली हुन्छ, त्यसलाई नैतिक सीमाभित्र राख्नु पनि त्यति नै आवश्यकता पर्दछ ।
डेटामा आधारित एआई: तर डेटामै पक्षपात छ भने ?
एआईको कार्यक्षमता डेटाको गुणस्तरमा भर पर्छ । तर यदि डेटा नै गलत वा पक्षपातपूर्ण छ भने एआईको नतिजा पनि अन्यायपूर्ण हुन्छ । उदाहरणका लागि यदि कुनै डेटासेटमा ‘एसियालीहरू स्वाभाविक रूपमा गणितमा राम्रो हुन्छन्' भन्ने डेटा समावेश भए, त्यसले अन्यायपूर्ण र भेदभावपूर्ण नतिजाहरू उत्पन्न गर्छ ।
यो केवल सैद्धान्तिक कुरा मात्र होइन । एआईको प्रारम्भिक चरणमा एउटा घटना देखा परेको थियो, जहाँ प्रणालीले कालो छाला भएका मानिसहरूलाई ‘गुरिल्ला’ भनेर गलत लेबल लगाइ दिने गरेको थियो । जबकि गोरो छाला भएका मानिसहरूलाई भने मानिस हुन् भनेर पहिचान गर्थ्यो ।
यसले ठुलो आक्रोश उत्पन्न गर्यो र त्यो पूर्ण रूपमा उचित पनि थियो । यसको मूल कारण थियो, असन्तुलित र खण्डित डेटासेट । जहाँ सेतो छालाका व्यक्तिबारेको डेटा, कालो छालाका व्यक्तिबारेको डाटाभन्दा भिन्न थियो ।
यस्ता पक्षपाती डेटा साधारण त्रुटि होइनन् । यस्ता डेटाले जातीय विभेद र भेदभावलाई झनै मजबुत बनाउन सक्छन् । यी घटनाहरूले देखाउँछन् कि एआई स्वतः तटस्थ हुँदैन, उसले हामीले दिएको डेटा नै प्रतिविम्बित गर्दछ ।
पक्षपात हटाउने उपायहरू
-
सन्तुलित डेटासेट: विभिन्न संस्कृति, लैङ्गिक र समुदायको प्रतिनिधित्व सुनिश्चित गर्ने ।
-
विविध डेटासेट: प्रचलित समूहमा मात्र सीमित नभई मानव अनुभवको सम्पूर्ण विविधता समेट्ने ।
-
निरन्तर अडिटिङ: एआई प्रणालीमा पक्षपात डेटा छ कि छैन भनेर नियमित रूपमा परीक्षण गर्ने र सुधारिएको डेटा प्रयोग गरी पुनः प्रशिक्षण गर्ने ।
उदाहरणका लागि हजारौँ बायोडेटा मूल्याङ्कन गर्नुपर्ने अवस्थामा सन्तुलित डेटासेटको आवश्यकता झनै महत्त्वपूर्ण हुन्छ । जब हजारौँ आवेदक हुन्छन्, ती सबैलाई म्यानुअल्ली समीक्षा गर्नु अत्यन्तै कठिन हुन्छ । यस्तो बेला एआई उपकरणको प्रयोगबाट बायोडेटा छनोट प्रक्रियालाई स्वचालित गर्न सकिन्छ । तर यहाँ पनि पक्षपातको समस्या ठुलो चुनौती बन्न सक्छ ।
असन्तुलित डेटाले एआई प्रणालीलाई कसरी हानि पुर्याउन सक्छ भन्ने वास्तविक उदाहरण सन् २०१८ मा विकसित गरिएको ‘अमेजन हायरिङ एल्गोरिदम’ हो । यो प्रणाली स्वतःस्फूर्त रूपमा बायोडेटा छान्ने उद्देश्यले तयार गरिएको थियो ।
तर अडिट गर्दा पत्ता लाग्यो कि प्रशिक्षण डेटामा पुरुष केन्द्रित शब्दहरू अत्यधिक मात्रामा भएका कारण प्रणालीले पुरुष उम्मेदवारलाई प्राथमिकता दिन सिकेको थियो । परिणामस्वरूप महिलाहरूका बायोडेटा स्वचालित रूपमा अस्वीकृत भइरहेका थिए । अडिटिङमार्फत यो पक्षपात पत्ता लागेपछि उक्त प्रणालीलाई सुधारका लागि बन्द गरियो । यस घटनाले असन्तुलित डेटासेट कति खतरनाक हुन सक्छ भन्ने स्पष्ट रूपमा देखाउँछ ।
यस्तै एआईले ग्राहकलाई विभिन्न उत्पादनहरू सिफारिस गर्न सहयोग गर्न सक्छ । तर उसले त्यही वस्तुहरू मात्र सिफारिस गर्न सक्छ, जुन उसको डेटासेटमा उपलब्ध छन् । उदाहरणका लागि यदि लोकप्रिय ईकमर्स प्लेटफर्म दराजमा कुनै ब्रान्डका सामानहरू सूचीबद्ध नै छैनन् भने एआईले ती उत्पादनहरू सिफारिस गर्नै सक्दैन । दराज अनलाइन खरिद–बिक्री सम्बन्धी पोर्टल भएकाले उसले आफ्नो सिस्टममा उपलब्ध वस्तुहरू मात्र सुझाव दिन सक्छ । यो पनि असन्तुलित र सीमित डेटासेटका कारण उत्पन्न हुने पक्षपातकै एक रूप हो ।
भारतको पछिल्लो भ्रमणका क्रममा मैले भाषिणी एआई (Bhasini AI) भन्ने परियोजनाबारे जान्ने अवसर पाएको थिएँ । भाषिणी एआई मुख्यतः तत्काल (real-time) भाषानुवाद गर्ने प्रणाली हो । जस्तै हिन्दीलाई उर्दु, अङ्ग्रेजी वा अन्य भाषामा रूपान्तरण गर्ने । यो परियोजनामा धेरै विविध भाषाहरू प्रयोग गरिने भएकाले डेटासेट तयार गर्नु निकै चुनौतीपूर्ण हुन्छ ।
उदाहरणका लागि यदि प्रणालीमा नेपाली भाषासम्बन्धी डेटा समावेश नै छैन भने त्यसले नेपालीमा कुनै पनि सामग्री अनुवाद गर्न सक्दैन । यसले देखाउँछ कि सन्तुलित डेटासेटको अभावले कसरी पक्षपात पैदा गर्छ र निष्पक्षता घटाउँछ । त्यसैले हामीले सधैँ सन्तुलित डेटासेट बनाउनेतर्फ ध्यान दिनुपर्छ ।
नैतिक पक्षहरू
गोपनीयता र सहमति:
एआई विकासमा प्रायः ठुलो परिमाणमा डेटा सङ्कलन गरिन्छ । यसले सुसूचित सहमति (informed consent) भन्ने महत्त्वपूर्ण अवधारणा उठाउँछ । यदि हामीले कसैको सहमति बिना प्रयोगकर्ताहरूको डेटा र लग–डेटा सङ्कलन गर्यौँ भने के हुन्छ ? यदि गोपनीयता सम्बन्धी समस्या उठ्यो वा पहुँच नियन्त्रण ठिकसँग व्यवस्थापन भएन भने के हुन्छ ?
यस्ता समस्याहरूले पक्षपात, गोपनीयता चुहावट र सुरक्षा जोखिम उत्पन्न गर्न सक्छन् । यसलाई रोक्न सम्बन्धित व्यक्तिबाट सधैं जानकारीसहितको सहमति लिएर मात्र डेटा सङ्कलन गर्नु पर्दछ । उदाहरणका लागि स्वास्थ्य सूचना प्रणालीमा यदि रोगीको डेटा प्रयोग गरिन्छ भने रोगीको सहमति आवश्यक हुन्छ । यी नैतिक जिम्मेवारीमा ध्यान दिनुले गोपनीयता सम्बन्धी चिन्ता र नकारात्मक परिणाम घटाउन मद्दत गर्छ ।
दुरुपयोग गलत सूचना
एआईको अर्को महत्त्वपूर्ण नैतिक चिन्ता यसको दुरुपयोग र गलत सूचनाको फैलावट हो । एआई द्वारा सिर्जित नक्कली भिडिओ वा अडियो (डिपफेक र सिन्थेटिक प्रोपगान्डा), जसले गलत सूचना फैलाउँछ । घोस्ट-राइटिङ पनि बढ्दो समस्या हो । जहाँ मानिसहरू एआईको भरोसा गरेर सत्याता थाहा नपाइ असाइनमेन्ट पुरा गर्न वा डेटा सङ्कलन गर्ने गर्छन् । यसले शैक्षिक इमानदारीतामा असर पुर्याउँछ । एआई प्रयोग गरि साइबरबुलिङ, अरूको नक्कली पहिचान बनाएर दुर्व्यवहार र नकली पहिचान सिर्जना गर्नु पनि थप खतराहरू हुन् ।
उदाहरणको रूपमा सन् २०२४ मा प्रकाशित एउटा रिपोर्टमा डिपफेक प्रयोग गरी चुनावमा हस्तक्षेप गरिएको कुरा बाहिर आएको थियो । जहाँ भ्वाइस क्लोन गरि रोबोकल प्रयोग गरी राजनीतिक नेताहरूको नक्कल गरेर मतदातालाई भ्रमित पारिएको थियो ।
शासन, नियमन र जवाफदेहिता
एआई सम्बन्धी अर्को महत्त्वपूर्ण नैतिक पक्ष हो - शासन र जवाफदेहीता । जब एआई उपकरणले हानि पुर्याउँछ, त्यसको जिम्मेवारी कसको हुन्छ ? यसको लागि स्पष्ट सरकारी भूमिका आवश्यक छ ।
यूकेमा गरिएको एक अध्ययनले एयरपोर्ट सुरक्षाको लागि अनुहार पहिचान (फेसियल रिकग्निसन) को प्रयोगबारे करिब ७०% ले यसलाई लाभदायी ठाने, तर धेरैले रोजगारी हराउने, सीमा नियन्त्रणमा एआईको प्रयोग र प्रहरीले गलत व्यक्तिलाई अपराधी ठहराउने जोखिमबारे चिन्ता व्यक्त गरे । यस्तो गलत पहिचान बारम्बार दोहोरिन सक्छ, जसले यसलाई गम्भीर नैतिक समस्या बनाउँछ ।
भाषिक आधिपत्य
अर्को ठुलो चुनौती भाषिक आधिपत्य (language domination) हो । विश्वमा ७,००० भन्दा बढी भाषाहरू भए पनि अनलाइन सामग्री धेरैजसो १० भाषामा सीमित छन्, मुख्यतः अङ्ग्रेजी, स्पेनी, हिन्दी र चिनियाँ । यसको कारणले एआई उपकरणहरूले विविध संस्कृति र भाषालाई सही रूपमा प्रतिनिधित्व गर्न सक्दैनन् । नेपालको सन्दर्भमा यसले सञ्चार र सिकाइलाई अझ कठिन बनाउँछ र भाषागत असन्तुलनबाट उत्पन्न पूर्वाग्रहलाई स्पष्ट प्रकट गर्दछ ।
एआईको प्रमाणीकरण
अर्को महत्त्वपूर्ण चिन्ता प्रमाणीकरण (validation) हो । धेरै एआई उपकरणहरू छिटो–छिटो सार्वजनिक भइरहेका छन् । तर तिनका नतिजा सही छन्, भ्रामक छन् वा गलत छन् भनेर कसरी पत्ता लगाउने ? जसरी हामी आईएसओ–प्रमाणित वस्तुहरूमा भरोसा गर्छौँ, त्यसैगरी कुनै एआई उपकरण ठिकसँग प्रमाणित गरिएको छ कि छैन भनेर थाहा पाउने व्यवस्था आवश्यक छ ।
भ्रामक नतिजा र सुरक्षा
एआईले उत्पन्न गर्न सक्ने भ्रामक वा गलत नतिजाहरूलाई पनि गम्भीर रूपमा विचार गर्न आवश्यक छ । यदि कसैलाई एउटा एआई उपकरण उपलब्ध गराइएको छ र त्यसलाई कसरी प्रयोग गर्ने भन्ने थाहा छैन भने उसले प्राप्त गरेको जानकारी सही नहुन पनि सक्छ । त्यसैले त्यस्ता उपकरण कसरी प्रयोग गर्ने भन्ने जानकारी राख्नुपर्दछ । हामीले विश्वासयोग्य, भरपर्दो र सुरक्षित एआई प्रणालीहरू विकास गर्नु अत्यावश्यक छ । एआईले गलत सूचना नफैलाओस्, प्रयोगकर्तालाई हानी नपुगोस् र गलत प्रयोगबाट उत्पन्न हुने जोखिम न्यून होस् भन्ने कुरा सुनिश्चित गर्नुपर्छ । यी सबै मुद्दाहरूलाई सम्बोधन गर्नु भनेको भविष्योन्मुख र जिम्मेवार एआई विकासका गर्नु हो ।
अन्त्यमा
समस्या एआईमा आधारित हो कि होइन भन्ने बहस चलीरहे पनि वास्तविक समस्याहरू थुप्रै छन् । यी समस्याहरूको समाधाम गर्न हामी डेटाको स्रोतसम्म पुग्न सक्षम हुनुपर्छ । वाटरमार्किङले स्वामित्व पहिचानमा मद्दत गर्छ भने स्रोतको प्रमाणीकरणका लागि मिडिया फरेन्सिक्स र प्रमाणिकता मापदण्ड विकास गर्नु पनि आवश्यक छ ।
यी चिन्ताहरू आजको जेनजी पुस्तामा विशेष रूपमा सान्दर्भिक छन् । एआईले विश्वलाई नयाँ दिशातर्फ धकेलिरहेको छ । स्वास्थ्य, शिक्षा, प्रशासन, व्यापारदेखि रोजगारीसम्म यसको प्रभाव स्पष्ट रूपमा देखिँदैछ । तर यसका फाइदाहरू साकार पार्न, नैतिकता, पारदर्शिता, गोपनीयता, डेटाको निष्पक्षता, गलत सूचनाबाट सुरक्षार सरकारी नियमनलाई समान रूपमा प्राथमिकता दिनुपर्छ ।नेपालमा एआईम्बन्धी नीतिगत छलफल सुरु भइसकेको छ, जुन सकारात्मक कदम हो । अब आवश्यक छ-स्पष्ट मापदण्ड, जिम्मेवारीको परिभाषा, दण्डका आधारहरूर सुरक्षित तथा भरोसायोग्य एआई विकासका लागि दिगो प्रणाली निर्माण ।
(लेखक श्रेष्ठ काठमाडौँ विश्वविद्यालयको कम्प्युटर विज्ञान र इन्जिनियरिङ विभाग अन्तर्गत रहेको डिजिटल लर्निङ रिसर्च ल्याबका प्रमुख हुन् ।)
पछिल्लो अध्यावधिक: माघ २६, २०८२ १०:३८
