एआई दुरुपयोग गरी भ्रम फैलाउने फेसबुक पेजको बिगबिगी, पैसा कमाउने लोभमा मानवीय संवेदनासँग खेलबाड

काठमाडौँ । गत मंगलबार सामाजिक सञ्जालमा काठमाडौँको एउटा भिडिओले धेरैको ध्यान तान्यो । बा ३ च ११०३ नम्बरको सवारीमा सवार एक व्यक्तिले बीच बाटोमै एक वृद्ध पैदलयात्रीमाथि दुर्व्यवहार गरेको उक्त भिडिओमा देखिन्थ्यो ।

यस घटनालाई लिएर सामाजिक सञ्जालमा मिश्रित प्रतिक्रिया देखिए । एकथरीले गाडीमा सवार व्यक्तिले निर्दोष पैदलयात्रीलाई कुटेको भन्दै आक्रोश पोखे भने अर्काथरीले वास्तविकता नबुझी बोल्न नहुने तर्क गरे । यद्यपि, गल्ती जसको भए पनि कानुन हातमा लिएर वृद्ध व्यक्तिमाथि हातपात गर्नु ती व्यक्तिको गम्भीर कमजोरी भएको भन्दै धेरैले आलोचना गरे ।

भिडिओ भाइरल भएलगत्तै जिल्ला प्रहरी परिसर काठमाडौँ र काठमाडौँ उपत्यका ट्राफिक प्रहरी कार्यालय ती व्यक्तिको खोजीमा जुटे । सोही दिन बेलुका ट्राफिक प्रहरीले ती व्यक्ति ४२ वर्षीय पारस बम भएको पहिचान गर्दै उनलाई नियन्त्रणमा लियो ।

तर, प्रहरीले उनलाई नियन्त्रणमा लिएको कुनै आधिकारिक तस्बिर वा भिडिओ न सार्वजनिक गरेको थियो, न त सञ्चारमाध्यमले नै प्राप्त गरेका थिए । यही मौका छोपेर केही फेसबुक पेजले भाइरल भिडिओबाट ती पुरुष, वृद्ध व्यक्ति र कारबाट निस्किएकी महिलाको अनुहार निकालेर एआई टुलमार्फत भ्रामक तस्बिरहरू बनाउन थाले ।

ती नक्कली तस्बिरमा कतै उनीहरूले वृद्धसँग घुँडा टेकेर माफी मागेको, कतै प्रहरीले उठबस गराएको त कतै प्रहरीकै अघि ती युवकले वृद्धलाई कुटिरहेको देखाइएको थियो । कतिपय तस्बिरमा प्रहरी रमाइरहेको र ती युवायुवतीले एकअर्कालाई चुम्बन गरिरहेको जस्ता दृश्य पनि बनाइए । एउटै शैलीका यस्ता नक्कली तस्बिर विभिन्न अकाउन्टबाट अनेक क्याप्सन राखेर पोस्ट गरिए । मानिसको ध्यान तान्न ‘यिनीहरूलाई के सजाय दिँदा ठीक होला?’ भन्दै प्रश्न सोध्ने र कमेन्टमा जे सुझाव बढी आउँछ, त्यही अनुसार सजाय पाएको देखाउन एआईको चरम दुरुपयोग गरिएको पाइयो ।

यसरी एआई दुरुपयोग बढेको पाएपछि जिल्ला प्रहरी परिसरले एक विज्ञप्ति जारी गर्दै भ्रामक सूचना सम्प्रेषण नगर्न अनुरोध नै गर्‍यो । 

***

केही दिनयता सामाजिक सञ्जालमा अर्को एउटा भिडिओले पनि चर्चा पाएको छ । नेपालमा विवाह गरेर श्रीमतीलाई अमेरिका पठाएका एक पुरुषले टिकटकमा भिडिओ राख्दै आफूलाई धोका भएको आरोप लगाएका थिए । अमेरिका पुगेपछि श्रीमतीले आफूलाई धोका दिएको र त्यहाँ एक पाकिस्तानी युवकसँग ‘लिभिङ टुगेदर’मा बसेको उनको दाबी थियो ।

ती पुरुषको पीडाप्रति सहानुभूति जनाउँदै धेरै सामाजिक सञ्जाल प्रयोगकर्ता उनको समर्थनमा उभिए । उनीहरूले ती महिलाको सामाजिक सञ्जाल अकाउन्ट खोजेर अश्लील र अपाच्य कमेन्ट गर्न थाले । एकतर्फी रूपमा व्यापक आलोचना हुन थालेपछि ती महिलाले पनि आफ्नो पक्षबाट प्रष्टीकरण दिइन् । आफू कसैसँग ‘लिभिङ टुगेदर’मा नरहेको र श्रीमान्‌ले पारिवारिक कलहलाई सामाजिक सञ्जालमा ल्याएर अनावश्यक हल्ला फैलाएको उनको भनाइ थियो । 

महिलाको भनाइ बाहिरिएपछि केही मानिसहरू पुरुषको विरोधमा पनि उत्रिए । यद्यपि धेरैजसोले पुरुषलाई नै समर्थन गर्दै महिलालाई दोष दिइरहेका थिए ।यसै विवादको फाइदा उठाउँदै केही फेसबुक पेजले भ्रामक सामग्री फैलाउन सुरु गरे । वास्तवमा कथित पाकिस्तानी युवकको कुनै पनि वास्तविक तस्बिर कतै सार्वजनिक भएको थिएन । तर, फेसबुकमा ती महिला र पाकिस्तानी युवक सँगै भएको, अँगालो मारेको र चुम्बन गरिरहेको जस्ता नक्कली तस्बिर पोस्ट गरिए । त्यति मात्र नभई महिलाले पाकिस्तानी प्रेमीसँग बिहे गर्न लागेको, उनको अमेरिकी भिसा रद्द भएको र पक्राउ परेको भन्दै भ्रम फैलाउने तस्बिरहरूसमेत राखिए ।

यी सबै तस्बिरहरू एआईको प्रयोग गरेर बनाइएका थिए । तिनै नक्कली तस्बिरको आडमा महिलालाई मानसिक तनाव दिने र सर्वसाधारणलाई उत्तेजित बनाउने पोस्ट गरिए । कमेन्टमा मानिसहरूले जे प्रतिक्रिया वा सुझाव बढी दिन्छन्, त्यही अनुसार थप एआई तस्बिरहरू बनाएर भाइरल गराउने प्रवृत्ति यस घटनामा पनि स्पष्ट रूपमा देखियो । यस्ता भ्रामक एआई तस्बिरलाई नै सत्य मानेर धेरै प्रयोगकर्ताले आ-आफ्नो धारणा व्यक्त गरेको देखियो । 

***

आसन्न प्रतिनिधि सभा सदस्य निर्वाचका लागि प्रचार-प्रसार र चुनावी अभियानमा होमिएका राष्ट्रिय स्वतन्त्र पार्टी (रास्वपा)का सभापति रवि लामिछानेको खुट्टामा समस्या देखियो । लगत्तै उनी काठमाडौँको त्रिभुवन विश्वविद्यालय शिक्षण अस्पतालमा भर्ना भए । 

उनी अस्पतालमा रहेको समाचार छ्यापछ्याप्ती छापिए । तर, तस्बिर भने सार्वजनिक भएको थिएन । यहाँ पनि फेसबुक पेजहरूले रिक्तता महसुस गरे र रवि लामिछानेको दायाँ खुट्टामा प्लास्टर गरेको जस्तो देखिने एआई फोटो बनाए । उक्त फोटो निकै भाइरल भयो । यतिसम्म कि रास्वपाकै समानुपातिक उम्मेदवार ज्वाला सङ्ग्रौलाले फेसबुकमा त्यही फोटो राखेकी थिइन् । उक्त फोटो भाइरल बनेपछि सङ्ग्रौलाले हटाइन् । तर, रास्वपाकै केन्द्रीय सदस्य समेत रहेकी सङ्ग्रौलाले आधिकारिक फेसबुकमा कुनै सन्दर्भ नै नखुलाई फोटो राख्दा भ्रम सिर्जना भयो ।

 

फोटो व्यापक रूपमा भाइरल भएपछि अस्पतालले विज्ञप्ति नै निकालेर रवि लामिछानेको भन्दै बाहिरिएका अस्पतालका कुनै पनि फोटो वास्तविक नरहेको स्पष्ट पार्‍यो ।

पछि लामिछानेको वास्तविक फोटो बाहिरियो । त्यसमा भने उनको बाँया खुट्टामा ब्यान्डेज लगाएको देखिएको थियो । सामाजिक सञ्जाल प्रयोगकर्ताले एउटा वास्तविक र अर्को नक्कली फोटो राख्दै रवि लामिछानेले अस्पतालमा हुँदा एउटा खुट्टामा प्लास्टर गरेको र पछि बाहिरिएपछि अर्को खुट्टामा ब्यान्डेज लगाएको अनुमान लगाए । केहीले भने लामिछानेले जनता ढाँटेको भन्ने आरोप लगाए । केहीले भने रविको बचाउ गर्दै फोटो फ्लिप गरेको हुनसक्ने बताए । तर, प्लास्टर लगाएको दाबी सहित फैलिएका तस्बिर एआई सिर्जित तथा नक्कली थिए ।

***

माथि उल्लेख गरिएका केही प्रतिनिधि घटनामात्र हुन् । नेकपा एमालेका अध्यक्ष केपी शर्मा ओलीलाई लखेटिएको वा कुटपिट गरिएको दाबी गर्नेदेखि एमाले नेता महेश बस्नेतले कुटाइ खाएको, अस्पताल भर्ना भएको, जेल गएको वा मतदाताले कुटेको देखिने नक्कली तस्बिर सामाजिक सञ्जालमा सर्वत्र भेटिन्छन् ।

कुनै चर्चित व्यक्तिको निधनको समाचार आउन पाउँदैन, यस्ता फेसबुक पेजमा एआईले बनाएका तस्बिर भाइरल भइहाल्छन् । उदाहरणका लागि, रास्वपाका वरिष्ठ नेता बालेन शाहसँगै चुनावी अभियानमा अछाम पुगेका पत्रकार दिनेश सिटौलाको निधन हुँदा पनि यस्तै एआई तस्बिर छ्यापछ्याप्ती बनाइए । ती तस्बिरमा बालेनलाई रोइरहेको देखाइएको थियो ।

नेपाली र भारतीय गायन क्षेत्रमा सक्रिय प्रशान्त तामाङको निधन हुँदा यी फेसबुक पेजहरूमा त्यस्तै भ्रामक तस्बिरहरू छाए । खासगरी मानवीय संवेदनासँग खेल्ने हृदयविदारक एआई सिर्जित तस्बिर यत्रतत्र पोस्ट गरिए । ती पेजहरूमा तामाङकी श्रीमती र सानी छोरी रोइरहेको देखिने तस्बिर राखिएका थिए । ‘रुँदारुँदा आँसु नै रोकिएन’, ‘आँखा ओभानो भएनन्’ जस्ता क्याप्सन राखेर एआईबाट बनाइएका तस्बिरको बाढी नै ल्याइयो ।

नेपाली सिने क्षेत्रका वरिष्ठ कलाकार सुनिल थापाको निधन हुँदा पनि यो क्रम निरन्तर चल्यो । उनकी श्रीमती र छोराको भन्दै एआई सिर्जित नक्कली तस्बिर प्रयोग गरी हृदयविदारक अवस्था सिर्जना गर्न खोजिएको पाइयो । ‘सुनिल थापाको घरमा अझै रुँदैछन् यी व्यक्ति’ जस्ता क्याप्सन लेखेर अनावश्यक रूपमा मानवीय संवेदनाको फाइदा उठाउँदै यी पेजले भ्रम फैलाए ।

बालेनको बुबाको निधन हुँदा पनि यही प्रवृत्ति दोहोरियो । बालेन, उनका दाजु र परिवारका अन्य सदस्य पशुपति आर्यघाटमा रोइरहेको, हातमा तस्बिर राखेर आँसु झारिरहेको, कालो लुगा लगाएको र कपाल-दारी नकाटी किरियापुत्री बसेको जस्ता नक्कली तस्बिर भाइरल गराइए । ती तस्बिर हेरेर धेरैले बालेनले हिन्दु संस्कार नमानेको र बाबु बित्दा पनि कपाल नकाटेको भन्दै आलोचना गरे । तर, वास्तविकतामा ती सबै एआईले बनाएका तस्बिर थिए । बालेनले हिन्दु परम्पराअनुसार नै आफ्नो बाबुको काजकिरिया गरेका थिए । निकै पछि मात्र उनको वास्तविक तस्बिर बाहिर आयो, तर त्यतिबेलासम्म समाजमा भ्रम फैलिसकेको थियो । धेरैले वास्तविकता नबुझी आ-आफ्ना धारणा बनाइसकेका थिए ।

***यस प्रवृत्तिलाई नियाल्दा के प्रष्ट हुन्छ भने, सामाजिक सञ्जालमा केही यस्ता फेसबुक पेज सक्रिय छन् जसले जानीबुझी मानवीय संवेदना जोडिएका घटनालाई निशाना बनाउँछन् । कुनै चर्चित व्यक्ति अस्वस्थ भएको समाचार बाहिरिनासाथ यी पेजमा एआई सिर्जित नक्कली तस्बिर फैलिन्छन् ।

त्यस्तै, सामाजिक सञ्जालमा जुन राजनीतिज्ञ कम रुचाइएका छन् वा जसको बढी आलोचना हुने गर्छ, उनीहरूलाई थप नकारात्मक देखाउने तस्बिर यस्ता पेजमा पोस्ट गरिन्छन् । कोही व्यक्ति पक्राउ पर्दा होस् वा कुनै विषयमा सामाजिक सञ्जालमा विवाद हुँदा, आम प्रयोगकर्ताको भावनासँग खेल्ने खालका तस्बिर नै यस्ता पेजमा बढी भेटिन्छन् ।

यस्ता नक्कली तस्बिरहरू भाइरल भइरहेको र त्यसमा धेरै ‘इन्गेजमेन्ट’ आएको देखेपछि अन्य सामान्य प्रयोगकर्ताले पनि वास्तविकता नबुझी आफ्नो अकाउन्टमा शेयर गरिहाल्छन् । यसरी गलत मनसायले सिर्जना गरिएको एउटा भ्रामक तस्बिर छोटो समयमै विभिन्न माध्यमबाट सर्वत्र फैलिन्छ ।

विज्ञहरू भन्छन्ः सामाजिक सञ्जालमा एआईको भ्रम; पैसा, प्रोपोगान्डा र बिग्रिँदो दिमागको खान्की हो

सत्यता नजाँची वा जानाजान शृंखलाबद्ध रूपमा भ्रामक एआई कन्टेन्ट फैलाउनुका पछाडि मुख्य दुई ओटा कारण रहेको सेन्टर फर मिडिया रिसर्च-नेपाल (सीएमआर) का निर्देशक तथा डिजिटल प्रविधिका अध्येता उज्ज्वल आचार्य बताउँछन् । पहिलो कारण हो- फेसबुकको ‘मोनिटाइजेसन’ र दोस्रो हो- राजनीतिक प्रोपोगान्डा ।

“फेसबुकले मोनिटाइजेसन सुरु गरेपछि मानिसहरूलाई कन्टेन्ट हाल्न असाध्यै हतार भयो । महिनाको २० डलर खर्च गरेर एआईको प्रो अकाउन्ट लिएपछि जति पनि फोटो बनाउन सकिने भयो । यो सस्तो र सजिलो छ,” आचार्य भन्छन्, “टेक्स्टभन्दा फोटो र भिडिओलाई अल्गोरिदमले बढी रुचाउने र यसले मानिसको ‘इमोसन’लाई छिटो तान्ने हुनाले इन्गेजमेन्ट बढी हुन्छ । जसले गर्दा भ्युज आउँछ र पैसा कमाइन्छ ।”

आचार्य यस्ता कन्टेन्टहरू नियोजित राजनीतिक एजेन्डाका लागि पनि प्रयोग भइरहेको देख्छन् । उनी थप्छन्, “कतिपयले आफ्नो पक्षलाई अगाडि बढाउन र विरोधीलाई नकारात्मक रूपमा चित्रण गर्न यस्ता पेज चलाइरहेका छन् । सत्य जे हो, त्यसबाट पर लगेर मानिसलाई भ्रमित बनाउने र ‘सुपरफिसियल’ दुनियाँमा पुर्‍याउने काम यसले गरिरहेको छ । सही कुरा नै नभएपछि समाजमा हुने पोलिटिकल डिस्कोर्स पनि सही ट्रयाकमा हुँदैन ।”

कुनै एउटा भ्रामक तस्बिर हेर्नेबित्तिकै त्यस्तै प्रकृतिका दर्जनौँ तस्बिरहरू किन हाम्रो ‘फिड’मा आउन थाल्छन् ? किन त्यस्ता एकैनासका एआई तस्बिर भाइरल हुन्छन् ? एआई एसोसिएसन नेपालका उपाध्यक्ष तथा एआई/एमएल क्षेत्रका अध्येता डा. सुरेश पोखरेल यसलाई ‘डिमान्ड एन्ड सप्लाई’ को नियम र प्लेटफर्मको बिजनेस मोडलसँग जोड्छन् ।

“सामाजिक सञ्जाल कम्पनीको मुख्य उद्देश्य नै प्रयोगकर्तालाई लामो समय इन्गेज गराउनु हो । तपाईंले कुन कुरामा क्लिक गर्नुभयो र कति समय बिताउनुभयो भन्ने ट्र्याक गरेर उनीहरूले त्यस्तै सामग्री पुस गर्छन्,” डा. पोखरेल भन्छन्, “जहाँ डिमान्ड हुन्छ, त्यहाँ सप्लाई हुन्छ । नकारात्मक सामग्री र गालीगलौजले मानिसको ध्यान बढी तान्ने हुनाले भ्युज र पैसा कमाउन त्यस्तै कन्टेन्ट बढी बनाइन्छ ।”

त्रिभुवन विश्वविद्यालयका पत्रकारिताका उपप्राध्यापक लेखनाथ पाण्डे पनि यसमा सहमत छन् । उनी यस्तो प्रक्रियाले मानिसमा ‘कन्फर्मेसन बायस’ (आफूले सोचेजस्तै कुरा मात्र पत्याउने प्रवृत्ति) लाई झन् बढावा दिइरहेको विश्लेषण गर्छन् ।

“तपाईंलाई जे मन पर्छ, त्यस्तै भिडिओ आइदिएपछि तपाईं त्यसमा लाइक, कमेन्ट र शेयर गर्नुहुन्छ । त्यसपछि डिजिटल अल्गोरिदमले तपाईंलाई एउटा ‘इको च्याम्बर’ अर्थात् आफ्नै विचार मात्र गुञ्जिने ठाउँमा राखिदिन्छ,” उपप्राध्यापक पाण्डे भन्छन्, “यस्तो अल्गोरिदमले लोकतन्त्रलाई प्रमोट गर्दैन, यसले पपुलिजम र एक्सट्रिमिजम (अतिवाद) लाई बढावा दिन्छ । यसले गर्दा समाजमा राजनीतिक ध्रुवीकरण झन् फराकिलो बन्दै गएको छ ।”

निसानामा को छन् ? अनि यसले दीर्घकालिन रूपमा कस्तो असर पार्छ ?

यस्ता मिथ्या सूचनाले समाजका कुन वर्गलाई बढी असर गरिरहेको छ त ? उपप्राध्यापक पाण्डेका अनुसार मिडिया साक्षरता कम भएका वर्ग नै यसको प्रमुख सिकार बनिरहेका छन् ।

“विभिन्न अनुसन्धानले देखाए अनुसार मिडिया साक्षरता कम भएका वृद्धवृद्धा, सीमान्तकृत समुदाय र कतिपय अवस्थामा टिनएजरलाई यसले बढी असर गरिरहेको छ,” पाण्डे भन्छन्, “डिजिटल डिभाइडका कारण सहरी क्षेत्रको तुलनामा गाउँतिर राजनीतिक ध्रुवीकरण बिस्तारै सिफ्ट हुँदैछ । किनकि उनीहरूका लागि डिजिटल साक्षरता सहरको तुलनामा कम छ ।”

डा. पोखरेल पनि एउटा ठुलो जमातले इन्टरनेटको सुरुवात नै सिधै युट्युब र फेसबुकबाट गरेको हुनाले ‘फेसबुकमा आएको कुरा साँचो हो’ भन्ने भ्रम व्याप्त रहेको बताउँछन् ।

झट्ट हेर्दा सामान्य लाग्ने यस्ता एआई सिर्जित तस्बिरले मानिसको मनोविज्ञानमा गहिरो असर पुर्‍याइरहेका छन् । डा. पोखरेल यसलाई मानिसको ‘दिमागको खान्की’ सँग तुलना गर्छन् ।

“हामीले अस्वस्थ खानेकुरा खायौँ भने केही घण्टामै त्यसले शरीरलाई असर गर्छ । त्यसैगरी, हाम्रो दिमागको खान्की भनेको हामीले सुन्ने, पढ्ने र हेर्ने कुराहरू हुन्,” डा. पोखरेल गम्भीर हुँदै भन्छन्, “जब हामी निरन्तर अस्वाभाविक, नकारात्मक र हिंसात्मक कन्टेन्ट उपभोग गर्न थाल्छौँ, हाम्रो दिमाग त्यसमै रमाउन थाल्छ । लामो समयमा यसले हाम्रो सोच्ने तरिका, समाजप्रतिको दृष्टिकोण र हाम्रो सकारात्मक ऊर्जालाई नै नष्ट गरिदिन्छ । नेपालमा केही छैन, सब खत्तम छ भन्ने भाष्य निर्माण हुनुमा यस्तै सामग्रीको हात छ ।”

एउटै खालका भ्रामक सामग्री दर्जनौँ पेजबाट आइरहँदा पनि तिनलाई कारबाही गर्न किन सकिँदैन ? अध्येता उज्ज्वल आचार्यका अनुसार यस्ता सामग्री बनाउनेहरूले सिधै अपराध नगरी ‘बोर्डर लाइन’ अर्तात कानुनी छिद्रमा खेलेका हुन्छन् । “यसलाई उनीहरूले ‘सांकेतिक चित्र’ भनिदिए भने कानुन लगाएर जेल हाल्न सम्भव हुँदैन,” आचार्य भन्छन् ।

त्यसो भए विकल्प के त ? आचार्य राज्यले सामाजिक सञ्जाल प्लेटफर्मलाई नै जवाफदेही बनाउनुपर्नेमा जोड दिन्छन् । “हाम्रो देशले टिकटक वा फेसबुक जस्ता प्लेटफर्मलाई एआईबाट बनेका सामग्रीमा अनिवार्य ‘लेबलिङ’ गर्न बाध्य पार्ने कानुन बनाउनु पर्छ । उनीहरूसँग मेटाडेटा हुन्छ, त्यसैको आधारमा लेबलिङ मात्रै गर्न सके पनि ८० देखि ९० प्रतिशत मिथ्या सूचना कम हुन सक्छ ।”

उपप्राध्यापक पाण्डे भने यस्ता भाइरल सामग्रीलाई निरुत्साहित गर्न व्यक्तिगत ‘कमन सेन्स’ सबैभन्दा ठुलो हतियार हुने बताउँछन् । “डिसइन्फर्मेसन एकदमै सस्तो हुन्छ, तर त्यसलाई चिर्न फ्याक्ट चेक गर्नुपर्छ जुन महँगो छ,” पाण्डे भन्छन्, “यसको एउटै उपाय भनेको सकेसम्म भाइरल कन्टेन्टमा इन्गेज नहुने, रियाक्ट नगर्ने र आफ्नो इमोसनलाई कन्ट्रोल गर्ने हो । इन्फर्मेसन लिटरेसी राज्य, परिवार र व्यक्ति सबै मिलेर बढाउनुपर्छ ।”

डा. पोखरेल पनि कानुनले मात्रै बन्देज लगाएर यो समस्या समाधान नहुने बताउँछन् । “यो नैतिकता र सेल्फ-सेन्सरसिपको कुरा हो । पैसा कमाइन्छ भन्दैमा जे पनि गर्न पाइँदैन भन्ने कुरा विद्यालय स्तरदेखि नै सिकाउनुपर्छ । यो एउटा बहुआयामिक अप्रोचबाट मात्र समाधान हुन सक्छ,” उनी भन्छन् ।

को हुन् भ्रामक तथा मिथ्या सूचना फैलाउनेहरू ? 

टेकपाना फ्याक्टचेक डेस्कले आफ्नो तथ्यजाँचका क्रममा शृङ्खलाबद्ध रूपमा एआई सिर्जित भ्रामक सामग्री फैलाइरहेका थुप्रै फेसबुक पेज फेला पारेको छ । विशेषगरी सामाजिक र राजनीतिक विषयवस्तुसँग जोडेर यस्ता पेजले एआईबाट तस्बिर तथा भिडिओ तयार पार्ने र त्यसलाई फैलाउने गरेका छन् । नेपाली अक्षरको सन्दर्भमा एआई टुल अझै परिपक्व भइसकेका छैनन् । यही कमजोरी लुकाउन उनीहरूले एआई सिर्जित तस्बिरमा पछि टेक्स्ट थप्ने गरेका छन् । उदाहरणका लागि प्रहरी चौकी, सरकारी कार्यालय लगायतका ठाउँ देखाउनु पर्दा फोटो एडिटिङ टुलको प्रयोग गरी पछि नेपाली टेक्स्ट थपिएको पाइन्छ । यसबाट के प्रस्ट हुन्छ भने यस्ता पेजले सामान्य नागरिकदेखि मिडिया साक्षरता भएका व्यक्तिलाई समेत जानाजान भ्रममा पार्ने प्रयास गरिरहेका छन् ।

सामाजिक सञ्जाल विशेषगरी ‘मिस पबी ४१’, ‘कम्रेड जामु’, ‘Givina Magar- गिभिना मगर’, ‘युविन मगर’, भोजराज थापा नामक ग्रुप, ललित जिग्री, शान्ति थापा, बालेन शाह नामक फेसबुक ग्रुप, टेनासिटी टिभी, तारा राना, लक्ष्मण ज्ञवाली, कृष्ण भट्टराई लगायतले एआई सिर्जित फोटो र भिडिओ राख्ने गरेको पाइयो । 

कानुनी छिद्रको फाइदा: किन कानुनी कारबाहीमा आउन सक्दैनन् भ्रामक सामग्री फैलाउनेहरू ?

साइबर ब्युरोका प्रवक्ता तथा प्रहरी उपरीक्षक (एसपी) दीपकराज अवस्थी यसमा विद्यमान कानुनी सीमितता र अपराधको प्रकृति मुख्य तगारो बनेको बताउँछन् ।

“कानुनभन्दा माथि उठेर हामीले काम गर्न मिल्दैन । विद्युतीय कारोबार ऐनले बेइज्जती गर्ने वा शान्ति भंग गर्ने नियतले सामग्री राखेको खण्डमा मात्र कारबाहीको परिकल्पना गरेको छ,” एसपी अवस्थी भन्छन्, “यस्ता भ्रामक तस्बिरले व्यक्ति विशेषलाई असर गरेको छ कि, त्यसले राष्ट्रिय अखण्डता, शान्तिसुरक्षा वा विभिन्न जातजाति तथा सम्प्रदायबीच द्वन्द्व सिर्जना गरेको छ भन्ने कुराको विश्लेषण सरकारी वकिल र अनुसन्धानकर्ताले गर्नुपर्ने हुन्छ । त्यसैले हरेक मिथ्या सूचनालाई सिधै विद्युतीय कारोबार ऐन, २०६३ को दफा ४७ अन्तर्गत कारबाही गर्न कानुनी रूपमा टेक्ने ठाउँ बलियो हुँदैन ।”

यसको अर्थ भ्रामक तस्बिर फैलाउनेहरूले कानुनी छिद्रको फाइदा उठाइरहेका छन् । उनीहरूले व्यक्तिलाई लक्षित गरे पनि त्यसले ठुलै हुलदंगा वा राष्ट्रिय अशान्ति मच्चाइहाल्ने अवस्था नदेखिँदासम्म प्रहरीलाई कारबाही अगाडि बढाउन सकस पर्छ । एसपी अवस्थी कानुनमा ‘झुटा अफवाह फैलाउने र भ्रामक खबर’ का विषयमा स्पष्ट र कडा व्यवस्था हुनुपर्ने आवश्यकता औँल्याउँछन् ।

भारत लगायतका देशले सामाजिक सञ्जाल कम्पनीलाई ‘डिपफेक’ वा भ्रामक एआई कन्टेन्ट तीन घण्टाभित्र हटाउन कडा निर्देशन दिनेगरी कानुन बनाएका छन् । तर, नेपालको सन्दर्भमा सामाजिक सञ्जाल प्लेटफर्म (विशेषगरी मेटा) ले प्रहरीको आग्रहलाई सहजै मान्ने गरेका छैनन् ।

एसपी अवस्थीका अनुसार साइबर ब्युरो र निर्वाचन आयोगले पटक-पटक भ्रामक सामग्री हटाउन पत्राचार गरे पनि प्लेटफर्मले आफ्नो ‘कम्युनिटी गाइडलाइन्स’ लाई मात्र आधार मान्ने गरेका छन् ।

“निर्वाचन लक्षित मिस-इन्फर्मेसनका सन्दर्भमा निर्वाचन आयोगबाट १५६ ओटा र हामीले (प्रहरीले) ११३ ओटा गरी जम्मा २६९ ओटा शंकास्पद लिंक हटाउन पठाएका छौँ,” एसपी अवस्थी भन्छन्, “तर, उनीहरूको आफ्नै मापदण्ड हुन्छ । त्यो मापदण्ड उल्लंघन भएको ठहरियो भने मात्रै उनीहरूले कन्टेन्ट हटाउँछन्, हामीले पठाउँदैमा हटाउँदैनन् ।”

यस्ता शंकास्पद र शृंखलाबद्ध रूपमा मिथ्या सूचना फैलाउने पेजलाई साइबर ब्युरोले सूक्ष्म निगरानीमा राखेको र प्राप्त उजुरी तथा प्रमाणका आधारमा कानुनी दायरामा ल्याउने प्रयास गरिरहेको एसपी अवस्थीले बताए ।

पछिल्लो अध्यावधिक: फागुन ८, २०८२ २०:११

टिप्पणीहरू