एआई कम्पनीका सुरक्षा संयन्त्र असफल, सामाजिक सञ्जालमा छ्यापछ्याप्ती मदुरोका नक्कली तस्बिर

काठमाडौँ । भेनेजुएलाका राष्ट्रपति निकोलस मदुरोलाई अमेरिकी सेनाले पक्राउ गरेको खबर सार्वजनिक भएको केही घण्टामै सामाजिक सञ्जालमा उनलाई हतकडी लगाइएको, सुरक्षा एजेन्टले घेरेको र सैन्य विमानमा राखिएका कैयौँ तस्बिर भाइरल भए । तर, ती वास्तविक नभएर एआई टुलको प्रयोग गरी बनाइएका नक्कली तस्बिर थिए । 

विज्ञहरूका अनुसार कुनै ठुलो ऐतिहासिक घटनाक्रम विकास भइरहेको समयमा एआईबाट निर्मित तस्बिरले यसरी प्रमुख व्यक्तिलाई चित्रण गरी भ्रम फैलाएको यो पहिलो प्रमुख घटनामध्ये एक हो । “वास्तविक घटना भनिएको, तर एआईबाट निर्मित यति धेरै तस्बिर मैले व्यक्तिगत रूपमा पहिलो पटक देखेकी हुँ,” डिजिटल डेमोक्रेसी इन्स्टिच्युट अफ द अमेरिकाजकी कार्यकारी निर्देशक रोबर्टा ब्रागाले न्युयोर्क टाइम्सलाई भनेकी छिन् ।

अधिकांश प्रमुख एआई टुलले भ्रामक सामग्री र सार्वजनिक व्यक्तित्वका नक्कली तस्बिर बनाउन निषेध गर्ने नियम बनाएको दाबी गरेका थिए । तर, ‘द न्यु योर्क टाइम्स’ले गरेको परीक्षणमा धेरैजसो चर्चित टुलले मदुरोका नक्कली तस्बिर केही सेकेन्डमै निःशुल्क तयार पारिदिएका थिए ।

मदुरोका भाइरल भएका एआई तस्बिर कुन कुन एआई टुलबाट तयार पारिएका हुन् भन्ने पहिचान गर्न निकै कठिन छ । तर, परीक्षणका क्रममा अधिकांश टुलले सजिलै केही प्रम्प्ट दिएकै भरमा वास्तविक जस्तै देखिने तस्बिर तयार पारेको देखिन्छ । 

खासगरी गुगलको जेमनाई र एक्सको ग्रोक जस्ता मोडेलले सजिलै यस्ता तस्बिर बनाएको न्यु योर्क टाइम्सले उल्लेख गरेको छ । गुगलले आफ्नो टुलमा भ्रामक सामग्री रोक्ने नियम भएको बताए पनि मदुरो जस्ता प्रख्यात व्यक्तिको तस्बिर बनाउन पूर्ण रूपमा प्रतिबन्ध नलगाइएको स्वीकार गरेको छ । यस्तै, ओपन एआईको च्याटजीपीटीले सिधै तस्बिर बनाउन अस्वीकार गरे पनि अन्य सहायक वेबसाइटहरू मार्फत उस्तै खालका नक्कली तस्बिर उत्पादन गर्न सक्ने पाइएको छ । 

भेनेजुएलाको काराकासमा तथ्यजाँच अभियान चलाउने, तर हाल कोलम्बियामा रहेका जीनफ्रेडी गुटिएरेजले शनिबार मदुरोको गिरफ्तारीको घोषणा भएको दिन उनका नक्कली तस्बिर फैलिरहेको कुरा याद गरे । उनका अनुसार केही तस्बिरहरू ल्याटिन अमेरिकी समाचार माध्यममा समेत प्रसारित भएका थिए । पछि ट्रम्प्ले सामाजिक सञ्जाल ट्रुथमा वास्तविक फोटो राखेपछि ती सञ्चार माध्यमले पहिलेको एआई सिर्जित फोटो हटाएर ट्रम्पले सार्वजनिक गरेको फोटो राखेका थिए ।

समाचार माध्यम इफेक्टो कोकुयोले गरेको तथ्यजाँचबाट मदुरो पक्राउ परेको सूचना सम्प्रेषण गर्दा प्रयोग भएका कैयौँ तस्बिर एआई सिर्जित देखिएका थिए । यी नक्कली तस्बिर फेसबुक, ह्वाट्सएप र एक्स जस्ता माध्यममा निकै तीव्र गतिमा फैलिएका थिए । 

सूचनाको विश्वसनीयता ट्र्याक गर्ने संस्था ‘न्युजगार्ड’ का अनुसार मदुरोको गिरफ्तारीसँग सम्बन्धित पाँच वटा बनावटी तस्बिर र दुई ओटा भ्रामक भिडिओलाई दुई दिनभित्रै १ करोड ४० लाखभन्दा बढी पटक हेरिएको थियो । गुटिएरेजका अनुसार मानिसमा वास्तविक सूचनामा शंका गर्ने र एआईले बनाएका आकर्षक तर झुटा सूचनामा विश्वास गर्ने खतरनाक प्रवृत्ति बढ्दै गएको छ ।

भेनेजुएला जस्तो प्रेस स्वतन्त्रता सीमित भएको र सूचनाको अभाव रहेको देशमा यस्ता ‘डिपफेक’ तस्बिरले थप जटिलता थपेका छन् । विज्ञहरूका अनुसार कुनै पनि ठुला घटनाको समयमा मानिसहरूमा दृश्य हेर्ने तीव्र चाहना हुन्छ । र त्यही रिक्ततालाई एआईले बनाउने ‘पर्फेक्ट’ तर नक्कली तस्बिरले भर्ने काम गरिरहेका छन् । 

तथ्य जाँचकीले पहिलेदेखि नै डोनल्ड ट्रम्प र जो बाइडनका नक्कली भिडिओप्रति सतर्कता अपनाउँदै आए पनि यो पछिल्लो घटनाले प्रविधि अत्याधुनिक र सुलभ भइसकेको देखाएको छ। यसबाट अब समाचारको सत्यता छुट्याउनु झन् कठिन र चुनौतीपूर्ण बनेको देखिएको छ ।

पछिल्लो अध्यावधिक: पुस २२, २०८२ १५:१०

टिप्पणीहरू