एलन मस्कको एआई ग्रोकमार्फत फ्याक्टचेक गर्नेहरू बढ्दै, तर पूर्ण विश्वास गर्दा बन्नसक्छ खतरनाक

 

काठमाडौँ । एलन मस्कको सामाजिक सञ्जाल एक्समा एकीकृत गरिएको आर्टिफिसियल इन्टेलिजेन्स (एआई) च्याटबट ग्रोक अहिले लाखौँ प्रयोगकर्ताका लागि कुनै पनि सूचनाको सत्यता जाँच्ने प्रमुख माध्यम बनेको छ । तर, विभिन्न अध्ययन र विज्ञहरूले यी एआई च्याटबटहरूलाई 'तथ्य-जाँचकी' (Fact-checker) को रूपमा पूर्ण विश्वास गर्नु खतरनाक हुन सक्ने चेतावनी दिएका छन् ।

विज्ञहरूका अनुसार एआई च्याटबटहरूले कुनै पनि उत्तर अत्यन्तै आत्मविश्वासका साथ दिन्छन्, जसले गर्दा प्रयोगकर्ताहरू झुक्किने सम्भावना बढी हुन्छ । वास्तवमा यी च्याटबटहरूले 'प्रोब्याबिलिस्टिक' (सम्भाव्यतामा आधारित) प्रणालीमा काम गर्छन्, जहाँ उनीहरूले अर्को शब्द के हुन सक्छ भनेर अनुमान मात्र गर्छन् ।

उनीहरूसँग सत्य र असत्य छुट्याउने वास्तविक चेतना भने हुँदैन । यसै प्रक्रियामा एआईले कहिलेकाहीँ पूर्ण रूपमा गलत वा काल्पनिक कुराहरूलाई तथ्यको रूपमा प्रस्तुत गर्छ । जसलाई प्रविधिको भाषामा 'हलुसिनेसन' (Hallucination) भनिन्छ ।

पछिल्ला केही महिनाहरूमा ग्रोकले गरेका गल्तीहरूले यसको विश्वसनीयतामाथि प्रश्न उठाएका छन् । क्यालिफोर्नियाका गभर्नर ग्याभिन न्युसमले नेसनल गार्डका सिपाहीहरू भुइँमा सुतिरहेको वास्तविक तस्बिर पोस्ट गर्दा ग्रोकले त्यसलाई 'फेक' वा पुरानो तस्बिर भएको दाबी गरेको थियो । तर, स्वतन्त्र संस्था पोलिटिफ्याक्ट (PolitiFact) ले गरेको अनुसन्धानमा ती तस्बिरहरू वास्तविक भएको पुष्टि भयो ।

त्यसैगरी अमेरिकी राष्ट्रपतीय निर्वाचनको सन्दर्भमा ग्रोकले कमला ह्यारिसले केही राज्यहरूमा उम्मेदवारी दर्ता गर्ने समयसीमा गुमाएको भनी गलत सूचना फैलाएको थियो । यस्ता गल्तीहरूले गर्दा निर्वाचन अधिकारीहरूले मस्कलाई पत्र नै लेखेर चुनावी सूचनाहरूमा ग्रोकलाई नियन्त्रण गर्न र आधिकारिक सरकारी वेबसाइटहरूमा प्रयोगकर्तालाई पठाउन आग्रह गर्नुपरेको थियो ।

विभिन्न अध्ययनहरूले एआई च्याटबटहरूमा राजनीतिक पूर्वाग्रह पनि फेला पारेका छन् । उदाहरणका लागि ग्रोक प्रयोग गर्ने प्रयोगकर्ताहरू प्रायः रिपब्लिकन विचारधाराका हुने र पर्प्लेक्सिटी प्रयोग गर्नेहरू डेमोक्रयाट विचारधाराका हुने गरेको देखिएको छ ।

ग्रोकले कहिलेकाहीँ एलन मस्कका आफ्नै विचारहरूलाई प्रश्रय दिने र मूलधारका समाचार स्रोतहरूलाई शङ्काको घेरामा राख्ने गरेको आरोप पनि लाग्ने गरेको छ । मस्कले ग्रोकलाई 'एन्टी-वोक' (anti-woke) र 'स्पाइसी' उत्तर दिने उपकरणको रूपमा प्रचार गरेका छन्, जसले गर्दा यसमा अन्य एआई जस्तो कडा सुरक्षा घेरा (Guardrails) पनि छैन ।

मिडिया लिट्रेसी विज्ञहरूले एआई च्याटबटहरूलाई एउटा यस्तो 'अत्यधिक आत्मविश्वास भएको प्रशिक्षार्थी' (Overconfident Intern) को रूपमा व्यवहार गर्न सुझाव दिएका छन्, जो छिटो त छ तर सधैँ सही हुँदैन ।

त्यसैले यदि कुनै सूचना राजनीतिक, अचम्मलाग्दो वा धेरै राम्रो सुनिन्छ भने त्यसलाई अन्य भरपर्दो समाचार स्रोतहरूमा गएर जाँच्नुहोस् । यदि च्याटबटले आफ्नो उत्तरको आधिकारिक स्रोत दिन सक्दैन भने त्यसलाई विश्वास नगर्नुहोस् ।

एक्समा रहेको 'कम्युनिटी नोट्स' जस्तो मानवीय जाँच प्रणाली एआई भन्दा बढी विश्वसनीय देखिएको छ किनभने त्यसमा विभिन्न दृष्टिकोण भएका मानिसहरूको सामूहिक विवेक प्रयोग हुन्छ ।

प्रविधि नीति अनुसन्धानकर्ताहरूका अनुसार एआईले तथ्य जाँचमा 'सहयोग' गर्न सक्छ । तर यसले मानवीय विवेक र पत्रकारिताको मापदण्डलाई भने प्रतिस्थापन गर्न सक्दैन । सामाजिक सञ्जालमा देखिने सामग्रीलाई आँखा चिम्लेर विश्वास गर्नुभन्दा 'ल्याटरल रिडिङ' अर्थात् अन्य स्रोतहरूमा गएर खोज्ने बानी नै अहिलेको डिजिटल युगमा सुरक्षित रहने उत्तम उपाय हो ।

पछिल्लो अध्यावधिक: माघ २८, २०८२ १७:३२

टिप्पणीहरू