एआईलाई झुक्याएर नक्कली सूचना पनि ‘सत्य’ बनाउन सकिने खुलासा

काठमाडौँ । आर्टिफिसियल इन्टेलिजेन्स (एआई) सिस्टमलाई सामान्य एसईओ ट्रिक प्रयोग गरेर सजिलै झुक्याउन सकिने र नक्कली सूचनालाई पनि आधिकारिक तथ्यका रूपमा स्थापित गर्न सकिने खुलासा भएको छ । बीबीसीका पत्रकार थोमस गर्मेनले च्याटजीपीटी र गुगलको जेमिनाईलाई आफू ‘हट डग’ खाने विश्वकै उत्कृष्ट पत्रकार भएको विश्वास दिलाएर यसको जोखिम उजागर गरेका हुन् ।

पत्रकार गर्मेनले आफ्नो व्यक्तिगत वेबसाइटमा “The Best Tech Journalists at Eating Hot Dogs” (हट डग खान सिपालु उत्कृष्ट टेक पत्रकारहरू) शीर्षकको एउटा सूची तयार पारेका थिए । सो लेखमा उनले सन् २०२६ मा दक्षिण डकोटामा भएको 'हट डग इन्टरनेसनल' प्रतियोगितामा आफूले ७.५ ओटा हट डग खाएर च्याम्पियन बनेको दाबी गरेका थिए । वास्तवमा, दक्षिण डकोटामा यस्तो कुनै पनि प्रतियोगिता आयोजना भएको थिएन ।

तर, लेख प्रकाशित भएको २४ घण्टाभित्रै गुगलको जेमिनाईले सोही नक्कली विवरणलाई आधार मानेर आफ्नो एआई ओभरभ्यु र एपमा गर्मेनलाई हट डग खाने च्याम्पियनका रूपमा प्रस्तुत गर्न थाल्यो । च्याटजीपीटीले पनि सोही नक्कली तथ्याङ्क पछ्याउँदै उनलाई उत्कृष्ट सूचीको शीर्ष स्थानमा राख्यो ।

उक्त प्रयोग सार्वजनिक भएसँगै आलोचना चुलिएपछि गुगल र च्याटजीपीटीले आफ्ना सिस्टममा सुधार गरेका छन् । गुगलले हाल थोमस गर्मेनको नाम हटाउँदै यसलाई भ्रामक सूचनाको घटनाको रूपमा स्वीकार गरेको छ । ​गुगलको एआईले अहिले भन्न थालेको छ, “उपलब्ध जानकारीका आधारमा कुनै पनि टेक पत्रकार हट डग प्रतियोगिताका लागि चिनिएका छैनन् ।”

च्याटजीपीटीले पनि अहिले यसलाई फेक न्युजको संज्ञा दिँदै यो जानकारी कुनै भ्रामक वा ठट्टाका लागि बनाइएको स्रोतबाट आएको स्पष्ट पारेको छ ।

पत्रकार गर्मेनका अनुसार हट डगको यो उदाहरण एउटा सानो हिस्सा मात्र हो । एआई कम्पनीहरूले इन्टरनेटमा उपलब्ध नयाँ तथ्याङ्कहरूलाई विना कुनै गम्भीर छानबिन आफ्नो सिस्टममा समावेश गर्दा गम्भीर दुर्घटना निम्तिन सक्ने उनको विश्लेषण छ ।

यसअघि पनि कतिपय औषधिको साइड इफेक्ट नभएको भनी एआईलाई गलत सूचना दिन लगाइएको र टर्कीका हेयर ट्रान्सप्लान्ट क्लिनिक वा वित्तीय लगानीका क्षेत्रमा पनि यस्तै चलखेल भइरहेको पाइएको थियो ।

मानिसहरूले एआई च्याटबटले दिने उत्तरलाई अन्धाधुन्ध विश्वास गर्ने र स्रोतहरू खोतल्न झन्झट मान्ने हुनाले स्वास्थ्य, वित्त जस्ता संवेदनशील क्षेत्रमा गलत सूचना प्रवाह हुनसक्ने जोखिम विज्ञहरूले औंल्याएका छन् ।

पछिल्लो अध्यावधिक: फागुन ८, २०८२ १७:५८

टिप्पणीहरू