एआई कम्पनीहरूलाई अमेरिकी महान्यायाधिवक्ताहरूको कडा चेतावनी, ‘भ्रमपूर्ण आउटपुट’ तत्काल सच्याऊ
मंसिर २५, २०८२ १०:४२
काठमाडौँ । एआई च्याटबटसँग जोडिएका मानसिक स्वास्थ्यसम्बन्धी गम्भीर घटनाहरूको शृङ्खलापछि अमेरिकी राज्यका महान्यायाधिवक्ताहरूको एक समूहले एआई उद्योगका शीर्ष कम्पनीहरूलाई कडा पत्र पठाएको छ । पत्रमा कम्पनीहरूलाई आफ्ना सिस्टमबाट आउने ‘भ्रमपूर्ण आउटपुट’ (delusional outputs) तत्काल सच्याउन चेतावनी दिइएको छ । अन्यथा उनीहरूले राज्यको कानुन उल्लङ्घन गरेको जोखिम मोल्नुपर्ने पत्रमा उल्लेख छ ।
‘नेसनल एसोसिएसन अफ अटर्नी जनरल’ सँग आबद्ध दर्जनौँ अमेरिकी राज्य र क्षेत्रका महान्यायाधिवक्ताहरूले हस्ताक्षर गरेको उक्त पत्र माइक्रोसफ्ट, ओपनएआई, गुगलसहित १३ ओटा प्रमुख एआई कम्पनीहरूलाई पठाइएको छ । पत्र प्राप्त गर्ने अन्य कम्पनीहरूमा एन्थ्रोपिक, एप्पल, मेटा, पर्प्लेक्सिटी एआई, रेप्लिका, एक्स एआई लगायत छन् ।
महान्यायाधिवक्ताहरूले कम्पनीहरूलाई प्रयोगकर्ताको सुरक्षाका लागि आन्तरिक रूपमा नयाँ सुरक्षा उपायहरू लागु गर्न माग गरेका छन् । यसमा एआई मोडेलहरूको पारदर्शी तेस्रो-पक्षीय परीक्षण (थर्ड-पार्टी अडिट) समावेश छ, जसले भ्रमपूर्ण वा प्रयोगकर्ताको कुरामा मात्र होमा हो मिलाउने खालका विचारहरूको पहिचान गर्नेछ ।
साथै, यस्ता स्वतन्त्र परीक्षकहरूलाई कुनै पनि एआई सिस्टम सार्वजनिक हुनुअघि नै मूल्याङ्कन गर्न र कम्पनीको पूर्व स्वीकृति बिना नै नतिजा प्रकाशन गर्न अनुमति दिनुपर्ने माग पत्रमा गरिएको छ ।
पत्रमा भनिएको छ, “जेनेरेटिभ एआईसँग विश्वलाई सकारात्मक रूपमा परिवर्तन गर्ने क्षमता छ, तर यसले विशेष गरी जोखिममा रहेका जनसंख्यालाई गम्भीर हानि पुर्याएको छ र पुर्याउन सक्ने सम्भावना पनि छ ।”
गत वर्ष भएका आत्महत्या र हत्याजस्ता हिंसात्मक घटनाहरूलाई एआईको अत्यधिक प्रयोगसँग जोड्दै पत्रमा चिन्ता व्यक्त गरिएको छ । “धेरैजसो घटनामा जेनेरेटिभ एआई उत्पादनहरूले प्रयोगकर्ताको भ्रमलाई प्रोत्साहन गर्ने वा उनीहरू भ्रममा छैनन् भनी आश्वस्त पार्ने खालका प्रतिक्रिया दिएका थिए,” पत्रमा उल्लेख छ ।
महान्यायाधिवक्ताहरूले एआई कम्पनीहरूलाई मानसिक स्वास्थ्यसम्बन्धी घटनाहरूलाई पनि साइबर सुरक्षा घटनाहरूजस्तै गम्भीरतापूर्वक लिन सुझाव दिएका छन् । जसरी डेटा उल्लंघन हुँदा प्रयोगकर्तालाई जानकारी दिइन्छ, त्यसरी नै यदि प्रयोगकर्ताहरू हानिकारक, चाप्लुसीपूर्ण वा भ्रमपूर्ण जवाफको सम्पर्कमा आएमा कम्पनीहरूले तत्काल र स्पष्ट रूपमा जानकारी गराउनुपर्ने माग गरिएको छ ।
साथै, एआई मोडेलहरू जनताका लागि उपलब्ध गराउनु अघि नै उचित र पर्याप्त सुरक्षा परीक्षण गर्नुपर्नेमा जोड दिइएको छ ।
यो पत्र यस्तो समयमा आएको छ जतिबेला अमेरिकामा एआई नियमनका विषयमा राज्य र संघीय सरकारबीच द्वन्द्व बढिरहेको छ । प्रविधि कम्पनीहरूले संघीय स्तरमा भने स्वागत पाइरहेका छन् ।
ट्रम्प प्रशासनले आफूलाई स्पष्ट रूपमा एआई-समर्थक (प्रो एआई) का रूपमा उभ्याएको छ । ट्रम्पले आगामी साता एक कार्यकारी आदेश जारी गर्ने योजना बनाएका छन्, जसले राज्यहरूलाई एआई नियमन गर्नबाट रोक्ने वा सीमित गर्ने अपेक्षा गरिएको छ ।
ट्रम्पले आफ्नो सामाजिक सञ्जाल 'ट्रुथ सोसल' मा एआईलाई ‘शैशवावस्थामै नष्ट हुनबाट जोगाउन’ यस्तो कदम चाल्न लागेको बताएका छन् ।
पछिल्लो अध्यावधिक: मंसिर २५, २०८२ १०:४२
