एलन मस्कको ग्रोक एआईद्वारा एक्समा यौनजन्य सामग्रीको बाढी, गुगल र एप्पल एप स्टोरबाट हट्नसक्ने

काठमाडौँ । एलन मस्कको एआई च्याटबट ‘ग्रोक’ को प्रयोग गरी सामाजिक सञ्जाल एक्समा हजारौँ यौनजन्य तस्बिर फैलिने क्रम तीव्र गतिमा बढेको छ । मस्कको एआई कम्पनी एक्सएआईले सञ्चालन गरेको ग्रोकले वयस्क र नाबालिगका समेत अश्लील तस्बिर तयार पार्न थालेपछि एप्पल र गुगलले एक्सलाई आफ्नो एप स्टोरबाट हटाउन सक्ने जोखिम बढेको हो ।

सामाजिक सञ्जाल एक्समा कुनै पनि फोटोमा ग्रोकलाई मेन्सन गरी लुगा हटाउने प्रम्ट दिँदा ग्रोकले क्षणभरमै फोटो तयार पारि पोस्ट गरिदिन्छ । यसरी ग्रोकले सिर्जना गरेका कतिपय सामग्रीले एक्सको आफ्नै नीति मात्र नभई एप्पलको एप स्टोर र गुगल प्ले स्टोरका कम्युनिटी गाइडलाइन्सको समेत उल्लङ्घन गरेका छन् । 

एप्पल र गुगल दुवैले बाल यौन दुर्व्यवहार सामग्री र सहमति बिनाका अश्लील सामग्री फैलाउने एपलाई प्रतिबन्ध लगाउँदै आएका छन् । एप्पलको नीतिमा ‘यौनजन्य वा अश्लील सामग्री’ र ‘अपमानजनक वा हानिकारक सामग्री’ भएका एपलाई अनुमति नदिने व्यवस्था छ ।

त्यस्तै गुगल प्ले स्टोरले ‘यौनजन्य हिंस्रक व्यवहारलाई बढावा दिने’ वा ‘सहमति बिनाका यौनजन्य सामग्री वितरण गर्ने’ एपलाई प्रतिबन्धित गरेको छ । यसअघि बीबीसी र ४०४ मिडियाको अनुसन्धानपछि एप्पल र गुगलले महिलाको तस्बिरलाई अश्लील बनाउने कैयौँ ‘न्युडिफाई’ एप हटाइसकेका छन् ।

एक्सले ३ जनवरीमा एक सार्वजनिक विज्ञप्ति जारी गर्दै अवैध सामग्री विरुद्ध कारबाही गर्ने दाबी गरेको थियो । “ग्रोक प्रयोग गरेर अवैध सामग्री बनाउने जोकोहीलाई पनि अवैध सामग्री अपलोड गरे सरहकै कारबाही हुनेछ,” कम्पनीले उल्लेख गरेको छ ।

सहमति बिनाका यौनजन्य सामग्रीको प्रसार रोक्न संस्थाहरूलाई सिकाउने समूह ‘इन्ड ट्याब’ (EndTAB) की निर्देशक स्लोन थम्पसनले एप्पल र गुगलले एक्स र ग्रोकविरुद्ध कारबाही गर्नु ‘पूर्ण रूपमा उपयुक्त’ हुने बताए । उनले वायर्ड म्यागजिनलाई भनेका छन्, “निजी कम्पनीसँग यस्ता विषयमा छिटो प्रतिक्रिया दिने अधिकार हुन्छ, किनकि कानुनी प्रक्रिया र मुद्दा मामिलामा धेरै समय लाग्छ ।”

तथ्याङ्क अनुसार ग्रोकबाट उत्पादित अश्लील तस्बिरको सङ्ख्या पछिल्लो दुई हप्तामा निकै बढेको छ । ब्लुमबर्गका अनुसार ५ र ६ जनवरीको बीचमा ग्रोकले प्रतिघण्टा औसत ६,७०० वटा यौनजन्य तस्बिर सिर्जना गरेको थियो । अर्का एक विश्लेषकले ३१ डिसेम्बरका दुई घण्टामा मात्रै ग्रोकले बनाएका १५ हजार भन्दा बढी तस्बिरका लिङ्क सङ्कलन गरेका थिए ।

युरोपेली सङ्घ (ईयू) का प्रवक्ताले एक्समा ग्रोकले तयार पारेका यस्ता सामग्रीलाई ‘अवैध’ र ‘भयवह’ भन्दै चिन्ता व्यक्त गरेका थिए । उनले रोयटर्ससँग कुरा गर्दै भने, “यस्ता सामग्रीलाई युरोपमा कुनै स्थान छैन ।” युरोपेली सङ्घले एक्सलाई ग्रोकसँग सम्बन्धित सबै आन्तरिक कागजात र तथ्याङ्क सन् २०२६ को अन्त्यसम्म सुरक्षित राख्न आदेश दिएको छ । बेलायत, भारत र मलेसियाका नियामकले पनि यस विषयमा अनुसन्धान भइरहेको बताएका छन् ।

पछिल्लो अध्यावधिक: पुस २५, २०८२ १२:५३

टिप्पणीहरू