ग्रोकलाई अश्लील ‘प्रम्प्ट’ दिने प्रयोगकर्तालाई पनि अपराधी मान्दै एक्सले थाल्यो कडा कारबाही
पुस २०, २०८२ १७:४२
काठमाडौँ । सामाजिक सञ्जाल एक्सले आफ्नो एआई प्लेटफर्म ग्रोकमार्फत अवैध सामग्री उत्पादन गर्ने वा खोज्ने प्रयोगकर्तालाई कडा कारबाही गर्ने चेतावनी दिएको छ । एक्सको सुरक्षा टोलीले आइतबार एक सूचना जारी गर्दै अवैध गतिविधिमा संलग्न हुनेहरूलाई प्लेटफर्मबाट स्थायी रूपमा प्रतिबन्ध लगाउने बताएको हो ।
एक्सका अनुसार बाल यौन दुर्व्यवहार सामग्री लगायतका कुनै पनि गैरकानुनी सामग्रीहरू प्लेटफर्मबाट हटाउन कम्पनी आक्रामक रूपमा लागिपरेको छ । यस्ता सामग्री पोस्ट गर्ने वा फैलाउने अकाउन्टहरूलाई स्थायी रूपमा सस्पेन्ड गरिने र आवश्यकता परेको खण्डमा स्थानीय सरकार तथा कानुनी निकायहरूसँग समन्वय गरी कारबाही अगाडि बढाइने एक्सले स्पष्ट पारेको छ ।
विशेषगरी, एक्सको आफ्नै एआई ग्रोक प्रयोग गरेर अवैध सामग्री बनाउन खोज्नेहरूमाथि कम्पनीले कडा नीति अख्तियार गरेको छ । “कसैले ग्रोकलाई अवैध सामग्री बनाउन प्रम्प्ट दिन्छ भने उसलाई पनि अवैध सामग्री अपलोड गर्ने व्यक्ति सरह नै कारबाही गरिनेछ,” सेफ्टी टोलीले भनेको छ । यसको अर्थ, प्रयोगकर्ताले आफैँले अवैध सामग्री इन्टरनेटबाट ल्याएर अपलोड गर्नु वा एआईलाई त्यस्तो सामग्री बनाउन लगाउनुलाई एक्सले समान प्रकृतिको अपराध मान्नेछ र दुवै अवस्थामा उस्तै कडा कारबाही हुनेछ ।
एक्सले आफ्ना नियमहरू र कारबाहीका विभिन्न प्रक्रियाहरूबारे विस्तृत जानकारी लिनका लागि प्रयोगकर्ताहरूलाई हेल्प पेजमा रहेका एक्स नियमहरू अध्ययन गर्न समेत आग्रह गरेको छ । पछिल्लो समय एआईको दुरुपयोग गरी भ्रामक र आपत्तिजनक सामग्रीहरू उत्पादन हुने क्रम बढेपछि एक्सले आफ्नो सुरक्षा नीतिमा थप कडाइ गरेको देखिएको छ ।
एलन मस्कले पनि ग्रोक प्रयोग गरी अवैध सामग्री बनाउन प्रम्प्ट दिने जोकोहीले पनि अवैध सामग्री अपलोड गरे सरहकै कानुनी परिणाम भोग्नुपर्ने भन्दै एक्समा पोस्ट राखेका छन् । मस्कले प्रयोगकर्ताको आदेशका लागि ग्रोकलाई मात्र जिम्मेवार ठहर्याउन नसकिने कुरा दोहोर्याएका छन् ।
We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.
— Safety (@Safety) January 4, 2026
Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO
एक्समा धेरै प्रयोगकर्ताले महिलाहरूको तस्बिरमा ग्रोकलाई ट्याग गर्दै ‘उनलाई बिकिनी लगाइदिनु’ वा ‘उनको लुगा खोलिदिनु’ जस्ता आपत्तिजनक प्रम्प्ट दिएका थिए । ट्याग गर्दा स्वतः प्रतिक्रिया दिने यस एआई च्याटबटले प्रयोगकर्ताका ती अनुरोध स्वीकार गर्दै सेलिब्रिटीदेखि सामान्य नागरिक र केही साना बालबालिका जस्ता देखिने व्यक्तिहरूको समेत सहमति बिनाका यौनजन्य तस्बिरहरू जेनेरेट गरेको थियो ।
ग्रोक विवादमा परेको यो पहिलो पटक भने होइन । ‘एन्टी-वोक’ एआई भनिएको यस च्याटबटको ‘अनहिन्ज्ड’ (unhinged) मोडले गत वर्ष भारतमा हिन्दी अपशब्द र महिला विरोधी गालीहरू प्रयोग गरेर हलचल मच्चाएको थियो । यसअघि पनि यसले एडोल्फ हिटलरको प्रशंसा गरेको, षडयन्त्रका सिद्धान्तहरू फैलाएको र अनुपयुक्त टिप्पणीहरू गरेको पाइएको थियो ।
तर, ग्रोकको तस्बिर उत्पादन गर्ने क्षमताको यसरी व्यापक स्तरमा दुरुपयोग भएको यो पहिलो घटना हो । यसले जेनेरेटिभ एआईले कसरी व्यक्तिको सहमति बिनाका अश्लील सामग्री र बाल यौन दुर्व्यवहारका सामग्री बनाउन सजिलो बनाउँदैछ भन्ने गम्भीर चुनौती थपेको छ । साथै, हानिकारक सामग्रीका लागि एआई कम्पनीहरूलाई जिम्मेवार ठहर्याउने कि नठहर्याउने र नियमनकारी निकायहरूले यस्ता ‘न्युडिफाई’ प्लेटफर्महरूलाई कसरी नियन्त्रण गर्ने भन्ने कानुनी प्रश्नहरू पनि उब्जिएका छन् ।
पछिल्लो अध्यावधिक: पुस २०, २०८२ १८:४०
