तस्बिरबाट कपडा हटाउन र यौनजन्य भिडिओ बनाउन सकिने फिचर आएपछि एलन मस्कको ‘ग्रोक’ एआई विवादमा
पुस १९, २०८२ १०:२०
काठमाडौँ । अर्बपति उद्यमी एलन मस्कको आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनी एक्सएआईले विकास गरेको च्याटबट ‘ग्रोक’ विवादमा आएको छ । शब्दकै भरमा फोटोबाट कपडा हटाइदिने र यौनजन्य बनाइदिने फिचर थपिएसँगै त्यसको दुरुपयोग हुन थालेपछि ग्रोकको आलोचना भएको हो ।
नयाँ अपडेट अनुसार एक्सका प्रयोगकर्ताले कुनै पनि तस्बिरलाई पोस्ट गर्ने व्यक्तिको अनुमति विना नै तत्कालै एडिट गर्न सक्छन् । ग्रोकलाई मेन्सन गरेर एडिट गर्न भनियो भने ग्रोकले तस्बिर तयार गरेर पोस्ट गरिदिन्छ । यसरी तस्बिर एडिट गरिँदा पोस्ट गर्ने प्रयोगकर्तालाई कुनै जानकारी वा सूचना समेत जाँदैन ।
सुरक्षा संयन्त्रको अभावका कारण ग्रोकले महिला, बालबालिका, विश्व नेता र सेलिब्रेटीको तस्बिरलाई आपत्तिजनक रूपमा परिवर्तन गरिरहेको देखिन्छ । एआई प्रमाणीकरण गर्ने कम्पनी ‘कपिलिक्स’का अनुसार सुरुमा एडल्ट कन्टेन्ट क्रियटरले आफ्नै तस्बिरमा यो फिचर प्रयोग गरेका थिए । तर, बिस्तारै अन्य प्रयोगकर्ताले विशेषगरी महिलाको तस्बिरमा उनीहरूको सहमति विना नै ‘बिकिनी’ लगाइदिने वा कपडा हटाउने जस्ता प्रम्प्ट प्रयोग गर्न थालेका छन् ।
सामाजिक सञ्जालमा बालबालिकाका तस्बिरलाई समेत यौनजन्य पोज र आपत्तिजनक पहिरनमा प्रस्तुत गरिएका उदाहरण फेला परेका छन् । एक घटनामा ग्रोकले १२ देखि १६ वर्षका किशोरीको तस्बिरलाई यौनजन्य स्वरूप दिएको थियो । अत्यधिक विवाद भएपछि जसलाई पछि एक्सले हटाएको छ। ग्रोक आफैले एक प्रयोगकर्तासँगको कुराकानीमा यसलाई ‘सेफगार्डको विफलता’ भन्दै एफबीआईमा रिपोर्ट गर्न समेत सुझाएको थियो । यद्यपि ग्रोकको उक्त जवाफ स्वचालित एआई प्रतिक्रिया मात्र भएको र कम्पनीको आधिकारिक धारणा नभएको बताइएको छ ।
यस विषय समाचार एजेन्सी रोयटर्सले प्रतिक्रिया माग्दा एक्स एआईले जवाफ दिँदै “लिगेसी मिडिया झुटो बोल्छ” भनेको छ । कम्पनीका मालिक एलन मस्क आफैले पनि यस ट्रेन्डलाई बढावा दिएको देखिन्छ । मस्कले अभिनेता बेन एफ्लेकको तस्बिरमा आफ्नो अनुहार जोडेर बिकिनी लगाएको फोटो बनाउन ग्रोकलाई प्रम्प्ट दिएका थिए । पछि उनले एउटा टोस्टरलाई बिकिनी लगाइदिएको फोटो शेयर गर्दै “ग्रोकले जेमा पनि बिकिनी लगाइदिन सक्छ” भन्दै ठट्टा गरेका थिए ।
विज्ञहरूका अनुसार यस्ता डिपफेक तस्बिरले अमेरिकी कानुन र एक्सएआईको आफ्नै प्रयोगकर्ता नीतिको उल्लङ्घन गरेको पाइएको छ । गुगलको ‘भियो’ र ओपनएआईको ‘सोरा’ जस्ता अन्य एआई मोडेलले यस्ता आपत्तिजनक सामग्री उत्पादनमा कडा प्रतिबन्ध लगाएका छन् । तर, ग्रोकको खुकुलो सुरक्षा संयन्त्रले गर्दा इन्टरनेटमा यौनजन्य सामग्री त्यो पनि बिना अनुमतिका बढ्ने जोखिम ह्वात्तै बढेको छ ।
साइबर सुरक्षा कम्पनी ‘डिपस्ट्राइक’ को २०२४ को एक सर्वेक्षण अनुसार ४० प्रतिशत अमेरिकी विद्यार्थी कसै न कसैको डिपफेक बनेको बारे जानकार छन् । यीमध्ये पनि १५ प्रतिशत घटना सहमति विनाका आपत्तिजनक तस्बिरसँग सम्बन्धित छन् ।
पछिल्लो अध्यावधिक: पुस १९, २०८२ १०:२०
