यस्ता डिपफेक एपहरूले जेनेरेट गरिरहेका सामग्रीले पछिल्लो समय सामाजिक विकृति बढाइरहेका छन् । सामान्य प्रयोगकर्ताले मनोरञ्जन वा प्रयोगका लागि प्रयोग गरेजस्तो देखिए पनि यी एपमार्फत महिलाको शरीरलाई वस्तुजस्तो प्रस्तुत गरिनु, यौनिक सन्दर्भमा प्रयोग गरिनु र कृत्रिम रूपमा उत्तेजक दृश्य बनाइनुले समाजमा गलत सोच र दृष्टिकोण बढाउने खतरा छ । विशेषगरी किशोर–किशोरीहरू यस्ता सामग्रीप्रति आकर्षित हुँदा उनीहरूमा यौनिकताप्रति विकृत धारणा बस्ने सम्भावना रहन्छ । यसले महिलाप्रतिको सम्मान घटाउने मात्र नभई डिजिटल उत्पीडन र साइबर अपराधको जोखिम पनि बढाउने विश्लेषण गरिएको छ । यस्ता प्रविधिले सिर्जना गर्ने दृश्यहरू यथार्थजस्तो देखिए पनि वास्तविकता नहुँदा झूटको सहारा लिएर चरित्रहत्या वा बदनाम गर्नेसम्मका घटना हुनसक्ने देखिन्छ ।
थरीथरीका डिपफेक एपः कपाल रङ्गाउने, ठुला स्तनसँगै हिप हल्लाइरहेको देखाउने, बिकिनी लाइदिने
जेठ २२, २०८२ २२:१२
काठमाडौँ । टिकटकमा लामो समयसम्म स्क्रोल गर्दा तपाईँले सायद एआई भिडिओ एपका विज्ञापनहरू देख्नुभएको होला । एउटा विज्ञापनमा एक महिला आफ्नो प्रेमीसँगको तस्बिर अपलोड गर्छिन् र तुरुन्तै एआईको कमालले उनीहरूलाई चुम्बन गरिरहेको देखाउँछ । अर्कोमा, एउटी महिलालाई सामान्य लुगामा देखाएर "के तपाईँ नीलो बिकिनीमा उनी कस्ती देखिन्छिन् भन्ने जान्न चाहनुहुन्छ ?" भनेर सोधिन्छ । त्यसपछि उनलाई बिकिनीमा देखाइन्छ ।
बजारमा Boom.AI, VideoAI, DreamVid जस्ता दर्जनौँ एआई भिडिओ एपहरू उपलब्ध छन् । यी एपले विभिन्न भिडिओ टेम्प्लेटहरू प्रदान गर्छन् । प्रयोगकर्ताले एक वा दुई तस्बिर अपलोड गरेर कपालको रङ्ग परिवर्तन गर्न, कुनै चिन्ह समात्न वा ड्र्यागन बल जेड (जापानी एनिमेटेड सिरिज) को पात्र गोकुलाई अँगालो हाल्न सक्छन् ।
यति मात्र होइन, अत्यन्तै अनुपयुक्त र अप्ठ्यारा विकल्पहरू पनि यी एपहरूमा हुन्छन् । जस्तै DreamVid एपमा Enhance विकल्प मार्फत कसैको ठुलो स्तन देखाउन सकिन्छ । सोही एपको AI Dancing फिचरमा छोटा लुगा लगाएका महिलाहरूले आकर्षक ढङ्गले हिप हल्लाइरहेको देखिन्छ । आउटफिट विकल्पहरूमा १२ मध्ये ६ ओटा कुनै न कुनै प्रकारका बिकिनी वा स्विमसुट हुन्छन् । बाँकीमा एकदमै थोरै वस्त्र, अर्ध वस्त्र, स्कुल गर्ल युनिफर्म जस्ता लुगाहरू छन् । अचम्मको कुरा, यी मध्ये कुनै पनि पुरुषहरूको लागि लक्षित छैनन् ।
विज्ञापनमा देखाइने भिडिओहरू असहज लाग्ने गरेरै यथार्थपरक जस्ता देखिन्छन् र एप डाउनलोड गर्न प्रेरित गर्छन् । तर, आफैँले प्रयोग गर्दा एआईका कमीकमजोरी स्पष्ट देखिन्छन् । चुम्बनहरू अप्ठ्यारा लाग्छन् र अँगालो हाल्ने दृश्यहरू कसिला देखिन्छन् हात र खुट्टाको स्थान पनि अनौठो हुन्छ । कपडा, कपाल, सामान र अनुहारका विशेषताहरू भिडिओको बीचमा हराउने वा परिवर्तन हुने गर्छन् ।
एआई प्रणालीहरूमा लामो समयदेखि जातीय पूर्वाग्रहको समस्या रहेको छ र फरक जातिका विषयहरूलाई जोड्दा यी एपहरू प्रायः अलमलिने गर्छन् ।
सामान्यतया यस्ता एपहरू निःशुल्क प्रयोग गर्न भने सकिँदैन । अधिकांशले साप्ताहिक २.९९ देखि ७.९९ डलर वा वार्षिक ४९.९९ देखि ६९.९९ डलरसम्मको सब्सक्रिप्सन शुल्क लिन्छन् । जसले भिडिओ बनाउन सीमित क्रेडिट पनि प्रदान गर्छन् ।
यस्ता एप बनाउने कम्पनीहरूबारे त्यति धेरै जानकारी उपलब्ध छैन । उदाहरणका लागि Videa: AI Video Maker इस्तानबुल, टर्कीको प्योर याज्लिम लिमिटेड सर्केटीबाट सञ्चालित छ । Boom.AI लाई नाइनजी नामक कम्पनीले चलाउँछ, जसले आफूलाई ‘नन-गेमिङ एप पब्लिसर’ भएको बताउँछ । DreamVid को सञ्चालन शेन्जेन आईमाईफोन टेक्नोलोजी को.लिमिटेडले गर्छ ।
यी एपहरू ओपनएआईको सोरा वा गुगलको भियो (Veo) जस्ता ठुला भिडिओ जेनेरेटरहरूको तुलनामा निकै सरल र बढी अनुमति दिने खालका छन् । सोरा र भियो जस्ता प्लेटफर्महरूमा कन्टेन्ट पोलिसी कडा छन् । उदाहरणका लागि गुगलको भियोले यौन उत्तेजक, असहमतिपूर्ण कार्यहरू वा हानिकारक रूढीवादलाई बढावा दिने प्रम्प्टहरू अस्वीकार गर्छ । तर यी एपहरूमा भने तपाईँले केवल केही तस्बिरहरू अपलोड गरेकै भरमा चाहेको कुरा प्रदान गर्छन्
डिपफेकमार्फत नग्नता सिर्जना गर्ने यस्ता एपहरूले महिला र किशोरीहरूमाथि उत्पीडनका लागि मद्दत पुर्याइरहेका छन् । तर प्रमुख प्रविधि कम्पनीहरूले यस्ता एपहरूलाई हटाउन ढिलाइ गरिरहेका छन् । गुगल प्ले स्टोरले यौन सन्तुष्टिको उद्देश्यले कन्टेन्ट वा सेवा समावेश गर्ने एपहरूलाई अनुमति दिँदैन, न त यौनजन्य विज्ञापनहरूलाई नै स्थान दिन्छ ।
त्यस्तै एप्पलको एप स्टोर गाइडलाइनले एपहरूलाई ‘आपत्तिजनक, असंवेदनशील, चिन्ताजनक, घृणा जगाउने, असाधारण रूपमा खराब स्वादको, वा केवल डरलाग्दो’ सामग्री समावेश गर्न नदिने बताउँछ ।
यस्तै मेटा (फेसबुक/इन्स्टाग्राम) ले नग्नता र यौन शोषण विरुद्ध स्पष्ट नियमहरू भएको बताएको छ र सूचना पाएमा त्यस्ता विज्ञापनहरू हटाइने उल्लेख छ । तर, यी एपहरू र तिनका विज्ञापन एउटा हटेपछि अर्को तुरुन्तै देखा पर्ने गरेका छन् ।
पछिल्लो अध्यावधिक: जेठ २२, २०८२ २२:३४
