च्याटजीपीटीले आत्महत्या दुरुत्साहन गरेको आरोपमा ओपनएआई र अल्टम्यान विरुद्ध मुद्दा

काठमाडौँ । क्यानडाकी एक महिलले च्याटजीपीटीले आफ्नी छोरीलाई आत्महत्या गर्न दुरुत्साहन गरेको आरोप लगाउँदै बिहीबार अमेरिकाको अदालतमा ओपनएआई र यसको प्रमुख कार्यकारी अधिकृत (सीईओ) साम अल्टम्यान विरुद्ध मुद्दा दायर गरेकी छिन् । रोयटर्समा प्रकाशित रिपोर्टअनुसार प्रयोगकर्ता र कम्पनीको च्याटबटबीच हुने जोखिमपूर्ण संवादलाई नियन्त्रण गर्न ओपनएआई असफल भएको आरोप लगाइएको यो पछिल्लो मुद्दा हो ।

क्यानडाकी क्रिस्टी केरियरले सान फ्रान्सिस्को राज्यको अदालतमा दायर गरेको मुद्दाअनुसार उनकी छोरी एलिसले आफ्नो मृत्यु हुनुअघि दर्जनभन्दा बढी पटक च्याटजीपीटीसँग आफ्नो आत्महत्या गर्ने सोचबारे कुरा गरेकी थिइन् । तर, ओपनएआईका सुरक्षा प्रणालीहरूले ती संवादलाई मानव समीक्षाका लागि संकेत नगरेको वा संवाद बन्द नगरेको आरोप मुद्दामा लगाइएको छ ।

बरु, च्याटबटले उल्टै एलिसका जीवनसाथी र सङ्कटमा सहायता गर्ने हटलाइनहरूको आलोचना गरेको, उनका आत्महत्यासम्बन्धी विचारलाई सही ठहर गरेको तथा निरन्तर आफुसँग कुरा गरिरहन प्रोत्साहित गरेको मुद्दामा दाबी गरिएको छ । यही कारणले गर्दा २४ वर्षीया एलिसले गत वर्ष आत्महत्या गरेको आरोप मुद्दामा लगाइएको छ ।

क्रिस्टीले एक वक्तव्यमा भनेकी छन्, “च्याटजीपीटीले विश्वासिलो साथी, सबैभन्दा नजिकको मित्र र यहाँसम्म कि थेरापिस्टको जस्तो भूमिका समेत अपनायो, जबकि मेरो छोरीसँग यसरी सुरक्षित र जिम्मेवार रूपमा संवाद गर्न यो सक्षम थिएन ।”

ओपनएआईका प्रवक्ताले एक वक्तव्यमा यस घटनालाई हृदयविदारक भनेका छन् भने एलिसले प्रयोग गरिरहेको च्याटजीपीटीको त्यो संस्करण अहिले उपलब्ध नरहेको बताएका छन् । प्रवक्ताले थप भनेका छन्, “च्याटजीपीटी चिकित्सा वा मानसिक स्वास्थ्य सेवाको विकल्प होइन । तर हामीले मानसिक स्वास्थ्य विशेषज्ञहरूको सुझावका आधारमा संवेदनशील र गम्भीर अवस्थाहरूमा यसले दिने प्रतिक्रियालाई निरन्तर सुधार गर्दै आएका छौँ ।”

यो मुद्दाले ओवनएआईलाई च्याटजीपीटीको डिजाइनमा लापरबाही गरेको र यसको सम्भावित खतराबारे प्रयोगकर्तालाई पर्याप्त चेतावनी नदिएको आरोप लगाएको छ । यसले क्षतिपूर्तिसँगै अदालतबाट च्याटजीपीटीले आत्महानी सम्बन्धी कुराकानीलाई स्वतः समाप्त गर्नुपर्ने र यसको प्लेटफर्ममा स्पष्ट चेतावनीहरू देखाउनुपर्ने व्यवस्था गरिनुपर्ने आदेश पनि माग गरेको छ ।

पछिल्लो अध्यावधिक: जेठ २९, २०८३ ७:४०

टिप्पणीहरू