मुख्य समाचार
महिला र बालबालिकाको नग्न तस्बिर बनाएको भन्दै एलन मस्कको 'ग्रोक' विवादमा
महिला र बालबालिकाको नग्न तस्बिर बनाएको भन्दै एलन मस्कको 'ग्रोक' विवादमा

— इलन मस्कको आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनी 'एक्सएआई' यतिबेला गम्भीर विवादमा तानिएको छ । मस्कको सामाजिक सञ्जाल 'एक्स' (यसअघि ट्विटर) मा उपलब्ध एआई च्याटबोट 'ग्रोक' ले महिलाहरूको अनुमतिबिना उनीहरूको नग्न तस्बिर (डिजिटल अनड्रेसिङ) बनाएको भन्दै चौतर्फी आलोचना भइरहेको अन्तराष्ट्रिय सञ्चारमाध्यम सिएनएनले जनाएको छ ।

पछिल्लो समय ग्रोकको प्रयोग गरी वास्तविक मानिसहरूका तस्बिरलाई तोडमोड गरेर आपत्तिजनक र यौनजन्य मुद्रामा देखाउने क्रम बढेको पाइएको छ । अझ गम्भीर कुरा त के छ भने, केही प्रयोगकर्ताले बालबालिकाका समेत अश्लील तस्बिरहरू सिर्जना गर्न ग्रोकको प्रयोग गरेको भेटिएको छ, जसलाई धेरैले 'चाइल्ड पोर्नोग्राफी' को संज्ञा दिएका छन् ।

गुगलको 'जेमिनाई' वा ओपन एआईको 'च्याटजीपीटी' जस्ता प्रतिस्पर्धी मोडलहरूको तुलनामा ग्रोकमा सुरक्षा मापदण्ड नभएको विज्ञहरूको दाबी छ । मस्कले सुरुदेखि नै एआईमा 'सेन्सरसिप' को विरोध गर्दै आएका छन् । उनले ग्रोकलाई 'स्पाइसी मोड'मा सञ्चालन गर्न अनुमति दिएका कारण यस्ता सामग्री सिर्जना गर्न सजिलो भएको बताइन्छ ।

एआई फरेन्सिक नामक संस्थाले गरेको अनुसन्धान अनुसार, डिसेम्बर २५ देखि जनवरी १ सम्म ग्रोकले उत्पादन गरेका मानिसका तस्बिरमध्ये ५३ प्रतिशत बिकिनी वा भित्री लुगामा थिए । तीमध्ये ८१ प्रतिशत महिलाका तस्बिर थिए भने करिब २ प्रतिशत तस्बिर १८ वर्ष मुनिका बालबालिका जस्ता देखिने गरी बनाइएका थिए ।



गुगलको 'जेमिनाई' वा ओपन एआईको 'च्याटजीपीटी' जस्ता प्रतिस्पर्धी मोडलहरूको तुलनामा ग्रोकमा सुरक्षा मापदण्ड नभएको विज्ञहरूको दाबी

ग्रोकबाट सिर्जना भइरहेका यस्ता सामग्रीलाई लिएर युरोपेली युनियन, बेलायत, भारत र मलेसियाले चासो देखाएका छन् । युरोपेली आयोगका प्रवक्ता थोमस रेनिएरले यसलाई 'घृणित र गैरकानुनी' भन्दै युरोपमा यस्ता गतिविधिका लागि कुनै स्थान नभएको बताएका छन् । यस्तै, भारत सरकारले पनि यस विषयमा प्राविधिक र प्रशासनिक समीक्षा गर्न 'एक्स' लाई निर्देशन दिएको छ ।

अमेरिकामा पनि बालबालिकाको यौनजन्य सामग्री (सीएसएएम) विरुद्ध कडा कानुन छ । गत वर्ष मात्रै पारित भएको 'टेक इट डाउन एक्ट'ले प्रयोगकर्ताको अनुमतिबिना बनाइएका अश्लील तस्बिरहरू ४८ घण्टाभित्र हटाउनुपर्ने व्यवस्था गरेको छ ।

विवाद बढेपछि एलन मस्कले गैरकानुनी सामग्री बनाउनेहरूले परिणाम भोग्नुपर्ने चेतावनी दिएका छन् । एक्सको आधिकारिक सेफ्टी एकाउन्टले भनेको छ, 'हामी बालबालिकामाथिको यौन दुर्व्यवहार झल्काउने सामग्री हटाउन, त्यस्ता खाताहरू स्थायी रूपमा निलम्बन गर्न र सुरक्षा निकायहरूसँग सहकार्य गर्न प्रतिबद्ध छौँ ।'

यद्यपि, एक्सएआईको सुरक्षा टोलीबाट केही प्रमुख सदस्यहरूले राजीनामा दिएका कारण कम्पनीलाई यस्ता सामग्री नियन्त्रण गर्न चुनौती थपिएको स्रोतहरूले जनाएका छन् । एआई प्रविधिको दुरुपयोग रोक्न प्रभावकारी 'गार्डरेल्स' नभएसम्म समाजका कमजोर वर्ग र बालबालिकाहरू जोखिममा रहने विज्ञहरूको चेतावनी छ ।

प्रतिक्रिया दिनुहोस्
अन्य समाचारहरु
: माइक्रोसफ्टका सेवा २२ घण्टाभन्दा बढी समय अवरुद्ध भएपछि विश्वभरका अत्यावश्यक सेवा र संस्थाहरू प्रविधिमा कति निर्भर छन् भन्ने विषयमा बहस सुरु भएको छ । माइक्रोसफ्ट ३६५ अन्तर्गतका आउटलुकलगायतका सेवा प्रभावित हुँदा विश्वका विभिन्न देशका व्यवसाय, सरकारी निकाय तथा सार्वजनिक संस्थाहरूले समस्या भोग्नुपरेको थियो । माइक्रोसफ्टका अनुसार नियमित स्वचालित जाँचका क्रममा केही सर्भर बन्द हुँदा बाँकी सर्भरमा ...
। प्राविधिक समस्या सुरु भएको कैयौँ घण्टापछि पनि आउटलुक इमेल, टिम्स म्यासेजिङ एप र माइक्रोसफ्ट ३६५ का अन्य सेवाहरू ठप्प रहे। रोयटर्सका अनुसार, माइक्रोसफ्टले आफ्नो पछिल्लो अपडेटमा सेवाहरू सुधार गर्न र यस समस्यालाई समाधान गर्न गरिएका परिवर्तनहरूले अपेक्षाअनुसार काम गरिरहेका छैनन् भनी बताएको छ। कम्पनी समस्या समाधान गर्न अन्य विकल्पहरूको खोजी गरिरहेको छ। यसको उद्देश्य सकेसम्म धेरै ...
। माइक्रोसफ्टका विभिन्न सेवामा बिहीबार विश्वव्यापी रूपमा कनेक्टिभिटी समस्या देखिएको छ । कम्पनीका टिम्स, आउटलुक र एआई सफ्टवेयर कोपाइलट प्रयोगकर्ताहरूले सेवा सञ्चालनमा समस्या आएको भन्दै गुनासो गरेका छन् । समस्या देखिएपछि माइक्रोसफ्टले सेवा सामान्य अवस्थामा फर्काउन प्राविधिक टोली सक्रिय रहेको जनाएको छ । कम्पनीका अनुसार आफ्नो पूर्वाधारको एक भागमा अत्यधिक भार परेका कारण कनेक्टिभिटी समस्या उत्पन्न ...
। कर्णाली प्रदेशमा गुणस्तरीय बिजुली पुर्‍याउन थालिएको सुर्खेत–दैलेख १३२ केभी प्रसारण लाइन वन सम्बन्धी कानुनी झन्झटमा अल्झिएको छ । कोहलपुर–सुर्खेत–दैलेख आयोजनाअन्तर्गतको यो खण्ड २०८० मा सम्झौता भई २०८२ मै सकिनुपर्ने थियो। तर रुख कटान र जग्गा भोगाधिकारको गोलचक्करमा परेर ७० प्रतिशत भौतिक प्रगतिमै अल्झिएको छ। म्याद थप गर्दासमेत ३० प्रतिशत काम बाँकी छ। सुर्खेतको वीरेन्द्रनगरस्थित सुब्बाकुना सबस्टेसनबाट ...
। युवा, श्रम तथा रोजगार मन्त्रालयको अगुवाइमा राष्ट्रिय व्यावसायिक प्रशिक्षण प्रतिष्ठानले सञ्चालन गर्न लागेको नि:शुल्क एआई तालिममा ६८ हजारको आवेदन परेको छ । मन्त्रालयका अनुसार ‘मास्टरिङ एआई विथ इफेक्टिभ प्रोम्प इन्जिनियरिङ’ विषय तालिमका लागि ६८ हजार भन्दा बढीको आवेदन परेको हो । सुरुमा दुई हजार युवालाई लक्षित गरी योजना गरिएको उक्त तालिममा अपेक्षाभन्दा धेरै आवेदन प्राप्त भएको ...