— इलन मस्कको आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनी 'एक्सएआई' यतिबेला गम्भीर विवादमा तानिएको छ । मस्कको सामाजिक सञ्जाल 'एक्स' (यसअघि ट्विटर) मा उपलब्ध एआई च्याटबोट 'ग्रोक' ले महिलाहरूको अनुमतिबिना उनीहरूको नग्न तस्बिर (डिजिटल अनड्रेसिङ) बनाएको भन्दै चौतर्फी आलोचना भइरहेको अन्तराष्ट्रिय सञ्चारमाध्यम सिएनएनले जनाएको छ ।
पछिल्लो समय ग्रोकको प्रयोग गरी वास्तविक मानिसहरूका तस्बिरलाई तोडमोड गरेर आपत्तिजनक र यौनजन्य मुद्रामा देखाउने क्रम बढेको पाइएको छ । अझ गम्भीर कुरा त के छ भने, केही प्रयोगकर्ताले बालबालिकाका समेत अश्लील तस्बिरहरू सिर्जना गर्न ग्रोकको प्रयोग गरेको भेटिएको छ, जसलाई धेरैले 'चाइल्ड पोर्नोग्राफी' को संज्ञा दिएका छन् ।
गुगलको 'जेमिनाई' वा ओपन एआईको 'च्याटजीपीटी' जस्ता प्रतिस्पर्धी मोडलहरूको तुलनामा ग्रोकमा सुरक्षा मापदण्ड नभएको विज्ञहरूको दाबी छ । मस्कले सुरुदेखि नै एआईमा 'सेन्सरसिप' को विरोध गर्दै आएका छन् । उनले ग्रोकलाई 'स्पाइसी मोड'मा सञ्चालन गर्न अनुमति दिएका कारण यस्ता सामग्री सिर्जना गर्न सजिलो भएको बताइन्छ ।
एआई फरेन्सिक नामक संस्थाले गरेको अनुसन्धान अनुसार, डिसेम्बर २५ देखि जनवरी १ सम्म ग्रोकले उत्पादन गरेका मानिसका तस्बिरमध्ये ५३ प्रतिशत बिकिनी वा भित्री लुगामा थिए । तीमध्ये ८१ प्रतिशत महिलाका तस्बिर थिए भने करिब २ प्रतिशत तस्बिर १८ वर्ष मुनिका बालबालिका जस्ता देखिने गरी बनाइएका थिए ।
गुगलको 'जेमिनाई' वा ओपन एआईको 'च्याटजीपीटी' जस्ता प्रतिस्पर्धी मोडलहरूको तुलनामा ग्रोकमा सुरक्षा मापदण्ड नभएको विज्ञहरूको दाबी
ग्रोकबाट सिर्जना भइरहेका यस्ता सामग्रीलाई लिएर युरोपेली युनियन, बेलायत, भारत र मलेसियाले चासो देखाएका छन् । युरोपेली आयोगका प्रवक्ता थोमस रेनिएरले यसलाई 'घृणित र गैरकानुनी' भन्दै युरोपमा यस्ता गतिविधिका लागि कुनै स्थान नभएको बताएका छन् । यस्तै, भारत सरकारले पनि यस विषयमा प्राविधिक र प्रशासनिक समीक्षा गर्न 'एक्स' लाई निर्देशन दिएको छ ।
अमेरिकामा पनि बालबालिकाको यौनजन्य सामग्री (सीएसएएम) विरुद्ध कडा कानुन छ । गत वर्ष मात्रै पारित भएको 'टेक इट डाउन एक्ट'ले प्रयोगकर्ताको अनुमतिबिना बनाइएका अश्लील तस्बिरहरू ४८ घण्टाभित्र हटाउनुपर्ने व्यवस्था गरेको छ ।
विवाद बढेपछि एलन मस्कले गैरकानुनी सामग्री बनाउनेहरूले परिणाम भोग्नुपर्ने चेतावनी दिएका छन् । एक्सको आधिकारिक सेफ्टी एकाउन्टले भनेको छ, 'हामी बालबालिकामाथिको यौन दुर्व्यवहार झल्काउने सामग्री हटाउन, त्यस्ता खाताहरू स्थायी रूपमा निलम्बन गर्न र सुरक्षा निकायहरूसँग सहकार्य गर्न प्रतिबद्ध छौँ ।'
यद्यपि, एक्सएआईको सुरक्षा टोलीबाट केही प्रमुख सदस्यहरूले राजीनामा दिएका कारण कम्पनीलाई यस्ता सामग्री नियन्त्रण गर्न चुनौती थपिएको स्रोतहरूले जनाएका छन् । एआई प्रविधिको दुरुपयोग रोक्न प्रभावकारी 'गार्डरेल्स' नभएसम्म समाजका कमजोर वर्ग र बालबालिकाहरू जोखिममा रहने विज्ञहरूको चेतावनी छ ।
