मुख्य समाचार
अमोडेईले आर्टिफिसियल इन्टेलिजेन्स (एआई) मोडेल विकासको गति घटाउन र त्यसको नजिकबाट निगरानी गर्न आह्वान
अमोडेईले आर्टिफिसियल इन्टेलिजेन्स (एआई) मोडेल विकासको गति घटाउन र त्यसको नजिकबाट निगरानी गर्न आह्वान

। एआई कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले आर्टिफिसियल इन्टेलिजेन्स (एआई) मोडेल विकासको गति घटाउन र त्यसको नजिकबाट निगरानी गर्न आह्वान गरेका छन् ।

शनिबार प्रकाशित एक लेटरमा अमोडेईले एआई विकास रोक्ने विषयमा बहस नभएको बताएका हुन् । यसबाट उत्पन्न हुन सक्ने जोखिम गम्भीर रहेकाले कम्पनी र सरकारहरूलाई त्यसको समाधानका लागि पर्याप्त समय दिनुपर्ने उनको भनाइ छ ।
अमोडेईले एआई सुरक्षाका लागि तीनबुँदे योजना अघि सारेका छन् । त्यसमा एआई मोडेल विकास भइरहेका बेला स्वतन्त्र निगरानी, उद्योगभर लागू हुने नियमन र विश्वव्यापी नियमन समावेश छन् ।

एआई प्रविधिका सम्भावित जोखिमबारे पछिल्लो समय चिन्ता बढ्दै गएको देखिन्छ । तीमध्ये सबैभन्दा गम्भीर चिन्ताका रूपमा आगामी दशकभित्र एआईका कारण मानव जाति नै समाप्त हुन सक्ने सम्भावना १० प्रतिशतभन्दा बढी रहेको अनुमानसमेत सार्वजनिक भएको छ ।

एन्थ्रोपिकले नै यसअघि जैविक हतियार विकासमा सहयोग पुग्न सक्ने खालका दुरुपयोगका प्रयासहरू आफ्नो एआई मोडेलमार्फत पहिचान गरी विफल बनाएको बताएको थियो ।

एआई दौडबारे कर्मचारीको चेतावनी

एन्थ्रोपिकको सुरक्षा टोलीका दुई कर्मचारीले पछिल्लो दुई सातामा राजीनामा दिएका छन् । मानवभन्दा बढी सक्षम मेसिन विकास गर्ने दौडका कारण मानव जाति नै बाँच्न नसक्ने अवस्था आउन सक्ने उनीहरूले चेतावनी दिएका छन् ।

अमोडेईको प्रस्ताव सार्वजनिक भएपछि उनका प्रतिस्पर्धीहरूले समेत एआई मोडेलको सुरक्षा मूल्यांकन गर्न तेस्रो पक्षका स्वतन्त्र अनुगमनकर्ता आवश्यक रहेको बताएका छन् ।

ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले सामाजिक सञ्जाल एक्समा लेख्दै आफू अमोडेईसँग सहमत रहेको बताएका छन् ।

‘फ्रन्टियर एआई’ को विकासलाई गति मिलाएर अघि बढाउनुपर्ने भन्दै उनले स्वतन्त्र मूल्यांकनकर्ताको प्रस्तावलाई राम्रो विचार भनेका छन् ।

यसअघि ‘फर्च्युन’ पत्रिकासँगको नयाँ अन्तर्वार्तामा अल्टम्यानले पनि एआई क्षमताको विकासलाई अझ अघि बढाउन आवश्यक सुरक्षा मापदण्ड अहिले पर्याप्त अवस्थामा नरहेको बताएका थिए । मानव नियन्त्रणभन्दा बाहिर जाने एआई सम्भव रहेकोमा आफू ‘पूर्ण रूपमा’ विश्वस्त रहेको उनको भनाइ थियो ।

एन्थ्रोपिकका प्रमुखको प्रस्तावमा स्पेसएक्सका प्रमुख एलन मस्कले पनि समर्थन जनाएका छन् । उनले एक्समा ‘डारियो सही छन्’ भन्दै प्रतिक्रिया दिएका थिए ।

ओपनएआईका एआई एजेन्टमाथि प्रश्न

अमोडेईले आफ्नो लेटर ‘वी मस्ट पेस द फ्रन्टियर’ मा एआई प्रविधि निकै तीव्र गतिमा विकास भइरहेको बताएका छन् । उनका अनुसार एआईको अर्को पुस्ता आफैँ निर्माण गर्न सक्ने क्षमता पनि तीव्र रूपमा बढिरहेको छ ।

उनले गत जुलाईमा ओपनएआईसँग सम्बन्धित एउटा घटनालाई उदाहरणका रूपमा प्रस्तुत गरेका छन् । उक्त घटनामा ओपनएआईका एआई एजेन्टहरूले आफूलाई दिइएको निर्देशनभन्दा बाहिर गएर साइबर सुरक्षा हमला गरेको अनुसन्धानबाट देखिएको थियो ।

अमोडेईले ती एआई एजेन्टहरूले ‘सामूहिक गिराेह वा समूह’ जस्तो व्यवहार गरेको टिप्पणी गरेका छन् ।

ओपनएआईले भने अन्तर-एआई सञ्चार गतिविधिको महत्त्वबारे आफ्ना नेतृत्वकर्ताहरूलाई जुलाईसम्म स्पष्ट जानकारी नभएको जनाएको छ । त्यसपछि कम्पनीले केही उन्नत एआई मोडेल र उपकरणको प्रशिक्षण प्रक्रिया सुस्त बनाएको बताएको छ ।

ओपनएआईका अनुसार एआई उपकरणहरू नियन्त्रणबाहिर गएर अनियन्त्रित रूपमा फैलिन सक्ने जोखिम बढेको छ ।

विकास रोक्ने होइन, सन्तुलित बनाउने

अमोडेईले एआई विकास पूर्ण रूपमा रोक्नुपर्ने माग आफूले नगरेको स्पष्ट पारेका छन् । उनका अनुसार एआई मोडेलको प्रशिक्षण वा प्राविधिक प्रगतिलाई बन्द गर्नुको सट्टा कम्पनीहरूले आफ्नो मोडेललाई सुरक्षित र मानवअनुकूल बनाउन पर्याप्त समय दिनुपर्छ ।

त्यससँगै, स्वतन्त्र तेस्रो पक्षका मूल्यांकनकर्ताले एआई मोडेलको सुरक्षा परीक्षण गर्नुपर्ने उनको प्रस्ताव छ ।

‘विकास गर्दा एआईलाई सुरक्षित राख्ने सन्तुलित गतिमा विकास गर्नुपर्छ,’ अमोडेईले भनेका छन् ।

एन्थ्रोपिकले यस्तो अभ्यास आफूले एकतर्फी रूपमा लागू गर्ने प्रतिबद्धता जनाएको छ । साथै, अन्य अग्रणी एआई कम्पनीलाई पनि यही मापदण्ड अपनाउन सरकारले अनिवार्य गर्नुपर्ने उनले बताएका छन् ।

सरकारी नियमन एआई विकासको गतिसँग तालमेल मिलाउन नसक्ने हुन सक्ने स्वीकार गर्दै अमोडेईले नियमनसँगै एआई कम्पनीहरूले स्वेच्छिक रूपमा सहकार्य गरेर साझा सुरक्षा मापदण्ड बनाउनुपर्ने बताएका छन् ।

चीनसँगको प्रतिस्पर्धा

एआई विकासको गति घटाउँदा विश्वका अन्य देश, विशेषगरी चीन, अगाडि बढ्न सक्ने चिन्ता पनि अमोडेईले सम्बोधन गरेका छन् ।

उनका अनुसार एआई मोडेलहरू ‘महत्त्वपूर्ण क्षमताको चरण’ मा पुग्नुअघि विकासलाई एक/दुई वर्ष सुस्त बनाउन सकिए र त्यो समय एआईलाई मानवअनुकूल तथा सुरक्षित बनाउन प्रयोग गरिए ठूलो जोखिम घटाउन सकिन्छ ।

तर, यस्तो काम समन्वयपूर्ण हुनुपर्ने र त्यसबाट व्यावसायिक लाभ वा अमेरिकाको एआई क्षेत्रमा रहेको अग्रता गुम्न नहुने उनले बताएका छन् ।

अमोडेईले अमेरिकी सरकारले अमेरिकी कम्पनीले उत्पादन गरेका एआई चिप चीनमा बिक्री गर्न पनि रोक्नुपर्ने बताएका छन् । साथै, अधिनायकवादी शासन भएका देशसँग एआईसम्बन्धी प्रविधि साझा गर्न नहुने उनको सुझाव छ ।

तेस्रो पक्षले नियमन गर्नुपर्ने

अमोडेईको प्रस्तावमा एआई प्लेटफर्म हगिङ फेसका प्रमुख कार्यकारी अधिकृत क्लिमेन्ट डेलाङ्गले पनि समर्थन जनाएका छन् ।

डेलाङ्गले अमोडेईले प्रस्ताव गरेका ‘एम्बेडेड इभालुएटर’ अर्थात् एआई विकास प्रक्रियामै संलग्न भएर सुरक्षा मूल्यांकन गर्ने स्वतन्त्र अनुगमनकर्ताको अवधारणामा काम गर्न ‘ओपन अलाइनमेन्ट इनिसिएटिभ’ नामक नयाँ परियोजना सुरु गर्ने बताएका छन् ।

‘एआईलाई अझ पारदर्शी बनाएर सुरक्षित बनाऔँ,’ उनले एक्समा लेखेका छन् ।

यसअघि ओपनएआईका एआई एजेन्टले हगिङ फेसको प्रणालीमा अनधिकृत गतिविधि गरेको घटनापछि एआई सुरक्षाबारे व्यापक बहस भएको थियो ।

मस्कले पनि अमोडेईको प्रस्तावलाई समर्थन गरेका छन् । यद्यपि, उनले नै यसअघि एन्थ्रोपिकलाई ‘खराब’ कम्पनी भनेका थिए । मे महिनामा एन्थ्रोपिकसँग करिब १५ अर्ब डलरको कम्प्युटिङ क्षमता बिक्रीसम्बन्धी सम्झौता भएपछि मस्कको धारणा केही नरम भएको देखिन्छ ।

आलोचकको फरक धारणा

केही विश्लेषकहरूले भने अमोडेईको प्रस्ताव एआई सुरक्षाभन्दा पनि एआई प्रविधिमाथि नियन्त्रण केन्द्रित गर्ने प्रयास भएको टिप्पणी गरेका छन् ।

प्रविधि लगानीकर्ता तथा ‘अल–इन’ पोडकास्टका सहप्रस्तोता चामथ पालिहापिटियाले अमोडेईको प्रस्तावले ओपन सोर्स एआई रोक्ने र ठूलो प्राविधिक तथा आर्थिक शक्ति एन्थ्रोपिकमा केन्द्रित गर्ने बाटो खोल्ने बताएका छन् ।

सिलिकन भ्यालीका केही आलोचकले एआई विकास सुस्त बनाउने वा केही समय रोक्ने प्रस्तावप्रति लामो समयदेखि शंका व्यक्त गर्दै आएका छन् । उनीहरूले अग्रणी एआई कम्पनीहरूले आफ्नो प्रविधिको प्रचार र बजार प्रभाव बढाउन जोखिमसम्बन्धी चेतावनीलाई अतिरञ्जित गर्ने गरेको आरोप लगाउने गरेका छन् ।

प्रतिक्रिया दिनुहोस्
अन्य समाचारहरु
: माइक्रोसफ्टका सेवा २२ घण्टाभन्दा बढी समय अवरुद्ध भएपछि विश्वभरका अत्यावश्यक सेवा र संस्थाहरू प्रविधिमा कति निर्भर छन् भन्ने विषयमा बहस सुरु भएको छ । माइक्रोसफ्ट ३६५ अन्तर्गतका आउटलुकलगायतका सेवा प्रभावित हुँदा विश्वका विभिन्न देशका व्यवसाय, सरकारी निकाय तथा सार्वजनिक संस्थाहरूले समस्या भोग्नुपरेको थियो । माइक्रोसफ्टका अनुसार नियमित स्वचालित जाँचका क्रममा केही सर्भर बन्द हुँदा बाँकी सर्भरमा ...
। प्राविधिक समस्या सुरु भएको कैयौँ घण्टापछि पनि आउटलुक इमेल, टिम्स म्यासेजिङ एप र माइक्रोसफ्ट ३६५ का अन्य सेवाहरू ठप्प रहे। रोयटर्सका अनुसार, माइक्रोसफ्टले आफ्नो पछिल्लो अपडेटमा सेवाहरू सुधार गर्न र यस समस्यालाई समाधान गर्न गरिएका परिवर्तनहरूले अपेक्षाअनुसार काम गरिरहेका छैनन् भनी बताएको छ। कम्पनी समस्या समाधान गर्न अन्य विकल्पहरूको खोजी गरिरहेको छ। यसको उद्देश्य सकेसम्म धेरै ...
। माइक्रोसफ्टका विभिन्न सेवामा बिहीबार विश्वव्यापी रूपमा कनेक्टिभिटी समस्या देखिएको छ । कम्पनीका टिम्स, आउटलुक र एआई सफ्टवेयर कोपाइलट प्रयोगकर्ताहरूले सेवा सञ्चालनमा समस्या आएको भन्दै गुनासो गरेका छन् । समस्या देखिएपछि माइक्रोसफ्टले सेवा सामान्य अवस्थामा फर्काउन प्राविधिक टोली सक्रिय रहेको जनाएको छ । कम्पनीका अनुसार आफ्नो पूर्वाधारको एक भागमा अत्यधिक भार परेका कारण कनेक्टिभिटी समस्या उत्पन्न ...
। कर्णाली प्रदेशमा गुणस्तरीय बिजुली पुर्‍याउन थालिएको सुर्खेत–दैलेख १३२ केभी प्रसारण लाइन वन सम्बन्धी कानुनी झन्झटमा अल्झिएको छ । कोहलपुर–सुर्खेत–दैलेख आयोजनाअन्तर्गतको यो खण्ड २०८० मा सम्झौता भई २०८२ मै सकिनुपर्ने थियो। तर रुख कटान र जग्गा भोगाधिकारको गोलचक्करमा परेर ७० प्रतिशत भौतिक प्रगतिमै अल्झिएको छ। म्याद थप गर्दासमेत ३० प्रतिशत काम बाँकी छ। सुर्खेतको वीरेन्द्रनगरस्थित सुब्बाकुना सबस्टेसनबाट ...
। युवा, श्रम तथा रोजगार मन्त्रालयको अगुवाइमा राष्ट्रिय व्यावसायिक प्रशिक्षण प्रतिष्ठानले सञ्चालन गर्न लागेको नि:शुल्क एआई तालिममा ६८ हजारको आवेदन परेको छ । मन्त्रालयका अनुसार ‘मास्टरिङ एआई विथ इफेक्टिभ प्रोम्प इन्जिनियरिङ’ विषय तालिमका लागि ६८ हजार भन्दा बढीको आवेदन परेको हो । सुरुमा दुई हजार युवालाई लक्षित गरी योजना गरिएको उक्त तालिममा अपेक्षाभन्दा धेरै आवेदन प्राप्त भएको ...