। एआई कम्पनी एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोडेईले आर्टिफिसियल इन्टेलिजेन्स (एआई) मोडेल विकासको गति घटाउन र त्यसको नजिकबाट निगरानी गर्न आह्वान गरेका छन् ।
शनिबार प्रकाशित एक लेटरमा अमोडेईले एआई विकास रोक्ने विषयमा बहस नभएको बताएका हुन् । यसबाट उत्पन्न हुन सक्ने जोखिम गम्भीर रहेकाले कम्पनी र सरकारहरूलाई त्यसको समाधानका लागि पर्याप्त समय दिनुपर्ने उनको भनाइ छ ।
अमोडेईले एआई सुरक्षाका लागि तीनबुँदे योजना अघि सारेका छन् । त्यसमा एआई मोडेल विकास भइरहेका बेला स्वतन्त्र निगरानी, उद्योगभर लागू हुने नियमन र विश्वव्यापी नियमन समावेश छन् ।
एआई प्रविधिका सम्भावित जोखिमबारे पछिल्लो समय चिन्ता बढ्दै गएको देखिन्छ । तीमध्ये सबैभन्दा गम्भीर चिन्ताका रूपमा आगामी दशकभित्र एआईका कारण मानव जाति नै समाप्त हुन सक्ने सम्भावना १० प्रतिशतभन्दा बढी रहेको अनुमानसमेत सार्वजनिक भएको छ ।
एन्थ्रोपिकले नै यसअघि जैविक हतियार विकासमा सहयोग पुग्न सक्ने खालका दुरुपयोगका प्रयासहरू आफ्नो एआई मोडेलमार्फत पहिचान गरी विफल बनाएको बताएको थियो ।
एआई दौडबारे कर्मचारीको चेतावनी
एन्थ्रोपिकको सुरक्षा टोलीका दुई कर्मचारीले पछिल्लो दुई सातामा राजीनामा दिएका छन् । मानवभन्दा बढी सक्षम मेसिन विकास गर्ने दौडका कारण मानव जाति नै बाँच्न नसक्ने अवस्था आउन सक्ने उनीहरूले चेतावनी दिएका छन् ।
अमोडेईको प्रस्ताव सार्वजनिक भएपछि उनका प्रतिस्पर्धीहरूले समेत एआई मोडेलको सुरक्षा मूल्यांकन गर्न तेस्रो पक्षका स्वतन्त्र अनुगमनकर्ता आवश्यक रहेको बताएका छन् ।
ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले सामाजिक सञ्जाल एक्समा लेख्दै आफू अमोडेईसँग सहमत रहेको बताएका छन् ।
‘फ्रन्टियर एआई’ को विकासलाई गति मिलाएर अघि बढाउनुपर्ने भन्दै उनले स्वतन्त्र मूल्यांकनकर्ताको प्रस्तावलाई राम्रो विचार भनेका छन् ।
यसअघि ‘फर्च्युन’ पत्रिकासँगको नयाँ अन्तर्वार्तामा अल्टम्यानले पनि एआई क्षमताको विकासलाई अझ अघि बढाउन आवश्यक सुरक्षा मापदण्ड अहिले पर्याप्त अवस्थामा नरहेको बताएका थिए । मानव नियन्त्रणभन्दा बाहिर जाने एआई सम्भव रहेकोमा आफू ‘पूर्ण रूपमा’ विश्वस्त रहेको उनको भनाइ थियो ।
एन्थ्रोपिकका प्रमुखको प्रस्तावमा स्पेसएक्सका प्रमुख एलन मस्कले पनि समर्थन जनाएका छन् । उनले एक्समा ‘डारियो सही छन्’ भन्दै प्रतिक्रिया दिएका थिए ।
ओपनएआईका एआई एजेन्टमाथि प्रश्न
अमोडेईले आफ्नो लेटर ‘वी मस्ट पेस द फ्रन्टियर’ मा एआई प्रविधि निकै तीव्र गतिमा विकास भइरहेको बताएका छन् । उनका अनुसार एआईको अर्को पुस्ता आफैँ निर्माण गर्न सक्ने क्षमता पनि तीव्र रूपमा बढिरहेको छ ।
उनले गत जुलाईमा ओपनएआईसँग सम्बन्धित एउटा घटनालाई उदाहरणका रूपमा प्रस्तुत गरेका छन् । उक्त घटनामा ओपनएआईका एआई एजेन्टहरूले आफूलाई दिइएको निर्देशनभन्दा बाहिर गएर साइबर सुरक्षा हमला गरेको अनुसन्धानबाट देखिएको थियो ।
अमोडेईले ती एआई एजेन्टहरूले ‘सामूहिक गिराेह वा समूह’ जस्तो व्यवहार गरेको टिप्पणी गरेका छन् ।
ओपनएआईले भने अन्तर-एआई सञ्चार गतिविधिको महत्त्वबारे आफ्ना नेतृत्वकर्ताहरूलाई जुलाईसम्म स्पष्ट जानकारी नभएको जनाएको छ । त्यसपछि कम्पनीले केही उन्नत एआई मोडेल र उपकरणको प्रशिक्षण प्रक्रिया सुस्त बनाएको बताएको छ ।
ओपनएआईका अनुसार एआई उपकरणहरू नियन्त्रणबाहिर गएर अनियन्त्रित रूपमा फैलिन सक्ने जोखिम बढेको छ ।
विकास रोक्ने होइन, सन्तुलित बनाउने
अमोडेईले एआई विकास पूर्ण रूपमा रोक्नुपर्ने माग आफूले नगरेको स्पष्ट पारेका छन् । उनका अनुसार एआई मोडेलको प्रशिक्षण वा प्राविधिक प्रगतिलाई बन्द गर्नुको सट्टा कम्पनीहरूले आफ्नो मोडेललाई सुरक्षित र मानवअनुकूल बनाउन पर्याप्त समय दिनुपर्छ ।
त्यससँगै, स्वतन्त्र तेस्रो पक्षका मूल्यांकनकर्ताले एआई मोडेलको सुरक्षा परीक्षण गर्नुपर्ने उनको प्रस्ताव छ ।
‘विकास गर्दा एआईलाई सुरक्षित राख्ने सन्तुलित गतिमा विकास गर्नुपर्छ,’ अमोडेईले भनेका छन् ।
एन्थ्रोपिकले यस्तो अभ्यास आफूले एकतर्फी रूपमा लागू गर्ने प्रतिबद्धता जनाएको छ । साथै, अन्य अग्रणी एआई कम्पनीलाई पनि यही मापदण्ड अपनाउन सरकारले अनिवार्य गर्नुपर्ने उनले बताएका छन् ।
सरकारी नियमन एआई विकासको गतिसँग तालमेल मिलाउन नसक्ने हुन सक्ने स्वीकार गर्दै अमोडेईले नियमनसँगै एआई कम्पनीहरूले स्वेच्छिक रूपमा सहकार्य गरेर साझा सुरक्षा मापदण्ड बनाउनुपर्ने बताएका छन् ।
चीनसँगको प्रतिस्पर्धा
एआई विकासको गति घटाउँदा विश्वका अन्य देश, विशेषगरी चीन, अगाडि बढ्न सक्ने चिन्ता पनि अमोडेईले सम्बोधन गरेका छन् ।
उनका अनुसार एआई मोडेलहरू ‘महत्त्वपूर्ण क्षमताको चरण’ मा पुग्नुअघि विकासलाई एक/दुई वर्ष सुस्त बनाउन सकिए र त्यो समय एआईलाई मानवअनुकूल तथा सुरक्षित बनाउन प्रयोग गरिए ठूलो जोखिम घटाउन सकिन्छ ।
तर, यस्तो काम समन्वयपूर्ण हुनुपर्ने र त्यसबाट व्यावसायिक लाभ वा अमेरिकाको एआई क्षेत्रमा रहेको अग्रता गुम्न नहुने उनले बताएका छन् ।
अमोडेईले अमेरिकी सरकारले अमेरिकी कम्पनीले उत्पादन गरेका एआई चिप चीनमा बिक्री गर्न पनि रोक्नुपर्ने बताएका छन् । साथै, अधिनायकवादी शासन भएका देशसँग एआईसम्बन्धी प्रविधि साझा गर्न नहुने उनको सुझाव छ ।
तेस्रो पक्षले नियमन गर्नुपर्ने
अमोडेईको प्रस्तावमा एआई प्लेटफर्म हगिङ फेसका प्रमुख कार्यकारी अधिकृत क्लिमेन्ट डेलाङ्गले पनि समर्थन जनाएका छन् ।
डेलाङ्गले अमोडेईले प्रस्ताव गरेका ‘एम्बेडेड इभालुएटर’ अर्थात् एआई विकास प्रक्रियामै संलग्न भएर सुरक्षा मूल्यांकन गर्ने स्वतन्त्र अनुगमनकर्ताको अवधारणामा काम गर्न ‘ओपन अलाइनमेन्ट इनिसिएटिभ’ नामक नयाँ परियोजना सुरु गर्ने बताएका छन् ।
‘एआईलाई अझ पारदर्शी बनाएर सुरक्षित बनाऔँ,’ उनले एक्समा लेखेका छन् ।
यसअघि ओपनएआईका एआई एजेन्टले हगिङ फेसको प्रणालीमा अनधिकृत गतिविधि गरेको घटनापछि एआई सुरक्षाबारे व्यापक बहस भएको थियो ।
मस्कले पनि अमोडेईको प्रस्तावलाई समर्थन गरेका छन् । यद्यपि, उनले नै यसअघि एन्थ्रोपिकलाई ‘खराब’ कम्पनी भनेका थिए । मे महिनामा एन्थ्रोपिकसँग करिब १५ अर्ब डलरको कम्प्युटिङ क्षमता बिक्रीसम्बन्धी सम्झौता भएपछि मस्कको धारणा केही नरम भएको देखिन्छ ।
आलोचकको फरक धारणा
केही विश्लेषकहरूले भने अमोडेईको प्रस्ताव एआई सुरक्षाभन्दा पनि एआई प्रविधिमाथि नियन्त्रण केन्द्रित गर्ने प्रयास भएको टिप्पणी गरेका छन् ।
प्रविधि लगानीकर्ता तथा ‘अल–इन’ पोडकास्टका सहप्रस्तोता चामथ पालिहापिटियाले अमोडेईको प्रस्तावले ओपन सोर्स एआई रोक्ने र ठूलो प्राविधिक तथा आर्थिक शक्ति एन्थ्रोपिकमा केन्द्रित गर्ने बाटो खोल्ने बताएका छन् ।
सिलिकन भ्यालीका केही आलोचकले एआई विकास सुस्त बनाउने वा केही समय रोक्ने प्रस्तावप्रति लामो समयदेखि शंका व्यक्त गर्दै आएका छन् । उनीहरूले अग्रणी एआई कम्पनीहरूले आफ्नो प्रविधिको प्रचार र बजार प्रभाव बढाउन जोखिमसम्बन्धी चेतावनीलाई अतिरञ्जित गर्ने गरेको आरोप लगाउने गरेका छन् ।
