एआई विकासमा ‘ब्रेक’ लगाउन एन्थ्रोपिकको प्रस्ताव: मानव नियन्त्रण गुम्न सक्ने चेतावनी
सान फ्रान्सिस्को, २३ जेठ । आर्टिफिसियल इन्टेलिजेन्स (AI) क्षेत्रको अग्रणी कम्पनी ‘एन्थ्रोपिक’ ले विश्वका प्रमुख एआई प्रयोगशालाहरूलाई उन्नत एआई प्रणालीहरूको विकासमा केही समयका लागि ‘पूर्णविराम’ (Pause) लगाउन आग्रह गरेको छ। प्रविधिको विकास यति तीव्र गतिमा भइरहेको छ कि यसले निकट भविष्यमै मानव नियन्त्रण बाहिर जान सक्ने र समाजका लागि गम्भीर जोखिम निम्त्याउन सक्ने चेतावनी कम्पनीले दिएको हो।
स्व-सुधार गर्न सक्ने एआईको जोखिम
‘क्लड’ (Claude) च्याटबोटको निर्माता एन्थ्रोपिकले बिहीबार एक ब्लग पोस्ट सार्वजनिक गर्दै उन्नत एआई प्रणालीहरूले आफ्नै नयाँ र अझ शक्तिशाली संस्करण आफैं बनाउन सक्ने (Recursive Self-improvement) क्षमता विकास गरिरहेको बताएको छ। यदि एआईले मानिसको हस्तक्षेप बिना नै सफ्टवेयर कोडिङ गर्ने र नयाँ मोडलहरू विकास गर्ने हो भने, यसले ल्याउने परिवर्तनहरूलाई समाजले थेग्न नसक्ने कम्पनीको दाबी छ।
एन्थ्रोपिकका सह-संस्थापक ज्याक क्लार्क र अनुसन्धान प्रमुख मारिना फाभारोका अनुसार, यो ‘पज’ वा ढिलाइको समयलाई एआईलाई मानवीय मूल्य र उद्देश्यसँग मिलाउने (Alignment Research) कार्यमा उपयोग गरिनुपर्छ।
ओपनएआई र एन्थ्रोपिकबीच मतभेद
एन्थ्रोपिकले कम्पनीहरूबीचको आपसी समन्वयमा विकास रोक्नुपर्ने प्रस्ताव गरे पनि यसको मुख्य प्रतिस्पर्धी ‘ओपनएआई’ (OpenAI) ले भने फरक मत राखेको छ। ओपनएआईले बुधबार एक रिपोर्ट सार्वजनिक गर्दै एआईको गति र सुरक्षाका नियमहरू निजी कम्पनीहरूले नभई ‘लोकतान्त्रिक सरकारहरू’ ले तय गर्नुपर्ने बताएको छ। कुनै एउटा प्रयोगशाला वा स्वार्थ समूहको निर्णयले मात्र एआईको भविष्य निर्धारण हुन नहुने ओपनएआईको तर्क छ।
साइबर सुरक्षामा नयाँ चुनौती: ‘एआई वोर्म’
यसै साता युनिभर्सिटी अफ टोरन्टोका अनुसन्धानकर्ताहरूले एउटा डरलाग्दो तथ्य सार्वजनिक गरेका छन्। उनीहरूले एआईको प्रयोग गरेर एक यस्तो ‘एआई वोर्म’ (AI worm) तयार पारेका छन्, जसले आफैं ह्याकिङको रणनीति बदल्दै एक उपकरणबाट अर्कोमा फैलिएर नेटवर्क कब्जा गर्न सक्छ।
मुख्य अनुसन्धानकर्ता निकोलस पापेर्नोटले भने, “अब शक्तिशाली मोडलहरू मात्र होइन, सस्तो र खुला स्रोत (Open-source) एआई पनि सुरक्षाका लागि चुनौती बनेका छन्। इन्टरनेटमा जोडिएको जुनसुकै पुराना ल्यापटप पनि अब ठूला साइबर आक्रमणका लागि ‘लन्च प्याड’ बन्न सक्छन्।”
एन्थ्रोपिक र अमेरिकी सरकारबीचको टकराव
एन्थ्रोपिकले आफूलाई सधैं ‘सुरक्षा केन्द्रित’ ल्याबको रूपमा चिनाउँदै आएको छ। यसै वर्ष कम्पनीले अमेरिकी सेनालाई आफ्नो मोडलहरू जासुसी र स्वायत्त हतियार निर्माणमा प्रयोग गर्न रोक लगाएको थियो। यस कदमको प्रतिक्रियास्वरूप अमेरिकी सरकारले एन्थ्रोपिकलाई राष्ट्रिय सुरक्षाको ‘ब्ल्याकलिस्ट’ मा राखेको छ, जुन सन् २०२६ देखि लागू हुनेछ।
यसका बावजुद, एन्थ्रोपिक र ओपनएआई दुवै अहिले सेयर बजारमा सार्वजनिक निष्कासन (IPO) को तयारीमा छन्। एन्थ्रोपिकको बजार मूल्य झण्डै एक ट्रिलियन डलर पुग्ने अनुमान गरिएको छ।
नियमनको धिमा गति
एआई सुरक्षाका लागि एलन मस्क लगायतका दिग्गजहरूले सन् २०२३ देखि नै ६ महिनाको ‘पज’ माग्दै आए पनि यसले खासै सफलता पाएको छैन। अमेरिकामा ट्रम्प प्रशासनले हालै एउटा कार्यकारी आदेश जारी गर्दै कम्पनीहरूलाई आफ्ना शक्तिशाली मोडलहरू सार्वजनिक गर्नुअघि स्वैच्छिक रूपमा सरकारी परीक्षणका लागि बुझाउन आग्रह गरेको छ, तर यसलाई अनिवार्य बनाइएको छैन।
एन्थ्रोपिकले चेतावनी दिएको छ कि यदि विश्वव्यापी रूपमा समन्वयात्मक ढङ्गले विकासलाई सुस्त बनाइएन भने, कम सतर्क रहेका ‘खराब खेलाडीहरू’ ले यसको फाइदा उठाएर गोप्य रूपमा खतरनाक एआई विकास गर्न सक्नेछन्।
