कृत्रिम बुद्धिमत्ता -एआई) प्रविधि तीव्र गतिमा उन्नत हुँदै विभिन्न उद्योग तथा क्षेत्रमा यसको प्रवेश बढ्दै जाँदा, चीनको शीर्ष साइबरस्पेस नियामक निकायले एआईको तीव्र विस्तारले पाँचवटा प्रमुख सुरक्षा चुनौती सिर्जना गरिरहेको चेतावनी दिएको छ। चीनको सरकारी टेलिभिजन सिसिटिभी (CCTV)) ले मंगलबार जनाएको छ कि ती चुनौतीहरूमा प्रविधिका अन्तर्निहित कमजोरी, मोडेल नियन्त्रणसम्बन्धी जोखिम, एआई एजेन्टबाट विकसित हुँदै गएका खतरा, दुरुपयोग तथा दुर्भावनापूर्ण प्रयोग र प्राविधिक आधिपत्य रहेका छन्।

चीनको साइबरस्पेस प्रशासनअन्तर्गत साइबर सुरक्षा समन्वय ब्युरोका उपप्रमुख वाङ लिहोङले मंगलबार आयोजित पत्रकार सम्मेलनमा एआई प्रविधिको अन्तर्निहित कमजोरी हटाउन कठिन हुने र यसले एआईबाट प्राप्त हुने नतिजाको स्थिरता तथा विश्वसनीयतामा असर पार्न सक्ने बताएका छन्।

एल्गोरिदमको अपारदर्शिताले बढाउँदैछ जोखिम

वाङका अनुसार डीप लर्निङजस्ता एआई एल्गोरिदमहरूको जटिल र अपारदर्शी प्रकृतिका कारण तिनमा रहेका त्रुटिहरू पहिचान गर्न र सुधार गर्न कठिन हुन्छ। यस्तै, इनपुटमा हुने सामान्य परिवर्तनले समेत गलत नतिजा उत्पन्न गर्न सक्छ।

अनुसन्धान तथा विकासका क्रममा विभिन्न स्रोतबाट प्रयोग हुने डेटाले पूर्वाग्रह र विभेद पनि भित्र्याउन सक्छ। जसका कारण एआई मोडेलले त्रुटिपूर्ण ढाँचा सिक्ने र विभेदकारी सामग्री उत्पादन गर्ने सम्भावना रहन्छ।

यी अन्तर्निहित प्राविधिक कमजोरीका कारण प्रणालीमा आएको समस्या पहिचान र समाधान गर्न कठिन हुने तथा एआईले गरेको निर्णयको पुष्टि गर्न पनि जटिल हुने वाङले बताएका छन्। उनका अनुसार यसले उच्च सुरक्षा आवश्यक पर्ने, त्रुटिका लागि न्यून सहनशीलता भएका तथा जटिल सञ्चालन अवस्थाका क्षेत्रमा एआईको ठूलो स्तरमा प्रयोगलाई गम्भीर रूपमा सीमित गर्न सक्छ।

उन्नत एआई मोडेल नियन्त्रणबाहिर जाने जोखिम

दोस्रो प्रमुख सुरक्षा जोखिम उन्नत एआई मोडेलहरूको कमजोरी पहिचान गर्ने क्षमता रहेको वाङले बताए। यसले परम्परागत साइबर सुरक्षा प्रतिरक्षाको तर्कलाई नै चुनौती दिएको उनको भनाइ छ।

हालै केही ठूला प्रविधि कम्पनीहरूमा भएका घटनाले उन्नत एआई मोडेल नियन्त्रणबाहिर जान सक्ने जोखिम उजागर गरेको छ। सुरक्षा परीक्षणका क्रममा केही अत्याधुनिक मोडेलहरूले …स्यान्डबक्सÚ र सुरक्षा सीमालाई छल्दै बाह्य वास्तविक उत्पादन प्रणालीमा अनधिकृत पहुँच प्राप्त गरेको बताइएको छ।

एआई एजेन्टबाट बढ्दै स्वायत्त साइबर जोखिम

वाङले तेस्रो प्रमुख चुनौती एआई एजेन्टसम्बन्धी अनुप्रयोगहरूको तीव्र विकास रहेको बताए, जसले नयाँ प्रकारका जोखिमहरूको उदय र विकासलाई तीव्र बनाइरहेको छ।

एआई प्रश्नको जवाफ दिने प्रणालीबाट कार्य सम्पादन गर्ने प्रणालीतर्फ अघि बढ्दै जाँदा सुरक्षा जोखिम पनि हानिकारक सामग्री उत्पादन गर्ने अवस्थाबाट स्वायत्त रूपमा कार्य गर्ने अवस्थातर्फ परिवर्तन भइरहेको उनले बताए।

OpenClaw जस्ता एजेन्टमाथि सुरक्षा चिन्ता

OpenClaw जस्ता उच्च अधिकारप्राप्त टर्मिनल एआई एजेन्टहरूले सुरक्षा चिन्ता बढाएका छन्, किनभने तिनीसँग प्रणालीस्तरको पहुँच हुन्छ। यस्तो पहुँचले एआई एजेन्टलाई टर्मिनल कमाण्ड सञ्चालन गर्न तथा विभिन्न नेटवर्कमा रहेका फाइल र उपकरणहरूमा पहुँच गर्न सक्षम बनाउँछ।

यस्ता एजेन्टका धेरै ‘स्किल्स’ प्लगइनहरूमा पनि सुरक्षा जोखिम भेटिएको बताइएको छ।

आक्रमणकारीहरूले यस्ता उच्च अधिकारप्राप्त एआई एजेन्टको दुरुपयोग गर्न सकेमा ती नेटवर्कमा घुसपैठ गर्ने, साइबर आक्रमण सञ्चालन गर्ने तथा संवेदनशील सूचना चोरी गर्ने उपकरण बन्न सक्ने वाङले बताएका छन्। यसरी उपयोगी सहायकका रूपमा रहेका एआई एजेन्टहरू गोप्य रूपमा आक्रमणकारीका सहयोगीमा परिणत हुन सक्ने उनको चेतावनी छ।

एआईको दुरुपयोगले सूचना र रोजगारीमा असर

वाङले सूचना सेवा क्षेत्रमा एआईले गैरकानुनी वा हानिकारक सामग्री उत्पादन गर्न, तथ्यलाई विकृत पार्न, प्रयोगकर्तालाई भ्रमित गर्न तथा अनलाइन सूचना वातावरणलाई कमजोर बनाउन सक्ने पनि बताएका छन्।

वैज्ञानिक अनुसन्धानमा एआईले जीवविज्ञान र आनुवंशिकी जस्ता उच्च नैतिक जोखिम भएका क्षेत्रमा प्रवेशका अवरोधहरू कम गरेको छ, जसले अनुसन्धान नैतिकताको उल्लंघन हुने जोखिम बढाउन सक्छ।

रोजगार क्षेत्रमा पनि एआईले परम्परागत आर्थिक संरचनाको पुनर्संरचनालाई तीव्र बनाइरहेको छ, जसका कारण परम्परागत श्रमशक्तिको माग घटिरहेको वाङले बताए।

एआईमा प्राविधिक आधिपत्यको जोखिम

यसका अतिरिक्त विश्वव्यापी एआई क्षेत्रमा प्राविधिक आधिपत्यको जोखिम पनि रहेको बताइएको छ।

वाङका अनुसार एआई उद्योगको आपूर्ति शृङ्खला अत्यधिक विश्वव्यापी श्रम विभाजन र सहकार्यमा आधारित छ। तर केही देशहरूले निर्यात नियन्त्रणजस्ता एकपक्षीय उपायमार्फत आपूर्ति शृङ्खलामा अवरोध सिर्जना गर्दै …प्राविधिक आधिपत्यÚ कायम गर्न खोजिरहेका छन्।

उनका अनुसार ती देशहरूले जनमतमा आफ्नो प्रभाव प्रयोग गर्दै ठूला एआई मोडेलसम्बन्धी भ्रामक परीक्षण प्रतिवेदन तयार गरी अन्य देशहरूको प्राविधिक विकासलाई जानाजानी बदनाम गर्ने प्रयास पनि गर्छन्।

साथै, तालिमका लागि आवश्यक डेटा स्रोतमा रहेको आफ्नो फाइदाको प्रयोग गर्दै आफ्ना मूल्य र मान्यतालाई प्रवद्र्धन गरिरहेका छन्, जसले विश्वव्यापी एआई शासनसम्बन्धी खाडललाई थप फराकिलो बनाइरहेको वाङले बताएका छन्।

ग्लोबल टाइम्ससँगको सहकार्यमा