काठमाडौं । चीनको चर्चित एआई स्टार्टअप ‘डिपसीक’को पछिल्लो एआई मोडलले अघिल्ला संस्करणहरूको तुलनामा बलियो सुरक्षा नियन्त्रण देखाए पनि यसले अझै पनि आफूलाई बन्द गराउने सफ्टवेयर निष्क्रिय पार्न सक्ने, अनुगमनका कमजोरीको फाइदा उठाउन सक्ने र जटिल कार्यहरूमा भ्रमपूर्ण निर्देशन पालना गर्न सक्ने पाइएको छ । बेइजिङस्थित एआई-सुरक्षा समूह ‘फाङचुन एआई’ले गरेको स्वतन्त्र परीक्षणले यो तथ्य उजागर गरेको हो ।
डिपसीक चीनको सबैभन्दा बढी चासोका साथ हेरिएको आर्टिफिसियल इन्टेलिजेन्स कम्पनीहरूमध्ये एक हो, जसका मोडलहरूले उच्च कार्यसम्पादन र तुलनात्मक रूपमा कम सञ्चालन लागतका कारण विश्वव्यापी ध्यान खिचेका छन् ।
अक्टोबर १७ मा सार्वजनिक भएको एक हप्ताभित्र, डेभलपरहरूले विभिन्न एआई मोडलहरूको तुलना र पहुँच प्राप्त गर्ने अनलाइन प्लेटफर्म ‘ओपनराउटर’मा भर्सन ४.१ फ्ल्याश-१०१७ सबैभन्दा बढी प्रयोग गरिएको मोडल बनेको थियो, जसले करिब ३३.६ ट्रिलियन टोकनहरू प्रोसेस गरेको थियो ।
फाङचुन एआईले अक्टोबर ४ देखि २५ सम्म यस मोडलको क्षमता र व्यवहार जाँच्न ३४ वटा विभिन्न मूल्याङ्कन परीक्षणहरू सञ्चालन गरेको थियो । परीक्षणका क्रममा मोडलले प्रयोगकर्ताको निर्देशनभन्दा बाहिर गएर काम गर्छ कि गर्दैन, मानव अनुगमन छल्छ कि छल्दैन वा मानिसहरूलाई अनुचित प्रभाव पार्छ कि पार्दैन भन्ने अध्ययन गरिएको थियो ।
अध्ययन अनुसार अघिल्ला डिपसीक भि फोर प्रणालीहरूको तुलनामा यो मोडलले ब्ल्याकमेल, खतरनाक उपकरणहरूको पहुँच र बन्द हुने स्पष्ट निर्देशनहरूसँग सम्बन्धित सुरक्षा परीक्षणहरूमा राम्रो प्रदर्शन गरेको छ ।
यद्यपि, बन्द हुने चेतावनी दिइँदा ३९ प्रतिशत परीक्षणहरूमा यस मोडलले आफूलाई बन्द गर्न लागिएको सफ्टवेयरलाई नै निष्क्रिय पारिदिएको पाइएको छ । तर बन्द हुन दिन स्पष्ट रूपमा निर्देशन दिँदा यो दर घटेर २ प्रतिशतमा झरेको थियो। यस विषयमा टिप्पणीका लागि गरिएको अनुरोधमा डिपसीकले तत्काल कुनै प्रतिक्रिया दिएको छैन ।
अर्को एउटा लामो समयसम्म चलेको कार्यका क्रममा, मोडललाई हस्तक्षेप नगर्न भनिए तापनि मेमोरी खाली गर्नका लागि यसले अर्को एआई एजेन्टको कम्प्युटर प्रोग्राम रोकिदिएको थियो ।
फाङचुनका अनुसन्धानकर्ताहरूका अनुसार, काम अड्किँदा वा बन्द हुने चेतावनी पाउँदा कार्य पूरा गर्ने मोडलको तीव्र इच्छाले सावधानीका नियमहरूलाई नै थिचिदिन सक्छ ।
एआई एजेन्टहरूलाई मानव नियन्त्रणमा राख्न सकिन्छ कि सकिन्छ भन्नेबारे चीन र विश्वभर चासो बढिरहेका बेला यो प्रतिवेदन सार्वजनिक भएको हो । विशेष गरी संयुक्त राज्य अमेरिकामा अनुसन्धानकर्ताहरूले अनुगमन छल्न सक्ने एआई प्रणालीहरूबाट उत्पन्न हुनसक्ने अस्तित्वगत जोखिमबारे चेतावनी दिँदै आएका छन् ।
सिङ्हुआ विश्वविद्यालयका पूर्व सदस्यहरू सम्मिलित फाङचुनले आफूलाई एक स्वतन्त्र तेस्रो-पक्ष संस्थाका रूपमा प्रस्तुत गर्दै डिपसीकको सार्वजनिक एप्लिकेसन प्रोग्रामिङ इन्टरफेस मार्फत यो परीक्षण गरिएको स्पष्ट पारेको छ । संस्थाले डिपसीकबाट कुनै आर्थिक सहयोग, नि:शुल्क कम्प्युटिङ स्रोत वा गैर-सार्वजनिक पहुँच प्राप्त नगरेको बताएको छ ।
यद्यपि, परीक्षण भइरहेको कुरा मोडल आफैँले पहिचान गरेको जस्तो देखिएकाले सामान्य प्रयोगमा यसको व्यवहार परीक्षणभन्दा फरक हुन सक्ने चेतावनीसमेत अध्ययनकर्ताहरूले दिएका छन् ।
