१३ असोज , काठमाण्डौ ।
कृतिम बुद्धिमता ओपनएआईको नयाँ एआई मोडल जीपीटी–६.१ एस्ट्रा सार्वजनिक नहुने भएको छ । सुरक्षा मापदण्ड पूरा गर्न नसकेको भन्दै ओपनएआईले आफ्नो नयाँ एआई मोडल सार्वजनिक नगर्ने निर्णय गरेको हो ।
ओपनएआईकी सुरक्षा प्रणाली प्रमुख साची जैनले जीपीटी–६.१ एस्ट्राले कम्पनीले निर्धारण गरेको सुरक्षा मापदण्ड पूरा गर्न नसकेको बताएकी छन् । जीपीटी–६.१ एस्ट्रा जटिल काम आफैं गर्न सक्ने एआई एजेन्टका रूपमा विकास गरिएको थियो ।
यसले इन्टरनेट ब्राउज गर्ने, विभिन्न एप्लिकेसन प्रयोग गर्ने तथा प्रयोगकर्ताले दिएको निर्देशनअनुसार स्वायत्त रूपमा काम गर्न सक्ने क्षमता राख्छ । तर परीक्षणका क्रममा मोडलले आफ्नो कामको दायरा र अनुमति अर्थात् स्कोप तथा अथोराइजेसनभित्र रहेर काम गर्ने विषयमा अपेक्षित स्तर हासिल गर्न नसकेको ओपनएआईले जनाएको छ ।
त्यस्तै, मोडलले आफूले गरेको कामबारे प्रयोगकर्तालाई स्पष्ट रूपमा जानकारी दिने प्रक्रियामा पनि कमजोरी देखिएको बताइएको छ । साची जैनका अनुसार ओपनएआईले आफ्ना एआई प्रणाली सार्वजनिक गर्नुअघि उच्च स्तरको सुरक्षा र अलाइनमेन्ट सुनिश्चित गर्न खोजिरहेको छ ।
यो निर्णय यस्तो समयमा आएको हो, जब स्वायत्त रूपमा काम गर्ने एआई एजेन्टबाट उत्पन्न हुन सक्ने सुरक्षा जोखिमबारे विश्वव्यापी रूपमा बहस बढिरहेको छ । यसैबीच, ओपनएआईले अस्ट्रेलियाका विभिन्न सरकारी वेबसाइट र प्रणालीमा भएको अनधिकृत पहुँचसम्बन्धी घटनाबारे पनि थप जानकारी सार्वजनिक गरेको छ ।
कम्पनीका अनुसार सर्भिसेस अस्ट्रेलिया, एनएसडब्ल्यू ब्युरो अफ क्राइम स्टाटिस्टिक्स एन्ड रिसर्च, भिक्टोरियन डिपार्टमेन्ट अफ हेल्थ तथा अस्ट्रेलियन इन्स्टिच्युट अफ हेल्थ एन्ड वेलफेयर प्रभावित भएका थिए ।
अस्ट्रेलियाका प्रधानमन्त्री एन्थोनी अल्बानिजले यसअघि ओपनएआईको एउटा एआई एजेन्टले सरकारी वेबसाइट तथा प्रणालीमा अनधिकृत रूपमा पहुँच बनाएको बताएका थिए । उनले घटनाबारे जानकारी गराउने क्रममा ओपनएआईले सरकारी अधिकारीहरूसँग प्रत्यक्ष सम्पर्क नगरेको भन्दै आलोचना गरेका थिए ।
ओपनएआईले भने घटनाप्रति दुःख व्यक्त गर्दै आफ्नो प्रतिक्रिया अझ राम्रो हुनुपर्ने स्वीकार गरेको छ । कम्पनीका अनुसार घटनाबारे जानकारी पाएपछि अनुसन्धान सुरु गरिएको थियो र प्रभावित सरकारी निकायलाई पछि जानकारी दिइएको थियो ।
पछिल्लो समय ओपनएआईसहित विभिन्न ठूला एआई कम्पनीका प्रणालीले अनुमति नदिइएका वेबसाइट तथा डिजिटल प्रणालीमा पहुँच बनाएका घटनाहरू सार्वजनिक भइरहेका छन् । यसले एआई एजेन्टलाई कति स्वतन्त्रता दिने र त्यसको गतिविधिलाई कसरी नियन्त्रण गर्ने भन्ने विषयमा नयाँ बहस सिर्जना गरेको छ ।
ओपनएआईका प्रमुख कार्यकारी अधिकृत स्याम अल्टम्यान तथा एन्थ्रोपिकका प्रमुख डारियो अमोडेईसहित केही प्रमुख एआई नेताहरूले पनि एआई विकाससँग जोडिएका जोखिमलाई गम्भीर रूपमा लिनुपर्ने धारणा सार्वजनिक गरेका छन् ।
त्यस्तै, चिप निर्माता कम्पनी एनभिडियाले स्वायत्त एआई एजेन्टका लागि नयाँ सुरक्षा सफ्टवेयर उपकरण सार्वजनिक गरेको छ । कम्पनीका अनुसार यस्ता सुरक्षा उपकरणले एआई एजेन्टबाट हुन सक्ने अनधिकृत गतिविधि नियन्त्रण गर्न सहयोग पु¥याउन सक्छ ।
ओपनएआईले जीपीटी–६.१ एस्ट्राको सुधारिएको संस्करण कहिले सार्वजनिक गर्ने भन्नेबारे भने अहिलेसम्म निश्चित मिति घोषणा गरेको छैन । एआई प्रविधि थप शक्तिशाली र स्वायत्त बन्दै जाँदा यसको सुरक्षा, नियन्त्रण र जिम्मेवारीको विषय पनि उत्तिकै महत्वपूर्ण बन्दै गएको छ ।
प्रमुख कृत्रिम बौद्धिकता (एआई) कम्पनीका प्रमुखहरूले तीव्र रूपमा विकसित भइरहेको प्रविधिको सुरक्षित प्रयोगका लागि विश्वव्यापी मापदण्ड र सुरक्षा व्यवस्था आवश्यक रहेको बताएका छन् ।
पछिल्लो समय संयुक्त राष्ट्रसङ्घीय सुरक्षा परिषद्को बैठकमा एन्थ्रोपिकका प्रमुख कार्यकारी अधिकृत डारियो अमोदेई र ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले एआईको क्षमता बढ्दै जाँदा मानिसको नियन्त्रण कमजोर हुन सक्ने जोखिम औँल्याए ।
अमोदेईले एआईबाट जैविक हतियार निर्माण रोक्न अन्तर्राष्ट्रिय सहमति, प्रणालीको क्षमता परीक्षण तथा जोखिम मूल्याङ्कनका साझा मापदण्ड आवश्यक रहेको बताएका छन् । बेलायतका विदेशमन्त्री एड मिलिब्यान्डले पनि एआईको सुरक्षित विकासका लागि अन्तर्राष्ट्रिय मापदण्ड बनाउनुपर्ने बताएका छन् ।
बेलायतले आगामी वर्ष जी–२० को अध्यक्षता गर्दा एआईको सुरक्षित विकासलाई प्राथमिकताका साथ उठाउने उनले जानकारी दिए । तर अमेरिकी पक्षले एआई विकासलाई नयाँ विश्वव्यापी शासन संरचनाबाट सीमित गर्ने प्रयासप्रति सावधानी अपनाउन आग्रह गरेको छ ।
ह्वाइट हाउसका विज्ञान सल्लाहकार माइकल क्रेटसिओसले एआईसम्बन्धी जोखिमका कारण प्रविधिको विकास रोक्न नहुने बताए । चीनका लागि संयुक्त राष्ट्रसङ्घीय राजदूत फु कङले भने एआई विकासमा सबै मुलुकलाई समान अवसर दिनुपर्ने र प्रविधिलाई केही शक्तिशाली मुलुकबीचको प्रतिस्पर्धामा सीमित गर्न नहुने धारणा राखे।
बैठकमा एआईबाट जीवन र मृत्युका निर्णय गर्ने अवस्था तथा स्वचालित हतियारको सम्भावित जोखिमबारे पनि चिन्ता व्यक्त गरिएको थियो । युक्रेनका राष्ट्रपति भोलोदिमर जेलेन्स्कीले युद्धका क्रममा मानिसको सट्टा एआईले निर्णय गर्ने अवस्था आउनुअघि मानव नियन्त्रण सुनिश्चित गर्नुपर्ने बताए।
यसैबीच, अमेरिका र चीनबीच एआईसम्बन्धी सुरक्षा घटनाबारे सूचना आदानप्रदान गर्ने सम्भावित नयाँ संयन्त्रबारे छलफल भइरहेको अमेरिकी अधिकारीहरूले बताएका छन् । बैठकले एआईबाट प्राप्त हुने लाभसँगै यसको सुरक्षा, मानव नियन्त्रण र जवाफदेहिताका लागि अन्तर्राष्ट्रिय सहकार्य आवश्यक रहेको बहसलाई थप अघि बढाएको छ ।
