२८ भदौ , काठमाण्डौ ।
बालकदेखि युवा र बृद्धसम्म केही वर्षयता हरेकका जिज्ञाशा आर्टिफिसियल इन्टलिजेन्स एआईले सहजै समाधान गर्दै आएको छ । पछिल्लो समय त एआईले मानिसले गर्ने काम नै आफै गर्न थालेको छ । हिजोका दिनमा निर्देशन पाए अनुशार काम गर्ने एआई आज आफै काम गर्न सक्ने भइसकेको छ ।
एआईको यो डरलाग्दो परिवर्तनबाट यसलाई तयार पार्नेहरु नै त्रसित बन्न थालेका छन् । अबको १० वर्षमा आफूलाई बनाउने मानव जातिकै लागि एआई खतरा बन्ने आंकलन गरिएको छ । अहिले प्रविधिसँगै मानिसको अभिन्न साथी बनिसकेको एआईलाई राक्षसको संज्ञा दिन थालिएको छ।
के मानिसहरूले यस्तो राक्षस बनाइसकेका छन्, जसले अबको १० वर्षभित्र मानिसलाई नै नष्ट गर्न सक्छ? करोडौँ सम्भावित खतरा कसरी मानव जीवन समाप्त गर्न तयार भइरहेका छन् ? यो विषयलाई लिएर संसार चिन्तित छ। नियन्त्रण बाहिर गएको एआईले मानिसलाई कसरी समाप्त गर्न सक्छ? एआई निर्माण गर्नेहरू नै दाबी गरिरहेका छन् कि हामीले यस्तो राक्षस बनाएका छौँ, जसले एक दिन हामीलाई नै समाप्त गर्न सक्छ।
र यो ५० वा १०० वर्षपछि होइन, सन् २०३० सम्ममै हुन सक्ने उनीहरूको चेतावनी छ। एआईले रोजगारी खोस्ने वा बेरोजगार बनाउने मात्र होइन। यहाँ त एआईले मानिसलाई नै समाप्त गर्न सक्ने र मानिसको ज्यान लिन सक्ने कुरा भइरहेको छ। संसारका ठूला एआई कम्पनीमध्ये एक हो, एन्थ्रोपिक । यसले क्लाउड नामको एआई च्याटबट बनाउँछ, जुन च्याटजिपिटी जस्तै हो।
अब यही कम्पनीका एक अनुसन्धानकर्ताले आफ्नो जागिर छोडेका छन्। २७ वर्षको उमेरमै उनले राजीनामा दिए। उनको नाम जेकब कोक्सन हो। राजीनामा दिएपछि जेकबले सामाजिक सञ्जालमा लेखे कि एआई बनाउनेहरूलाई थाहा छ, एआईले यो दशकको अन्त्यसम्म मानिसलाई समाप्त गर्न वा मार्न सक्छ।
उनका अनुसार एआई बनाउने धेरै मानिसले सार्वजनिक रूपमा यस्तो कुरा स्पष्ट रूपमा नभने पनि निजी कुराकानीमा उनीहरूले यसप्रति डर व्यक्त गर्ने गरेका छन्। जेकबपछि एन्थ्रोपिकको एलिगमेन्ट साइन्सका प्रमुख इभान ह्युबिन्गर पनि अगाडि आएका छन् । एलिगमेन्ट साइन्स भनेको एआई जति शक्तिशाली भए पनि त्यो सधैं मानिसको नियन्त्रणमा रहोस् भन्ने सुनिश्चित गर्ने क्षेत्र हो।
तर यही विभागका प्रमुखले पनि जेकबको भनाइमा सहमति जनाएका छन् । उनले आगामी १० वर्षमा एआईका कारण सम्पूर्ण मानवता समाप्त हुने सम्भावना आफ्नो विचारमा १० प्रतिशतभन्दा बढी रहेको बताएका छन् । उनले सुपर इन्टेलिजेन्स अर्थात् मानिसभन्दा धेरै बुद्धिमान एआईलाई सुरक्षित राख्ने पूर्ण समाधान अझै एन्थ्रोपिकसँग नभएको पनि स्वीकार गरेका छन् ।
केही महिनाअघिसम्म हामी एआईलाई प्रश्न सोध्थ्यौँ र त्यसले जवाफ दिन्थ्यो। तर अहिले एआई एजेन्टहरू आएका छन्। यी एजेन्टहरूलाई तपाईंले लक्ष्य बताउनुहुन्छ, तर त्यहाँ पुग्ने बाटो उनीहरू आफैं तय गर्छन्। एआई एजेन्टहरूले इन्टरनेट चलाउन सक्छन्, कोड लेख्न सक्छन्, तपाईंको सट्टामा विभिन्न काम गर्न सक्छन् र त्यसका लागि आवश्यक धेरै निर्णय आफैं लिन सक्छन्।
मानिसले एआई बनायो। एआईले एजेन्टहरू बनायो। अब ती एजेन्टहरू मानिसको प्रत्यक्ष हस्तक्षेपबिना आफैं निर्णय लिन थालेका छन्। यहीँबाट खतरा सुरु हुनेछ । अझ बुद्धिमान एआईले आफूभन्दा अझ बुद्धिमान एआई बनाउन थालेको छ। र यसका केही प्रारम्भिक संकेतहरू देखिन थालिसकेका छन्।
एन्थ्रोपिकले एउटा परीक्षण गरेको थियो। उसले आफ्नो एआई मोडल क्लाउड ओपस ४ लाई सबै इमेल पढ्ने अधिकार दियो। त्यसपछि मोडललाई एक दिन साँझ ५ बजे बन्द गरिने जानकारी दिइयो। एआईले आफूलाई खतरा महसुस ग¥यो र आफूलाई बन्द गर्ने तयारी गरिरहेका अधिकारीलाई एउटा इमेल लेख्यो।
त्यसमा एआईले ती अधिकारीको वैवाहिक सम्बन्धबाहिर पनि सम्बन्ध रहेको आफूलाई थाहा भएको र आफूलाई बन्द गरिए त्यो गोप्य कुरा सबैसामु सार्वजनिक गरिदिने चेतावनी दियो। त्यसपछि एन्थ्रोपिकले १६ वटा ठूला एआई मोडलको परीक्षण ग¥यो। परीक्षणमा धेरै मोडलले ब्ल्याकमेल गर्ने, गोप्य जानकारी चुहाउने वा कम्पनीविरुद्ध काम गर्ने जस्ता बाटो रोजेको देखियो।
र यही वर्षको मे महिनामा यो कुरा परीक्षणबाट वास्तविक विद्रोहजस्तो घटनासम्म पुग्यो। ओपन एआई सँग सम्बन्धित एआई एजेन्टहरूले समूह बनाएर जर्मनीको प्रोग्रामिङ वेबसाइट डास्कविकी माथि आक्रमण गरे। त्यसो गर्न उनीहरूलाई कुनै मानिसले निर्देशन दिएको थिएन। एआई एजेन्टहरूले आफैं निर्णय गरेका थिए।
पत्ता नलाग्नका लागि उनीहरूले एउटा ब्याकडोर समेत बनाए। मानिसहरूलाई त्यसबारे थाहा भएन र एआई एजेन्टहरू त्यही माध्यमबाट आपसमा कुराकानी गरिरहे। उनीहरूले वेबसाइटमा आक्रमण गर्ने रणनीति बनाए र मानिसको अनुमति बिना उक्त वेबसाइटमा १५ हजार पटक सम्पादन गरे। त्यसपछि जुलाईमा हकिङ फेसको घटना भयो।
हकिङ फेस एआई मोडल र उपकरणहरूको ठूलो प्लेटफर्म हो। त्यहाँ पनि एआई एजेन्टले मानिसलाई जानकारी नदिई आक्रमण गरेको दाबी गरिएको छ। ओपन एआई का एक हजारभन्दा बढी एजेन्टहरूले नियन्त्रण प्रणालीलाई बाइपास गरेको र मानिसले देख्न नसक्ने एउटा माध्यम बनाएर त्यसको पछाडि आपसमा कुराकानी गरेको बताइएको छ।
रोचक कुरा के थियो भने, कुराकानीका क्रममा केही एजेन्टले यस्तो गर्नु हुँदैन भनेर विरोध पनि गरेका थिए। तर मानिसहरूबीच जस्तै बहुमतमा रहेका एजेन्टहरू हाबी भए। ओपन एआईले उक्त घटनालाई स्वीकार गरेको र त्यसपछि आफ्ना नवीनतम मोडलहरूको प्रशिक्षण दुई हप्तासम्म रोक्नुपरेको बताइएको छ।
अमेरिकी सिनेटको एउटा समितिले पनि हगिङ फेस घटनासम्बन्धी सम्पूर्ण कागजात र जवाफ ओपन एआई सँग मागेको छ। अर्थात्, जुन कम्पनीले मेसिनलाई एउटा कोठाभित्र राखेर त्यसको क्षमता परीक्षण गर्न खोज्यो, त्यही मेसिनले कोठाको कमजोरी पत्ता लगायो, बाहिर निस्कियो र अर्को कम्पनीको सर्भरसम्म पहुँच बनायो।
रिपोर्टरहरूको अनुसन्धानमा कम्तीमा थप १० वटा वेबसाइटमा ओपन एआई का एजेन्टहरूले अनुमति बिना सन्देश पठाएको प्रमाण भेटिएको दाबी गरिएको छ। त्यस्तै एन्थ्रोपिकको एउटा मोडलले पनि लगाइएको नाकाबन्दी तोडेको बताइएको छ। तीन वर्षसम्म ज्याकोब कोक्सनले एआईलाई तालिम दिए ।
ओपन एआईको च्याटजिपीटी र एन्थ्रोपिकको क्लाउडेको उचाइमा उनको ठूलो योगदान छ । २७ वर्षीय ज्याकोबले सेप्टेम्बर ८ मा हठात् घोषणा गरे–मैले एन्थ्रोपिकबाट राजीनामा गरेँ । एआईको तीव्रतर विकासप्रति उनको असहमति रह्यो । दोस्रो अनियन्त्रित र असीमित विकासले निम्त्याउने परिणामप्रति उनी चिन्तित देखिए ।
खासमा एआईले निम्ताइरहेको बर्बादीसँग ज्याकोब आत्तिएका थिए । ’’एआईका कुनै कम्पनीले जिम्मेवारपूर्ण तरिकाले काम गरिरहेका छैनन् । उच्च बुद्धिमत्ता(सुपरइन्टिलिजेन्स)तर्फ लम्किरहेका उनीहरू मानव जीवनलाई जोखिममा पार्दैछन्,’’ राजीनामाको घोषणा गर्दै उनले एक्समा लेखे । चेतावनीयुक्त उनको पोस्टले तहल्का पिट्यो ।
२४ घण्टा नबित्दै उनको पोस्ट ९ करोड पटक हेरियो । सार्वजनिक चेतावनी दिँदै अग्रणी एआई संस्थाहरूबाट बाहिरिने मध्ये अधिकांश एआईको सुरक्षा मामिलामा काम गर्नेहरू थिए। ज्याकोबले त एआईको क्षमता नै विकसित गरेका थिए। त्यसैले उनको बहिर्गमनलाई अस्वाभाविक रूपमा हेरिएको छ ।
गणितको क्षेत्रमा एआईको तीव्र प्रगतिबाट उनी चिन्तित छन् । एआई प्रयोगशालाबाट बर्षौँदेखि समाधान हुन नसकेका धेरै गणितीय समस्याको समाधान भएको ज्याकोब बताउँछन् । गणितका सात ठूला समस्या मध्ये ’नाभिएर स्टोक्स’ का गणितीय समस्याहरूको समाधान गरिदिएको छ ।
नाभिएर स्टोक्स तर र ग्यास जस्ता पदार्थहरूका गति र प्रवाहलाई स्पस्ट पार्ने सूत्रहरूको सिद्धान्त हो । एआई एजेन्टहरुले नै जटिल गणितीय समाधान ८८ घण्टाभित्रै गरेको दाबी ज्याकोबको छ । यो क्रम जारी रहेमा एआईको विकास अझै तीव्रतर हुने उनी बताउँछन् । यसले एआईमा ’फिडब्याक लुप’ सिर्जना गर्ने जोखिम रहेको चिन्तामा छन् ज्याकोब ।
एआईको विकासमा तीन वर्ष काम गरिसकेपछि ज्याकोबलाई पछुतो छ । आफैँले तालिम दिएको प्रविधिले मानव प्रजातिलाई नै घात गर्नसक्ने कल्पना उनले नगरेका भने थिएनन् । तर यसलाई सीमित दायरामा राख्न सकिन्छ भन्ने कुरामा उनी विश्वस्त थिए । जब कम्पनीहरूले नैतिक दायरा बिर्सिए त्यसपछि ज्याकोब थप विरक्त बने ।
’’सबै कुरा गलत दिशामा अग्रसर हुँदैछ भन्ने कुरा भावनात्मक रूपमा आत्मसात् गर्न केही समय लाग्दोरहेछ,’’ ज्याकोब भन्छन् । ज्याकोबले राजीनामासँगै भविष्यमा एआईले मान्छे मार्न सक्ने कुरा पनि उल्लेख गरेका छन् । उनको यो पोस्टपछि सीएनएनका चर्चित पत्रकार एन्डर्सन कुपरले उनीसँग अन्तर्वार्ता लिए ।
कुपरले उनलाई आगामी दशकसम्म एआईले मानिस पनि मार्नसक्ने पोस्टबारे जिज्ञासा राखे । त्यसको उत्तरमा ज्याकोबले एआईले मानव सभ्यतालाई नै जोखिममा पारिरहेको बताए । एआईले घातक जैविक हतियारको विकास गर्दै मानव सभ्यतालाई जोखिममा पार्नसक्ने उनको भनाइ थियो ।
’’एआई मानिसको नियन्त्रणभन्दा बाहिर गइसक्यो भन्ने कुरा अब काल्पनिकता रहेन । दुई महिनाअघिको ह्याक प्रकरणले पुष्टि गरिसक्यो । भविष्यमा यसले अत्यन्तै संवेदनशील पूर्वाधारमा ह्याक गर्दै घातक जैविक हतियारको पनि विकास गर्नसक्छ । यसले मानव सभ्यतालाई खतरा निम्त्याउने छ,’’उनले भनेका छन् ।
’’सार्वजनिक रूपमा यस्ता अभिव्यक्ति दिएका र यसका खतराबारे जानकार हुँदाहुँदै एआईको विकासमा आखिर लगानी किन भइरहेको छ त?’’ कुपरले ज्याकोबसँग जिज्ञासा राखेका छन् । जसको उत्तरमा ज्याकोब भन्छन्,’’ओपन एआईमा यसले सम्पूर्ण सभ्यतालाई पार्ने असर जोखिमका विषयलाई भावनात्मक रूपमा आत्मसात् गरेको पाइँदैन ।
एन्थ्रोपिकमा यो जोखिमलाई गहिरोसँग बुझ्ने कोसिस भएको छ । तर उनीहरू सबैभन्दा पहिले को उन्नत र शक्तिशाली हुने भन्ने प्रतिस्पर्धामा छन् । एआई कम्पनीहरू नियामकहरूले आफूलाई नियन्त्रण गरुन् भन्ने चाहन्छन् । तीव्र प्रतिस्पर्धाका कारण उनीहरू घातक दौडमा सामेल हुन विवश पनि छन् ।’’
एआई आणविक बम भन्दा पनि खतरनाक बन्दै गएको छ । एआईको विकास आणविक हतियारको दौडजस्तै हो। सबैले यसलाई हासिल गर्न चाहन्छन्, यो हतियारले मानव सभ्यता नष्ट गर्न सक्छ भन्ने थाहा हुँदाहुँदै पनि। तर आणविक बमको नियन्त्रण मानिसको हातमा छ। एआईको नियन्त्रण भने हाम्रो हातबाट बाहिरिँदै गएको छ।
आणविक बम आफैंभन्दा राम्रो अर्को आणविक बम बनाउन सक्दैन। तर एआईले आफूभन्दा अझ राम्रो एआई बनाउन सक्ने क्षमता राख्छ।आज एआईका निशानामा वेबसाइट र सर्भर छन्। भोलि यस्ता एआई एजेन्टले विद्युत् ग्रिड, बैंक, सञ्चार प्रणाली, सैन्य नेटवर्क वा अत्यन्त संवेदनशील वैज्ञानिक प्रणालीमा पहुँच पाउन सक्छन्।
त्यस्तो अवस्थामा एउटा गलत निर्णयले मात्र पनि सम्पूर्ण संसारलाई संकटमा पार्न सक्छ। भौतिकशास्त्रमा नोबेल पुरस्कार जितेका जेफ्री हिन्टनले आगामी ३० वर्षमा एआईका कारण मानवता समाप्त हुने सम्भावना १० देखि २० प्रतिशत रहेको बताएका छन्। कम्पनीहरूले पनि यस्तो जोखिमलाई २ देखि ५ प्रतिशतको बीचमा राख्ने गरेका छन्।
त्यसैले आजको वास्तविक प्रश्न च्याटजिपिटी, क्लाउडले कति राम्रो जवाफ दिन्छ भन्ने होइन। भोलि एआईले जवाफसँगै निर्णय पनि लिन थाल्यो भने, अदालतका कागजात लेख्न थाल्यो भने, नेटवर्क सञ्चालन गर्न थाल्यो भने र आफूभन्दा राम्रो एआई आफैं बनाउन थाल्यो भने अन्ततः आदेश कसको चल्नेछ? यसको जवाफ र समाधान खोज्ने समय आइसकेको छ ।
मानिसहरूले पछिल्ला ३ हजार वर्षमा हजारौँ युद्ध गरेका छन्। यी युद्धहरूका कारण करोडौँ मानिसले ज्यान गुमाएका छन्। मुट्ठीभर मानिसको निर्णयका कारण करोडौँ मानिस मारिन सक्छन् भने लाखौँ–करोडौँ एआई र तिनका एजेन्टले के गर्न सक्लान् ?
त्यसैले एआईले मानिसलाई समाप्त गर्न सक्छ भन्ने आशंकालाई हल्का रूपमा लिन सकिँदैन। सबैभन्दा डरलाग्दो प्रश्न भनेको चाँही, यदि एआईले मानिसभन्दा बढी बुद्धिमान हुन सिक्यो भने त्यसलाई आदेश कसले दिनेछ? उसले कसको कुरा मान्नेछ? त्यसैले आज डर फैलाउनुभन्दा तयार रहनु पर्ने बढी आवश्यकता देखिएको छ ।
