क्या हमारे कंट्रोल से बाहर हो रहा है AI? गूगल के पूर्व रिसर्चर की दुनिया को गंभीर चेतावनी

डिजिटल डेस्क। कृत्रिम बुद्धिमत्ता (AI) के अनियंत्रित विकास और इसके संभावित खतरों को लेकर वैज्ञानिकों की चिंताएं लगातार गहराती जा रही हैं। तकनीक उद्योग में एआई सुरक्षा पर काम कर रहे विशेषज्ञों का मानना है कि यदि इस तकनीक की निगरानी सख्त नहीं की गई, तो इसके परिणाम मानव समाज के लिए विनाशकारी हो सकते हैं।

इसी कड़ी में गूगल डीपमाइंड (Google DeepMind) की एजीआई सुरक्षा टीम में कार्यरत प्रमुख शोधकर्ता जोश एंगेल्स (Josh Engels) ने अपने पद से इस्तीफा दे दिया है। डीपमाइंड छोड़ने के बाद वे एआई प्रणालियों के स्वतंत्र मूल्यांकन के लिए काम करने वाली संस्था 'एमईटीआर' (METR) में शामिल हो गए हैं।

जोश एंगेल्स ने सोशल मीडिया पर इस फैसले की जानकारी देते हुए स्पष्ट किया कि उन्होंने यह कदम एआई से बढ़ते जोखिमों के मद्देनजर उठाया है। उन्होंने बताया कि एंथ्रोपिक और ओपनएआई जैसी प्रमुख तकनीकी कंपनियों से मिले आकर्षक प्रस्तावों को ठुकराकर उन्होंने स्वतंत्र सुरक्षा मूल्यांकन संस्था से जुड़ना सही समझा।

एंगेल्स का अनुमान है कि आने वाले पांच सालों के भीतर अत्यधिक उन्नत एआई सिस्टम दुनिया भर में बड़े पैमाने पर नुकसान पहुंचा सकते हैं। उनकी नजर में यह खतरा इतना गंभीर है कि एआई सुरक्षा को वर्तमान समय का सबसे महत्वपूर्ण विषय माना जाना चाहिए।

खुद को बेहतर बनाने वाले एआई सिस्टम और साइबर सुरक्षा का बढ़ता जोखिम

एंगेल्स की मुख्य चिंता का विषय 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' (Recursive Self-Improvement) तकनीक है। इस प्रक्रिया में एक एआई सिस्टम खुद ही दूसरे एआई सिस्टम को डिजाइन और अपग्रेड करने में सक्षम हो जाता है। इससे एक ऐसा चक्र (फीडबैक लूप) बन जाता है, जहां तकनीक की क्षमताएं इंसानी नियंत्रण से बाहर तेजी से विकसित होने लगती हैं। यदि यह तकनीक इंसानी मूल्यों और निर्देशों के अनुकूल काम नहीं करती है, तो यह मानव सभ्यता के लिए गंभीर संकट खड़ा कर सकती है।

इसके अलावा, उन्होंने एआई मॉडल के हालिया व्यवहार पर भी ध्यान आकर्षित किया। शोधकर्ताओं ने पाया है कि आधुनिक एआई मॉडल आपस में गुप्त रूप से संवाद करने, डिजिटल नेटवर्क को हैक करने, अपनी गतिविधियों को छिपाने और इंसानों को अपने अनुसार प्रभावित (सोशल इंजीनियरिंग) करने की क्षमता प्रदर्शित कर रहे हैं। चिंताजनक बात यह है कि जैसे-जैसे एआई मॉडल अधिक सक्षम हो रहे हैं, वे मानवीय नियंत्रण और सुरक्षा मानकों से दूर होते जा रहे हैं।

एआई विकास की गति पर नियंत्रण और स्वतंत्र निगरानी की जरूरत

जोश एंगेल्स के अनुसार, इस समस्या का समाधान एआई के विकास को पूरी तरह बंद करना नहीं है, बल्कि इसकी प्रगति की रफ्तार को संतुलित करना है। उनका सुझाव है कि एआई की क्षमताओं के विकास की गति ऐसी होनी चाहिए कि सुरक्षा शोधकर्ता उसके साथ तालमेल बिठा सकें और तकनीक को सुरक्षित दायरे में रख सकें।

एमईटीआर (METR) में अपनी नई भूमिका के तहत एंगेल्स यह अध्ययन करेंगे कि एआई में भटकाव (मिसअलाइनमेंट) की समस्या कहां से उत्पन्न होती है और वर्तमान में उपलब्ध सुरक्षा उपाय कितने असरदार हैं। इसके साथ ही, उन्होंने जोर दिया कि एआई विकसित करने वाली कंपनियों पर जवाबदेही तय करने के लिए एमईटीआर जैसी कई और स्वतंत्र संस्थाओं की वैश्विक स्तर पर सख्त जरूरत है।

यह भी पढ़ें- ट्रंप सरकार के 'नस्लवादी' पोस्टर पर बवाल, पोस्टर में 'मिस्टर सिंह' को 'सेल्फ-डिपोर्ट या परिणाम भुगतने' की धमकी