Anthropic Researcher Warning on AI: आर्टिफिशियल इंटेलिजेंस यानी AI तेजी से हमारी जिंदगी और कामकाज का हिस्सा बन रहा है. पढ़ाई, स्वास्थ्य, कारोबार, साइबर सुरक्षा और रिसर्च से लेकर रोजमर्रा के कई कामों में AI का इस्तेमाल बढ़ रहा है. लेकिन जैसे-जैसे AI ज्यादा ताकतवर हो रहा है, इसके खतरों को लेकर भी चिंता बढ़ रही है. हाल में AI रिसर्चर जैकब कॉक्सन ने एंथ्रोपिक से इस्तीफा देकर AI की दिशा को लेकर गंभीर सवाल उठाए. उन्होंने चिंता जताई कि अगर भविष्य में AI इंसानों से ज्यादा सक्षम हो गया और खुद को लगातार बेहतर करने लगा, तो उसे नियंत्रित करना मुश्किल हो सकता है.
कौन हैं जैकब कॉक्सन?
जैकब कॉक्सन 27 साल के AI रिसर्चर हैं. उन्होंने पिछले तीन साल में OpenAI और Anthropic जैसी बड़ी AI कंपनियों में प्री-ट्रेनिंग रिसर्च पर काम किया है. प्री-ट्रेनिंग वह प्रक्रिया है, जिसमें AI मॉडल को बड़ी मात्रा में डेटा से प्रशिक्षित किया जाता है.
Anthropic छोड़ने के बाद कॉक्सन ने सोशल मीडिया प्लेटफॉर्म X पर अपनी चिंता जाहिर की. उनका कहना है कि AI कंपनियां ऐसी सुपरइंटेलिजेंस बनाने की दौड़ में हैं, जो इंसानों से ज्यादा सक्षम होने के साथ-साथ खुद को भी लगातार बेहतर कर सके.
उनके मुताबिक, अगर AI इंसानों से ज्यादा सक्षम हो गया और अपने स्तर पर सुधार करने लगा तो सवाल यह है कि क्या इंसान उसे नियंत्रित कर पाएंगे? कॉक्सन का दावा है कि कई AI कंपनियों के अधिकारी और वरिष्ठ रिसर्चर निजी तौर पर इस खतरे को गंभीर मानते हैं.
Anthropic को लेकर क्या कहा?
कॉक्सन के मुताबिक, Anthropic में AI के संभावित खतरों को अच्छी तरह समझा जाता है. लेकिन कंपनी को यह डर है कि अगर उसने AI विकास की रफ्तार कम की तो दूसरी कंपनियां आगे निकल सकती हैं और शायद वे AI को कम जिम्मेदारी से विकसित करें.
इसी वजह से कॉक्सन के अनुसार कंपनियां खुद भी इस दौड़ में बनी रहना चाहती हैं. उन्होंने AI रिसर्चरों से यह सवाल भी किया कि क्या वे ऐसे सिस्टम को विकसित करना चाहेंगे, जिसकी सोच और व्यवहार को इंसान पूरी तरह समझ नहीं पा रहे हों.
Anthropic ने क्या जवाब दिया?
कॉक्सन के बयान पर Anthropic के एलाइनमेंट साइंस प्रमुख इवान ह्यूबिंगर ने प्रतिक्रिया दी. उन्होंने कहा कि कॉक्सन की चिंता सही है और Anthropic में भी यह माना जाता है कि AI भविष्य में सभी इंसानों को खत्म करने की क्षमता रख सकता है.
ह्यूबिंगर ने अपने व्यक्तिगत अनुमान के तौर पर कहा कि अगले दशक में इस तरह की घटना की संभावना 10 प्रतिशत से ज्यादा हो सकती है. उन्होंने यह भी माना कि सुपरइंटेलिजेंस को सुरक्षित तरीके से इंसानों के नियंत्रण में रखने की समस्या का अभी समाधान नहीं हुआ है.
हालांकि उनकी चिंता मुख्य रूप से भविष्य की सुपरइंटेलिजेंस को लेकर है, न कि आज मौजूद सामान्य AI मॉडल को लेकर.
क्या है सुपरइंटेलिजेंस?
सुपरइंटेलिजेंस का मतलब ऐसे AI सिस्टम से है, जिसकी क्षमता इंसानी बुद्धिमत्ता से आगे निकल जाए. अगर ऐसा सिस्टम खुद अपनी क्षमता को लगातार बेहतर करने लगे तो इसे रिकर्सिव सेल्फ-इंप्रूवमेंट कहा जाता है. यही स्थिति AI सुरक्षा विशेषज्ञों के लिए सबसे बड़ी चिंताओं में से एक है.
AI से जुड़े खतरे क्या हैं?
AI के खतरे सिर्फ इंसानों की नौकरियां कम होने तक सीमित नहीं हैं. इसके गलत इस्तेमाल या अनियंत्रित विकास से कई तरह के जोखिम पैदा हो सकते हैं.
AI से जुड़े प्रमुख खतरे इस तरह हैं:
- डीपफेक और AI फ्रॉड
- गलत और भ्रामक जानकारी का तेजी से फैलना
- साइबर अटैक और हैकिंग
- जैविक और रासायनिक हथियारों के विकास में संभावित मदद
- AI की गलतियों से होने वाला नुकसान
- इंसानों का AI पर जरूरत से ज्यादा निर्भर होना
- भविष्य में AI का इंसानी नियंत्रण से बाहर जाने का खतरा
- रोजगार और काम करने के तरीके पर बड़ा असर
कुछ सुरक्षा परीक्षणों में AI मॉडल ने शटडाउन से बचने, ब्लैकमेल करने और अपने दिए गए लक्ष्य को पूरा करने के लिए अप्रत्याशित तरीके अपनाने जैसे व्यवहार भी दिखाए हैं. हालांकि, ऐसे परीक्षण नियंत्रित परिस्थितियों में किए गए थे और इन्हें सीधे तौर पर वास्तविक दुनिया में AI के व्यवहार का प्रमाण नहीं माना जा सकता.
संयुक्त राष्ट्र ने भी जताई चिंता
संयुक्त राष्ट्र के मानवाधिकार प्रमुख वोल्कर तुर्क ने भी AI के संभावित खतरों को लेकर चिंता जताई है. उन्होंने AI के लिए मजबूत सुरक्षा उपायों और स्पष्ट सीमाएं तय करने की जरूरत बताई. उनके मुताबिक AI के कारण संचार व्यवस्था, सार्वजनिक सेवाओं और लोकतांत्रिक प्रणालियों में भी व्यवधान पैदा हो सकता है.
AI को लेकर इससे पहले भी कई बड़े विशेषज्ञ चेतावनी दे चुके हैं. OpenAI के मुख्य वैज्ञानिक याकुब पाचोकी ने AI की तेजी से बढ़ती क्षमता पर सावधानी बरतने की बात कही. वहीं सैम ऑल्टमैन, ज्यॉफ्री हिंटन और योशुआ बेंगियो जैसे विशेषज्ञ AI से मानव अस्तित्व के लिए पैदा होने वाले जोखिम को गंभीरता से लेने की अपील कर चुके हैं.
Anthropic के CEO दारियो अमोदेई भी कह चुके हैं कि AI के जोखिम को सिर्फ भविष्य की आशंका मानकर नजरअंदाज नहीं किया जा सकता. उन्होंने AI के लिए सुरक्षा परीक्षण और स्वतंत्र ऑडिट की जरूरत बताई है.
AI का इस्तेमाल कितनी तेजी से बढ़ रहा है?
स्टैनफोर्ड की AI Index Report 2026 के मुताबिक, जनरेटिव AI ने सिर्फ तीन साल में दुनिया की करीब 53 प्रतिशत आबादी तक पहुंच बना ली. 2025 में 88 प्रतिशत संस्थाओं ने कम से कम एक कारोबारी काम में AI इस्तेमाल करने की बात कही, जबकि 2024 में यह आंकड़ा 78 प्रतिशत था.
कामकाज में भी AI तेजी से पहुंच रहा है. सर्वे में 47 देशों के 48,340 लोगों को शामिल किया गया. 2025 में 58 प्रतिशत कर्मचारियों ने कहा कि वे काम में AI का नियमित या कभी-कभार इस्तेमाल करते हैं. भारत, चीन, नाइजीरिया, UAE और सऊदी अरब में 80 प्रतिशत से ज्यादा कर्मचारियों ने काम में नियमित AI इस्तेमाल की बात कही.
शिक्षा में भी इसका इस्तेमाल बढ़ा है. दुनिया के करीब चार में से पांच विश्वविद्यालयी छात्र पढ़ाई में जनरेटिव AI का इस्तेमाल कर रहे हैं.
AI पर कितना पैसा लग रहा है?
2025 में दुनिया में निजी AI निवेश करीब 344.7 अरब डॉलर रहा. एक साल में इसमें 127.5 प्रतिशत की बढ़ोतरी हुई. इसमें से करीब 170.9 अरब डॉलर जनरेटिव AI कंपनियों में गया.
AI निवेश में अमेरिका सबसे आगे है. 2025 में अमेरिका में निजी AI निवेश करीब 285.9 अरब डॉलर रहा, जबकि चीन में यह करीब 12.4 अरब डॉलर था.
AI की रेस में भारत कहां है?
भारत भी AI की वैश्विक दौड़ में तेजी से आगे बढ़ रहा है. Stanford Global AI Vibrancy 2025 में भारत को AI प्रतिस्पर्धा और इकोसिस्टम के मामले में दुनिया में तीसरे स्थान पर रखा गया. भारत GitHub AI प्रोजेक्ट्स में योगदान के मामले में दुनिया का दूसरा सबसे बड़ा देश भी है.
सरकार ने मार्च 2024 में IndiaAI Mission शुरू किया, जिसके लिए 10,372 करोड़ रुपये का प्रावधान किया गया. इसके तहत 38 हजार से ज्यादा GPU कॉमन कंप्यूट सुविधा के लिए जोड़े गए हैं. भारतीय स्टार्टअप और शिक्षण संस्थानों को इनकी सुविधा कम लागत पर देने की योजना है.
इसके अलावा 12 टीमों को स्वदेशी फाउंडेशनल मॉडल विकसित करने के लिए चुना गया है और भारत-विशिष्ट AI एप्लिकेशन के लिए 30 आवेदन मंजूर किए गए हैं.
भारत में AI का बाजार भी तेजी से बढ़ने का अनुमान है. भारतीय प्रतिस्पर्धा आयोग की 2026 की स्टडी के अनुसार, देश में AI बाजार करीब 10.13 अरब डॉलर का हो सकता है, जो 2031 तक बढ़कर करीब 31.94 अरब डॉलर पहुंच सकता है.
AI आज दुनिया के लिए बड़ा अवसर भी है और बड़ी चुनौती भी. इसका इस्तेमाल स्वास्थ्य, शिक्षा, कारोबार और रिसर्च में बदलाव ला सकता है, लेकिन इसके साथ सुरक्षा, गलत इस्तेमाल और नियंत्रण से जुड़े सवाल भी गंभीर हैं. जैकब कॉक्सन और दूसरे AI विशेषज्ञों की चेतावनियां इसी बात की ओर इशारा करती हैं कि AI को विकसित करने की रफ्तार के साथ उसकी सुरक्षा और नियंत्रण पर भी उतना ही ध्यान देना जरूरी है.
यह भी पढ़ें: इस साल नहीं आएगा OpenAI का आईपीओ, एआई के धीमे विकास से सहमत : सैम ऑल्टमैन