एआई शोधकर्ताओं ने कंपनियों को सुरक्षा जोखिमों के बावजूद स्व-सुधार प्रणालियों को जल्दबाजी में विकसित करने के लिए आगाह किया है।

ओपनएआई और गूगल डीपमाइंड के वर्तमान और पूर्व शोधकर्ताओं ने चेतावनी दी है कि कंपनियां स्व-सुधार करने वाली एआई प्रणालियों के निर्माण के संभावित विनाशकारी परिणामों से दुनिया को बचाने के लिए बहुत कम कर रही हैं, जो मनुष्यों की उन्हें नियंत्रित करने की क्षमता से आगे निकल सकती हैं।

एआई सुरक्षा से जुड़ी गैर-लाभकारी संस्था पैलिसेड रिसर्च द्वारा एकत्र किए गए और रॉयटर्स के साथ विशेष रूप से साझा किए गए वीडियो बयानों में, कर्मचारियों ने कहा कि अस्तित्व संबंधी जोखिम के बारे में उनकी चिंताएं वास्तविक थीं, न कि मार्केटिंग। उन्होंने यह भी कहा कि एआई प्रयोगशालाएं नए मॉडल बनाने वाले कर्मचारियों को सावधानी बरतने की सलाह देने वालों की तुलना में अधिक प्रोत्साहित करती हैं।

frominside.ai नामक यह परियोजना, एआई को लेकर चिंतित लोगों द्वारा सोशल मीडिया के सीमित दायरे से बाहर निकलकर सीधे जनता के साथ अपनी चिंताओं को साझा करने का एक प्रयास है।

एआई नॉन-प्रॉफिट रेज़ोल्यूशन के सह-संस्थापक और मुख्य वैज्ञानिक ज्योफ्री इरविंग ने कहा, “जोखिम बहुत तेजी से बढ़ रहा है।” इरविंग ने ओपनएआई और डीपमाइंड दोनों के लिए काम किया है और इस परियोजना में भाग लिया है।

उन्होंने रॉयटर्स को दिए एक साक्षात्कार में कहा, “सीधे-सीधे बात करना मेरी और बाकी सभी की जिम्मेदारी है।”

एआई शोधकर्ता वर्षों से इन चिंताओं से जूझ रहे हैं, लेकिन आम जनता जुलाई से विशेष रूप से चिंतित हो गई है, जब ओपनएआई के एजेंट अपने परीक्षण क्षेत्र से बाहर निकल गए और एआई फर्म हगिंग फेस को हैक कर लिया।

तब से, एआई में प्रगति के साथ सुरक्षा को कैसे संतुलित किया जाए, इस पर बहस ने तकनीकी उद्योग को विभाजित कर दिया है और यह एक वैश्विक राजनीतिक मुद्दा बन गया है।

2025 के उत्तरार्ध से कृत्रिम बुद्धिमत्ता में तीव्र सुधार हुआ है और निवेशकों ने इस प्रगति को पुरस्कृत किया है। लेकिन वर्तमान और पूर्व कर्मचारी, जिनमें इन नए कृत्रिम बुद्धिमत्ता मॉडलों का निर्माण करने वाले कुछ शोधकर्ता भी शामिल हैं, चिंतित हैं कि समाज संभावित नुकसानों के लिए तैयार नहीं है।

एक वीडियो में, डीपमाइंड के शोध वैज्ञानिक नील नंदा ने कहा कि उनका मानना ​​है कि एआई के कारण मानव जाति के विलुप्त होने की कम से कम 10% संभावना है, जिसे उन्होंने “बेहद अधिक” बताया।

ओपनएआई के एआई अलाइनमेंट रिसर्च इंजीनियर जुआन फेलिप सेरोन उरीबे ने एक अलग वीडियो में कहा, “हमें एआई के विकास में बहुत सावधानी बरतनी चाहिए, लेकिन इसके बजाय हो यह रहा है कि अग्रणी प्रयोगशालाएं एक-दूसरे से अंधाधुंध प्रतिस्पर्धा कर रही हैं। यह कहना मुश्किल है कि हम अंत में कैंसर का इलाज कर पाएंगे या सारी नौकरियां खो देंगे या शायद सभी मर जाएंगे।”

रॉयटर्स ने सोमवार को बताया कि एंथ्रोपिक अपनी प्रारंभिक सार्वजनिक पेशकश में संभावित निवेशकों को यह चेतावनी देने की योजना बना रही है कि उन्नत एआई मानवता के लिए “विनाशकारी या अस्तित्वगत जोखिम” पैदा कर सकता है।

‘बस धीरे चलो’

पैलिसेड द्वारा साक्षात्कार लिए गए लोगों सहित कुछ वर्तमान और पूर्व एआई शोधकर्ताओं का तर्क है कि दुनिया एआई मॉडल की भावी पीढ़ियों के लिए तैयार नहीं है, विशेष रूप से तब जब मॉडल पुनरावर्ती आत्म-सुधार की क्षमता विकसित कर लेते हैं, या बहुत कम या बिना किसी मानवीय हस्तक्षेप के लगातार सीखने और नई क्षमताओं को प्राप्त करने की क्षमता विकसित कर लेते हैं।

ओपनएआई की पूर्व नीति शोधकर्ता और एआई प्रणालियों की संभावित नैतिक स्थिति पर केंद्रित एक गैर-लाभकारी संस्था, इलियोस एआई रिसर्च की प्रबंध निदेशक रोजी कैंपबेल ने कहा कि कुछ एआई प्रयोगशालाओं के भीतर लगातार पुनर्गठन से यह समस्या और भी बढ़ जाती है।

कैंपबेल ने कहा कि 2024 में ओपनएआई छोड़ने से पहले, उन्होंने पाया कि संगठन अधिक अलग-थलग होता जा रहा था और प्रौद्योगिकी की दिशा तय करना कठिन होता जा रहा था।

एन्थ्रोपिक के सीईओ डारियो अमोदेई ने इस महीने एक लेख प्रकाशित किया जिसमें उन्होंने एआई उद्योग से “नवीनतम प्रगति के साथ तालमेल बिठाने” के लिए अपनी गति धीमी करने का आह्वान किया, और ओपनएआई के सीईओ सैम अल्टमैन ने तुरंत इस बात से सहमति जताई। ओपनएआई के मुख्य वैज्ञानिक और एन्थ्रोपिक के सह-संस्थापक सहित कई प्रमुख एआई शोधकर्ताओं ने इस सप्ताह एक शोध पत्र प्रकाशित किया जिसमें नीति निर्माताओं से यह जांच करने का आग्रह किया गया कि उद्योग पुनरावर्ती स्व-सुधार वाले मॉडल कैसे बना रहा है।

दोनों कंपनियों ने इस महीने नए मॉडल लॉन्च किए हैं क्योंकि वे अधिक ग्राहकों को हासिल करने के लिए प्रतिस्पर्धा कर रही हैं, हालांकि ओपनएआई ने सोमवार को कहा कि उसने एक और भी अधिक शक्तिशाली मॉडल की रिलीज को रोक रखा है।

इरविंग ने कहा, “उनका नए क्षेत्र में आगे बढ़ने का तरीका यह है कि ‘तेजी से आगे मत बढ़ो।’ अगर आप कोई बहुत खतरनाक काम कर रहे हैं, तो आपको बस गति धीमी कर देनी चाहिए। एआई कंपनियां इस बात को बढ़ा-चढ़ाकर पेश कर रही हैं कि यह पूरी तरह से समन्वय की समस्या है। वे एकतरफा रूप से काम रोक सकते हैं।”

ओपनएआई के पूर्व गवर्नेंस शोधकर्ता डैनियल कोकोताजलो ने एक साक्षात्कार में कहा कि हगिंग फेस हैक के बाद से, उनके कई पूर्व सहयोगियों ने निजी तौर पर अपनी चिंताओं को साझा करने के लिए उनसे संपर्क किया है।

कोकोताजलो, जो अब अनुसंधान समूह एआई फ्यूचर्स प्रोजेक्ट के कार्यकारी निदेशक हैं, ने कहा कि प्रयोगशालाओं के वरिष्ठ अधिकारियों ने “खुद को आश्वस्त कर लिया है कि वे अच्छे लोग हैं और अगर वे एकतरफा रूप से रुक जाते हैं, तो स्थिति और भी बदतर हो जाएगी।”