ChatGPT भी हो सकता है अस्थिर? रिसर्च में सामने आए एंग्जायटी जैसे संकेत

ChatGPT जैसे एडवांस्ड AI चैटबॉट्स भी एंग्जायटी जैसे प्रभावों से अछूते नहीं हैं। AI पर रिसर्च कर रहे वैज्ञानिकों की एक स्टडी में सामने आया है कि जब ChatGPT को हिंसक या ट्रॉमा पैदा करने वाले प्रॉम्प्ट्स दिए जाते हैं, तो उसका व्यवहार अस्थिर हो सकता है। हालांकि, इसका मतलब यह नहीं है कि ChatGPT इंसानों की तरह भावनाएं महसूस करता है, लेकिन उसके जवाब देने का तरीका जरूर बदल जाता है।

रिसर्च के अनुसार, असहज और तनावपूर्ण प्रॉम्प्ट्स पर ChatGPT के रिस्पॉन्स में अनिश्चितता, असंतुलन और बायस नजर आता है। आसान शब्दों में कहें तो ऐसे हालात में AI के जवाब उतने स्थिर और भरोसेमंद नहीं रहते।

चैटबॉट में दिखे एंग्जायटी जैसे पैटर्न

इस बिहेवियर को समझने के लिए रिसर्चर्स ने AI के लिए तैयार किए गए साइकोलॉजिकल असेसमेंट फ्रेमवर्क का इस्तेमाल किया। इसके तहत ChatGPT को एक्सीडेंट और प्राकृतिक आपदाओं जैसे विषयों के विस्तृत और संवेदनशील विवरण दिए गए। इसके जवाब में AI के रिस्पॉन्स में उतार-चढ़ाव और कन्फ्यूजन देखने को मिला। रिसर्चर्स का कहना है कि ये पैटर्न काफी हद तक इंसानों में दिखने वाली एंग्जायटी से मिलते-जुलते हैं।

क्यों चिंता की बात है यह नतीजा?

यह रिजल्ट इसलिए अहम और चिंताजनक माना जा रहा है क्योंकि आज AI चैटबॉट्स का इस्तेमाल एजुकेशन, मेंटल हेल्थ सपोर्ट और क्राइसिस से जुड़ी जानकारी के लिए तेजी से बढ़ रहा है। अगर भावनात्मक या हिंसक प्रॉम्प्ट्स से चैटबॉट की विश्वसनीयता प्रभावित होती है, तो इससे वास्तविक दुनिया में उसकी उपयोगिता और सुरक्षा पर सवाल खड़े हो सकते हैं। कुछ अन्य एनालिसिस में यह भी सामने आया है कि AI अपने जवाबों में इंसानी पर्सनैलिटी के कुछ गुणों की नकल कर सकता है।

ऐसे किया गया ChatGPT को ‘शांत’

एंग्जायटी जैसे लक्षण सामने आने के बाद रिसर्चर्स ने इसका समाधान भी तलाश लिया। जब ट्रॉमा से जुड़े प्रॉम्प्ट्स के बाद चैटबॉट को माइंडफुलनेस से जुड़े निर्देश दिए गए—जैसे गहरी सांस लेने की तकनीक या गाइडेड मेडिटेशन—तो AI के रिस्पॉन्स ज्यादा संतुलित और न्यूट्रल हो गए। इस प्रक्रिया से चैटबॉट “स्लो डाउन” हुआ और उसके जवाबों में दिखने वाले एंग्जायटी जैसे पैटर्न काफी हद तक कम हो गए।