AI की जगह इंसान कर रहे थे फोन कॉल, Meta ने Muse का परीक्षण फिलहाल रोका

Meta ने अपने नए निजी AI सहायक Muse के लिए एक ऐसी सुविधा का परीक्षण किया, जिसमें कुछ फोन कॉल AI की जगह कंपनी के मानव ठेकेदार करते थे। कंपनी के कर्मचारियों के बीच इस व्यवस्था को लेकर गोपनीयता और संवेदनशील जानकारी के अनजाने में साझा होने की चिंताएं उठीं। इसके बाद Meta ने फिलहाल इस सुविधा को वापस ले लिया है।

Meta ने पिछले सप्ताह अपने कर्मचारियों को इस परीक्षण के बारे में जानकारी दी थी। यह परीक्षण कंपनी की ओर से Muse में फोन कॉल की सुविधा सार्वजनिक रूप से शुरू किए जाने के कुछ समय बाद किया गया। Muse को इस तरह डिजाइन किया गया है कि वह उपयोगकर्ता की ओर से ईमेल भेजने, खरीदारी करने और यात्रा बुक करने जैसे काम खुद कर सके।

फोन कॉल की सुविधा के तहत उपयोगकर्ता Muse को अमेरिका में किसी कंपनी या कारोबारी प्रतिष्ठान का नंबर मिलाने और वहां मौजूद व्यक्ति से बातचीत करने का निर्देश दे सकता है। इसका इस्तेमाल बाल कटवाने का समय तय करने, किसी दुकान में सामान उपलब्ध है या नहीं यह पता करने या अलग-अलग ठेकेदारों से कीमत पूछने जैसे कामों के लिए किया जा सकता है।

हालांकि, कुछ कर्मचारियों ने चिंता जताई कि इन कॉल में इंसानों की भागीदारी से उपयोगकर्ताओं की संवेदनशील जानकारी अनजाने में कॉल सेंटर के कर्मचारियों तक पहुंच सकती है। एक कर्मचारी ने आंतरिक पोस्ट में इस व्यवस्था को जोखिम भरा बताया और कहा कि किसी तकनीकी खामी के कारण जरूरी से अधिक जानकारी इंसानी कॉल करने वाले तक पहुंच सकती है।

एक अन्य कर्मचारी ने बताया कि उसने Muse से अपने इंटरनेट और केबल सेवा प्रदाता को फोन कर बिल कम कराने के लिए बातचीत करने को कहा था। उसके अनुसार, कॉल की रिकॉर्डिंग में मानव ठेकेदार की ओर से नस्ल से जुड़ी आपत्तिजनक टिप्पणी सामने आई।

Meta के Superintelligence Labs विभाग की एक उपाध्यक्ष ने कर्मचारियों को जवाब देते हुए माना कि उचित जानकारी दिए बिना ठेकेदारों से कॉल करवाने का परीक्षण शुरू करना कंपनी की गलती थी। उन्होंने कहा कि Meta ने फिलहाल इस सुविधा को वापस ले लिया है।

उन्होंने बताया कि Meta अभी भी AI के जरिए फोन कॉल करने की सुविधा को बेहतर बनाने पर काम कर रही है। कंपनी के कुछ परीक्षणों में इंसानों द्वारा कॉल किए जाने पर सफलता दर 95 से 98 फीसदी तक पहुंची, जबकि केवल AI द्वारा किए गए कॉल में सफलता दर इससे कम रही।

Meta की अधिकारी ने नस्ल से जुड़ी टिप्पणी की शिकायत करने वाले कर्मचारी से माफी भी मांगी। उन्होंने कहा कि संबंधित मानव एजेंट को भविष्य में Meta की किसी भी परियोजना पर काम नहीं करने दिया जाएगा।

यह परीक्षण इस बात की ओर भी ध्यान दिलाता है कि स्वचालित AI सेवाओं के पीछे कई बार इंसानी श्रम का इस्तेमाल किया जाता है। तकनीकी कंपनियां ऐसे AI सहायक विकसित कर रही हैं जो अपने आप काम कर सकें, लेकिन कई बार सामने वाले लोग AI से बात करने में हिचकते हैं, जिससे कंपनियों को इंसानी सहायता की जरूरत पड़ती है।

Meta ने करीब एक दशक पहले भी इसी तरह का प्रयोग किया था। उस समय Facebook के नाम से काम करने वाली कंपनी ने Messenger में ‘M’ नाम का डिजिटल सहायक शुरू किया था। बाद में मीडिया रिपोर्टों में अनुमान लगाया गया था कि इस सहायक के करीब 70 फीसदी काम वास्तव में इंसानों द्वारा किए जाते थे।

Meta के प्रवक्ता डैनियल रॉबर्ट्स ने कहा कि कर्मचारियों की प्रतिक्रिया कुल मिलाकर सकारात्मक रही और परीक्षण का उद्देश्य लोगों से प्रतिक्रिया लेना था, ताकि सार्वजनिक रूप से सुविधा जारी करने से पहले सुरक्षा और गोपनीयता संबंधी उपायों को बेहतर किया जा सके।

उन्होंने कहा कि कंपनी कारोबारी प्रतिष्ठानों के साथ मिलकर इस संभावित फोन कॉल सुविधा को बेहतर बना रही है और इसे तभी व्यापक रूप से जारी किया जाएगा, जब यह तैयार होगी और उपयोगकर्ताओं को इसके बारे में उचित जानकारी दी जाएगी।

बाजार संबंधी आंकड़ों के अनुसार, लॉन्च के बाद से Muse को 25 लाख से अधिक बार डाउनलोड किया जा चुका है। इसके लॉन्च के बाद Meta के शेयर में 20 फीसदी से अधिक की बढ़ोतरी हुई और कंपनी का बाजार मूल्य 200 अरब डॉलर से ज्यादा बढ़कर सात महीने से अधिक समय के उच्चतम स्तर पर पहुंच गया। हालांकि, मंगलवार को कंपनी के शेयर में 0.6 फीसदी की गिरावट आई।

Meta ने Muse को लॉन्च करते समय उसकी सुरक्षा व्यवस्था पर खास जोर दिया था। कंपनी के अनुसार, हर AI एजेंट के लिए अलग सुरक्षित ‘वर्चुअल मशीन’ यानी क्लाउड पर एक अलग कंप्यूटर की व्यवस्था की जाती है, ताकि उपयोगकर्ताओं के सत्र अलग रहें। पासवर्ड जैसी संवेदनशील जानकारी को भी अलग सुरक्षित भंडारण में रखने की बात कही गई थी।

कर्मचारियों ने मानव एजेंट वाली सुविधा को लेकर अपनी आपत्तियों में इन्हीं सुरक्षा उपायों का हवाला दिया। उनका कहना था कि मानव ठेकेदारों को फोन कॉल सौंपने की व्यवस्था Muse की सुरक्षा संबंधी प्रमुख विशेषता को कमजोर कर सकती है।

Meta ने अगस्त में अपने कर्मचारियों से फोन कॉल सुविधा का परीक्षण शुरू कराया था। Muse के सार्वजनिक रूप से लॉन्च होने के बाद इसे धीरे-धीरे उपयोगकर्ताओं के लिए भी उपलब्ध कराया गया। हालांकि, कुछ उपयोगकर्ताओं को AI द्वारा किए गए फोन कॉल में समस्याओं का सामना करना पड़ा। एक कर्मचारी ने बताया कि जब उसने अपनी बीमा कंपनी को फोन करने की कोशिश की तो कंपनी के कर्मचारियों ने यह सुनने के बाद बार-बार कॉल काट दी कि दूसरी तरफ AI है।

इन समस्याओं से निपटने के लिए Meta ने पिछले सप्ताह अपने करीब आधे कर्मचारियों के लिए मानव एजेंट वाली सुविधा शुरू की थी। इसके तहत Muse उपयोगकर्ता के अनुरोध को प्रशिक्षित मानव एजेंट तक भेज सकता था, जो फोन करके पूरा काम संभालता था। कर्मचारियों को इस सुविधा से बाहर रहने का विकल्प भी दिया गया था।