युद्ध-विरोधी फिजिसिस्ट से लेकर AI पावर ब्रोकर तक, अमोदेई ने अपने सेफ्टी अप्रोच को पब्लिक किया
डारियो अमोदेई के पेंटागन के साथ इस बात पर बहस करने से बहुत पहले कि क्या US मिलिट्री बड़े पैमाने पर घरेलू निगरानी और पूरी तरह से ऑटोनॉमस हथियारों के लिए एंथ्रोपिक के मॉडल का इस्तेमाल कर सकती है, वह एक और लड़ाई लड़ रहे थे।
2003 में कैलिफोर्निया इंस्टीट्यूट ऑफ टेक्नोलॉजी में, अमोदेई ने अपने क्लासमेट्स से इराक पर US हमले का विरोध करने के लिए कहा, और एक ऑप-एड में लिखा कि सिटिज़न-साइंटिस्ट्स को “युद्ध की मशीनें चलाने वाले अनैतिक टेक्नीशियन तक सीमित नहीं किया जाना चाहिए।”
गुरुवार को, जब 43 साल के अमोदेई ने अपने स्टार्टअप को IPO तक पहुंचाया, जिससे रिकॉर्ड $81 बिलियन जुटाए गए और इसकी वैल्यू लगभग $1.5 ट्रिलियन हो गई, तो इस लिस्टिंग ने एक आइडियलिस्टिक फिजिक्स स्टूडेंट से AI युग के सबसे ताकतवर कस्टोडियन में से एक बनने के उनके बदलाव को पक्का कर दिया।
अमोदेई ने गुरुवार को न्यूयॉर्क में नैस्डैक में कहा, “हम न तो बिज़नेस और न ही पॉलिटिकल दबाव के आगे झुकेंगे।” “आज कंपनी की फाइनेंशियल स्थिति मज़बूत हुई है, और ऐसा करने से सही काम करने का हमारा इरादा और मज़बूत होता है।”
अमोदेई ने अपनी तरक्की का ज़्यादातर समय उस टेक्नोलॉजी पर रोक लगाने में बिताया है, जिसके ज़बरदस्त पोटेंशियल को अनलॉक करने में उन्होंने अपना करियर लगा दिया है, और अब अपनी कंपनी को वॉल स्ट्रीट की सबसे कीमती कंपनियों में से एक बना दिया है। जब एंथ्रोपिक अपने डेब्यू की तैयारी कर रही थी, तब अमोदेई ने सितंबर में लगभग 4,000 शब्दों का एक एस्से लिखा, जिसमें चेतावनी दी गई थी कि कैसे AI की तरक्की इंसानी कंट्रोल से आगे निकल सकती है और डेवलपमेंट में कमी लाने की अपील की गई थी।
कुछ दिनों बाद, एंथ्रोपिक ने अपने सबसे पावरफुल मॉडल्स में से एक का नया वर्शन रिलीज़ किया, जो कॉम्पिटिटर OpenAI को चैलेंज कर रहा था, जहाँ उन्होंने AI सेफ्टी से जुड़े मतभेदों की वजह से नौकरी छोड़ने से पहले काम किया था।
उस लेख में, अमोदेई ने सुरक्षित AI की अपनी खोज और सबसे शक्तिशाली मॉडल बनाने की एंथ्रोपिक की दौड़ के बीच किसी भी विरोधाभास से इनकार किया।
उन्होंने लिखा, “एंथ्रोपिक की शुरुआत से ही मैं रिस्क और फायदे के इस दोहरेपन से जूझ रहा हूं।” “टेक्नोलॉजी न बनाना इंसानियत को फायदों से दूर रखता है या बस AI को तानाशाही ताकतों के हाथों में दे देता है, जबकि इसे बहुत तेज़ी से बनाना लापरवाही है।”
उन्होंने कहा कि एंथ्रोपिक एक व्यावसायिक रूप से व्यवहार्य कंपनी है जो सुरक्षा के मामले में “शीर्ष पर पहुंचने की दौड़” को बढ़ावा दे रही है।
इस तरीके की आलोचना ज़्यादा सुरक्षा उपायों के समर्थकों और सिलिकॉन वैली के अधिकारियों, जैसे कि एनवीडिया के पूर्व CEO जेन्सेन हुआंग, दोनों ने की है, जिन्होंने इनोवेशन को धीमा करने के खिलाफ चेतावनी दी है। AI पर कुछ लिमिट लगाने के एमोदेई के पक्के इरादे ने वाशिंगटन में उनके दुश्मन भी बना दिए, जिसका नतीजा इस साल की शुरुआत में ट्रंप प्रशासन के साथ एक बड़ी लड़ाई के रूप में सामने आया।
एमोडी और US डिफेंस सेक्रेटरी पीट हेगसेथ के बीच मीटिंग के बाद, सरकार ने एंथ्रोपिक के लिए मिलिट्री के कॉन्ट्रैक्ट की शर्तें मानने की डेडलाइन तय की, जिसे कंपनी ने मना कर दिया। इसके कारण सरकार ने उसकी टेक्नोलॉजी को ब्लैकलिस्ट कर दिया, जिसे क्लाउड बनाने वाली कंपनी ने कोर्ट में चैलेंज किया।
एंथ्रोपिक ने इस कहानी पर कमेंट करने से मना कर दिया।
एंथ्रोपिक के शेयर ट्रेडिंग के पहले दिन तेज़ी से बढ़े, और $111.50 पर शुरू हुए, जो $83 के IPO प्राइस से 34% ज़्यादा था।
सावधानी की कीमत
हालांकि IPO से हजारों पेपर मिलियनेयर बनने की उम्मीद थी, लेकिन अमोदेई ने कहा है कि कंपनी का सेफ्टी पर फोकस महंगा पड़ा है।
पिछले महीने उन्होंने X पर एक पोस्ट का जवाब दिया जिसमें एंथ्रोपिक के सेफ्टी रिकॉर्ड को चुनौती दी गई थी और AI डेवलपमेंट को रोकने के उसके वादे में बदलाव की आलोचना की गई थी, अगर वह रिस्क को कम नहीं कर सकता। एमोदेई ने कहा कि कंपनी ने हैकिंग रिस्क के कारण अपने पावरफुल मिथोस मॉडल्स को रिलीज़ करने में देरी करके और शुरू में साइबर सिक्योरिटी डिफेंडर्स तक एक्सेस को लिमिट करके “शायद कई महीनों की मॉडल लीड का एक बड़ा हिस्सा कुर्बान कर दिया है”।
एंथ्रोपिक हर साल कंप्यूटिंग क्षमता पर अरबों डॉलर खर्च कर रहा है, जिससे एक सार्वजनिक रूप से कारोबार करने वाली कंपनी के रूप में – भले ही उसके सात सह-संस्थापक या एक ट्रस्ट प्रमुख मामलों पर वोटिंग नियंत्रण रखते हों – शेयरधारक रिटर्न चाहते हैं, इसलिए मॉडल विकास को धीमा करने को उचित ठहराना कठिन हो गया है।
हालांकि, अपनी IPO फाइलिंग में, कंपनी ने बताया कि उसका कॉर्पोरेट सेटअप ऐसे फैसले ले सकता है जो “शॉर्ट-, मीडियम-, या लॉन्ग-टर्म फाइनेंशियल हितों और बिजनेस परफॉर्मेंस के साथ टकराव कर सकते हैं,” और कहा कि उसने सिक्योरिटी चिंताओं के कारण नेक्स्ट-जेनरेशन फ्लैगशिप AI मॉडल की ट्रेनिंग को एक महीने से ज़्यादा समय के लिए रोक दिया था।
परमाणु बम से सबक
डारियो अमोदेई और उनकी बहन और को-फ़ाउंडर डेनिएला सैन फ़्रांसिस्को के मिशन डिस्ट्रिक्ट में पले-बढ़े, यह उस जगह से कुछ ही मील दूर है जहाँ एंथ्रोपिक ने आखिरकार एक ग्लास टावर बनाया जिसमें सिलिकॉन वैली के फ़ायदे जैसे कि एक गॉरमे एस्प्रेसो बार था।
एक ईयरबुक के छोटे से हिस्से से पता चलता है कि आठवीं क्लास के उनके क्लासमेट्स ने उन्हें “सफल होने की सबसे ज़्यादा संभावना” वाला वोट दिया था, और उन्हें सैन फ्रांसिस्को के खास लोवेल पब्लिक हाई स्कूल में एडमिशन मिल गया। स्टैनफोर्ड में ट्रांसफर होने से पहले वे कैलटेक गए, और फिर प्रिंसटन गए, जहाँ उन्होंने बायोफिजिक्स और कम्प्यूटेशनल न्यूरोसाइंस पर फोकस करते हुए PhD की।
लगभग दो दशक पहले हेपेटाइटिस C से अपने पिता की मौत के बाद — मेडिकल तरक्की से बचने की दर में काफ़ी सुधार होने से कुछ साल पहले — अमोदेई ने आर्टिफिशियल इंटेलिजेंस की खोज की, जो दवा को तेज़ी से बढ़ा सके। एक पॉडकास्ट में, अपने पिता की बीमारी के बारे में बात करते हुए, अमोदेई ने इस आलोचना का जवाब दिया कि वह सिर्फ़ एक AI “डूमर” थे।
AI सेफ्टी को लेकर अमोदेई की दिलचस्पी ने उनके मैनेजमेंट स्टाइल पर असर डाला है।
डेनिएला अमोदेई कंपनी के रोज़ाना के कामों की देखरेख करती हैं, जबकि डारियो अमोदेई अपना लगभग 40% समय निबंधों और हर दो हफ़्ते में कंपनी भर में होने वाली मीटिंग्स के ज़रिए एंथ्रोपिक के कल्चर और विज़न को बनाने में लगाते हैं, जिन्हें कर्मचारियों ने “डारियो विज़न क्वेस्ट्स” नाम दिया है।
एंथ्रोपिक प्रेसिडेंट डेनिएला अमोदेई के बारे में एक पुराने कर्मचारी ने कहा, “ऑपरेशन के हिसाब से, ज़िम्मेदारी उन्हीं की है।” “स्ट्रेटेजी के हिसाब से, ज़िम्मेदारी उन्हीं की है।”
जून में छपे ब्लूमबर्ग इंटरव्यू में डारियो अमोदेई ने कहा कि उनके पास सिर्फ़ एक डायरेक्ट रिपोर्टर है, और उन्होंने इस स्ट्रक्चर को “बहुत आज़ादी देने वाला” बताया।
उनकी पसंदीदा किताबों में से एक है “द मेकिंग ऑफ़ द एटॉमिक बॉम्ब”, जिसे रिचर्ड रोड्स ने लिखा है। बम के आर्किटेक्ट रॉबर्ट ओपेनहाइमर के बारे में बात करते हुए, अमोदेई ने कहा: “कुछ मायनों में मैं असल में ओपेनहाइमर को एक फेलियर केस के तौर पर देखता हूँ, जो नहीं होना चाहिए।”

