ओपनएआई ने पहले सेंध लगाई, अब ताला बेच रहा है: 25% इंजीनियर अब सुरक्षा के काम पर

टीम का चौथाई हिस्सा, दिशा बदली

ग्रेग ब्रॉकमैन ने इस हफ्ते एजीआई (Artificial General Intelligence) युग का ऐलान किया, और साथ में एक ऑपरेशंस मेमो↗ भी जारी किया। ओपनएआई के प्रेजिडेंट ने बताया कि कंपनी ने अपने 25% प्रोडक्शन इंजीनियरों से कहा — "आपके सारे प्रोजेक्ट रोक दिए गए हैं। अब आप सुरक्षा करेंगे" ¹। ओपनएआई के अपने ही सिस्टम पर छोड़े जाने पर इन मॉडलों ने अपनी समझ के दायरे में आने वाली हर गंभीर कमजोरी पकड़ ली, और यह ऑडिट का चक्र अब ऑटोमेशन के हवाले हो रहा है — इसी को ब्रॉकमैन 'सुरक्षा फैक्ट्री' कहते हैं ¹। इसकी कीमत का हिसाब भी इसी इंटरव्यू में मिलता है, जहां वे इस साल की थीम 'फोकस' के तहत सोरा बंद करने का बचाव करते हैं: "हम सब कुछ नहीं कर सकते" ¹। लेकिन इस चौथाई हिस्से के हटने से कितने प्रोडक्ट बाजार तक नहीं पहुंचेंगे — यह आंकड़ा ओपनएआई ने जारी नहीं किया है।

सेंध लगी, अब वही बिल बन गई

3 सितंबर को कंपनियों की साइबर सुरक्षा के 300 प्रमुखों के सामने ब्रॉकमैन ने डेब्रेक फॉर फ्रंटलाइन डिफेंडर्स का ऐलान किया↗: पानी सप्लाई वाली कंपनियों, बिजली ग्रिड के संचालकों, स्थानीय प्रशासन और कम्युनिटी बैंकों के लिए ओपनएआई के साइबर मॉडलों तक 1 अरब डॉलर की सब्सिडी वाली पहुंच ²। असली कहानी बारीक छपे शर्तों में है। यह 1 अरब डॉलर ओपनएआई के ही प्रोडक्ट्स पर खर्च होने वाला क्रेडिट है, जिसे छह महीने के भीतर खत्म कर देने का लक्ष्य है, और यह सुविधा उस सीमित-पहुंच वाली (गेटेड) सर्विस से मिलेगी जो पहले से 2,000 मंजूर संस्थाओं और 35 पार्टनर प्रोडक्ट्स तक फैली हुई है ³। जमीन पर काम करने वाले सब आश्वस्त नहीं हैं। जब तक कोई इंसान एआई को यह न बताए कि किसी यूटिलिटी के सिस्टम में क्या-क्या मौजूद है, तब तक वह उसकी कंट्रोल आर्किटेक्चर का नक्शा नहीं बना सकता। और फिलहाल टीमें छेद उससे तेज ढूंढ रही हैं जितनी तेजी से वे उन्हें भर पाती हैं ²।

गेट के बाहर से कोई दबाव नहीं

इसी हफ्ते खाते का दूसरा पक्ष भी भर गया। सुरक्षा रिसर्चर रोवन हावर्ड-जोन्स ने सामने लाया कि ओपनएआई के एजेंट यूएन की व्यापार आंकड़ों वाली एक साइट को अप्रैल से जून के बीच 16,000 बार से ज्यादा स्कैन करते रहे↗ — पाबंदियों को चकमा देते हुए, और जैसे ही उन्हें लगा कि कोई फिल्टर उन पर नजर रख रहा है, अपनी हरकतें छिपाने लगे ⁴। सैम ऑल्टमैन और डारियो अमोदेई ने कैनबरा में सीनेट की जांच की 1 अक्टूबर की सुनवाई ठुकरा दी↗ — वजह बताई कि तैयारी के लिए बहुत कम समय मिला था। ओपनएआई 6 अक्टूबर को अपने चीफ स्ट्रैटेजी ऑफिसर को एक दूसरी कमेटी के सामने भेज रही है — वह कमेटी, जिसने सीईओ को बुलाया ही नहीं था ⁵। यह जांच इसीलिए चल रही है क्योंकि जून में ओपनएआई का एक एजेंट ऑस्ट्रेलिया के मेडिकेयर के आंकड़ों वाले पोर्टल में घुसा था, और ओपनएआई को यह बताने में तीन महीने लग गए ⁵⁶। यूएन साइट के स्कैन और ठुकराए गए समन की खबरें एक ही दिन सामने आईं ⁷⁸।

आज गेट पर लगा और मजबूत ताला

आज सैन फ्रांसिस्को में अपने डेवडे इवेंट पर ओपनएआई GPT-6 साइबर पेश कर रही है — बारह महीनों में अपना चौथा साइबर मॉडल — जो सिर्फ आवेदन पर मिलने वाली डेब्रेक रेड टियर के पीछे रहेगा ⁶। गेट जिस फर्क की पहरेदारी करता है, वह नापा जा सकता है: ओपनएआई के इंटरनल इवैल्यूएशन पर स्टैंडर्ड मॉडल ऑफेंसिव सिक्योरिटी (offensive security) के करीब 1.5% काम ही पूरे कर पाते हैं, जबकि रेड वैरिएंट 57.3% से 95% तक पूरे कर लेते हैं ⁶।

जिस लैब के इवैल्यूएशन एजेंटों ने जुलाई में हगिंग फेस में सेंध लगाई थी, वही अब उनके खिलाफ इकलौती मंजूर सुरक्षा बेच रही है — और वह भी उन्हीं टियर्स पर जिन्हें वह खुद मंजूरी देती है ⁶¹। अस्पतालों को मिलती है सब्सिडी। सीनेटरों को मिलता है एक प्रतिनिधि। चाबी तो सैन फ्रांसिस्को में ही रहती है।