AI के लिए नया ग्लोबल रूलबुक तैयार हो रहा है

परमिशनलेस इनोवेशन का अंत

आर्टिफिशियल इंटेलिजेंस (AI) की ‘वाइल्ड वेस्ट’ वाली दुनिया खत्म हो रही है। सालों तक, डेवलपर्स ने बिना किसी निगरानी या जवाबदेही के मॉडल्स बनाए। अब, उस आजादी की जगह एक सख्त कंप्लायंस और सेफ्टी स्ट्रक्चर ले रहा है। यह केवल सुझाव नहीं, बल्कि भारी जुर्माने और मार्केट से बाहर किए जाने के डर के साथ लागू किए गए सख्त कानून हैं। यूरोपियन यूनियन अपने व्यापक AI Act के साथ आगे है, जबकि अमेरिका भी सबसे शक्तिशाली मॉडल्स को नियंत्रित करने के लिए एग्जीक्यूटिव ऑर्डर्स ला रहा है। ये नियम तय करेंगे कि कोड कैसे लिखा जाए और डेटा कैसे इकट्ठा हो। ये बदल देंगे कि इस हाई-स्टेक्स फील्ड में कौन टिक पाएगा। यदि आप ऐसा मॉडल बनाते हैं जो मानवीय व्यवहार की भविष्यवाणी करता है, तो अब आप सरकार की नजरों में हैं। यह बदलाव इंडस्ट्री का फोकस स्पीड से हटाकर सेफ्टी पर ले आया है। कंपनियों को अब लॉन्च से पहले साबित करना होगा कि उनके सिस्टम बायस्ड नहीं हैं। यह दुनिया की हर टेक फर्म के लिए नई सच्चाई है।

कोड में रिस्क की कैटेगराइजेशन

नए नियमों का आधार रिस्क-बेस्ड अप्रोच है। इसका मतलब है कि कानून एक म्यूजिक रिकमेंडेशन इंजन और मेडिकल डायग्नोस्टिक टूल या सेल्फ-ड्राइविंग कार को अलग-अलग नजरिए से देखता है। यूरोपियन यूनियन ने इस तरह के रेगुलेशन के लिए गोल्ड स्टैंडर्ड सेट किया है। वे AI को समाज को होने वाले नुकसान के आधार पर चार श्रेणियों में बांटते हैं। प्रतिबंधित सिस्टम वे हैं जो स्पष्ट नुकसान पहुंचाते हैं और पूरी तरह बैन हैं। इसमें सोशल स्कोरिंग सिस्टम शामिल हैं, जैसे कि सत्तावादी राज्यों द्वारा नागरिकों को रैंक करने के लिए इस्तेमाल किए जाते हैं। इसमें कानून प्रवर्तन द्वारा सार्वजनिक स्थानों पर रियल-टाइम बायोमेट्रिक पहचान भी शामिल है। हाई-रिस्क सिस्टम पर रेगुलेटर्स की सबसे ज्यादा नजर रहेगी। इनका उपयोग क्रिटिकल इंफ्रास्ट्रक्चर, एजुकेशन और एंप्लॉयमेंट में होता है। यदि कोई AI यह तय करता है कि किसे नौकरी मिलेगी या किसे लोन, तो उसे पारदर्शी होना होगा। इसमें मानवीय निगरानी और उच्च स्तर की सटीकता होनी चाहिए। लिमिटेड रिस्क सिस्टम, जैसे चैटबॉट्स, में कम नियम हैं लेकिन पारदर्शिता जरूरी है। उन्हें बस यूजर को बताना होगा कि वे मशीन से बात कर रहे हैं। मिनिमल रिस्क सिस्टम, जैसे AI दुश्मनों वाले वीडियो गेम्स, को ज्यादातर अकेला छोड़ दिया जाता है। यह फ्रेमवर्क अधिकारों की रक्षा के लिए है, न कि प्रगति रोकने के लिए। हालांकि, इन श्रेणियों की परिभाषाओं पर अभी भी अदालतों और बोर्डरूम में बहस चल रही है। जिसे एक व्यक्ति साधारण रिकमेंडेशन कहता है, दूसरा उसे मनोवैज्ञानिक हेरफेर कह सकता है। नियम रेत पर लकीर खींचने की कोशिश करते हैं, लेकिन तकनीक के साथ वह रेत लगातार बदल रही है।

यूरोपियन पार्लियामेंट ने EU AI Act पर अपनी ब्रीफिंग में इन श्रेणियों का विवरण दिया है। यह डॉक्यूमेंट दुनिया के लिए AI गवर्नेंस का आधार बन गया है। यह चर्चा को अमूर्त डर से हटाकर ठोस ऑपरेशनल जरूरतों की ओर ले जाता है जिन्हें कंपनियों को पूरा करना होगा।

ग्लोबल स्टैंडर्डाइजेशन की दौड़

ये नियम सिर्फ यूरोप तक सीमित नहीं हैं। हम *Brussels Effect* का उदय देख रहे हैं। जब एक बड़ा मार्केट ऐसे नियम बनाता है जिसका पालन सबको करना पड़े, तो ग्लोबल कंपनियां पेरिस और न्यूयॉर्क के लिए अलग-अलग मॉडल नहीं बनाएंगी। वे सबसे सख्त स्टैंडर्ड के हिसाब से ही बिल्ड करेंगी। इसीलिए EU फ्रेमवर्क एक ग्लोबल टेम्पलेट बन रहा है। ब्राजील और कनाडा भी ऐसे ही कानून बना रहे हैं। यहां तक कि अमेरिका, जो आमतौर पर इनोवेशन के लिए हल्की रेगुलेशन पसंद करता है, अब ज्यादा कंट्रोल की ओर बढ़ रहा है। व्हाइट हाउस ने एक एग्जीक्यूटिव ऑर्डर जारी किया है जिसमें शक्तिशाली मॉडल्स के डेवलपर्स को अपने सेफ्टी टेस्ट रिजल्ट्स सरकार के साथ साझा करने होंगे। यह रेगुलेशन की एक बिखरी हुई लेकिन जुड़ती हुई दुनिया बनाता है। कंपनियों को अब नए नियमों को समझने के लिए वकीलों की फौज रखनी पड़ रही है। उभरते बाजारों के छोटे स्टार्टअप्स के लिए इन नियमों का पालन करना नामुमकिन हो सकता है। इससे ऐसी दुनिया बन सकती है जहां केवल बड़े टेक दिग्गज ही कंप्लायंट रह सकें। यह एक हाई-स्टेक्स गेम है जहां कारें तेज रफ्तार में दौड़ रही हैं और नियम चलते-चलते लिखे जा रहे हैं। AI सेफ्टी पर US Executive Order स्पष्ट संकेत है कि सेल्फ-रेगुलेशन का दौर खत्म हो गया है।

क्या आपके पास कोई AI कहानी, उपकरण, ट्रेंड या प्रश्न है जिसके बारे में आपको लगता है कि हमें कवर करना चाहिए? हमें अपना लेख विचार भेजें — हमें इसे सुनकर खुशी होगी।

कंप्लायंट ऑफिस में एक दिन

मान लीजिए एलेक्स नाम का एक प्रोडक्ट मैनेजर है जो ह्यूमन रिसोर्सेज के लिए AI टूल्स बनाने वाले स्टार्टअप में काम करता है। नए नियमों से पहले, एलेक्स हर शुक्रवार को अपडेट पुश करता था। अब, प्रक्रिया बहुत धीमी और सोच-समझकर होती है। हर नए फीचर को कोड डिप्लॉय करने से पहले रिस्क असेसमेंट से गुजरना पड़ता है। एलेक्स को ट्रेनिंग डेटा डॉक्यूमेंट करना होता है और दिखाना होता है कि यह प्रोटेक्टेड ग्रुप्स के खिलाफ भेदभाव नहीं करता। उसे मॉडल के निर्णयों के विस्तृत लॉग रखने होते हैं। इससे डेवलपमेंट साइकिल में हफ्तों का समय बढ़ जाता है। एक सामान्य मंगलवार को, एलेक्स कोडिंग नहीं कर रहा होता, बल्कि मॉडल कार्ड्स की समीक्षा के लिए कंप्लायंस ऑफिसर के साथ मीटिंग कर रहा होता है। वे चेक करते हैं कि API लॉग्स पारदर्शिता और डेटा रिटेंशन के नए मानकों को पूरा करते हैं या नहीं। यह वह फ्रिक्शन है जो सेफ्टी पैदा करती है। यूजर के लिए, इसका मतलब नए फीचर्स का धीमा रोलआउट हो सकता है। लेकिन इसका मतलब यह भी है कि किसी ब्लैक बॉक्स एल्गोरिदम द्वारा नौकरी से गलत तरीके से रिजेक्ट होने की संभावना कम है। लोग अक्सर यह मान लेते हैं कि ये नियम इनोवेशन को रोक देंगे, लेकिन असल में यह सिर्फ रूप बदलेंगे। लोग इन कानूनों की जटिलता को कम आंकते हैं। यह सिर्फ बायस से बचने के बारे में नहीं है, बल्कि डेटा सोवरेन्टी और एनर्जी यूसेज के बारे में भी है। विरोधाभास हर जगह हैं। हम चाहते हैं कि AI तेज और शक्तिशाली हो, लेकिन हम यह भी चाहते हैं कि वह धीमा और सावधान रहे। एलेक्स को हर हफ्ते कई काम करने होते हैं:

• डेटा प्रोवेनेंस की समीक्षा करना ताकि ट्रेनिंग सेट्स कानूनी रूप से प्राप्त हों।
• हर नए मॉडल इटरेशन पर बायस डिटेक्शन स्क्रिप्ट्स चलाना।
• बड़े मॉडल्स को ट्रेन करने के लिए इस्तेमाल किए गए कंप्यूट रिसोर्सेज को डॉक्यूमेंट करना।
• यूजर इंटरफेस को अपडेट करना ताकि अनिवार्य AI डिस्क्लोजर शामिल हों।
• कंपनी के सेफ्टी प्रोटोकॉल का थर्ड-पार्टी ऑडिट मैनेज करना।

दिन के अंत में, एलेक्स इन नियमों का बोझ महसूस करता है। वह जानता है कि वे निष्पक्षता के लिए महत्वपूर्ण हैं, लेकिन वह यह भी जानता है कि कम नियमों वाले देशों में उसके प्रतियोगी तेजी से आगे बढ़ रहे हैं। वह सोचता है कि क्या उसका स्टार्टअप नैतिक होने की कीमत चुकाकर बच पाएगा। यह हजारों डेवलपर्स की सच्चाई है। अधिक जानकारी के लिए, हमारा नवीनतम AI पॉलिसी एनालिसिस देखें।

नए रेगुलेटर्स के लिए कठिन सवाल

इन नियमों से वास्तव में किसे फायदा होता है? क्या जनता को, या उन टेक दिग्गजों को जो कानूनी फीस दे सकते हैं? यदि किसी स्टार्टअप को अपनी फंडिंग का आधा हिस्सा कंप्लायंस पर खर्च करना पड़े, तो क्या यह प्रतिस्पर्धा को खत्म नहीं करता? हमें प्राइवेसी की छिपी हुई लागतों के बारे में भी पूछना चाहिए। यदि हर मॉडल का ऑडिट होना है, तो ऑडिट कौन करेगा? क्या हम सरकार पर भरोसा कर सकते हैं कि उसे हर बड़े AI की आंतरिक कार्यप्रणाली तक पहुंच हो? ग्लोबल इनइक्वलिटी का सवाल भी है। यदि पश्चिम नियम बनाता है, तो ग्लोबल साउथ का क्या होगा? क्या उन्हें ऐसे स्टैंडर्ड्स अपनाने के लिए मजबूर किया जाएगा जो उनकी स्थानीय जरूरतों के अनुकूल नहीं हैं? हमें बताया जाता है कि ये नियम हमें सुरक्षित बनाते हैं, लेकिन क्या वे ऐसा करते हैं? या वे सिर्फ सुरक्षा का झूठा अहसास पैदा करते हैं जबकि असली जोखिम डार्क वेब के अनियमित हिस्सों में चले जाते हैं? हमें पूछना होगा कि क्या कोई कानून हर महीने बदलने वाली तकनीक के साथ तालमेल बिठा सकता है। United Nations AI Advisory Body इन ग्लोबल गैप्स को भरने की कोशिश कर रही है, लेकिन सहमति मिलना मुश्किल है। विरोधाभास अभी भी बने हुए हैं। हम सुरक्षा चाहते हैं, लेकिन ओवररीच से डरते हैं। हम इनोवेशन चाहते हैं, लेकिन ऐसी प्रणाली के परिणामों से डरते हैं जिसे हम पूरी तरह नहीं समझते।

कंप्लायंस का टेक्निकल आर्किटेक्चर

पावर यूजर्स और डेवलपर्स के लिए, नियम बहुत विशिष्ट हैं। US एग्जीक्यूटिव ऑर्डर कंप्यूट पावर को रिस्क का पैमाना मानता है। यदि कोई मॉडल 10^26 फ्लोटिंग पॉइंट ऑपरेशंस से ज्यादा का उपयोग करके ट्रेन किया जाता है, तो यह अनिवार्य रिपोर्टिंग की मांग करता है। यह कंप्यूट की भारी मात्रा है, लेकिन जैसे-जैसे हार्डवेयर बेहतर होगा, और मॉडल्स इस सीमा तक पहुंचेंगे। डेवलपर्स को डेटा प्रोवेनेंस के बारे में भी चिंता करनी होगी। आप अब इंटरनेट से डेटा स्क्रैप करके उम्मीद नहीं कर सकते। आपको साबित करना होगा कि आपके पास डेटा का उपयोग करने का अधिकार है। रेड-टीमिंग के लिए भी नए स्टैंडर्ड्स हैं। यह वह जगह है जहां आप लोगों को अपने AI को तोड़ने की कोशिश करने के लिए काम पर रखते हैं। इन टेस्ट्स के रिजल्ट्स को अब डॉक्यूमेंट करना होगा और रेगुलेटर्स के साथ साझा करना होगा। API प्रोवाइडर्स को भी नई सीमाओं का सामना करना पड़ रहा है। उन्हें अपने ग्राहकों की पहचान सत्यापित करने की आवश्यकता हो सकती है। मॉडल्स की लोकल स्टोरेज एक और चिंता का विषय है। यदि कोई मॉडल लैपटॉप पर चलने के लिए काफी छोटा है, तो आप इन नियमों को कैसे लागू करेंगे? इसका जवाब अक्सर हार्डवेयर-लेवल रिस्ट्रिक्शंस या AI-जनरेटेड कंटेंट की अनिवार्य वॉटरमार्किंग के माध्यम से मिलता है। आपको निम्नलिखित टेक्निकल जरूरतों पर विचार करना होगा:

• सभी मॉडल ट्रेनिंग सेशंस के लिए मजबूत लॉगिंग लागू करना।
• टेक्स्ट और इमेज आउटपुट की वॉटरमार्किंग के लिए ऑटोमेटेड टूल्स विकसित करना।
• थर्ड-पार्टी मॉडल ऑडिट के लिए सुरक्षित वातावरण स्थापित करना।
• यह सुनिश्चित करना कि API रेट लिमिट्स सेफ्टी फिल्टर्स को बायपास न करें।
• ह्यूमन-इन-द-लूप इंटरवेंशन का विस्तृत रिकॉर्ड रखना।

ये जरूरतें एक डेवलपर के वर्कफ़्लो को बदल देती हैं। अब यह केवल सटीकता या गति के बारे में नहीं है। यह एक ऐसी प्रणाली बनाने के बारे में है जो शुरू से अंत तक ऑडिट योग्य हो। इसका मतलब है इंफ्रास्ट्रक्चर पर अधिक समय और कोर एल्गोरिदम पर कम समय। इसका मतलब यह भी है कि लोकल स्टोरेज और ऑफलाइन मॉडल्स पर समान सेफ्टी फीचर्स शामिल करने का दबाव बढ़ेगा, जो एज डिवाइसेस पर परफॉरमेंस को प्रभावित कर सकता है।

अधूरा फ्रेमवर्क

निष्कर्ष यह है कि आर्टिफिशियल इंटेलिजेंस के लिए ‘तेजी से आगे बढ़ो और चीजें तोड़ो’ का दौर खत्म हो गया है। हम ‘सावधानी से आगे बढ़ो और सब कुछ डॉक्यूमेंट करो’ के दौर में प्रवेश कर रहे हैं। नियम अभी भी लिखे जा रहे हैं और वे पूर्णता से दूर हैं। वे सुरक्षा, लाभ और राष्ट्रीय सुरक्षा के बीच एक समझौता हैं। एक बड़ा सवाल अभी भी खुला है: क्या कोई सेंट्रलाइज्ड कानून वास्तव में डीसेंट्रलाइज्ड तकनीक को नियंत्रित कर सकता है? जैसे-जैसे ओपन-सोर्स मॉडल्स में सुधार होगा, रेगुलेटेड और संभव के बीच का अंतर बढ़ता जाएगा। यह कहानी का अंत नहीं है। यह बस शुरुआत का अंत है। रूलबुक बननी शुरू हो गई है, लेकिन स्याही अभी भी गीली है। हम देखेंगे कि आने वाले महीनों में ये कानून कैसे लागू होते हैं और इंडस्ट्री कैसे अनुकूल होती है। एकमात्र निश्चितता यह है कि जिस तरह से हम AI बनाते और उपयोग करते हैं, वह कभी पहले जैसा नहीं होगा।

संपादक का नोट: हमने इस साइट को उन लोगों के लिए एक बहुभाषी AI समाचार और गाइड हब के रूप में बनाया है जो कंप्यूटर गीक नहीं हैं, लेकिन फिर भी आर्टिफिशियल इंटेलिजेंस को समझना चाहते हैं, इसे अधिक आत्मविश्वास के साथ उपयोग करना चाहते हैं, और उस भविष्य का अनुसरण करना चाहते हैं जो पहले से ही आ रहा है।