AI इंडस्ट्री कानून और रेगुलेशन को लेकर क्यों चिंतित है?
AI एथिक्स (नैतिकता) के स्वैच्छिक दौर का अंत हो गया है। वर्षों तक, टेक दिग्गज और स्टार्टअप्स एक ऐसी दुनिया में काम करते रहे जहाँ ‘सिद्धांत’ और ‘दिशानिर्देश’ ही एकमात्र सुरक्षा कवच थे। लेकिन European Union AI Act के आने और अमेरिका में मुकदमों की लहर के बाद सब कुछ बदल गया है। आज चर्चा इस बात से हटकर कि AI क्या कर सकता है, इस पर आ गई है कि कानूनन AI को क्या करने की अनुमति है। अब लीगल टीमें सॉफ्टवेयर इंजीनियर्स के साथ एक ही कमरे में बैठती हैं। यह अब केवल अमूर्त दर्शन की बात नहीं है, बल्कि उन जुर्मानों के खतरे की बात है जो कंपनी के वैश्विक वार्षिक टर्नओवर का सात प्रतिशत तक हो सकते हैं। इंडस्ट्री अब एक ऐसे दौर के लिए तैयार हो रही है जहाँ कंप्लायंस (अनुपालन) भी कंप्यूट पावर जितना ही महत्वपूर्ण है। कंपनियों को अब अपने ट्रेनिंग डेटा का दस्तावेजीकरण करने, यह साबित करने कि उनके मॉडल्स पक्षपाती नहीं हैं, और यह स्वीकार करने के लिए मजबूर होना पड़ रहा है कि कुछ एप्लिकेशन पूरी तरह से अवैध हैं। कानूनविहीन माहौल से सख्त रेगुलेटेड माहौल में यह बदलाव दशकों में टेक सेक्टर का सबसे महत्वपूर्ण मोड़ है।
अनिवार्य कंप्लायंस की ओर बदलाव
मौजूदा रेगुलेटरी मूवमेंट का मूल आधार ‘रिस्क-बेस्ड अप्रोच’ है। रेगुलेटर्स AI पर प्रतिबंध नहीं लगा रहे हैं, बल्कि वे इसे वर्गीकृत कर रहे हैं। नए नियमों के तहत, AI सिस्टम को चार श्रेणियों में रखा गया है: अस्वीकार्य जोखिम, उच्च जोखिम, सीमित जोखिम और न्यूनतम जोखिम। सार्वजनिक स्थानों पर बायोमेट्रिक पहचान या सरकारों द्वारा सोशल स्कोरिंग का उपयोग करने वाले सिस्टम पर काफी हद तक प्रतिबंध लगा दिया गया है। ये अस्वीकार्य जोखिम हैं। उच्च जोखिम वाले सिस्टम वे हैं जो वास्तव में आपके जीवन को प्रभावित करते हैं। इसमें हायरिंग, क्रेडिट स्कोरिंग, शिक्षा और कानून प्रवर्तन में उपयोग किया जाने वाला AI शामिल है। यदि कोई कंपनी रिज्यूमे को स्क्रीन करने के लिए टूल बनाती है, तो उसे अब सख्त पारदर्शिता और सटीकता मानकों को पूरा करना होगा। वे केवल यह दावा नहीं कर सकते कि उनका एल्गोरिदम काम करता है। उन्हें कठोर दस्तावेजीकरण और थर्ड-पार्टी ऑडिट के माध्यम से इसे साबित करना होगा। उन कंपनियों के लिए यह एक भारी ऑपरेशनल बोझ है जो पहले अपने आंतरिक कामकाज को गुप्त रखती थीं।
जनरल पर्पस AI मॉडल्स, जैसे कि चैटबॉट्स को पावर देने वाले लार्ज लैंग्वेज मॉडल्स, के अपने नियम हैं। इन मॉडल्स को यह खुलासा करना होगा कि क्या उनका कंटेंट AI द्वारा जनरेट किया गया है। उन्हें उन्हें ट्रेन करने के लिए उपयोग किए गए कॉपीराइट डेटा का सारांश भी प्रदान करना होगा। यहीं पर तनाव है। अधिकांश AI कंपनियां अपने ट्रेनिंग डेटा को ट्रेड सीक्रेट मानती हैं। रेगुलेटर्स का कहना है कि मार्केट में प्रवेश के लिए पारदर्शिता एक आवश्यकता है। यदि कोई कंपनी अपने डेटा स्रोतों का खुलासा नहीं कर सकती या नहीं करना चाहती, तो वह खुद को यूरोपीय बाजार से बाहर पा सकती है। यह आधुनिक मशीन लर्निंग की
