Deepfakes आणि कायदे: इंटरनेटवर आता काय खरं आणि काय खोटं?

तुम्ही कधी एखाद्या सेलिब्रिटीला काहीतरी वेडवाकडं बोलताना पाहिलंय का? तुम्हाला वाटलं असेल की तुमचे डोळे तुम्हाला फसवतायत! आपण अशा काळात राहतोय जिथे टेक कोणालाही काहीही करायला लावू शकतं. हे एखाद्या जादूसारखं आहे, पण यात ‘काय खरं?’ हा मोठा प्रश्न आहे. चांगली गोष्ट म्हणजे जग आता या आव्हानासाठी जागं होतंय. मोठ्या टेक कंपन्यांपासून ते स्थानिक सरकारांपर्यंत, प्रत्येकजण हे सुनिश्चित करण्यासाठी प्रयत्न करतोय की आपण आपल्या स्क्रीनवर जे पाहतो त्यावर विश्वास ठेवू शकू. मुख्य गोष्ट अशी की, तंत्रज्ञान जितकं स्मार्ट होतंय, तितकीच आपली सुरक्षित राहण्याची साधनंही वेगाने वाढत आहेत. हे सगळं बॅलन्स राखण्याबद्दल आहे. आपल्याला AI ची मजा तर घ्यायची आहेच, पण स्कॅमर्स त्याचा वापर आपल्याला फसवण्यासाठी करणार नाहीत याचीही काळजी घ्यायची आहे. प्लॅटफॉर्म्स आणि कायदे मिळून इंटरनेटला सर्वांसाठी सुरक्षित कसं बनवत आहेत, हे समजून घेण्यासाठी हा गाईड तुम्हाला मदत करेल.

Deepfake ला एक ‘डिजिटल बाहुली’ (digital puppet) समजा. पूर्वी जर तुम्हाला सिनेमा बनवायचा असेल, तर नट, कपडे आणि मोठा सेट लागायचा. आता कॉम्प्युटर फक्त काही फोटो किंवा आवाजाच्या रेकॉर्डिंगवरून एक पूर्ण नवीन व्हिडिओ तयार करू शकतो. हे ‘न्यूरल नेटवर्क्स’ (neural networks) नावाच्या तंत्रज्ञानामुळे शक्य होतं. कल्पना करा की दोन कॉम्प्युटर्स एकमेकांशी कॅच-कॅच खेळत आहेत. एक कॉम्प्युटर खोटा फोटो बनवण्याचा प्रयत्न करतो आणि दुसरा तो खरा आहे की खोटा हे ओळखण्याचा प्रयत्न करतो. ते हे लाखो वेळा करतात, जोपर्यंत तो फोटो इतका खरा वाटत नाही की दुसऱ्या कॉम्प्युटरला फरकच कळत नाही. अशा प्रकारे आपल्याला ते अतिशय रिअल वाटणारे व्हिडिओ मिळतात. हे फक्त चेहऱ्यापुरतं मर्यादित नाही. ‘व्हॉइस क्लोनिंग’ (voice cloning) हा या कुटुंबातला नवीन सदस्य आहे. कॉम्प्युटर तुमचा आवाज फक्त काही सेकंद ऐकून तुमच्याच स्टाईलमध्ये काहीही बोलू शकतो. हे मजेशीर मीम्स (memes) बनवण्यासाठी किंवा आवाज गमावलेल्या लोकांना मदत करण्यासाठी उत्तम आहे, पण त्याचा चुकीचा वापरही होऊ शकतो.

तंत्रज्ञान हे एखाद्या हातोड्यासारखं असतं. तुम्ही हातोड्याने सुंदर घर बांधू शकता किंवा खिडकी तोडू शकता. सध्या आपण सगळेच सुरक्षिततेचे कुंपण घालायला शिकतोय, जेणेकरून प्रत्येकजण या नवीन डिजिटल खेळण्यांशी सुरक्षितपणे खेळू शकेल. मीडियाबद्दलच्या आपल्या विचारात हा मोठा बदल आहे, पण ही एक संधीही आहे – गोष्टी सांगण्याची आणि माहिती शेअर करण्याची. हे डिजिटल बाहुले कसे बनवले जातात हे समजून घेतल्यास, आपल्या ‘feed’ मध्ये ते दिसल्यावर आपण त्यांना सहज ओळखू शकू. फक्त थोडं सावध राहणं आणि छोट्या गोष्टींकडे लक्ष देणं गरजेचं आहे.

गोष्टी प्रामाणिक ठेवण्यासाठी जागतिक प्रयत्न

जेव्हा आपण Deepfakes बद्दल बोलतो, तेव्हा हा फक्त स्थानिक प्रश्न नसून जागतिक विषय आहे. जगभरातील देश असे नियम बनवण्याचा प्रयत्न करत आहेत जे खरोखर कामाला येतील. सुरक्षिततेबद्दल भाषण देणं वेगळं आणि ‘एखाद्या कंपनीने AI कंटेंटवर लेबल लावलं नाही तर दंड भरावा लागेल’ असा कायदा असणं वेगळं. सध्या या क्षेत्रात खूप इंटरेस्टिंग गोष्टी घडत आहेत. आपण फक्त समस्येवर चर्चा करण्यापेक्षा आता नियमांचं उल्लंघन करणाऱ्यांवर कारवाई करण्याकडे वळत आहोत. यामुळे कोणाचीही चुकीची प्रतिमा तयार होऊ नये यासाठी एक सुरक्षित वातावरण तयार होत आहे.

YouTube आणि Meta सारखे प्लॅटफॉर्म्स देखील आता ॲक्शन मोडमध्ये आले आहेत. ते अशी सिस्टिम बनवत आहेत जी व्हिडिओ AI ने बदलला आहे का, हे आपोआप ओळखू शकेल. ही आपल्यासाठी चांगली बातमी आहे कारण आपल्याला काय खरं आहे हे ओळखण्यासाठी टेक एक्सपर्ट असण्याची गरज नाही. जर एखादा व्हिडिओ Deepfake असेल, तर प्लॅटफॉर्म त्यावर एक छोटं लेबल लावेल. इंटरनेटला सुरक्षित ठेवण्यासाठी अशा पारदर्शकतेचीच गरज आहे. यामुळे क्रिएटर्सनाही फायदा होतो, कारण ते त्यांचं काम ओरिजिनल असल्याचं सिद्ध करू शकतात. या सिस्टिम्स कशा काम करतात याबद्दल अधिक जाणून घेण्यासाठी तुम्ही ai technology trends वरील अपडेट्स पाहू शकता.

या नियमांचा परिणाम खूप मोठा आहे. उदाहरणार्थ, मोठ्या निवडणुकांदरम्यान हे कायदे मतदारांना उमेदवारांकडून खरी माहिती मिळण्यास मदत करतात. यामुळे कोणीही नेत्याचा खोटा व्हिडिओ बनवून लोकांची दिशाभूल करू शकणार नाही. स्पष्ट नियम आणि दंडाची तरतूद असल्यास आपण आपल्या समाजाचं रक्षण करू शकतो. टेक बनवणारे, ते वापरणारे आणि कायदे बनवणारे या सर्वांचा हा एकत्रित प्रयत्न आहे. जेव्हा सगळे एकत्र काम करतात, तेव्हा त्याचे परिणाम जगासाठी उत्तम असतात.

Deepfakes चा आपल्या दैनंदिन जीवनावर होणारा परिणाम

सारा नावाच्या एका छोट्या बिझनेस ओनरचं उदाहरण घेऊया. साराला तिच्या बँक मॅनेजरसारखा वाटणारा एक फोन येतो. आवाज अगदी हुबेहूब असतो आणि त्या व्यक्तीला साराचं नाव आणि बिझनेस डिटेल्सही माहित असतात. ते तिला एका छोट्या चुकीसाठी काही पैसे ट्रान्सफर करायला सांगतात. आवाज इतका खरा वाटत असतो की सारा ते करणारच असते, पण तिला आठवतं की तिचा बँक मॅनेजर सहसा दुसऱ्या नंबरवरून फोन करतो. व्हॉइस क्लोनिंगचा वापर फसवणुकीसाठी कसा होऊ शकतो, याचं हे एक जिवंत उदाहरण आहे. आता हे फक्त सेलिब्रिटींच्या व्हिडिओपुरतं मर्यादित राहिलं नसून, तुमच्या बँक बॅलन्सपर्यंत पोहोचलं आहे.

म्हणूनच सध्याचं लक्ष केवळ सिनेमातल्या उदाहरणांवर नसून प्रत्यक्ष फसवणुकीवर आहे. एखाद्या मुव्ही स्टारला अशा रोलमध्ये पाहणं मजेशीर असतं जो त्याने कधी केलाच नाही, पण खरी रिस्क आपल्या वैयक्तिक सुरक्षिततेत आहे. स्कॅमर्स दररोज लोकांना फसवण्यासाठी ही साधनं वापरत आहेत. मात्र, आपण याबद्दल जितकी जास्त चर्चा करू, तितके सारासारखे लोक जागरूक होतील. क्रॉस-चेक करणं आणि प्रश्न विचारणं हाच आपला सर्वोत्तम बचाव आहे. प्लॅटफॉर्म्स देखील असे बनावट कॉल्स आणि मेसेजेस आपल्यापर्यंत पोहोचण्यापूर्वीच ब्लॉक करण्यासाठी काम करत आहेत. आपण कोणाशी बोलतोय हे व्हेरिफाय करण्यासाठी आपण नेहमी एक सेकंद थांबलं पाहिजे.

दुसरीकडे, एखादा क्रिएटर गमतीशीर पॅरोडी व्हिडिओ बनवण्यासाठी Deepfake वापरतो, ही या तंत्रज्ञानाची चांगली बाजू आहे. यामुळे नवीन प्रकारची कला आणि विनोद शक्य झाले आहेत. जोपर्यंत क्रिएटर AI वापरल्याबद्दल प्रामाणिक आहे, तोपर्यंत हे मनोरंजनाचं एक उत्तम साधन आहे. नवीन कायद्यांचा उद्देश ही सर्जनशीलता थांबवणं नाही, तर ती वास्तवाशी मिसळली जाऊ नये याची काळजी घेणं आहे. दिवसभराच्या कामानंतर सारा एखादा मजेशीर AI व्हिडिओ पाहून हसू शकते, कारण तिला माहित आहे की ते फक्त मनोरंजनासाठी आहे. आपल्याला असंच इंटरनेट हवं आहे. जर तुम्हाला या बदलांबद्दल अपडेट राहायचं असेल, तर तुम्ही जागतिक दृष्टिकोनासाठी BBC technology news फॉलो करू शकता. गोष्टी वेगाने बदलत असताना माहितीपूर्ण राहणं महत्त्वाचं आहे. तुम्ही थेट तुमच्या इनबॉक्समध्ये अपडेट्स मिळवण्यासाठी सबस्क्राईब देखील करू शकता.

व्हॉइस क्लोनिंगचं वाढतं आव्हान

व्हॉइस क्लोनिंग हे विशेषतः आव्हानात्मक आहे कारण आपण कोणाशी बोलतोय हे ओळखण्यासाठी आपल्या कानांवर खूप अवलंबून असतो. व्हिडिओमध्ये आपण काही त्रुटी किंवा विचित्र लायटिंग शोधू शकतो, पण आवाज कमी क्वालिटीच्या कनेक्शनवरही खूप खरा वाटू शकतो. म्हणूनच अनेक कंपन्या आता ऑडिओ फाइल्समध्ये ‘डिजिटल सिग्नेचर्स’ जोडण्याचे मार्ग शोधत आहेत. हा एका गुप्त कोडसारखा आहे जो आवाज खरा असल्याचं सिद्ध करतो. यामुळे स्कॅमर्सना दुसऱ्याचं रूप घेणं कठीण जाईल. तंत्रज्ञानाने निर्माण केलेली समस्या तंत्रज्ञानानेच सोडवण्याचा हा एक हुशार मार्ग आहे.

आपली प्रायव्हसी जपणं आणि इंटरनेटला सुरक्षित ठेवणं यामध्ये योग्य बॅलन्स कसा साधायचा? हा एक मोठा प्रश्न आहे, पण तो विचारल्यामुळेच आपण योग्य दिशेने जात आहोत. आपल्याला हे सुनिश्चित करायचं आहे की आपले नियम कोणाची सर्जनशीलता रोखणार नाहीत, पण त्याच वेळी फसवणुकीविरुद्ध कडक संरक्षण असेल. हे कारमध्ये सीटबेल्ट लावण्यासारखं आहे. सुरुवातीला थोडं बंधनकारक वाटेल, पण प्रवासादरम्यान प्रत्येकाला सुरक्षित ठेवण्यासाठी ते गरजेचं आहे. जिज्ञासू राहून आणि या विषयांवर चर्चा करून आपण एक असं भविष्य घडवू शकतो जिथे तंत्रज्ञान आपल्या मूल्यांशी तडजोड न करता आपली सेवा करेल.

पॉवर युजर्ससाठी गीक सेक्शन

ज्यांना तांत्रिक गोष्टींमध्ये रस आहे, त्यांच्यासाठी: पडद्यामागे हे सगळं कसं चालतं ते पाहूया. सध्याची सर्वात रोमांचक गोष्ट म्हणजे C2PA स्टँडर्ड. हे एक तांत्रिक स्पेसिफिकेशन आहे जे क्रिएटर्सना त्यांच्या फाइल्समध्ये मेटाडेटा जोडण्याची परवानगी देतं. हा मेटाडेटा एका डिजिटल ट्रेलसारखा काम करतो, जो दाखवतो की इमेज किंवा व्हिडिओ नक्की कुठून आला आणि तो AI ने एडिट केला आहे का. हा डेटा क्रिप्टोग्राफिकली साईन केलेला असतो, त्यामुळे त्यात फेरफार करणं जवळजवळ अशक्य आहे. अनेक मोठ्या कॅमेरा कंपन्या आणि सॉफ्टवेअर निर्माते हे त्यांच्या उत्पादनांमध्ये समाविष्ट करत आहेत. याचा अर्थ भविष्यात तुमचा फोन तुम्हाला आपोआप सांगेल की तुम्ही पाहत असलेला फोटो ओरिजिनल आहे की अल्गोरिदमने बदललेला. डिजिटल पारदर्शकतेसाठी हे एक मोठं पाऊल आहे.

प्लॅटफॉर्म्सच्या बाबतीत, ते कंटेंट अपलोड होताच स्कॅन करण्यासाठी शक्तिशाली APIs वापरत आहेत. या सिस्टिम्स AI-जनरेटेड मीडियामध्ये आढळणारे विशिष्ट पॅटर्न शोधतात. मात्र, एकाच वेळी किती स्कॅन करायचं याला मर्यादा असतात. म्हणूनच ‘लोकल स्टोरेज’ आणि ‘ऑन-डिव्हाइस प्रोसेसिंग’ महत्त्वाचं ठरत आहे. काही नवीन कॉम्प्युटर्स आणि फोन्समध्ये खास AI चिप्स आहेत. या चिप्स तुमचा डेटा क्लाउडवर न पाठवता थेट तुमच्या डिव्हाइसवर Deepfakes ओळखू शकतात. हे प्रायव्हसीसाठी उत्तम आहे. तंत्रज्ञान जिथे खंबीरपणे उभं आहे ती काही मुख्य क्षेत्रं खालीलप्रमाणे आहेत:

• डिजिटल वॉटरमार्किंग जे फाईल कॉम्प्रेस किंवा क्रॉप केली तरी टिकून राहतं.
• न्यूज रिपोर्ट्ससारख्या महत्त्वाच्या मीडियासाठी ब्लॉकचेन-आधारित व्हेरिफिकेशन.
• बँकिंग ॲप्ससाठी प्रगत ‘लाईव्हनेस डिटेक्शन’ (liveness detection).
• ओपन-सोर्स डिटेक्शन टूल्स ज्यामुळे संशोधक नवीन AI मॉडेल्सच्या एक पाऊल पुढे राहू शकतात.

Deepfake बनवणारे आणि ते पकडणारे यांच्यातलं हे युद्ध म्हणजे ‘उंदीर-मांजराचा खेळ’ आहे. प्रत्येक वेळी जेव्हा बनावट व्हिडिओ बनवण्याचा नवीन मार्ग येतो, तेव्हा तो पकडण्याचा मार्गही लवकरच विकसित होतो. सुधारणेचं हे चक्र प्रत्यक्षात आपली सुरक्षा अधिक मजबूत करतं. उद्योग कशा प्रकारे एकत्र येत आहेत हे पाहण्यासाठी तुम्ही C2PA अधिकृत साईट वर तांत्रिक मानकांबद्दल अधिक वाचू शकता. नवीन धोक्यांबद्दल माहिती शेअर करण्यासाठी विविध प्लॅटफॉर्म्समध्ये अधिक सहकार्य पाहायला मिळत आहे. तसेच, Federal Trade Commission ग्राहकांना या नवीन प्रकारच्या टेक-आधारित स्कॅम्सपासून वाचवण्यासाठी त्यांचे मार्गदर्शक नियम सतत अपडेट करत आहे.

Deepfakes चं जग वेगाने बदलतंय, पण आपण त्यासाठी पूर्णपणे तयार आहोत. स्मार्ट कायदे आणि त्याहून स्मार्ट टेक एकत्र करून आपण एक असं इंटरनेट बनवत आहोत जे मजेशीर आणि विश्वासार्ह दोन्ही असेल. आपण फक्त काळजी करण्याच्या पलीकडे गेलो आहोत आणि आता प्रत्यक्ष कृती करत आहोत. व्हिडिओवरचं लेबल असो किंवा व्हॉइस क्लोनिंगसाठीचा नवीन नियम, आपण उचललेलं प्रत्येक पाऊल महत्त्वाचं आहे. या जागतिक समुदायाचा भाग असणं ही एक चांगली वेळ आहे. भविष्य उज्ज्वल आहे, आणि थोडी जिज्ञासा आणि योग्य नियमांच्या मदतीने आपण AI चा सर्वोत्तम वापर करू शकतो. शोधत राहा, प्रश्न विचारत राहा आणि सर्वात महत्त्वाचं म्हणजे, आपल्याला जोडणाऱ्या या अप्रतिम तंत्रज्ञानाचा आनंद घेत राहा.

संपादकाची नोंद: आम्ही ही साइट बहुभाषिक AI बातम्या आणि मार्गदर्शिका केंद्र म्हणून अशा लोकांसाठी तयार केली आहे जे संगणक तज्ञ नाहीत, परंतु तरीही कृत्रिम बुद्धिमत्ता समजून घेऊ इच्छितात, अधिक आत्मविश्वासाने तिचा वापर करू इच्छितात आणि आधीच येत असलेल्या भविष्याचा मागोवा घेऊ इच्छितात.