रश्मिका मंदाना या अभिनेत्रीचा (हो, तीच पुष्पा फेम श्रीवल्ली) एक #डीपफेक म्हणजे डोळे फाडून बघितले तरी बनावट असल्याचे सहजी ओळखू येणार नाही असा व्हिडिओ नुकताच सोशल मिडियावर फिरत होता. या व्हिडिओतील खरी व्यक्ती आहे झारा पटेल नावाची ब्रिटीश कलाकार. ए-आयचा वापर करून तिच्या शरीरावर रश्मिकाचा चेहरा अचूकरित्या डकवण्यात आला. अगदी स्मितहास्यासहित.
पंतप्रधान मोदी काही महिलांसह गरबा खेळत असल्याचा व्हिडिओही प्रचंड व्हायरल झाला. (आपण शाळकरी वयानंतर कधीही गरबा खेळलो नसल्याचे ते म्हणाले. त्यांच्या या डीप-फेक व्हिडिओच्या पार्श्वभूमीवर या तंत्रज्ञानाच्या भविष्यातील भीषण परिणामांबद्दल कालच त्यांनी लोकांना सचेत केले आहे.) गरबा व्हिडिओ निरुपद्रवी असला तरी उद्या हे कुणाच्याही बाबतीत घडू शकते, नव्हे घडते आहे.
मार्च महिन्यात एका जर्मन कंपनीच्या अधिकार्‍याला अधिकृत फोन नंबरवरून कंपनीच्या प्रमुखाचा कॉल आला व एक मोठी रक्कम विशिष्ट खात्यात जमा करण्यास सांगितले गेले. प्रमुखाचा आवाज डीप-फेक तंत्र वापरून हुबेहूब काढण्यात आल्याचे व फसवणूक झाल्याचे रक्कम भरल्यावर उघडकीस आले.
हे जितके भयावह आहे तितकेच आकर्षक हे लक्षात येताच उद्योगजगत याचा व्यावसायिक फायद्यासाठी वापर करू लागले आहे. उदा: एका प्रसिद्ध बिस्कीटाच्या जाहिरातीत शाहरूख खान सिनेमा हॉलमध्ये शेजारी बसलेल्या तरूणाला ते बिस्कीट देताना दिसतो. कंपनीच्या वेबसाईटवर जाऊन आपला फोटो अपलोड केला तर डीप-फेकमुळे शाहरूख ते बिस्कीट त्या तरूणाऐवजी थेट आपल्याला देताना आपण पाहू शकतो.
चक्रावून टाकणारे हे डीप-फेक, डीप लर्निंगद्वारे म्हणजे माहितीचे सखोल विश्लेषण करून बारकावे समजून घेत तयार केले जाते. बेमालूमपणे केलेली ही एक डिजिटल तोतयेगिरी आहे.
यासाठी वापरली जाणारी माहिती म्हणजे एखाद्या व्यक्तीचा आवाज, फोटो, व्हिडिओ इ.चे अनेक नमुने. हे वापरून कृत्रिम बुद्धीमत्ता तंत्राच्या मदतीने त्या व्यक्तीचे अस्सल वाटणारे रूप , आवाज किंवा दस्तावेज तयार केले जातात. जनरेटिव्ह अॅडव्हर्सरियल नेटवर्क्स (GANs) चा वापर करून तयार केलेले एखाद्या व्यक्तीचे सिंथेटीक रूप म्हणजे त्याची नाकीडोळी, हावभाव, आवाज, उच्चार, शारीरिक लकबी फोटोकॉपी काढावी इतक्या सारख्या असतात. लोक त्यावर साहजिक विश्वास ठेवतात.
डॉन चित्रपटात मूळ डॉन सारख्या दिसणार्‍या माणसाला डॉनप्रमाणे वागायचे-बोलण्याचे प्रशिक्षण दिले जाते. या नकली किंवा डीप-फेक डॉनकडून हवी ती कामे करवून घेण्याचा खलनायक मंडळींचा मनसुबा असतो. प्रत्यक्ष जगात ए-आय वापरून डीप-फेक व्हिडिओ तयार करणार्‍या किंवा करवून घेणार्‍या खलनायक मंडळींचाही असाच मनसुबा असू शकतो. थ्रिल, पैसा, सत्ता, प्रसिद्धीचा हव्यास, राजकीय कुरघोड्या, सूडभावना अशी कोणतीही कारणे यामागे असू शकतात.
अर्थात या तंत्रज्ञानाचे अनेक फायदे आहेत.
हवाई वाहतूक, लष्कर आणि आरोग्यसेवा यासारख्या विविध उद्योगांमध्ये प्रशिक्षणासाठी वास्तवदर्शी सिम्युलेशनची आवश्यकता असते. जसे विमानचालकाला सुरुवातीचे प्रशिक्षण आभासी आकाशात दिले जात असे. डीपफेक अशा क्षेत्रांसाठी अगदी खरेखुरे वाटणारे अपेक्षित विश्व उभे करू शकते.
उत्तम शैक्षणिक व्हिडिओ तयार करण्यासाठी, चित्रपट, टेलिव्हिजन शो किंवा सोशल मिडियासाठी तयार केलेल्या कॉंटेंटला अधिक वास्तववादी व्हिज्युअल इफेक्ट देण्यासाठी डीपफेक प्रचंड उपयोगी आहे. यामुळे प्रेक्षक अधिक तल्लीनतेने कार्यक्रम बघतात.
दृकश्राव्य माध्यमात सबटायटल्स किंवा भाषांतर करण्यासाठी डीप-फेक वापरल्याने कर्णबधीरांची किंवा त्यातील भाषा न कळणार्‍या प्रेक्षकांची चांगली सोय होते.
एखादा पोशाख, दागिना खरेदी करताना तो आपल्याला कसा दिसेल हे त्या बिस्कीट जाहिरातीप्रमाणे मॉडेलवर स्वत:ला डीप-फेक करून पाहता येऊ शकते.
कलाकाराच्या आवाजात त्याचे मनोगत, लेखन, गीत, रचना ऐकण्याची सोय होऊ शकते. इतिहासातील व्यक्तींना डीप-फेकच्या मदतीने बोलते करता येऊ शकते.
परंतु डीप-फेकने बोट दिले तर माणसाने त्याचा हातच गच्च धरला आहे. डीपफेक तंत्रज्ञान बौद्धिक संपदा, स्वामित्व कायद्याशी संबंधित अनेक कायदेशीर व नैतिक प्रश्न निर्माण करते आहे.
डीप-फेक वापरून खर्‍या व्हिडिओतला चेहराच नव्हे तर एखादा शब्द , वाक्य, आकडा, स्क्रीनशॉट किंवा संपूर्ण भाषाही परवानगी न घेता बदलवली जाते. उदा: एखाद्याने बाजार बंद होतानाचा एखाद्या शेअरचा भाव सांगितला तर डीप-फेक वापरून तो बदलता येऊ शकतो.
एखाद्या राजकीय नेत्याच्या खर्‍या व्हिडिओतली वाक्ये बदलून त्याच्या तोंडी वाटेल ती वाक्य किंवा अख्खे खोटे भाषण घालता येऊ शकते. याचे किती गंभीर आर्थिक, सामाजिक परिणाम होऊ शकतात !
ते वक्तव्य किंवा दृश्य खरेच मानून लोक गोंधळून जातील, संतापतील, मतपेट्यांची गणित बदलवतील. यातून राजकीय बंड घडू शकते. अकारण बदनामी होऊ शकते, हिंसाचार भडकू शकतो.
’चक्षुर्वै सत्यं’ म्हणजेच ’मी माझ्या डोळ्यांनी पाहिलं’ म्हणत विश्वास ठेवायचे दिवस संपत चालले आहेत.
पेशवेकालीन इतिहासातले तोतयाचे बंड हे तर डीप-फेकचे जिवंत उदाहरण होते. सदाशिवरावभाऊंचा पानिपतच्या युद्धात मृत्यू झाल्यानंतर माधवरावांच्या काळात सदाशिवरावभाऊंसारखा दिसणारा सुखलाल पुण्यात अवतरला होता. आपणच सदाशिवरावभाऊ असल्याचा त्याचा दावा होता. हितशत्रूंनी तोतया सुखलालला पाठिंबा दिला. नाना फडणवीसांनी त्याचे बंड तर मोडून काढलेच पण स्वार्थापायी या डीप-फेकचे समर्थन करणार्‍या प्रत्येकाला शासन केले. समाजस्वास्थ्य धोक्यात आणणार्‍या या ’सुखलाल’ वृत्तीला तंत्रज्ञानाने राक्षसी बळ दिले आहे.
द्रौपदीचे भरसभेत वस्त्रहरण करणारे दु:शासन आजच्या काळात अर्धनग्न मॉडेल वापरून डीप-फेकच्या मदतीने महिलांचे अश्लील फोटो, व्हिडिओ बनवून प्रसारीत करू लागले आहेत. (स्वत:हून असे व्हिडिओ /रील तयार करणार्‍या स्त्रिया हा वेगळा मुद्दा आहे.) दुर्दैवाने सोशल मिडीयावरचे हे सर्वाधिक चलनी नाणे आहे. या संदर्भात रश्मिकाने उपस्थित केलेला मुद्दा फार महत्वाचा आहे. ती म्हणते "माझ्या पाठीशी आज माझे अनेक चाहते, कुटुंब आणि हितचिंतक उभे आहेत. मी सर्वसामान्य स्त्री असते तर मी काय केलं असतं ! यातून बोध घेऊन सर्वांनी कायम सावध राहावे एवढेच मी सांगू शकते".
आपले फोटो, व्हिडिओ सतत पोस्ट करत राहणे ही खेळ, राजकारण, मनोरंजन क्षेत्रातल्या कलाकारांची व्यावसायिक गरज आहे पण बाकी वापरकर्त्यांना आपली जबाबदारीचे भान आहे का !
डीप-फेकसाठी जो कच्चा माल लागतो तो आपणच उत्साहाच्या भरात सुरक्षा सेटिंग न वापरता बिनधास्त पुरवत असतो. आपल्या जीवलगांचे आपण कौतुकाच्या भरात पोस्ट केलेले फोटो, व्हिडिओ उद्या डीप-फेकचे रूप घेऊन त्यांना व आपल्याला गोत्यात आणू शकतात हे आता लक्षात ठेवायला हवे.
चुकीच्या माहितीचा प्रसार रोखणे ही मुळात सोशल मीडिया प्लॅटफॉर्मची जबाबदारी असल्याची केंद्रीय मंत्री राजीव चंद्रशेखर यांनी परखड शब्दात आठवण करून दिली असली तरीही अर्थकेंद्री माध्यमसम्राटांना याचे गांभीर्य कळले आहे का !
त्यांच्यावर जगभरातल्या त्या त्या देशातील शासनाचे कितपत निर्बंध आहेत ! की अभिव्यक्ती स्वातंत्र्याच्या नावाने ओरड करून निर्बंधांना विरोध केला जातो ! की सत्ताकांक्षी , सत्ताधारी व हे प्लॅटफॉर्म या सगळ्यांना एकमेकांची कायम गरज भासत असल्याने तेरी भी चूप मेरी भी चूप असे हे सोयीचे नाते आहे !
अमिताभ बच्चन यांच्यासह अनेक कलाकार दोषींवर कायदेशीर कारवाईची मागणी करत रश्मिकाच्या समर्थनार्थ पुढे आले आहेत. ऑनलाइन तोतयेगिरी हा 2000 च्या माहिती तंत्रज्ञान कायद्याच्या कलम 66D अंतर्गत गुन्हा आहे. परंतु खात्री नसताना पोस्ट व्हायरल करण्याची आपली हौस जात नाही तोवर ग्यारा मुल्कोकी पुलिस कुठे कुठे पुरी पडणार !
काही वर्षांपूर्वी वॉशींग्टन विद्यापीठातील संशोधकांनी ए-आय च्या भविष्याचा वेध घेताना मिशेल ओबामांना सुद्धा खरे वाटतील असे सिंथेटीक ओबामा तयार करून पाहिले होते. आज बर्‍यापैकी तांत्रिक कौशल्य असलेल्या कुणालाही आपल्या गल्लीबोळात बसून इंटरनेटवर खुले करण्यात आलेले फुकट सोर्स व थोड्या प्रशिक्षणाच्या मदतीने डीप-फेक चा वापर करणे अवघड राहिलेले नाही. त्यामुळे कानून के हाथ कितीही लंबे असले तरी खरा प्रश्न ’आले की कर फॉरवर्ड’ वृत्तीच्या वापरकर्त्यांच्या डोळ्यांवर डीप-फेकमुळे बांधली जाणारी काळी पट्टी काढायची कशी, हा आहे.
डीप-फेक शोधणे मुश्कील असले तरी नामुमकीन नाही. अत्यंत बारकाईने पाहिल्यास डीपफेक ओळखू येण्याची शक्यता असते. उदा: खरी रश्मिका डीप-फेक व्हिडीओतल्या खोट्या रश्मिकापेक्षा चणीने बारीक आहे. व्हिडिओतील हावभाव, हात आणि पायांच्या हालचालींकडे नीट लक्ष दिले तर फरक लक्षात येतो.
युक्रेनचे अध्यक्ष झेलेन्स्की यांच्या एका डीपफेक व्हिडिओमध्ये ते रशियाला शरण जाताना दिसत होते. तथापि, व्हिडिओतील व्यक्तीचे मोठे डोके आणि विचित्र उच्चार यामुळे तो डीपफेक असल्याचे लक्षात आले आणि अखेरीस तो व्हिडिओ सोशल मीडियावरून काढून टाकण्यात आला.
आपले मॉर्फ व डीप-फेक केलेले फोटो व्हिडिओ सोशल मिडियावरून काढून टाकण्यासाठी stopncii.org सारख्या वेबसाईट्चा एका मर्यादेपर्यंत उपयोग होऊ शकतो.
काही प्लॅटफॉर्म वॉटरमार्क किंवा खुणेच्या साहाय्याने तो फोटो किंवा व्हिडिओ ए-आय वापरून तयार केल्याचे सूचित करत असतात. तिकडे लक्ष द्यायला हवे.
सॉफ्टवेअर अभियंते, सरकार आणि तज्ज्ञ पत्रकार फोटो, कागदपत्रे किंवा व्हिडिओच्या सत्यतेची ग्वाही देऊ शकतात तसेच खोटेपणा उघड करू शकतात.
जसजसे डीपफेक तंत्रज्ञान अत्याधुनिक होत जाईल, तसतसे हे शोधणे अधिक कठीण होत जाईल. त्याचबरोबर शोध साधने देखील विकसित होतील. एकंदरीत हा उंदीर-मांजराचा खेळ सुरू राहील.
मग आपल्या हातात काय उरतं! ’दिसतं तसं नसतं’ या म्हणीचा अर्थ समजून घेऊन कोणतीही पडताळणी न करता फॉरवर्ड करण्याचा मोह आवरणं. आपल्याविषयी जगाला सातत्याने दवंडी पिटणं टाळणं. सतत सजग आणि साशंक राहणं.
अन्यथा ’अरे दीवानो, मुझे पहचानो’ हे आव्हान देत डीप-फेक आपल्याला त्याच्या इशार्‍यावर नाचवत आणि मूर्ख बनवत राहील.
No comments:
Post a Comment