‘Deepfake‘ का अश्लील वीडियो में होता है इस्तेमाल,जानिए इससे जुड़ी हर बात
नई दिल्लीः बॉलीवुड एक्ट्रेस रश्मिका मंदाना का डीपफेक वीडियो सोशल मीडिया पर वायरल हो रहा है। इस वीडियो को सोशल मीडिया पर अबतक 24 लाख से ज्यादा व्यूज मिल चुके हैं। डीपफेक वीडियो ने इस बात पर बहस छेड़ दी है कि क्या ऐसी टेक्नोलॉजी के लिए AI को रेगुलेट करने की है जरूरत है। आइए आपको डीप फेक टेक्नोलॉजी के बारे में डिटेल से बताते हैं।
आखिर ये डीपफेक है क्या?
डीपफेक का मतलब आर्टिफिशियल इंटेलिजेंस- एआई के जरिए डिजिटल मीडिया में हेरफेर करना है. एआई के इस्तेमाल से शरारती तत्व वीडियो, ऑडियो, और फोटोज में आर्टिफिशियल इंटेलिजेंस का इस्तेमाल कर हेरफेर यानी मनिप्युलेशन और एडिटिंग को अंजाम देते हैं. एक तरह से देखा जाए तो ये बेहद वास्तविक लगना वाला डिजिटल फर्जीवाड़ा है, इसलिए इसे डीपफेक नाम दिया गया है.
See this video of @TomCruise?
Well, it’s not Tom Cruise.
It’s AI generated synthetic media that portrays Tom Cruise onto a TikTok user using Deepfakes.
Seeing is no longer believing. pic.twitter.com/mM2TZlDIEm
दरअसल डीपफेक (Deepfake)- ‘डीप लर्निंग’ (Deep Learning) और ‘फेक’ (Fake) से मिलकर बना एक शब्द है। डीपफेक, फोटोशॉप के जरिए फेक न्यूज फैलाने का सबसे आधुनिक माध्यम है और झूठे बयानों अथवा वीडियो क्लिप्स बनाने के लिए 21वीं सदी में सबसे अधिक उपयोग में आने वाला है।
आर्टिफिशियल इंटेलिजेंस (एआई) से पैदा किया गया सिंथेटिक मीडिया या डीपफेक कुछ क्षेत्रों में बेहद फायदेमंद साबित होता है. उदाहरण के लिए शिक्षा, फिल्म निर्माण, आपराधिक फोरेंसिक और कलात्मक अभिव्यक्ति में ये बहुत काम की चीज है. आर्टिफिशियल इंटेलिजेंस का मतलब एक मशीन में इंसान की तरह सोचने-समझने और निर्णय लेने की क्षमता का विकास करना है.
Deepfake को कैसे बनाया जाता है?
हालाँकि, आजकल कई ऐसे मोबाइल एप्लिकेशन (उदाहरण के लिए फेसऐप) उपलब्ध हैं, जो डीपफेक जैसी तकनीक पर काम करने का दावा करते हैं, लेकिन यह बिल्कुल वैसा है जैसे ‘टिप ऑफ अ आइसबर्ग’। डीपफेक के जरिए वीडियो बनाना कुछ जीबी रैम वाले मोबाइल फोन या लैपटॉप से संभव नहीं है। डीपफेक नवीनतम तकनीक, हाई क्वालिटी AI टूल्स से युक्त और बेहतरीन ग्राफिक कार्ड वाले डेस्कटॉप कंप्यूटर्स के जरिए ही बनाए जा सकते हैं। अगर चेहरे बदलने वाले वीडियो की बात करें (जो Deepfake से जुड़ी सबसे बड़ी चिंता का विषय है) तो इन्हें बनाने में दो तरह की विशेष प्रक्रियाओं का उपयोग किया जाता है।
कौन है इसके निशाने पर?
डीपफेक के गलत तरीके से इस्तेमाल का पहला मामला पोर्नोग्राफी में सामने आया था. एक ऑनलाइन आईडी प्रमाणित करने वाली सेनसिटी डॉट एआई (Sensity.ai) वेबसाइट के मुताबिक 96 फीसदी डीपफेक अश्लील वीडियो हैं. इनको अकेले अश्लील वेबसाइटों पर 135 मिलियन से अधिक बार देखा गया है.
डीपफेक पोर्नोग्राफी खास तौर से औरतों और लड़कियों को निशाना बनाती है. अश्लील डीपफेक धमकी दे सकते हैं. भयभीत कर सकते हैं खौफ पैदा कर सकते हैं और मनोवैज्ञानिक नुकसान पहुंचा सकते हैं. ये महिलाओं को एक यौन वस्तु की तरह पेश करते हैं. इससे उन्हें भावनात्मक तौर पर नुकसान पहुंच सकता है.
कुछ मामलों में ये वित्तीय नुकसान और नौकरी छूटने जैसे नतीजों की वजह भी बनता है. आर्टिफिशियल इंटेलिजेंस वाले कुछ एप इंटरनेट की दुनिया में झूठ को सच साबित करने वााले रिवेंज पोर्न वीडियो बनाने में सबसे अधिक इस्तेमाल में लाए जा रहे हैं.
Deepfake को पहचानना कितना मुश्किल, क्या कहता है कानून?
डीपफेक वीडियो को आम इंसान तो नहीं पहचान सकता है। इन मैनिपुलेटेड वीडियो की वास्तविकता को जानने के लिए भी उन विशेषज्ञों की आवश्यकता होती है, जो इन वीडियो को बनाने की प्रक्रिया में उपयोग होने वाली तकनीकी जरूरतों को पूरा करते हैं। हालाँकि, सामान्य फोन में उपलब्ध ऐसे कई एप्लीकेशन हैं जिनकी सहायता से बनाए गए वीडियो को पहचाना जा सकता है। जब बात उन वीडियो की आती है जिन्हें तकनीक का ज्ञान रखने वालों द्वारा और जो बड़े-बड़े राजनीतिक एवं कूटनीतिक उद्देश्यों की पूर्ति को ध्यान में रखकर बनाए जाते हैं तो ऐसे वीडियो को पहचानने के लिए किसी तकनीकी विशेषज्ञ की पारखी नजर ही चाहिए।
फेक पॉर्न वीडियो में होता है ज्यादा इस्तेमाल
पॉर्न वीडियो में भी इसका काफी ज्यादा इस्तेमाल किया जाता है। एक ऑनलाइन आईडी प्रमाणित करने वाली सेनसिटी डॉट एआई (Sensity.ai) वेबसाइट के मुताबिक, 96 फीसदी डीपफेक अश्लील वीडियो हैं। इनको अकेले अश्लील वेबसाइटों पर 135 मिलियन से अधिक बार देखा गया है।
2017 में, “डीपफेक” नाम के एक रेडिट यूजर ने पॉर्न के लिए एक फोरम बनाया, जिसमें अभिनेताओं के चेहरे की अदला-बदली की गई थी। उस समय से पॉर्न (रिवेंज पॉर्न) ने बार-बार खबरें बनाई हैं, जिससे मशहूर हस्तियों और प्रमुख हस्तियों की प्रतिष्ठा को गंभीर नुकसान पहुंचा है। डीपट्रेस की रिपोर्ट के अनुसार, 2019 में ऑनलाइन पाए गए डीपफेक वीडियो में 96% अश्लील वीडियो थी।
डीप फेक टेक्नोलॉजी (Deep Fake Technology) के नुकसान
किसी भी टेक्नोलॉजी का गलत इस्तेमाल खतरनाक साबित हो सकता है। डीपफेक तथा झूठी खबरें भी इसका एक उदाहरण हैं। इस टेक्नोलॉजी की मदद से किसी को बदनाम किया जा सकता है। डीपफेक का इस्तेमाल खास तौर से औरतों और लड़कियों को निशाना बनाती है।
किसी भी व्यक्ति की सोशल मीडिया प्रोफाइल से उसकी प्राइवेट फोटो लेकर उसके फेक पॉर्न वीडियो बनाए जा सकते हैं। किसी नेता का MMS बनाया जा सकता है। इस टेक्नोलॉजी की मदद से ऐसे भाषण के वीडियो जारी किए जा सकते हैं जो उसने कभी दिए नहीं है।
क्या है समाधान?
समझदार जनता को डीपफेक के खतरों से आगाह करने के लिए जनता का समझदार होना बेहद जरूरी है. इसके लिए मीडिया साक्षरता की कोशिशों को बढ़ाए जाने की जरूरत है. भ्रामक सूचनाओं और डीपफेक से निपटने के लिए मीडिया साक्षरता सबसे असरदार टूल है.
दुर्भावना वाले डीपफेक को बनाने और उसे फैलने से रोकने के लिए प्रौद्योगिकी उद्योग, नागरिक समाज और नीति निर्माताओं के बीच सहयोगात्मक और सकारात्मक बातचीत होनी भी जरूरी है ताकि इसके लिए कानूनी समाधान तय किया जा सके.सोशल मीडिया प्लेटफॉर्म डीपफेक मुद्दे संजीदगी बरतने लगे हैं.उनमें से लगभग सभी के पास डीपफेक के इस्तेमाल के लिए कुछ नीति या स्वीकार्य शर्तें हैं. हमें डीपफेक का पता लगाने इस्तेमाल में आसान तकनीकी समाधानों की जरूरत है. डीपफेक के खतरे का मुकाबला करने के लिए सभी को जिम्मेदारी लेनी चाहिए. सोशल मीडिया पर कुछ भी साझा करने से पहले सोचना चाहिए उसकी सत्यता को परखना चाहिए.
कौन बनाते हैं Deepfake?
वैसे तो हम सोशल मीडिया प्लेटफॉर्म्स में ऐसे वीडियो देखते हैं जो मनोरंजन के उद्देश्य से बनाए जाते हैं लेकिन यह उससे भी बढ़कर कुछ और है। रिपोर्ट के मुताबिक, AI फर्म डीपट्रेस ने सितंबर 2019 में लगभग 15,000 डीपफेक वीडियो की पहचान की थी जिनमें से लगभग 96% वीडियो पोर्नोग्राफिक थे। इन पोर्न वीडियो में 99% ऐसे डीपफेक वीडियो थे, जहाँ हॉलीवुड सेलिब्रिटी या पॉप स्टार के चेहरों का उपयोग किया गया था।पोर्न के अलावा शिक्षाविद, औद्योगिक फर्म, विजुअल इफेक्ट स्टूडियो और राजनीतिक प्रतिद्वंदी डीपफेक तकनीकी का उपयोग करते रहते हैं। डीपफेक का उपयोग करके कई ऐसे वीडियो बनाए जा सकते हैं, जो राजनीति में विभिन्न राजनेताओं और पार्टियों की दिशा को बदल सकते हैं। ये वीडियो इतने खतरनाक हैं कि इनके माध्यम से किसी भी व्यक्ति से मनचाहा बयान दिलवाया जा सकता है और एक्सपर्ट के अलावा एक आम इंसान इन बयानों के झाँसे में आ सकता है। यही कारण है कि इन डीपफेक वीडियो को परमाणु शक्ति के बराबर घातक माना जा रहा है।
ट्विटर और फेसबुक जैसी सोशल मीडिया प्लेटफॉर्म्स ने डीपफेक वीडियो प्रतिबंधित हैं
हालाँकि, ट्विटर और फेसबुक जैसी सोशल मीडिया प्लेटफॉर्म्स ने डीपफेक वीडियो प्रतिबंधित किए हुए हैं। ये प्लेटफॉर्म्स दावा करते हैं कि डीपफेक वीडियो अपलोड किए जाने के बाद अगर उन्हें पता चलता है कि यह वीडियो डीपफेक है तो उसे हटा लिया जाता है, फिर भी सोशल मीडिया मंचों पर इन वीडियो का खतरा बना हुआ है। ऐसे वीडियो से बचने का एक ही उपाय है कि यदि कभी भी कोई ऐसा वीडियो या फोटो सामने आए, जिसमें कोई विवादित बात कही गई हो या ऐसा कुछ लिखा गया हो, जो दो वर्गों के बीच संघर्ष की स्थिति उत्पन्न करे तो उन्हें शेयर करने से बचना चाहिए और पहले उनकी जाँच कर लेनी चाहिए।
