डीपफेक क्या है?

डीपफेक क्या है?

डीपफेक के दो मुख्य प्रकार हैं वीडियो और ऑडियो। वीडियो डीपफेक किसी व्यक्ति की शक्ल में हेरफेर करते हैं जबकि ऑडियो डीपफेक उनकी आवाज में हेरफेर करते हैं।

भ्रामक सामग्री बनाने के लिए वीडियो और ऑडियो डीपफेक अक्सर एक साथ काम करते हैं। इस फर्जी सामग्री को बनाने वाले लोगों के इरादे मासूम हो सकते हैं। उदाहरण के लिए, वे लोगों को हंसाने के लिए किसी सेलिब्रिटी का अजीब डांस करते हुए वीडियो बना सकते हैं। हालाँकि, सबसे अच्छे इरादे भी गलत सूचना और भ्रम पैदा कर सकते हैं।

वीडियो डीपफेक क्या हैं?

वीडियो डीपफेक सबसे आम प्रकार हैं। जो लोग ये वीडियो बनाते हैं वे इसका उपयोग करते हैं कृत्रिम बुद्धिमत्ता मौजूदा वीडियो फुटेज में किसी के चेहरे या शरीर को बदलने के लिए। उदाहरणों में किसी सेलिब्रिटी से कुछ विवादास्पद बात कहना या समाचार एंकर से मनगढ़ंत कहानियाँ रिपोर्ट करना शामिल है।

कुछ वीडियो डीपफेक में, एक आवाज अभिनेता नई आवाज प्रदान करने के लिए सेलिब्रिटी या मूल ऑडियो की नकल करेगा। वैकल्पिक रूप से, निर्माता वॉयस क्लोनिंग का भी उपयोग कर सकता है।

वॉयस क्लोनिंग क्या है?

वॉयस क्लोनिंग, या ऑडियो डीपफेक, किसी और की तरह आवाज निकालने के लिए वीडियो के बजाय आवाज में हेरफेर करता है। एक तेजी से आम घोटाला लोगों को लक्षित करने के लिए वॉयस क्लोनिंग का उपयोग करता है। माता-पिता के लिए, उन्हें अपने बच्चे से एक परेशान कॉल प्राप्त हो सकती है जिसे किसी निश्चित उद्देश्य के लिए तुरंत पैसे की आवश्यकता है। ये घोटाले बेहद विश्वसनीय हैं और इनसे वित्तीय नुकसान हुआ है।

कोई व्यक्ति किसी अन्य व्यक्ति को धमकाने के लिए ऑडियो डीपफेक का भी उपयोग कर सकता है। उदाहरण के लिए, वे किसी सहपाठी की आवाज़ की नकल करके यह दिखा सकते हैं कि उन्होंने कुछ ऐसा कहा जो उन्होंने नहीं कहा।

डीपफेक के प्रकार के बावजूद, यह याद रखना महत्वपूर्ण है कि इसे बनाने के लिए किसी को एआई टूल का उपयोग करने की आवश्यकता है। डीपफेक निर्माता हमेशा स्पष्ट नहीं होते हैं, लेकिन एआई इस सामग्री को स्वचालित रूप से उत्पन्न नहीं करता है।

संभावित नुकसान क्या हैं?

डीपफेक लोगों को कई तरह से प्रभावित कर सकता है और बच्चों और युवाओं को ऑनलाइन नुकसान पहुंचा सकता है।

बच्चों और युवाओं को नकली वीडियो और ऑडियो को पहचानने में कठिनाई हो सकती है, खासकर जब तकनीक अधिक परिष्कृत हो गई है। इसके अतिरिक्त, एआई टूल तक पहुंच बढ़ने का मतलब यह हो सकता है कि अधिक लोग डीपफेक बना सकते हैं। इसलिए इससे संभावित नुकसान की पहुंच बढ़ सकती है।

गलत जानकारी और प्रचार

ऑनलाइन उपयोगकर्ता डीपफेक का उपयोग निम्न के लिए कर सकते हैं:

• झूठी सूचना फैलाना;
• सार्वजनिक हस्तियों पर भरोसा ख़त्म करना; या
• राजनीति और अन्य महत्वपूर्ण मुद्दों पर बातचीत में हेरफेर करें।

बच्चे अभी भी आलोचनात्मक सोच कौशल विकसित कर रहे हैं, इसलिए वे इस प्रकार की जानकारी पर विश्वास करने के प्रति विशेष रूप से असुरक्षित हैं।

प्रतिष्ठा को नुकसान

कुछ रिपोर्टें डीपफेक को रिवेंज पोर्न से जोड़ती हैं। इन मामलों में, अपराधी पीड़ित को अश्लील वीडियो या इमेजरी जैसी समझौता सामग्री में जोड़ता है।

इसके बाद अपराधी पीड़ितों पर दबाव डालने के लिए इन डीपफेक का उपयोग कर सकता है। इसमें डीपफेक को अधिक व्यापक रूप से साझा करने से रोकने के लिए भुगतान या वास्तविक छवियों की मांग करना शामिल हो सकता है।

सेक्स्टोर्शन क्या है?

बच्चों पर ऑनलाइन यौन दबाव के बारे में अधिक जानें।

साइबरबुलिंग, उत्पीड़न और दुर्व्यवहार

अपराधी दूसरों का मज़ाक उड़ाने, डराने या शर्मिंदा करने के लिए वीडियो बनाकर उन्हें धमकाने के लिए डीपफेक का भी उपयोग कर सकते हैं।

डीपफेक की प्रकृति पीड़ित के लिए बदमाशी को और अधिक गंभीर बना सकती है। यह अपमानजनक व्यवहार तक भी पहुंच सकता है।

ऑनलाइन बाल-बाल दुर्व्यवहार के बारे में जानें

माता-पिता, शिक्षकों और युवाओं के लिए मार्गदर्शन प्राप्त करें।

A 2023 इंटरनेट वॉच फाउंडेशन (आईडब्ल्यूएफ) रिपोर्ट एआई-जनित बाल यौन शोषण सामग्री (सीएसएएम) बढ़ने की चेतावनी दी। उन्होंने इनमें से एक पर पोस्ट की गई 20,000 से अधिक छवियों की पहचान की अंधेरे वेब एक महीने की अवधि में सीएसएएम फोरम। उन्होंने इनमें से आधे से अधिक को "अपराधी होने की सबसे अधिक संभावना" के रूप में आंका।

हालाँकि इस संख्या में डीपफेक शामिल नहीं है, IWF का कहना है कि "यथार्थवादी पूर्ण-गति वीडियो सामग्री आम हो जाएगी।" उन्होंने यह भी नोट किया कि लघु AI-जनित CSAM वीडियो पहले से मौजूद हैं। "ये केवल अधिक यथार्थवादी और अधिक व्यापक होने जा रहे हैं।"

वित्तीय हानि और घोटाले

कुछ ऑडियो डीपफेक या वॉयस क्लोनिंग घोटाले के कारण पीड़ितों को पैसे का नुकसान होता है। घोटाले वाले निवेशों को बढ़ावा देने के लिए सार्वजनिक हस्तियों की समानता का भी उपयोग किया गया है।

एक उदाहरण यूट्यूबर मिस्टर बीस्ट का है, जो अपने फॉलोअर्स को नए आईफोन ऑफर करते नजर आए। हालाँकि, वास्तव में यह वह नहीं था। यूट्यूब बच्चों और किशोरों के बीच लोकप्रिय है। इसलिए, अपने पसंदीदा रचनाकारों की नकल करने वाले डीपफेक उन्हें इन घोटालों के लिए खुला छोड़ सकते हैं।

वीडियो ट्रांसक्रिप्ट प्रदर्शित करें

खैर, चलिए तकनीक पर ही ध्यान देते हैं क्योंकि कृत्रिम बुद्धिमत्ता साइबर अपराध में उछाल ला रही है। साइबर सुरक्षा विशेषज्ञों के एक अनुमान के अनुसार इस वर्ष इसकी लागत 8 ट्रिलियन डॉलर तक पहुँचने की उम्मीद है, जो जापान की अर्थव्यवस्था से भी अधिक है। दुनिया के सबसे बड़े YouTuber उन लोगों में से हैं, जिनकी वीडियो छवि को AI द्वारा घोटाले को बढ़ावा देने के लिए हेरफेर किया गया है, और यहाँ तक कि BBC के प्रस्तुतकर्ता भी इससे अछूते नहीं हैं। इस पर एक नज़र डालें: ब्रिटिश निवासियों को अब काम करने की ज़रूरत नहीं है, यह हमारे आज के अतिथि एलन मस्क द्वारा की गई घोषणा है। कनेक्शन चालू रहने के दौरान कौन एक नई निवेश परियोजना का अनावरण करेगा। मैं आपको इस परियोजना के बारे में और बताऊंगा जो ब्रिटिश लोगों के लिए निवेश पर रिटर्न प्राप्त करने के नए अवसर खोलती है। नई परियोजना में तीन बिलियन डॉलर से अधिक का निवेश किया गया था, और यह इस समय पहले से ही चल रही है।

अजीब है, है न? आप कह सकते हैं कि यह मेरे जैसा दिखता है, मेरे जैसा लगता है। यह समझना थोड़ा मुश्किल है, है न? और इसलिए मैंने स्टेफ़नी हेयर से बात की, वह एक स्वतंत्र प्रौद्योगिकी विशेषज्ञ हैं, मुझे कहना चाहिए।

एक स्वतंत्र प्रौद्योगिकी विशेषज्ञ स्टेफ़नी हेयर से डीपफेक को पहचानने की कठिनाई के बारे में साक्षात्कार लिया गया।

हेयर कहते हैं, "बहुत से लोगों को इन चीज़ों को पहचानना बहुत मुश्किल लगता है।" "और आप पहले नहीं हैं और मुझे नहीं लगता कि आप आखिरी होंगे, दुर्भाग्य से, क्योंकि ऐसा होने से रोकने के लिए वास्तव में कुछ भी नहीं है। वास्तव में किसी को भी जवाबदेह ठहराने के लिए कोई विनियमन नहीं है। मुझे यकीन नहीं है कि अगर आप उदाहरण के लिए मुकदमा करना चाहते हैं तो आपको किससे कोई खुशी मिलेगी। अब, हम फेसबुक पर गए और कहा कि आपको इसे हटाने की ज़रूरत है, यह नकली है और इसने ऐसा किया है... उन्होंने ऐसा किया है, मेटा ने तब से ऐसा किया है। हालाँकि, उह, वहाँ बहुत सारे डीप फ़ेक वीडियो हैं जो दर्शकों को घोटाले की ओर इशारा करते हैं और चिंता यह है कि लोग वास्तव में अपने पैसे से भाग रहे हैं क्योंकि उन्हें लगता है कि वे असली हैं और यही चिंता है, लोग कैसे बता सकते हैं कि क्या असली है और क्या नहीं?"

"ईमानदारी से कहूँ तो मुझे यकीन नहीं है कि तकनीकी सीमाओं के आधार पर यह बताना संभव है क्योंकि हम आपके वीडियो से भी देख पाए कि कुछ चीजें ऐसी थीं जो बिल्कुल सही नहीं थीं। मैंने यह बहुत स्पष्ट कर दिया था कि यह वैध नहीं था। आप वास्तव में जो करना चाहते हैं वह यह है कि खुद से पूछें कि क्या यह सच होने के लिए बहुत अच्छा लगता है, शायद यह सच है। अगर यह थोड़ा अजीब लगता है, तो शायद यह सच है। उह, मुफ़्त भोजन जैसी कोई चीज़ नहीं होती है।"

"निश्चित रूप से ऐसा नहीं है और मैंने इस बारे में ट्वीट किया है या बीबीसी द्वारा लिखा गया एक लेख साझा किया है जो आपको डीप फेक वीडियो को पहचानने के बारे में शीर्ष सुझाव देता है।"

वीडियो बंद करें

बच्चों को ऑनलाइन सुरक्षित रखने का सबसे अच्छा तरीका उन्हें नुकसान को पहचानने और सहायता प्राप्त करने के लिए उपकरण देना है। यहाँ बताया गया है कि आप उन्हें डीपफेक से बचने में कैसे मदद कर सकते हैं।