सारांश
- इंटरनेट मैटर्स की नई रिपोर्ट में नई सरकार से आग्रह किया गया है कि वह एआई-जनित यौन छवियों की 'महामारी' पर नकेल कसें, क्योंकि सर्वेक्षण से पता चला है कि 13% किशोरों को नग्न डीपफेक का अनुभव हुआ है।
- अनियंत्रित नग्न डीपफेक दुरुपयोग की संभावना ने कई बच्चों के जीवन में भय पैदा कर दिया है; आधे से अधिक किशोरों (55%) का मानना है कि वास्तविक छवि की तुलना में उनकी डीपफेक नग्न छवि बनाना और साझा करना अधिक बुरा होगा।
- इंटरनेट मैटर्स ने 'न्यूडिफाइंग' टूल्स पर प्रतिबंध लगाने की मांग की है, क्योंकि रिपोर्ट में चेतावनी दी गई है कि ऑनलाइन नग्न डीपफेक बनाना बहुत आसान है।
- स्कूल पाठ्यक्रम में अनुशंसित सुधारों में बच्चों को डीपफेक की पहचान करना और एआई तकनीक का जिम्मेदारी से उपयोग करना सिखाना शामिल होना चाहिए।
बच्चों की ऑनलाइन सुरक्षा का समर्थन करने वाली ब्रिटेन की अग्रणी गैर-लाभकारी संस्था इंटरनेट मैटर्स आज (मंगलवार 22 अक्टूबर) एक नई रिपोर्ट प्रकाशित कर रही है, "डिजिटल दुर्व्यवहार का नया चेहरा: नग्न डीप फेक के बच्चों के अनुभव"रिपोर्ट में अनुमान लगाया गया है कि तीस की प्रत्येक कक्षा में चार बच्चों को 'न्यूडिफाइड डीपफेक' का कुछ अनुभव है और सरकार से युवाओं, विशेष रूप से लड़कियों की जनरेटिव एआई (जेनएआई) नकली नग्न तस्वीरों के विकास से निपटने के लिए नए कानून लाने की मांग की गई है, जिसके तहत तथाकथित 'न्यूडिफाइंग' ऐप्स पर प्रतिबंध लगाया जाना चाहिए।
रिपोर्ट में बताया गया है कि किस तरह से GenAI ने आम लोगों की गैर-सहमति वाली स्पष्ट छवियाँ बनाना त्वरित, सरल और सस्ता बना दिया है - जिसमें बच्चे भी शामिल हैं। इसमें तर्क दिया गया है कि मौजूदा कानून गति नहीं पकड़ पा रहा है; बच्चों की यौन छवियाँ बनाने के लिए इस्तेमाल किए जाने वाले AI मॉडल वर्तमान में यूके में अवैध नहीं हैं, हालाँकि किसी बच्चे की डीपफेक यौन छवि रखना एक आपराधिक अपराध है।
जबकि डीपफेक तकनीक का उपयोग सकारात्मक उद्देश्यों, जैसे शिक्षा या प्रशिक्षण के लिए किया जा सकता है, साक्ष्य बताते हैं कि अधिकांश डीपफेक नुकसान पहुंचाने के लिए बनाए जाते हैं, जिसमें यौन शोषण, आर्थिक रूप से प्रेरित यौन शोषण, गलत और भ्रामक सूचना, घोटाले या धोखाधड़ी शामिल हैं। एक समय में मुख्य रूप से महिला हस्तियों को लक्षित करने वाली घटना, नकली नग्न छवियों का निर्माण कुछ ऐसा है जो अब अधिक व्यापक रूप से सुलभ है और बच्चों को प्रभावित कर रहा है, जिसमें लड़कियों के लक्ष्य होने की सबसे अधिक संभावना है।
आज की इंटरनेट मैटर्स रिपोर्ट इस बात पर प्रकाश डालती है कि ऑनलाइन 'न्यूडिफाइंग' टूल कितने व्यापक रूप से उपलब्ध और उपयोग में आसान हो गए हैं। अनुमान है कि 99% नग्न डीपफेक में लड़कियाँ और महिलाएँ हैं, और 'न्यूडिफाइंग' मॉडल अक्सर लड़कों और पुरुषों की छवियों पर काम नहीं करते हैं। बच्चों को दिखाने वाली AI-जनरेटेड यौन छवियों का उपयोग बाल-पर-बाल यौन शोषण, वयस्कों द्वारा किए गए यौन शोषण और सेक्सटॉर्शन को सुविधाजनक बनाने के लिए किया गया है और यह पीड़ितों को गहराई से प्रभावित कर सकता है, जिससे चिंता, अवसाद और आत्महत्या के विचार शुरू हो सकते हैं।
किशोर लड़के अपनी सहपाठियों की यौन रूप से स्पष्ट तस्वीरें बनाने के लिए 'न्यूडिफिकेशन' ऐप का इस्तेमाल करते हैं, अक्सर इन तस्वीरों को ग्रुप चैट और सोशल मीडिया पर शेयर करते हैं। लड़कियों ने इंटरनेट मैटर्स को बताया कि वे भयभीत और शर्मिंदा महसूस करती हैं और उन्हें डर लगता है कि कोई शिक्षक या अभिभावक उन्हें असली समझ सकता है।
आज की रिपोर्ट में जून 2,000 में ओपिनियम द्वारा यूके में 3-17 वर्ष की आयु के 1,000 बच्चों के माता-पिता और 9-17 वर्ष की आयु के 2024 बच्चों के माता-पिता के बीच किए गए इंटरनेट मैटर्स के राष्ट्रीय प्रतिनिधि सर्वेक्षण का विवरण दिया गया है। सर्वेक्षण से पता चलता है:
- बच्चों की एक बड़ी संख्या को नग्न डीपफेक के साथ किसी न किसी तरह का अनुभव है। कुल मिलाकर, 13% बच्चों को नग्न डीपफेक के साथ अनुभव हुआ है (जिसमें एक भेजना या प्राप्त करना, ऑनलाइन नग्न डीपफेक का सामना करना, नग्नता ऐप का उपयोग करना या किसी ऐसे व्यक्ति को जानना जो नग्नता ऐप का उपयोग कर रहा हो)। इसका मतलब है कि यूके में लगभग पाँच लाख (529,632) किशोर, या 4 की कक्षा में 30 किशोरों को नग्न डीपफेक के साथ अनुभव हुआ है।
- किशोर लड़कों (18%) द्वारा नग्न डीपफेक के साथ अनुभव की रिपोर्ट करने की संभावना किशोर लड़कियों (9%) की तुलना में दोगुनी है, हालांकि लड़कों द्वारा डीपफेक नग्न तस्वीरें बनाने की संभावना अधिक है, और लड़कियों द्वारा पीड़ित होने की संभावना अधिक है।
- लड़कों और कमज़ोर बच्चों के नग्न डीपफेक से जुड़ने की संभावना ज़्यादा होती है। 10-13 साल के 17% लड़के ऑनलाइन नग्न डीपफेक से जुड़े हैं, जबकि इसी उम्र की 2% लड़कियों के साथ ऐसा हुआ है। कमज़ोर बच्चों में से एक चौथाई को नग्न डीपफेक का अनुभव हुआ है, जबकि कमज़ोर बच्चों में से 11% को ऐसा अनुभव हुआ है।
- किशोर नग्न डीपफेक दुर्व्यवहार को वास्तविक तस्वीरों वाली छवि दुर्व्यवहार से भी बदतर मानते हैं। आधे से ज़्यादा किशोरों (55%) का मानना है कि उनकी डीपफेक नग्न तस्वीरें बनाना और उन्हें शेयर करना वास्तविक तस्वीरों की तुलना में ज़्यादा बुरा होगा।
- अधिकांश परिवारों को डीपफेक के बारे में बहुत कम या कोई समझ नहीं है, लगभग दो तिहाई बच्चे (61%) और लगभग आधे माता-पिता (45%) कहते हैं कि वे 'डीपफेक' शब्द को नहीं जानते या समझते हैं।
- परिवार चाहते हैं कि सरकार और प्रौद्योगिकी कम्पनियां नग्न डीपफेक से निपटने के लिए और अधिक प्रयास करें। 84% किशोरों और 80% अभिभावकों का मानना है कि ब्रिटेन में वयस्कों सहित सभी के लिए नग्नता फैलाने वाले उपकरणों पर प्रतिबंध लगा दिया जाना चाहिए।
- परिवार भी इस बात से सहमत हैं कि डीपफेक के विषय पर अधिक शिक्षा की आवश्यकता है। केवल 11% किशोरों को स्कूल में डीपफेक के बारे में पढ़ाया गया है, और केवल 6% को न्यूड डीपफेक के बारे में पढ़ाया गया है। किशोरों (92%) और माता-पिता (88%) का भारी बहुमत महसूस करता है कि बच्चों को स्कूल में डीपफेक के जोखिमों के बारे में पढ़ाया जाना चाहिए।
रिपोर्ट में बच्चों को डीपफेक यौन शोषण से बचाने के लिए नए कानून और उद्योग जगत की कार्रवाई दोनों की वकालत की गई है और तर्क दिया गया है कि माता-पिता और स्कूलों से अकेले बच्चों की सुरक्षा की उम्मीद नहीं की जा सकती। इसमें निम्नलिखित कार्रवाई की मांग की गई है:
- सरकार इस संसद में प्राथमिकता के आधार पर नग्नीकरण उपकरणों पर प्रतिबंध लगाएगी तथा लैंगिक क्षति और बाल-बाल दुर्व्यवहार पर आचार संहिता के साथ ऑनलाइन सुरक्षा अधिनियम को मजबूत बनाएगी।
- प्रौद्योगिकी कम्पनियों को सर्च इंजनों और ऐप स्टोर्स पर नग्नीकरण टूल तक पहुंच समाप्त करके कड़ी कार्रवाई करनी होगी।
- महत्वपूर्ण मीडिया साक्षरता पर शिक्षण को एकीकृत करने के लिए राष्ट्रीय पाठ्यक्रम को अद्यतन किया जाएगा।
आज की रिपोर्ट के साथ मेल खाते हुए और उसका समर्थन करते हुए, इंटरनेट मैटर्स लॉन्च कर रहा है बच्चों को डीपफेक से बचाने के लिए माता-पिता के लिए विशेषज्ञ सलाह सहित नए संसाधन.
इंटरनेट मैटर्स के सह-सीईओ कैरोलिन बंटिंग एमबीई ने कहा:
"एआई ने कुछ बटनों के क्लिक से बच्चों के अत्यधिक यथार्थवादी डीपफेक बनाना संभव बना दिया है। नग्न डीपफेक शारीरिक स्वायत्तता और गरिमा पर गहरा आक्रमण है, और उनका प्रभाव जीवन को हिला देने वाला हो सकता है। नग्नता उपकरण मुख्य रूप से महिलाओं पर केंद्रित होने के कारण, लड़कियों पर उनका असंगत प्रभाव पड़ रहा है।
"बच्चों ने हमें बताया कि उन्हें डर है कि उनके साथ ऐसा बिना किसी जानकारी के और ऐसे लोगों द्वारा हो सकता है जिन्हें वे नहीं जानते। वे डीपफेक इमेज-दुरुपयोग को संभावित रूप से अधिक उल्लंघन के रूप में देखते हैं क्योंकि यह उनके नियंत्रण से परे है।
"डीपफेक इमेज का दुरुपयोग किसी के साथ भी, कभी भी हो सकता है। इस चिंताजनक मुद्दे से निपटने के लिए माता-पिता को अकेला नहीं छोड़ा जाना चाहिए। अब समय आ गया है कि सरकार और उद्योग जगत बच्चों के साथ दुर्व्यवहार करने के लिए इस्तेमाल किए जाने वाले इन उपकरणों का उत्पादन और प्रचार करने वाली कंपनियों पर नकेल कस कर इसे रोकने के लिए कदम उठाए।"
