माता-पिता और बच्चे कहते हैं: नग्नता फैलाने वाले ऐप्स पर प्रतिबंध लगाओ

एआई तकनीक के उदय के साथ, बच्चों के लिए ऑनलाइन नए खतरे सामने आए हैं, जिनमें नग्न डीपफेक भी शामिल हैं। नग्न डीपफेक यौन छवियां हैं जो बच्चों सहित वास्तविक लोगों की छवियों से एआई नग्नता उपकरणों के साथ बनाई गई हैं।

पिछले साल, ऑनलाइन डीपफेक यौन सामग्री में 400% से अधिक की वृद्धि हुई। हमारे शोध में यह भी पाया गया है कि अनुमानित पाँच लाख बच्चे (13%) पहले ही ऑनलाइन नग्न डीपफेक का अनुभव कर चुके हैं। इसमें किसी वेबसाइट पर एक नग्न डीपफेक मिलना, किसी मित्र से प्राप्त करना या खुद नग्नता ऐप का उपयोग करना शामिल है।

अब कुछ बटन क्लिक करके वास्तविक लोगों की बेहद विश्वसनीय नग्न तस्वीरें और वीडियो बनाना तेज़, सस्ता और आसान हो गया है। प्लेटफ़ॉर्म नग्नता टूल के सामने आने पर उन्हें हटाने का प्रयास कर रहे हैं। हालाँकि, वे ऐप स्टोर पर उपलब्ध हैं और मुख्यधारा के सर्च इंजन के सर्च रिजल्ट में आम हैं।

डीपफेक न्यूड्स बच्चों पर गहरा असर डाल सकते हैं, जिसमें दुर्व्यवहार और उत्पीड़न भी शामिल है। इस दुर्व्यवहार के शिकार लोगों को PTSD, अवसाद, चिंता और यहां तक ​​कि आत्महत्या के विचार भी आ सकते हैं। अगर कोई अपराधी छवि के साथ उनका व्यक्तिगत डेटा साझा करता है, तो उन्हें शारीरिक हिंसा का भी डर हो सकता है।

वास्तव में, अधिकांश किशोरों (55%) को लगता है कि उनकी नग्न डीपफेक छवि बनाना और उसे साझा करना वास्तविक छवि से भी बदतर होगा। जब उनसे इसका कारण पूछा गया, तो किशोरों ने कहा:

• शारीरिक स्वायत्तता की हानि महसूस करना
• चिंता यह है कि शायद उन्हें पता न हो कि यह अस्तित्व में है, इसे किसने बनाया या क्यों बनाया
• इससे होने वाले डर को लेकर चिंतित थे। इसमें दोस्त, शिक्षक और माता-पिता शामिल थे जो इसे वास्तविक मानते थे और उन्हें अलग तरह से देखते थे। उन्हें यह भी चिंता थी कि यह छवि उन्हें पूरी तरह से गलत तरीके से पेश कर सकती है।

जबकि यह समस्या लड़के और लड़कियों दोनों को प्रभावित करती है, 99% नग्न डीपफेक महिलाओं और लड़कियों के होते हैं। इसके अलावा, कई नग्नता उपकरण लड़कों और पुरुषों की छवियों पर काम नहीं करते हैं। हमारे शोध से पता चलता है कि नग्न डीपफेक महिलाओं और लड़कियों के खिलाफ हिंसा करने के लिए इस्तेमाल किया जाने वाला एक और उपकरण बन रहा है।

किसी बच्चे की नग्न डीपफेक छवि बनाना, रखना या साझा करना अवैध है और इसे निम्न श्रेणी में रखा गया है बाल यौन शोषण सामग्री (सीएसएएम)हालांकि, इन्हें बनाने वाले उपकरण फिलहाल अवैध नहीं हैं और बच्चे तेजी से इनके संपर्क में आ रहे हैं।

नग्नीकरण उपकरणों पर प्रतिबंध

हमारे शोध में पाया गया कि 84% किशोर और 80% माता-पिता ब्रिटेन में वयस्कों सहित सभी के लिए नग्नीकरण उपकरणों पर प्रतिबंध लगाने का समर्थन करते हैं।

हाउस ऑफ कॉमन्स में सांसद जेस असाटो सरकार से आग्रह किया इस मुद्दे पर माता-पिता और बच्चों की आवाज सुनने के लिए नग्नता फैलाने वाले ऐप्स पर प्रतिबंध लगाया जाना चाहिए।

सुश्री असातो ने कहा: "न्यूड डीपफेक का बढ़ना एक चिंताजनक मुद्दा है - खास तौर पर स्कूलों में। इंटरनेट मैटर्स द्वारा किए गए शोध से पता चला है कि इससे बच्चों को पहले से ही कितना नुकसान हो रहा है - और इस तकनीक में और भी अधिक नुकसान पहुंचाने की क्षमता है। नग्नता कार्यक्रमों को आसानी से सुलभ रहने की अनुमति देकर, हम अपने बच्चों को नुकसान पहुँचाने और यहाँ तक कि अपराधी ठहराए जाने के जोखिम में डाल रहे हैं। इसीलिए मैंने सरकार से नग्नता टूल और ऐप पर प्रतिबंध लगाने का आह्वान किया है।"

हमारी रिपोर्ट में नग्नीकरण उपकरणों पर प्रतिबंध लगाना प्रमुख सिफारिशों में से एक था। डिजिटल दुर्व्यवहार का नया चेहरा: नग्न डीपफेक के बच्चों के अनुभव.

बच्चों को डीपफेक यौन शोषण से बचाने की जिम्मेदारी स्कूलों और अभिभावकों पर नहीं डाली जा सकती। उद्योग और सरकार को इसमें कदम उठाना चाहिए। नग्नता फैलाने वाले उपकरणों पर प्रतिबंध लगाने से बच्चों को ऑनलाइन नुकसान से बचाने में मदद मिलेगी। इसके अलावा, यह अगले दशक में महिलाओं और लड़कियों के खिलाफ हिंसा को आधा करने के सरकार के महत्वाकांक्षी लक्ष्य का समर्थन करेगा।