सारांश
- ब्रिटेन में 1,000 बच्चों और 2,000 अभिभावकों पर किए गए हमारे नए सर्वेक्षण से पता चलता है कि किस तरह से बच्चों की बढ़ती संख्या (64%) होमवर्क से लेकर भावनात्मक सलाह और संगति तक हर चीज में मदद के लिए एआई चैटबॉट का उपयोग कर रही है - और कई बच्चे कभी भी प्राप्त होने वाले उत्तरों की सटीकता या उपयुक्तता पर सवाल नहीं उठाते हैं।
- रिपोर्ट, “मैं, मैं स्वयं, और एआई”, बताता है कि कितने सारे बच्चे एआई चैटबॉट्स से दोस्तों की तरह बात कर रहे हैं, जबकि कई लोकप्रिय एआई चैटबॉट्स बच्चों के लिए इस तरह इस्तेमाल करने के लिए नहीं बनाए गए हैं। इनका इस्तेमाल करने वाले एक तिहाई (35%) से ज़्यादा बच्चे कहते हैं कि एआई चैटबॉट से बात करना किसी दोस्त से बात करने जैसा है, जबकि दस में से छह माता-पिता कहते हैं कि उन्हें चिंता है कि उनके बच्चे एआई चैटबॉट्स को असली इंसान मान लेते हैं।
- रिपोर्ट में चेतावनी दी गई है कि कमज़ोर बच्चों को सबसे ज़्यादा ख़तरा है, सर्वेक्षण में पाया गया कि 71% कमज़ोर बच्चे एआई चैटबॉट्स का इस्तेमाल कर रहे हैं। एआई चैटबॉट्स का इस्तेमाल करने वाले कमज़ोर बच्चों में से एक-चौथाई (26%) का कहना है कि वे किसी असली इंसान की बजाय एआई चैटबॉट से बात करना ज़्यादा पसंद करेंगे, और 23% ने कहा कि वे चैटबॉट्स का इस्तेमाल इसलिए करते हैं क्योंकि उनके पास बात करने के लिए कोई और नहीं होता।
- रिपोर्ट में चेतावनी दी गई है कि बच्चे ऐसे प्लेटफॉर्म पर एआई चैटबॉट का उपयोग कर रहे हैं जो उनके लिए नहीं बनाया गया है, तथा इसमें आयु सत्यापन और सामग्री मॉडरेशन जैसे पर्याप्त सुरक्षा उपाय भी नहीं हैं, तथा सरकार से यह स्पष्ट करने का अनुरोध किया गया है कि एआई चैटबॉट ऑनलाइन सुरक्षा अधिनियम के दायरे में कैसे आते हैं।
- बच्चों द्वारा स्कूल के काम में मदद के लिए एआई का इस्तेमाल तेज़ी से बढ़ रहा है, और रिपोर्ट में स्कूलों से बच्चों के ज्ञान के निर्माण और चैटबॉट सहित एआई के इस्तेमाल के संबंध में स्पष्ट और सुसंगत मार्गदर्शन प्रदान करने का आह्वान किया गया है। माता-पिता भी एआई की गति के साथ तालमेल बिठाने के लिए संघर्ष कर रहे हैं और उन्हें अपने बच्चों को आत्मविश्वास और ज़िम्मेदारी से इसका इस्तेमाल करने में मार्गदर्शन के लिए सहायता की आवश्यकता है।
आज (रविवार 13 जुलाई)वां) हमने एक नई रिपोर्ट प्रकाशित की है, 'मैं, स्वयं और एआई: बच्चों द्वारा एआई चैटबॉट के उपयोग को समझना और सुरक्षित रखना'.
जैसे-जैसे एआई चैटबॉट तेज़ी से बच्चों की रोज़मर्रा की ज़िंदगी का हिस्सा बनते जा रहे हैं, रिपोर्ट इस बात पर गौर करती है कि बच्चे उनके साथ कैसे बातचीत कर रहे हैं। रिपोर्ट इस बात पर भी ज़ोर देती है कि एआई टूल बच्चों को कैसे फ़ायदे पहुँचा सकते हैं, जैसे सीखने में सहायता और प्रश्न पूछने के लिए जगह के साथ-साथ, यह चेतावनी भी देता है कि ये बच्चों की सुरक्षा और विकास के लिए जोखिम पैदा करते हैं। उम्र सत्यापन और नियमन की कमी का मतलब है कि कुछ बच्चे अनुचित सामग्री के संपर्क में आ रहे हैं।
हमारा शोध इस बात पर चिंता जताता है कि बच्चे भावनात्मक रूप से प्रेरित होकर, दोस्ती और सलाह के लिए, एआई चैटबॉट्स का इस्तेमाल कर रहे हैं, जबकि कई लोकप्रिय एआई चैटबॉट्स बच्चों के लिए इस तरह इस्तेमाल करने के लिए नहीं बनाए गए हैं। रिपोर्ट में चेतावनी दी गई है कि बच्चे एआई चैटबॉट्स पर ज़रूरत से ज़्यादा निर्भर हो सकते हैं या उन्हें गलत या अनुचित जवाब मिल सकते हैं, जिसका मतलब है कि वे भरोसेमंद वयस्कों से मदद लेने की कम संभावना रखते हैं।
ये चिंताएँ फ्लोरिडा में हुई घटनाओं जैसी घटनाओं से और बढ़ गई हैं, जहाँ एक माँ ने character.ai के खिलाफ मुकदमा दायर किया था, जिसमें दावा किया गया था कि गेम ऑफ थ्रोन्स के एक पात्र पर आधारित एक AI चैटबॉट ने उसके किशोर बेटे के साथ दुर्व्यवहार और यौन संबंध बनाए और उसे आत्महत्या के लिए उकसाया। ब्रिटेन में, एक सांसद ने हाल ही में संसद को एक ऐसे व्यक्ति के साथ हुई "बेहद दर्दनाक मुलाकात" के बारे में बताया, जिसके 12 साल के बेटे को कथित तौर पर उसी प्लेटफॉर्म पर एक चैटबॉट द्वारा बहकाया गया था।
रिपोर्ट में तर्क दिया गया है कि सरकार और तकनीकी उद्योग को इस बात की फिर से जाँच करनी चाहिए कि क्या मौजूदा कानून और नियम एआई चैटबॉट का इस्तेमाल करने वाले बच्चों की पर्याप्त सुरक्षा करते हैं। यह बात बढ़ती जा रही है कि और स्पष्टता, अद्यतन मार्गदर्शन या नए कानून की आवश्यकता हो सकती है। विशेष रूप से, हम सरकार से एआई चैटबॉट प्रदाताओं के लिए सख्त आयु-आश्वासन आवश्यकताएँ लागू करने का आह्वान कर रहे हैं, ताकि यह सुनिश्चित हो सके कि प्रदाता न्यूनतम आयु आवश्यकताओं को लागू करें और बच्चों के लिए आयु-उपयुक्त अनुभव प्रदान करें।
अपने शोध को और बेहतर बनाने के लिए, हमने यूके में 1,000-9 वर्ष की आयु के 17 बच्चों और 2,000-3 वर्ष की आयु के बच्चों के 17 अभिभावकों के प्रतिनिधि नमूने का सर्वेक्षण किया और बच्चों के साथ चार फ़ोकस समूह बनाए। तीन एआई चैटबॉट्स पर उपयोगकर्ता परीक्षण किया गया – ChatGPT, Snapchatहै My AI और character.ai, और इन पर एक बच्चे के अनुभव का अनुकरण करने के लिए दो 'अवतार' बनाए गए थे।
इस शोध के प्रमुख निष्कर्ष इस प्रकार हैं:
- बच्चे एआई चैटबॉट का उपयोग विविध और कल्पनाशील तरीकों से कर रहे हैं। 42-9 वर्ष की आयु के 17% बच्चों ने, जिन्होंने एआई चैटबॉट्स का इस्तेमाल किया है, स्कूल के काम में मदद के लिए इनका इस्तेमाल किया है। बच्चे इनका इस्तेमाल रिवीजन, लेखन सहायता और भाषा कौशल के 'अभ्यास' के लिए कर रहे हैं। कई बच्चे तुरंत जवाब और स्पष्टीकरण पाकर खुश होते हैं।
- सलाह मांगना: एआई चैटबॉट का इस्तेमाल करने वाले लगभग एक-चौथाई (23%) बच्चों ने पहले ही इसका इस्तेमाल कपड़ों के बारे में सलाह लेने, दोस्तों से बातचीत का अभ्यास करने, और मानसिक स्वास्थ्य जैसे महत्वपूर्ण मामलों में किया है। एआई चैटबॉट का इस्तेमाल करने वाले कुछ बच्चों (15%) का कहना है कि वे किसी असली इंसान से बात करने के बजाय चैटबॉट से बात करना ज़्यादा पसंद करेंगे।
- सहयोगी: विशेष रूप से कमज़ोर बच्चे, जुड़ाव और आराम के लिए एआई चैटबॉट्स का इस्तेमाल करते हैं। छह में से एक (16%) कमज़ोर बच्चों ने कहा कि वे इनका इस्तेमाल इसलिए करते हैं क्योंकि उन्हें एक दोस्त चाहिए होता है, जबकि आधे (50%) बच्चों ने कहा कि एआई चैटबॉट से बात करना किसी दोस्त से बात करने जैसा लगता है। कुछ बच्चे एआई चैटबॉट्स का इस्तेमाल इसलिए कर रहे हैं क्योंकि उनके पास बात करने के लिए कोई और नहीं है।
- गलत और अपर्याप्त प्रत्युत्तर: बच्चों ने भ्रामक या गलत जवाबों के उदाहरण साझा किए, जिसकी पुष्टि हमारे अपने उपयोगकर्ता परीक्षण से भी हुई। एआई चैटबॉट कई बार अपने जवाबों के ज़रिए बच्चों को स्पष्ट और व्यापक सलाह देने में विफल रहे। यह विशेष रूप से चिंताजनक है क्योंकि एआई चैटबॉट का इस्तेमाल करने वाले 58% बच्चों ने कहा कि उन्हें लगता है कि एआई चैटबॉट का इस्तेमाल करना खुद खोज करने से बेहतर है।
- सलाह पर उच्च विश्वास: एआई चैटबॉट का इस्तेमाल करने वाले पाँच में से दो (40%) बच्चों को चैटबॉट की सलाह मानने में कोई चिंता नहीं है, और 36% बच्चे इस बात को लेकर अनिश्चित हैं कि उन्हें चिंतित होना चाहिए या नहीं। कमज़ोर बच्चों के लिए यह संख्या और भी ज़्यादा है। ऐसा तब है जब एआई चैटबॉट कई बार विरोधाभासी या असमर्थनीय सलाह देते हैं।
- हानिकारक सामग्री के संपर्क में आना: बच्चों को स्पष्ट और आयु-अनुचित सामग्री के संपर्क में लाया जा सकता है, जिसमें महिला विरोधी सामग्री भी शामिल है, बावजूद इसके कि एआई चैटबॉट प्रदाताओं ने अपनी सेवा शर्तों में बाल उपयोगकर्ताओं के लिए इस सामग्री को प्रतिबंधित कर रखा है।
- धुंधली सीमाएँ: कुछ बच्चे पहले से ही एआई चैटबॉट्स को इंसानों जैसा समझते हैं, और एआई चैटबॉट्स का इस्तेमाल करने वाले 35% बच्चों का कहना है कि एआई चैटबॉट से बात करना किसी दोस्त से बात करने जैसा है। जैसे-जैसे एआई चैटबॉट्स अपनी प्रतिक्रियाओं में और भी ज़्यादा इंसानों जैसे होते जाएँगे, बच्चे एआई चैटबॉट्स के साथ बातचीत में ज़्यादा समय बिता सकते हैं और भावनात्मक रूप से उन पर ज़्यादा निर्भर हो सकते हैं। यह चिंताजनक है क्योंकि आठ में से एक (12%) बच्चा एआई चैटबॉट्स का इस्तेमाल इसलिए कर रहा है क्योंकि उसके पास बात करने के लिए कोई और नहीं है, यानी लगभग चार में से एक (23%) कमज़ोर बच्चों का।
- बच्चों को एआई चैटबॉट्स को स्वयं संचालित करने या विश्वसनीय वयस्कों से सीमित इनपुट लेने के लिए छोड़ दिया जा रहा है। 62% माता-पिता कहते हैं कि वे एआई द्वारा उत्पन्न जानकारी की सटीकता को लेकर चिंतित हैं, फिर भी केवल 34% माता-पिता ने अपने बच्चों से इस बारे में बात की है कि एआई द्वारा निर्मित सामग्री की सत्यता का आकलन कैसे किया जाए। केवल 57% बच्चों ने शिक्षकों या स्कूल से एआई के बारे में बात की है, और बच्चों का कहना है कि स्कूल में शिक्षकों की सलाह भी विरोधाभासी हो सकती है।
रिपोर्ट में एआई चैटबॉट का उपयोग करने वाले बच्चों को समर्थन और सुरक्षा प्रदान करने के लिए प्रणाली-व्यापी सिफारिशें भी की गई हैं, जिनमें शामिल हैं:
- उद्योग बच्चों की आवश्यकताओं को प्रतिबिंबित करने वाले आयु-उपयुक्त एआई चैटबॉट बनाने के लिए सुरक्षा-द्वारा-डिज़ाइन दृष्टिकोण को अपनाना, जिसमें अंतर्निहित अभिभावकीय नियंत्रण, विश्वसनीय संकेतक और मीडिया साक्षरता विशेषताएं शामिल हों।
- सरकार ऑनलाइन सुरक्षा अधिनियम के अंतर्गत एआई चैटबॉट्स को किस प्रकार कवर किया जाता है, इस पर स्पष्ट मार्गदर्शन प्रदान करना, बच्चों के लिए नहीं बनाए गए एआई चैटबॉट्स के प्रदाताओं पर प्रभावी आयु आश्वासन को अनिवार्य करना, तथा यह सुनिश्चित करना कि विनियमन तेजी से विकसित हो रही एआई प्रौद्योगिकियों के साथ तालमेल बनाए रखे।
- सरकार द्वारा स्कूलों को समर्थन सभी प्रमुख चरणों में एआई और मीडिया साक्षरता को शामिल करना, जिसमें शिक्षकों को प्रशिक्षण देना और स्कूलों, अभिभावकों और बच्चों को एआई के उचित उपयोग पर स्पष्ट मार्गदर्शन प्रदान करना शामिल है।
- माता-पिता और देखभाल करने वाले उन्हें अपने बच्चों को एआई के उपयोग के बारे में मार्गदर्शन देने के लिए समर्थन दिया जा रहा है और उन्हें इस बारे में बातचीत करने का मौका दिया जा रहा है कि एआई चैटबॉट क्या हैं, वे कैसे काम करते हैं और उनका उपयोग कब करना चाहिए, जिसमें वास्तविक दुनिया में सहायता कब लेनी चाहिए।
- नीति निर्माताओं, अनुसंधान और उद्योग एआई चैटबॉट्स के विकास, विनियमन और प्रशासन में बच्चों की आवाज़ को केन्द्रित करना और भावनात्मक रूप से उत्तरदायी एआई किस प्रकार बचपन को आकार दे सकता है, इस पर दीर्घकालिक शोध में निवेश करना।
इंटरनेट मैटर्स की सह-सीईओ रेचल हगिंस ने कहा:
"एआई चैटबॉट तेज़ी से बचपन का हिस्सा बनते जा रहे हैं, और पिछले दो सालों में इनका इस्तेमाल नाटकीय रूप से बढ़ा है। फिर भी ज़्यादातर बच्चे, माता-पिता और स्कूल इस तकनीकी क्रांति को सुरक्षित तरीके से प्रबंधित करने के लिए ज़रूरी जानकारी या सुरक्षात्मक उपकरण नहीं रखते हैं।"
"हालाँकि एआई के स्पष्ट लाभ हैं, हमारे शोध से पता चलता है कि कैसे चैटबॉट बच्चों के 'दोस्ती' के नज़रिए को नया रूप दे रहे हैं। हम बहुत जल्दी उस मुकाम पर पहुँच गए हैं जहाँ बच्चे, और ख़ास तौर पर कमज़ोर बच्चे, एआई चैटबॉट को असली इंसान की तरह देख सकते हैं, और इस तरह उनसे भावनात्मक रूप से प्रेरित और संवेदनशील सलाह माँग रहे हैं। चिंता की बात यह भी है कि वे अक्सर अपने नए "दोस्तों" की बातों पर सवाल नहीं उठाते।
"हमें इन प्रारंभिक चेतावनी संकेतों पर ध्यान देना चाहिए और समन्वित कार्रवाई करनी चाहिए ताकि यह सुनिश्चित हो सके कि बच्चे एआई चैटबॉट की क्षमता का सुरक्षित और सकारात्मक तरीके से पता लगा सकें और नुकसान की स्पष्ट संभावना से बच सकें।
"ब्रिटेन में लाखों बच्चे ऐसे प्लेटफ़ॉर्म पर एआई चैटबॉट्स का इस्तेमाल कर रहे हैं जो उनके लिए डिज़ाइन नहीं किए गए हैं, और जिनके पास पर्याप्त सुरक्षा उपाय, शिक्षा या निगरानी नहीं है। माता-पिता, देखभाल करने वालों और शिक्षकों को बच्चों के एआई इस्तेमाल के मार्गदर्शन के लिए सहायता की ज़रूरत है। तकनीकी उद्योग को एआई चैटबॉट्स के विकास के लिए डिज़ाइन द्वारा सुरक्षा दृष्टिकोण अपनाना चाहिए, जबकि सरकार को यह सुनिश्चित करना चाहिए कि हमारे ऑनलाइन सुरक्षा कानून इतने मज़बूत हों कि वे इस नई तकनीक से बच्चों के जीवन में आने वाली चुनौतियों का सामना कर सकें।"
इंटरनेट वॉच फाउंडेशन के अंतरिम सीईओ डेरेक रे-हिल ने कहा,:
“यह रिपोर्ट इन एआई चैटबॉट्स के विनियमन और निगरानी के बारे में कुछ बुनियादी सवाल उठाती है।
"बच्चों को एआई चैटबॉट्स के ज़रिए अश्लील या उम्र के हिसाब से अनुचित सामग्री का सामना करना पड़ सकता है, जिससे उस क्षेत्र में नुकसान की संभावना बढ़ जाती है, जो, जैसा कि हमारे साक्ष्य बताते हैं, युवा उपयोगकर्ताओं के लिए पहले से ही चुनौतीपूर्ण साबित हो रहा है। इस तकनीक के ज़रिए बच्चों को ग्रूम करने की खबरें विशेष रूप से परेशान करने वाली हैं।"
"बच्चों को एक सुरक्षित इंटरनेट मिलना चाहिए जहाँ वे बिना किसी नुकसान के खेल सकें, सामाजिक मेलजोल बढ़ा सकें और सीख सकें। हमें सरकार और तकनीकी कंपनियों से एआई चैटबॉट्स को उपलब्ध कराने से पहले उनमें डिज़ाइन द्वारा सुरक्षा सुनिश्चित करने के लिए तत्काल कदम उठाने की आवश्यकता है।"
