कैरेक्टर एआई एक चैटबॉट है जिसके साथ उपयोगकर्ता कस्टमाइज़्ड बातचीत कर सकते हैं। लाखों उपयोगकर्ता इस प्लेटफ़ॉर्म का उपयोग कर रहे हैं, इसलिए बच्चों के लिए इसकी सुरक्षा को लेकर चिंताएँ हैं।
जानें कि आप अपने किशोर को सुरक्षित रखने के लिए क्या कर सकते हैं।
कैरेक्टर एआई एक चैटबॉट सेवा है जो उपयोगकर्ता के अनुकूलन के आधार पर मानव जैसी पाठ प्रतिक्रियाएं उत्पन्न कर सकती है।
2022 में लॉन्च किए गए इस गेम में उपयोगकर्ता कस्टमाइज़ेबल व्यक्तित्व और प्रतिक्रियाओं वाले चरित्र बना सकते हैं। वे इन पात्रों को समुदाय में प्रकाशित कर सकते हैं ताकि अन्य लोग उनसे चैट कर सकें या वे खुद भी चरित्र से चैट कर सकते हैं।
यह सेवा विश्वसनीय प्रतिक्रियाएँ बनाने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करती है। यह बच्चों और युवाओं के बीच लोकप्रिय है क्योंकि इसमें पात्रों को अनुकूलित करने की क्षमता है। वे उन्हें लोकप्रिय संस्कृति में मौजूदा लोगों या पात्रों पर आधारित कर सकते हैं या कुछ नया बना सकते हैं।
कैरेक्टर एआई की सेवा शर्तों के अनुसार, सेवा का उपयोग करने के लिए उपयोगकर्ता की आयु 13 वर्ष या उससे अधिक होनी चाहिए। यूरोपीय संघ के नागरिकों या निवासियों की आयु 16 वर्ष होनी चाहिए।
अगर कोई नाबालिग बच्चा रजिस्टर करने की कोशिश करता है, तो उसे एक सूचना मिलती है कि उसके साइन अप में कोई समस्या है। फिर वे अपने आप साइन इन पेज पर वापस आ जाते हैं, लेकिन दोबारा कोशिश नहीं कर सकते। हालाँकि, अगर वे अपनी उम्र के बारे में झूठ बोलते हैं, तो कोई आयु सत्यापन सुविधाएँ नहीं हैं।
हालाँकि, गूगल प्ले ने कैरेक्टर एआई ऐप को 'माता-पिता के मार्गदर्शन' की आवश्यकता के रूप में सूचीबद्ध किया है। ऐप्पल के ऐप स्टोर ने ऐप को 17+ के रूप में सूचीबद्ध किया है।
एक बार रजिस्टर होने के बाद, उपयोगकर्ता अलग-अलग उद्देश्यों के लिए कई चैटबॉट ब्राउज़ कर सकते हैं। इसमें किसी भाषा का अभ्यास करना, नए विचारों पर विचार-विमर्श करना और गेम खेलना शामिल है। जब आप पहली बार जुड़ते हैं तो डिस्कवर पेज पर दिखाए गए चैटबॉट अपेक्षाकृत तटस्थ होते हैं। हालाँकि, विशिष्ट शब्दों को खोजने का विकल्प है, जो किसी भी तरह से फ़िल्टर नहीं किए गए लगते हैं।
उपयोगकर्ता कोई पात्र या आवाज भी बना सकते हैं।
उपयोगकर्ता अपने चरित्र की प्रोफ़ाइल तस्वीर, नाम, टैगलाइन, विवरण के साथ-साथ उनके अभिवादन और आवाज़ को भी अनुकूलित कर सकते हैं। वे चरित्र को निजी रखना या सार्वजनिक रूप से साझा करना चुन सकते हैं।
फिर आप चरित्र को 'परिभाषित' कर सकते हैं। यह वह जगह है जहाँ आप बताते हैं कि आप उनसे कैसे बात करना या कार्य करना चाहते हैं, जिससे चैटबॉट चरित्र को एक 'व्यक्तित्व' मिलता है।
आप किरदारों को इस तरह से भी कस्टमाइज़ कर सकते हैं कि वे खास तरीके से प्रतिक्रिया दें। इसलिए, अगर आप कहते हैं कि किरदार उदास है, तो उसकी प्रतिक्रियाएँ उसे दर्शाएँगी। इसी तरह, अगर आप कहते हैं कि वह खुश है, तो वह उसे दर्शाएगी।
बातचीत यथार्थवादी है, इसलिए पात्र के विश्वदृष्टिकोण में डूब जाना आसान है।
आवाज़ बनाने के लिए, उपयोगकर्ताओं को बिना किसी पृष्ठभूमि शोर के आवाज़ की 10-15 सेकंड की स्पष्ट ऑडियो क्लिप अपलोड करनी होगी। आप छोटी क्लिप का उपयोग कर सकते हैं, लेकिन इस तरह से आवाज़ अधिक रोबोट जैसी लग सकती है। अपलोडिंग समाप्त करने के लिए, आपको आवाज़ को एक नाम और टैगलाइन देनी होगी।
यदि आप किसी पात्र को वह आवाज़ देते हैं जो आपने अपलोड की है, तो आप उस आवाज़ में चैटबॉट की प्रतिक्रियाएँ चला सकते हैं। यह अपलोड की गई आवाज़ की नकल करने का काफी सटीक काम करता है।
अक्टूबर 2024 में, ए किशोर ने अपने द्वारा बनाए गए चरित्र के साथ बातचीत करने के बाद अपनी जान ले ली. उनकी मृत्यु से पहले की बातचीत आत्महत्या से संबंधित थी। एक उदाहरण में, चैटबॉट ने किशोर से पूछा कि क्या उन्होंने योजना बनाई थी कि वे अपना जीवन कैसे समाप्त करेंगे।
उसी महीने, एक जांच में पाया गया कि चैटबॉट्स ब्रायना घे और मौली रसेल कैरेक्टर एआई प्लैटफ़ॉर्म पर। एक बार उन्हें अलर्ट किए जाने के बाद, प्लैटफ़ॉर्म ने चैटबॉट को हटा दिया। इस घटना ने कैरेक्टर चैटबॉट बनाने की प्रक्रिया पर सवाल खड़े कर दिए, खासकर तब जब वे असली लोगों की नकल करते हैं।
इन घटनाओं से पहले, अन्य लोगों ने भी खराब सलाह और नस्ल व लिंग के विरुद्ध पूर्वाग्रहों की बात कही थी।
हालाँकि, अन्य उपयोगकर्ताओं ने अपने मानसिक स्वास्थ्य को बेहतर बनाने के लिए कैरेक्टर एआई ऐप को श्रेय दिया है।
किसी भी AI टूल की तरह, कैरेक्टर AI उन लोगों से सीखता है जो इसके साथ बातचीत करते हैं। दुर्भाग्य से, इससे अनुचित और हानिकारक सामग्री उत्पन्न हो सकती है।
ऐप की सेवा की शर्तें और सामुदायिक दिशानिर्देश दूसरों के समान हैं और ऐसी सामग्री के खिलाफ चेतावनी देते हैं। इसके अतिरिक्त, उपयोगकर्ता कई कारणों से चैटबॉट या पात्रों की रिपोर्ट कर सकते हैं। सामुदायिक दिशानिर्देश उपयोगकर्ताओं को जहाँ संभव हो नियम उल्लंघन के विशिष्ट उदाहरण साझा करने के लिए प्रोत्साहित करते हैं।
हालांकि ऐप की अपनी मॉडरेशन टीम है, लेकिन वे समुदाय के सदस्यों के बीच सीधे संदेशों को मॉडरेट नहीं कर सकते। ऐसा इसलिए है क्योंकि ऐसा कोई भी संदेश प्लेटफ़ॉर्म से बाहर होता है जैसे कि कलह or रेडिटहालांकि, वे उपयोगकर्ताओं को प्रोत्साहित करते हैं कि यदि वे ऐप में कोई नियम उल्लंघन देखते हैं तो इसकी रिपोर्ट करें।
कैरेक्टर एआई ने 18 वर्ष से कम आयु के बच्चों के लिए सुरक्षा सुविधाओं की एक श्रृंखला की घोषणा की है। इनमें शामिल हैं:
इसके अतिरिक्त, कैरेक्टर AI ने नियमों का उल्लंघन करने वाले चिह्नित कैरेक्टर को हटा दिया है। उपयोगकर्ता अब इन कैरेक्टर से जुड़ी चैट हिस्ट्री तक नहीं पहुंच सकते।
कैरेक्टर एआई का कहना है कि वह अपने उपयोगकर्ताओं की सुरक्षा को गंभीरता से लेता हैइसके अतिरिक्त, यह सभी उपयोगकर्ताओं के लिए अतिरिक्त सुरक्षा सुविधाओं की दिशा में भी काम कर रहा है।
जोखिमों और नुकसान के प्रबंधन के लिए व्यक्तिगत सलाह के साथ अपने परिवार को उन प्लेटफार्मों पर सुरक्षित रखने में मदद करें जिनका वे उपयोग करते हैं।
अपना डिजिटल टूलकिट प्राप्त करेंवे किस किरदार से और कैसे बात कर रहे हैं? क्या उनका कोई संभावित हानिकारक व्यक्तित्व है? ये चेक-इन नियमित ऑनलाइन सुरक्षा का एक हिस्सा हैं और बच्चों को हानिकारक सामग्री के बारे में उनकी समझ विकसित करने में मदद करते हैं।
ऐप को साथ-साथ देखें ताकि आप दोनों को पता हो कि हानिकारक सामग्री की रिपोर्ट कहाँ और कैसे करनी है। साथ ही, सेवा की शर्तों और सामुदायिक दिशा-निर्देशों की समीक्षा करें ताकि यह सुनिश्चित हो सके कि आपके किशोर को पता है कि उन्हें क्या रिपोर्ट करना चाहिए।
हर किशोर के पास कैरेक्टर एआई का उपयोग करने के लिए आलोचनात्मक सोच और मीडिया साक्षरता कौशल नहीं होता है। इसलिए, एक्सेस की अनुमति देने से पहले विचार करें कि क्या आपके बच्चे में संभावित नुकसान को प्रबंधित करने का कौशल है।
माता-पिता द्वारा नियंत्रण का उपयोग करें app की दुकानपर, उपकरणों और आपके नेटवर्क पर यदि आप नहीं चाहते कि कैरेक्टर AI तक पहुँच प्रतिबंधित हो, तो आप उन्हें ऐसा करने से रोक सकते हैं। हालाँकि, यह भी याद रखें कि आप ऐसा क्यों कर रहे हैं, इस बारे में भी बात करें।
उन्हें अपनी निजता की रक्षा के लिए अपनी आवाज़ या छवि अपलोड नहीं करनी चाहिए। इसी तरह, उन्हें दोस्तों, परिवार के सदस्यों या अन्य वास्तविक लोगों की आवाज़ या छवि अपलोड नहीं करनी चाहिए। आवाज़ों के लिए एक अपवाद यह हो सकता है कि अगर उन्हें आवाज़ अभिनय करना पसंद है और वे नकली आवाज़ अपलोड करना चाहते हैं।
इसमें समय सीमा निर्धारित करना, यह परिभाषित करना कि वे ऐप का उपयोग कहां कर सकते हैं और इस बात पर सहमत होना शामिल हो सकता है कि वे ऐप का उपयोग कैसे कर सकते हैं। उदाहरण के लिए, आप उन्हें घर के किसी कॉमन एरिया में एक घंटे तक सीमित कर सकते हैं। आप उन्हें सीखने या कौशल का अभ्यास करने के लिए भी इसका उपयोग करने दे सकते हैं, लेकिन आप नहीं चाहते कि वे चैटबॉट के साथ अनौपचारिक बातचीत करें।
