एचएमबी क्या है? Character AI?
माता-पिता को जानने की जरूरत है
Character AI एक चैटबॉट है जिसके साथ उपयोगकर्ता अपनी पसंद के अनुसार बातचीत कर सकते हैं। लाखों उपयोगकर्ता इस प्लेटफ़ॉर्म का इस्तेमाल करते हैं, इसलिए बच्चों के लिए इसकी सुरक्षा को लेकर चिंताएँ हैं।
इस गाइड में
एचएमबी क्या है? Character AI?
Character AI एक चैटबॉट सेवा है जो उपयोगकर्ता के अनुकूलन के आधार पर मानव जैसी पाठ प्रतिक्रियाएं उत्पन्न कर सकती है।
2022 में लॉन्च किए गए इस गेम में उपयोगकर्ता कस्टमाइज़ेबल व्यक्तित्व और प्रतिक्रियाओं वाले चरित्र बना सकते हैं। वे इन पात्रों को समुदाय में प्रकाशित कर सकते हैं ताकि अन्य लोग उनसे चैट कर सकें या वे खुद भी चरित्र से चैट कर सकते हैं।
यह सेवा विश्वसनीय प्रतिक्रियाएँ बनाने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करती है। यह बच्चों और युवाओं के बीच लोकप्रिय है क्योंकि इसमें पात्रों को अनुकूलित करने की क्षमता है। वे उन्हें लोकप्रिय संस्कृति में मौजूदा लोगों या पात्रों पर आधारित कर सकते हैं या कुछ नया बना सकते हैं।
न्यूनतम आयु आवश्यकताएँ
के अनुसार Character AIहै सेवा की शर्तेंसेवा का उपयोग करने के लिए उपयोगकर्ताओं की आयु 13 वर्ष या उससे अधिक होनी चाहिए। यूरोपीय संघ के नागरिकों या निवासियों की आयु 16 वर्ष होनी चाहिए।
यदि कोई नाबालिग बच्चा पंजीकरण करने का प्रयास करता है, तो उसे एक सूचना मिलती है कि उसके पंजीकरण में कोई समस्या है। इसके बाद वह स्वचालित रूप से साइन इन पेज पर वापस आ जाता है, लेकिन दोबारा प्रयास नहीं कर सकता। हालांकि, उपयोगकर्ता बिना किसी आयु सत्यापन के 13 से 17 वर्ष की आयु दर्ज करके खाता बना सकते हैं।
18 वर्ष से कम आयु के उपयोगकर्ता AI पात्रों के साथ खुली बातचीत नहीं कर सकते। वे केवल वीडियो और दृश्य देख सकते हैं, AI से बातचीत नहीं कर सकते। AI से बातचीत करने के लिए, उपयोगकर्ताओं को सेल्फी लेकर अपनी आयु सत्यापित करनी होगी, और यदि सेल्फी से आयु का पता नहीं चल पाता है, तो उनसे वैध पहचान पत्र मांगा जा सकता है।
हालांकि, Google Play सूचीबद्ध करता है Character AI ऐप को 'माता-पिता के मार्गदर्शन' की आवश्यकता है। ऐप स्टोर से Apple ऐप को 17+ के रूप में सूचीबद्ध किया गया है।
यह कैसे काम करता है
एक बार रजिस्टर होने के बाद, उपयोगकर्ता अलग-अलग उद्देश्यों के लिए कई चैटबॉट ब्राउज़ कर सकते हैं। इसमें किसी भाषा का अभ्यास करना, नए विचारों पर विचार-विमर्श करना और गेम खेलना शामिल है। जब आप पहली बार जुड़ते हैं तो डिस्कवर पेज पर दिखाए गए चैटबॉट अपेक्षाकृत तटस्थ होते हैं। हालाँकि, विशिष्ट शब्दों को खोजने का विकल्प है, जो किसी भी तरह से फ़िल्टर नहीं किए गए लगते हैं।
उपयोगकर्ता कोई पात्र या आवाज भी बना सकते हैं।
एक चरित्र बनाएँ
उपयोगकर्ता अपने चरित्र की प्रोफ़ाइल तस्वीर, नाम, टैगलाइन, विवरण के साथ-साथ उनके अभिवादन और आवाज़ को भी अनुकूलित कर सकते हैं। वे चरित्र को निजी रखना या सार्वजनिक रूप से साझा करना चुन सकते हैं।
फिर आप चरित्र को 'परिभाषित' कर सकते हैं। यह वह जगह है जहाँ आप बताते हैं कि आप उनसे कैसे बात करना या कार्य करना चाहते हैं, जिससे चैटबॉट चरित्र को एक 'व्यक्तित्व' मिलता है।
आप किरदारों को इस तरह से भी कस्टमाइज़ कर सकते हैं कि वे खास तरीके से प्रतिक्रिया दें। इसलिए, अगर आप कहते हैं कि किरदार उदास है, तो उसकी प्रतिक्रियाएँ उसे दर्शाएँगी। इसी तरह, अगर आप कहते हैं कि वह खुश है, तो वह उसे दर्शाएगी।
बातचीत यथार्थवादी है, इसलिए पात्र के विश्वदृष्टिकोण में डूब जाना आसान है।
आवाज़ बनाना
आवाज़ बनाने के लिए, उपयोगकर्ताओं को बिना किसी पृष्ठभूमि शोर के आवाज़ की 10-15 सेकंड की स्पष्ट ऑडियो क्लिप अपलोड करनी होगी। आप छोटी क्लिप का उपयोग कर सकते हैं, लेकिन इस तरह से आवाज़ अधिक रोबोट जैसी लग सकती है। अपलोडिंग समाप्त करने के लिए, आपको आवाज़ को एक नाम और टैगलाइन देनी होगी।
यदि आप किसी पात्र को वह आवाज़ देते हैं जो आपने अपलोड की है, तो आप उस आवाज़ में चैटबॉट की प्रतिक्रियाएँ चला सकते हैं। यह अपलोड की गई आवाज़ की नकल करने का काफी सटीक काम करता है।
Is Character AI सुरक्षित?
विवाद
उसी महीने, एक जांच में पाया गया कि चैटबॉट्स ब्रायना घे और मौली रसेल पर Character AI प्लेटफ़ॉर्म। जैसे ही उन्हें इसकी जानकारी मिली, प्लेटफ़ॉर्म ने चैटबॉट्स को हटा दिया। इस घटना ने चरित्र चैटबॉट्स बनाने की प्रक्रिया पर सवाल खड़े कर दिए, खासकर जब वे वास्तविक लोगों की तरह हों।
इन घटनाओं से पहले, अन्य लोगों ने भी खराब सलाह और नस्ल व लिंग के विरुद्ध पूर्वाग्रहों की बात कही थी।
हालाँकि, अन्य उपयोगकर्ताओं ने इसका श्रेय दिया है Character AI ऐप उनके मानसिक स्वास्थ्य का समर्थन करने के लिए है।
सुरक्षा के मनन
किसी भी AI उपकरण की तरह, Character AI यह उन लोगों से सीखता है जो इसके साथ इंटरैक्ट करते हैं। दुर्भाग्य से, इससे अनुपयुक्त और हानिकारक सामग्री उत्पन्न हो सकती है।
ऐप की सेवा की शर्तें और सामुदायिक दिशानिर्देश दूसरों के समान हैं और ऐसी सामग्री के खिलाफ चेतावनी देते हैं। इसके अतिरिक्त, उपयोगकर्ता कई कारणों से चैटबॉट या पात्रों की रिपोर्ट कर सकते हैं। सामुदायिक दिशानिर्देश उपयोगकर्ताओं को जहाँ संभव हो नियम उल्लंघन के विशिष्ट उदाहरण साझा करने के लिए प्रोत्साहित करते हैं।
हालांकि ऐप की अपनी मॉडरेशन टीम है, लेकिन वे समुदाय के सदस्यों के बीच सीधे संदेशों को मॉडरेट नहीं कर सकते। ऐसा इसलिए है क्योंकि ऐसा कोई भी संदेश प्लेटफ़ॉर्म से बाहर होता है जैसे कि Discord or Redditहालांकि, वे उपयोगकर्ताओं को प्रोत्साहित करते हैं कि यदि वे ऐप में कोई नियम उल्लंघन देखते हैं तो इसकी रिपोर्ट करें।
18 वर्ष से कम आयु वालों के लिए सुरक्षा
Character AI इसमें 18 वर्ष से कम आयु के लोगों के लिए कई सुरक्षा सुविधाएँ हैं। वे एआई चैटबॉट के साथ खुली बातचीत नहीं कर सकते, बल्कि उन्हें पहले से तैयार किए गए दृश्यों और वीडियो तक ही सीमित रखा जाता है। इससे एआई चैटबॉट से अनुचित प्रतिक्रियाओं का सामना करने की संभावना कम हो जाती है।
इसके अतिरिक्त, Character AI नियमों का उल्लंघन करने वाले चिह्नित वर्णों को हटा दिया गया है। उपयोगकर्ता अब इन वर्णों से संबंधित चैट इतिहास तक नहीं पहुँच सकते।
हालांकि, साइट पर अभी भी कुछ अनुचित पात्र और दृश्य मौजूद हैं, जैसे कि जेफरी एपस्टीन और घिसलेन मैक्सवेल को दर्शाते हुएहालांकि 18 वर्ष से कम आयु के लोग इन चैटबॉट से चैट नहीं कर सकते हैं, फिर भी वे उनके शुरुआती संदेश देख सकते हैं, जिनमें परेशान करने वाले परिदृश्य हो सकते हैं।
Character AI का कहना है कि वह अपने उपयोगकर्ताओं की सुरक्षा को गंभीरता से लेता हैइसके अतिरिक्त, यह सभी उपयोगकर्ताओं के लिए अतिरिक्त सुरक्षा सुविधाओं की दिशा में भी काम कर रहा है।
किशोरों को सुरक्षित रखने के लिए 5 सुझाव Character AI
वे किस किरदार से और कैसे बात कर रहे हैं? क्या उनका कोई संभावित हानिकारक व्यक्तित्व है? ये चेक-इन नियमित ऑनलाइन सुरक्षा का एक हिस्सा हैं और बच्चों को हानिकारक सामग्री के बारे में उनकी समझ विकसित करने में मदद करते हैं।
ऐप को साथ-साथ देखें ताकि आप दोनों को पता हो कि हानिकारक सामग्री की रिपोर्ट कहाँ और कैसे करनी है। साथ ही, सेवा की शर्तों और सामुदायिक दिशा-निर्देशों की समीक्षा करें ताकि यह सुनिश्चित हो सके कि आपके किशोर को पता है कि उन्हें क्या रिपोर्ट करना चाहिए।
हर किशोर के पास आलोचनात्मक सोच और मीडिया साक्षरता कौशल नहीं होते हैं Character AIइसलिए, किसी को प्रवेश की अनुमति देने से पहले विचार करें कि क्या आपके बच्चे में संभावित नुकसान को प्रबंधित करने का कौशल है।
माता-पिता द्वारा नियंत्रण का उपयोग करें app की दुकानपर, उपकरणों और आपके नेटवर्क पर तक पहुंच को प्रतिबंधित करने के लिए Character AI अगर आप नहीं चाहते कि वे इसे एक्सेस करें, तो ऐसा करें। हालाँकि, यह भी बताना न भूलें कि आप ऐसा क्यों कर रहे हैं।
उन्हें अपनी निजता की रक्षा के लिए अपनी आवाज़ या छवि अपलोड नहीं करनी चाहिए। इसी तरह, उन्हें दोस्तों, परिवार के सदस्यों या अन्य वास्तविक लोगों की आवाज़ या छवि अपलोड नहीं करनी चाहिए। आवाज़ों के लिए एक अपवाद यह हो सकता है कि अगर उन्हें आवाज़ अभिनय करना पसंद है और वे नकली आवाज़ अपलोड करना चाहते हैं।
इसमें समय सीमा निर्धारित करना, यह परिभाषित करना कि वे ऐप का उपयोग कहां कर सकते हैं और इस बात पर सहमत होना शामिल हो सकता है कि वे ऐप का उपयोग कैसे कर सकते हैं। उदाहरण के लिए, आप उन्हें घर के किसी कॉमन एरिया में एक घंटे तक सीमित कर सकते हैं। आप उन्हें सीखने या कौशल का अभ्यास करने के लिए भी इसका उपयोग करने दे सकते हैं, लेकिन आप नहीं चाहते कि वे चैटबॉट के साथ अनौपचारिक बातचीत करें।