कैरेक्टर AI क्या है? माता-पिता को क्या जानना चाहिए

कैरेक्टर एआई एक चैटबॉट सेवा है जो उपयोगकर्ता के अनुकूलन के आधार पर मानव जैसी पाठ प्रतिक्रियाएं उत्पन्न कर सकती है।

2022 में लॉन्च किए गए इस गेम में उपयोगकर्ता कस्टमाइज़ेबल व्यक्तित्व और प्रतिक्रियाओं वाले चरित्र बना सकते हैं। वे इन पात्रों को समुदाय में प्रकाशित कर सकते हैं ताकि अन्य लोग उनसे चैट कर सकें या वे खुद भी चरित्र से चैट कर सकते हैं।

यह सेवा विश्वसनीय प्रतिक्रियाएँ बनाने के लिए कृत्रिम बुद्धिमत्ता का उपयोग करती है। यह बच्चों और युवाओं के बीच लोकप्रिय है क्योंकि इसमें पात्रों को अनुकूलित करने की क्षमता है। वे उन्हें लोकप्रिय संस्कृति में मौजूदा लोगों या पात्रों पर आधारित कर सकते हैं या कुछ नया बना सकते हैं।

न्यूनतम आयु आवश्यकताएँ

चरित्र ए.आई. के अनुसार सेवा की शर्तेंसेवा का उपयोग करने के लिए उपयोगकर्ताओं की आयु 13 वर्ष या उससे अधिक होनी चाहिए। यूरोपीय संघ के नागरिकों या निवासियों की आयु 16 वर्ष होनी चाहिए।

अगर कोई नाबालिग बच्चा रजिस्टर करने की कोशिश करता है, तो उसे एक सूचना मिलती है कि उसके साइन अप में कोई समस्या है। फिर वे अपने आप साइन इन पेज पर वापस आ जाते हैं, लेकिन दोबारा कोशिश नहीं कर सकते। हालाँकि, अगर वे अपनी उम्र के बारे में झूठ बोलते हैं, तो कोई आयु सत्यापन सुविधाएँ नहीं हैं।

हालाँकि, गूगल प्ले ने कैरेक्टर एआई ऐप को 'माता-पिता के मार्गदर्शन' की आवश्यकता के रूप में सूचीबद्ध किया है। ऐप्पल के ऐप स्टोर ने ऐप को 17+ के रूप में सूचीबद्ध किया है।

एक बार रजिस्टर होने के बाद, उपयोगकर्ता अलग-अलग उद्देश्यों के लिए कई चैटबॉट ब्राउज़ कर सकते हैं। इसमें किसी भाषा का अभ्यास करना, नए विचारों पर विचार-विमर्श करना और गेम खेलना शामिल है। जब आप पहली बार जुड़ते हैं तो डिस्कवर पेज पर दिखाए गए चैटबॉट अपेक्षाकृत तटस्थ होते हैं। हालाँकि, विशिष्ट शब्दों को खोजने का विकल्प है, जो किसी भी तरह से फ़िल्टर नहीं किए गए लगते हैं।

उपयोगकर्ता कोई पात्र या आवाज भी बना सकते हैं।

एक चरित्र बनाएँ

उपयोगकर्ता अपने चरित्र की प्रोफ़ाइल तस्वीर, नाम, टैगलाइन, विवरण के साथ-साथ उनके अभिवादन और आवाज़ को भी अनुकूलित कर सकते हैं। वे चरित्र को निजी रखना या सार्वजनिक रूप से साझा करना चुन सकते हैं।

फिर आप चरित्र को 'परिभाषित' कर सकते हैं। यह वह जगह है जहाँ आप बताते हैं कि आप उनसे कैसे बात करना या कार्य करना चाहते हैं, जिससे चैटबॉट चरित्र को एक 'व्यक्तित्व' मिलता है।

आप किरदारों को इस तरह से भी कस्टमाइज़ कर सकते हैं कि वे खास तरीके से प्रतिक्रिया दें। इसलिए, अगर आप कहते हैं कि किरदार उदास है, तो उसकी प्रतिक्रियाएँ उसे दर्शाएँगी। इसी तरह, अगर आप कहते हैं कि वह खुश है, तो वह उसे दर्शाएगी।

बातचीत यथार्थवादी है, इसलिए पात्र के विश्वदृष्टिकोण में डूब जाना आसान है।

आवाज़ बनाना

आवाज़ बनाने के लिए, उपयोगकर्ताओं को बिना किसी पृष्ठभूमि शोर के आवाज़ की 10-15 सेकंड की स्पष्ट ऑडियो क्लिप अपलोड करनी होगी। आप छोटी क्लिप का उपयोग कर सकते हैं, लेकिन इस तरह से आवाज़ अधिक रोबोट जैसी लग सकती है। अपलोडिंग समाप्त करने के लिए, आपको आवाज़ को एक नाम और टैगलाइन देनी होगी।

यदि आप किसी पात्र को वह आवाज़ देते हैं जो आपने अपलोड की है, तो आप उस आवाज़ में चैटबॉट की प्रतिक्रियाएँ चला सकते हैं। यह अपलोड की गई आवाज़ की नकल करने का काफी सटीक काम करता है।

विवाद

उसी महीने, एक जांच में पाया गया कि चैटबॉट्स ब्रायना घे और मौली रसेल कैरेक्टर एआई प्लैटफ़ॉर्म पर। एक बार उन्हें अलर्ट किए जाने के बाद, प्लैटफ़ॉर्म ने चैटबॉट को हटा दिया। इस घटना ने कैरेक्टर चैटबॉट बनाने की प्रक्रिया पर सवाल खड़े कर दिए, खासकर तब जब वे असली लोगों की नकल करते हैं।

इन घटनाओं से पहले, अन्य लोगों ने भी खराब सलाह और नस्ल व लिंग के विरुद्ध पूर्वाग्रहों की बात कही थी।

हालाँकि, अन्य उपयोगकर्ताओं ने अपने मानसिक स्वास्थ्य को बेहतर बनाने के लिए कैरेक्टर एआई ऐप को श्रेय दिया है।

सुरक्षा के मनन

किसी भी AI टूल की तरह, कैरेक्टर AI उन लोगों से सीखता है जो इसके साथ बातचीत करते हैं। दुर्भाग्य से, इससे अनुचित और हानिकारक सामग्री उत्पन्न हो सकती है।

ऐप की सेवा की शर्तें और सामुदायिक दिशानिर्देश दूसरों के समान हैं और ऐसी सामग्री के खिलाफ चेतावनी देते हैं। इसके अतिरिक्त, उपयोगकर्ता कई कारणों से चैटबॉट या पात्रों की रिपोर्ट कर सकते हैं। सामुदायिक दिशानिर्देश उपयोगकर्ताओं को जहाँ संभव हो नियम उल्लंघन के विशिष्ट उदाहरण साझा करने के लिए प्रोत्साहित करते हैं।

हालांकि ऐप की अपनी मॉडरेशन टीम है, लेकिन वे समुदाय के सदस्यों के बीच सीधे संदेशों को मॉडरेट नहीं कर सकते। ऐसा इसलिए है क्योंकि ऐसा कोई भी संदेश प्लेटफ़ॉर्म से बाहर होता है जैसे कि कलह or रेडिटहालांकि, वे उपयोगकर्ताओं को प्रोत्साहित करते हैं कि यदि वे ऐप में कोई नियम उल्लंघन देखते हैं तो इसकी रिपोर्ट करें।

18 वर्ष से कम आयु वालों के लिए सुरक्षा

कैरेक्टर एआई ने 18 वर्ष से कम आयु के बच्चों के लिए सुरक्षा सुविधाओं की एक श्रृंखला की घोषणा की है। इनमें शामिल हैं:

• नाबालिगों द्वारा इस्तेमाल किए जाने वाले मॉडल में बदलाव। इसमें अनुचित सामग्री के सामने आने की संभावना को कम करना शामिल है;
• जब उपयोगकर्ता सामुदायिक दिशानिर्देशों की सेवा की शर्तों का उल्लंघन करते हैं तो अधिक प्रतिक्रिया और हस्तक्षेप;
• उपयोगकर्ताओं को यह याद दिलाने के लिए एक अतिरिक्त अस्वीकरण कि चैटबॉट वास्तविक लोग नहीं हैं;
• मंच पर एक घंटे के सत्र के बाद सूचनाएं प्राप्त होती हैं।

इसके अतिरिक्त, कैरेक्टर AI ने नियमों का उल्लंघन करने वाले चिह्नित कैरेक्टर को हटा दिया है। उपयोगकर्ता अब इन कैरेक्टर से जुड़ी चैट हिस्ट्री तक नहीं पहुंच सकते।

कैरेक्टर एआई का कहना है कि वह अपने उपयोगकर्ताओं की सुरक्षा को गंभीरता से लेता हैइसके अतिरिक्त, यह सभी उपयोगकर्ताओं के लिए अतिरिक्त सुरक्षा सुविधाओं की दिशा में भी काम कर रहा है।