ما هي تفاصيل Character AI?

Character AI هي خدمة دردشة آلية يمكنها إنشاء استجابات نصية تشبه استجابات الإنسان استنادًا إلى تخصيص المستخدم.

تم إطلاقه في عام 2022، حيث يمكن للمستخدمين إنشاء شخصيات ذات شخصيات واستجابات قابلة للتخصيص. ويمكنهم نشر هذه الشخصيات على المجتمع ليتمكن الآخرون من الدردشة معها أو الدردشة مع الشخصية بأنفسهم.

تستخدم الخدمة الذكاء الاصطناعي لإنشاء إجابات مقنعة. وهي تحظى بشعبية كبيرة بين الأطفال والشباب بسبب القدرة على تخصيص الشخصيات. ويمكنهم أن يستندوا في ذلك إلى أشخاص أو شخصيات موجودة في الثقافة الشعبية أو ابتكار شيء جديد.

الحد الأدنى لمتطلبات العمر

ووفقاً لوكالة Character AIالصورة شروط الخدمةيجب أن يكون عمر المستخدمين ١٣ عامًا أو أكبر لاستخدام الخدمة. يجب أن يكون عمر مواطني الاتحاد الأوروبي أو المقيمين فيه ١٦ عامًا.

إذا حاول طفل قاصر التسجيل، فسيتلقى إشعارًا بوجود مشكلة في عملية التسجيل. ثم يعود تلقائيًا إلى صفحة تسجيل الدخول، لكن لا يمكنه المحاولة مرة أخرى. مع ذلك، يمكن للمستخدمين إنشاء حساب بإدخال عمر يتراوح بين 13 و17 عامًا دون أي تحقق من العمر.

لا يُسمح للمستخدمين دون سن 18 عامًا بالوصول إلى المحادثات المفتوحة مع شخصيات الذكاء الاصطناعي. يقتصر وصولهم على مقاطع الفيديو والمشاهد، ولا يمكنهم التفاعل مع الذكاء الاصطناعي. للوصول إلى محادثات الذكاء الاصطناعي، يجب على المستخدمين التحقق من أعمارهم عبر التقاط صورة شخصية (سيلفي)، وقد يُطلب منهم تقديم هوية سارية إذا تعذر تحديد أعمارهم من خلال الصورة.

ومع ذلك، Google Play يسرد Character AI تطبيق يتطلب "توجيهًا أبويًا". متجر التطبيقات من Apple يُدرج التطبيق على أنه 17+.

بمجرد التسجيل، يمكن للمستخدمين تصفح مجموعة من برامج الدردشة لأغراض مختلفة. ويشمل ذلك ممارسة لغة معينة، وتبادل الأفكار الجديدة، ولعب الألعاب. برامج الدردشة المعروضة على صفحة Discover محايدة نسبيًا عند الانضمام لأول مرة. ومع ذلك، هناك خيار للبحث عن كلمات معينة، والتي لا تبدو مفلترة بأي حال من الأحوال.

يمكن للمستخدمين أيضًا إنشاء شخصية أو صوت.

خلق شخصية

يمكن للمستخدمين تخصيص صورة ملف تعريف الشخصية الخاصة بهم، والاسم، والشعار، والوصف، بالإضافة إلى التحية والصوت. ويمكنهم اختيار إبقاء الشخصية خاصة أو مشاركتها علنًا.

يمكنك بعد ذلك "تعريف" الشخصية. وهنا يمكنك شرح كيفية رغبتك في أن يتحدث أو يتصرف، مما يمنح شخصية روبوت المحادثة "شخصية".

يمكنك أيضًا تخصيص الشخصيات بحيث تستجيب بطرق محددة. لذا، إذا قلت إن الشخصية مكتئبة، فإن استجاباتها ستعكس ذلك. وبالمثل، إذا قلت إنها متفائلة، فسوف تعكس ذلك.

المحادثات واقعية، لذلك من السهل أن تشعر بالانغماس في رؤية الشخصية للعالم.

إنشاء صوت

لإنشاء صوت، يجب على المستخدمين تحميل مقطع صوتي واضح مدته من 10 إلى 15 ثانية بدون ضوضاء في الخلفية. يمكنك استخدام مقاطع أقصر، ولكن قد يبدو الصوت أكثر آلية بهذه الطريقة. لإكمال التحميل، يجب عليك إعطاء الصوت اسمًا وشعارًا.

إذا قمت بتعيين صوت قمت بتحميله لشخصية ما، فيمكنك تشغيل ردود روبوت المحادثة بهذا الصوت. فهو يقوم بعمل دقيق إلى حد ما في محاكاة الصوت الذي تم تحميله.

الخلافات

في الشهر نفسه، وجد تحقيق أن برامج الدردشة الآلية تحاكي بريانا غي و مولي راسل على Character AI المنصة. بعد تنبيهها، حذفت المنصة روبوتات الدردشة. أثارت هذه الحادثة تساؤلات حول عملية إنشاء روبوتات دردشة شخصية، خاصةً عندما تحاكي شخصيات حقيقية.

قبل هذه الحوادث، أبلغ آخرون عن نصائح سيئة وتحيزات ضد العنصر والجنس.

ومع ذلك، فقد قام مستخدمون آخرون بإعطاء الفضل لـ Character AI تطبيق يدعم صحتهم العقلية.

اعتبارات السلامة

كما هو الحال مع أي أداة ذكاء اصطناعي، Character AI يتعلم من متفاعليه. للأسف، قد يؤدي هذا إلى محتوى غير لائق وضار.

تتشابه شروط خدمة التطبيق وإرشادات المجتمع مع شروط أخرى وتحذر من مثل هذا المحتوى. بالإضافة إلى ذلك، يمكن للمستخدمين الإبلاغ عن برامج الدردشة أو الشخصيات لعدد من الأسباب. تشجع إرشادات المجتمع المستخدمين على مشاركة أمثلة محددة لانتهاكات القواعد حيثما أمكن ذلك.

على الرغم من أن التطبيق لديه فريق إدارة خاص به، إلا أنه لا يمكنه إدارة الرسائل المباشرة بين أعضاء المجتمع. وذلك لأن أي رسائل من هذا القبيل تتم خارج المنصة مثل Discord or Redditومع ذلك، فإنهم يشجعون المستخدمين على الإبلاغ عن انتهاكات القواعد في التطبيق إذا رأوا أيًا منها.

السلامة لمن هم دون سن 18 عامًا

Character AI يحتوي التطبيق على مجموعة من ميزات الأمان لمن هم دون سن 18 عامًا. فهم غير قادرين على إجراء محادثات مفتوحة مع روبوتات الدردشة المدعومة بالذكاء الاصطناعي، بل يقتصر تفاعلهم على مشاهد ومقاطع فيديو مُعدة مسبقًا. هذا يقلل من احتمالية تعرضهم لردود غير لائقة من هذه الروبوتات.

بالإضافة إلى ذلك، Character AI تم حذف الشخصيات التي تم الإبلاغ عنها كمخالفة للقواعد. لم يعد بإمكان المستخدمين الوصول إلى سجلات الدردشة التي تتضمن هذه الشخصيات.

ومع ذلك، لا تزال هناك بعض الشخصيات والمشاهد غير اللائقة على الموقع، مثل تلك التي تصوير جيفري إبستين وغيسلين ماكسويلعلى الرغم من أن من هم دون سن 18 عامًا لا يستطيعون الدردشة مع هذه الروبوتات، إلا أنه لا يزال بإمكانهم رؤية الرسائل الافتتاحية منها، والتي قد تحتوي على سيناريوهات مزعجة.

Character AI تقول إنها تأخذ سلامة مستخدميها على محمل الجدبالإضافة إلى ذلك، فهي تعمل على توفير ميزات أمان إضافية لجميع المستخدمين.