Czym jest Character AI? Co rodzice muszą wiedzieć

Character AI to usługa typu chatbot, która na podstawie ustawień użytkownika potrafi generować odpowiedzi tekstowe przypominające te wypowiadane przez człowieka.

Wprowadzona w 2022 roku, użytkownicy mogą tworzyć postacie z konfigurowalnymi osobowościami i odpowiedziami. Mogą publikować te postacie w społeczności, aby inni mogli z nimi rozmawiać lub mogą rozmawiać z samymi postaciami.

Usługa wykorzystuje sztuczną inteligencję do tworzenia wiarygodnych odpowiedzi. Jest popularna wśród dzieci i młodzieży ze względu na możliwość dostosowywania postaci. Mogą one bazować na istniejących osobach lub postaciach w kulturze popularnej lub tworzyć coś nowego.

Minimalne wymagania wiekowe

Zgodnie z Warunkami korzystania z usługi Character AI użytkownicy muszą mieć ukończone 13 lat, aby korzystać z usługi. Obywatele lub rezydenci UE muszą mieć ukończone 16 lat.

Jeśli niepełnoletnie dziecko próbuje się zarejestrować, otrzymuje powiadomienie, że wystąpił problem z jego rejestracją. Następnie automatycznie wraca na stronę logowania, ale nie może spróbować ponownie. Jednak nie ma funkcji weryfikacji wieku, jeśli skłamie co do swojego wieku.

Jednak Google Play wymienia aplikację Character AI jako wymagającą „Parental Guidance”. App Store od Apple wymienia aplikację jako 17+.

kontrowersje

W październiku 2024 r nastolatek odebrał sobie życie po interakcji z postacią, którą stworzył. Rozmowy poprzedzające ich śmierć dotyczyły samobójstwa. W jednym z przykładów chatbot zapytał nastolatka, czy zaplanował, jak zakończy swoje życie.

W tym samym miesiącu w wyniku dochodzenia odkryto chatboty, które naśladowały Brianna Ghey i Molly Russel na platformie Character AI. Po otrzymaniu powiadomienia platforma usunęła chatboty. Incydent ten poddał w wątpliwość proces tworzenia chatbotów postaci, zwłaszcza gdy odzwierciedlają one prawdziwych ludzi.

Przed tymi incydentami inni zgłaszali słabe porady i uprzedzenia ze względu na rasę i płeć.

Inni użytkownicy przyznają jednak, że aplikacja Character AI wspiera ich zdrowie psychiczne.

Względy bezpieczeństwa

Podobnie jak każde narzędzie AI, Character AI uczy się od osób, które z nim wchodzą w interakcję. Niestety, może to prowadzić do nieodpowiednich i szkodliwych treści.

Warunki korzystania z usługi i wytyczne społeczności aplikacji są podobne do innych i ostrzegają przed takimi treściami. Ponadto użytkownicy mogą zgłaszać chatboty lub postacie z różnych powodów. Wytyczne społeczności zachęcają użytkowników do udostępniania konkretnych przykładów naruszeń zasad, jeśli to możliwe.

Chociaż aplikacja ma własny zespół moderujący, nie może on moderować bezpośrednich wiadomości między członkami społeczności. Dzieje się tak, ponieważ wszelkie takie wiadomości mają miejsce poza platformą, np. na Discord or Reddit. Zachęcają jednak użytkowników do zgłaszania naruszeń zasad w aplikacji, jeśli takie zauważą.

Bezpieczeństwo osób poniżej 18 roku życia

Character AI ogłosiło serię funkcji bezpieczeństwa dla osób poniżej 18. roku życia. Obejmują one:

• zmiany w modelach, z których korzystają nieletni. Obejmuje to zmniejszenie szans na natrafienie na nieodpowiednie treści;
• większa reakcja i interwencja w przypadku naruszenia przez użytkowników Warunków korzystania z usług lub Wytycznych społeczności;
• dodane zastrzeżenie mające na celu przypomnienie użytkownikom, że chatboty nie są prawdziwymi ludźmi;
• powiadomienia po godzinnej sesji na platformie.

Ponadto Character AI usunął postacie oznaczone jako naruszające zasady. Użytkownicy nie mogą już uzyskać dostępu do historii czatów z udziałem tych postaci.

Firma Character AI twierdzi, że poważnie podchodzi do kwestii bezpieczeństwa swoich użytkownikówPonadto trwają prace nad wprowadzeniem dodatkowych funkcji bezpieczeństwa dla wszystkich użytkowników.