Czym jest Character AI?

Character AI jest usługą typu chatbot, która może generować odpowiedzi tekstowe przypominające te wypowiadane przez człowieka, na podstawie ustawień użytkownika.

Wprowadzona w 2022 roku, użytkownicy mogą tworzyć postacie z konfigurowalnymi osobowościami i odpowiedziami. Mogą publikować te postacie w społeczności, aby inni mogli z nimi rozmawiać lub mogą rozmawiać z samymi postaciami.

Usługa wykorzystuje sztuczną inteligencję do tworzenia wiarygodnych odpowiedzi. Jest popularna wśród dzieci i młodzieży ze względu na możliwość dostosowywania postaci. Mogą one bazować na istniejących osobach lub postaciach w kulturze popularnej lub tworzyć coś nowego.

Minimalne wymagania wiekowe

Zgodnie z Character AI'S Regulamin, aby korzystać z usługi użytkownicy muszą mieć ukończone 13 lat. Obywatele UE lub rezydenci muszą mieć ukończone 16 lat.

Jeśli dziecko niepełnoletnie próbuje się zarejestrować, otrzymuje powiadomienie o problemie z rejestracją. Następnie automatycznie wraca na stronę logowania, ale nie może spróbować ponownie. Użytkownicy mogą jednak utworzyć konto, podając wiek od 13 do 17 lat, bez konieczności weryfikacji wieku.

Użytkownicy poniżej 18 roku życia nie mają dostępu do otwartych czatów z postaciami sterowanymi przez sztuczną inteligencję. Mogą oni jedynie uzyskać dostęp do filmów i scen, nie mogą jednak prowadzić rozmów ze sztuczną inteligencją. Aby uzyskać dostęp do rozmów sterowanych przez sztuczną inteligencję, użytkownicy muszą potwierdzić swój wiek, robiąc sobie selfie. Jeśli nie uda się ustalić wieku użytkownika na podstawie selfie, mogą zostać poproszeni o okazanie ważnego dokumentu tożsamości.

Jednakże, Google Play wyświetla listę Character AI Aplikacja wymaga „nadzoru rodzicielskiego”. Sklep z aplikacjami Apple aplikacja jest oznaczona jako przeznaczona dla osób powyżej 17 lat.

Po zarejestrowaniu użytkownicy mogą przeglądać szereg chatbotów w różnych celach. Obejmuje to ćwiczenie języka, burzę mózgów i gry. Chatboty prezentowane na stronie Discover są stosunkowo neutralne, gdy po raz pierwszy dołączysz. Istnieje jednak opcja wyszukiwania określonych słów, które nie wydają się w żaden sposób filtrowane.

Użytkownicy mogą również stworzyć postać lub głos.

Stwórz postać

Użytkownicy mogą dostosować zdjęcie profilowe swojej postaci, nazwę, slogan, opis, a także powitanie i głos. Mogą wybrać, czy postać ma pozostać prywatna, czy udostępnić ją publicznie.

Następnie możesz „zdefiniować” postać. W tym miejscu wyjaśniasz, jak chcesz, aby rozmawiali lub działali, nadając postaci chatbota „osobowość”.

Możesz również dostosować postacie tak, aby reagowały w określony sposób. Tak więc, jeśli powiesz, że postać jest przygnębiona, jej reakcje to odzwierciedlą. Podobnie, jeśli powiesz, że jest optymistyczna, to to odzwierciedli.

Rozmowy są realistyczne, dzięki czemu łatwo wczuć się w światopogląd postaci.

Tworzenie głosu

Aby utworzyć głos, użytkownicy muszą przesłać wyraźny 10-15-sekundowy klip audio głosu bez szumu tła. Możesz użyć krótszych klipów, ale głos może wydawać się w ten sposób bardziej mechaniczny. Aby zakończyć przesyłanie, musisz nadać głosowi nazwę i slogan.

Jeśli przypiszesz postaci głos, który przesłałeś, możesz odtwarzać odpowiedzi chatbota tym głosem. Wykonuje on dość dokładną pracę, naśladując przesłany głos.

kontrowersje

W tym samym miesiącu w wyniku dochodzenia odkryto chatboty, które naśladowały Brianna Ghey oraz Molly Russel na Character AI Platforma została o tym powiadomiona i usunęła chatboty. Incydent ten poddał w wątpliwość proces tworzenia chatbotów-postaci, zwłaszcza gdy odzwierciedlają one prawdziwych ludzi.

Przed tymi incydentami inni zgłaszali słabe porady i uprzedzenia ze względu na rasę i płeć.

Jednak inni użytkownicy przyznali, że Character AI aplikacja wspierająca zdrowie psychiczne.

Względy bezpieczeństwa

Podobnie jak w przypadku każdego narzędzia AI, Character AI Uczy się od ludzi, którzy z nim wchodzą w interakcję. Niestety, może to prowadzić do nieodpowiednich i szkodliwych treści.

Warunki korzystania z usługi i wytyczne społeczności aplikacji są podobne do innych i ostrzegają przed takimi treściami. Ponadto użytkownicy mogą zgłaszać chatboty lub postacie z różnych powodów. Wytyczne społeczności zachęcają użytkowników do udostępniania konkretnych przykładów naruszeń zasad, jeśli to możliwe.

Chociaż aplikacja ma własny zespół moderujący, nie może on moderować bezpośrednich wiadomości między członkami społeczności. Dzieje się tak, ponieważ wszelkie takie wiadomości mają miejsce poza platformą, np. na Discord or Reddit. Zachęcają jednak użytkowników do zgłaszania naruszeń zasad w aplikacji, jeśli takie zauważą.

Bezpieczeństwo osób poniżej 18 roku życia

Character AI posiada szereg funkcji bezpieczeństwa dla osób poniżej 18 roku życia. Nie mogą one prowadzić otwartych rozmów z chatbotami AI, zamiast tego są ograniczone do interakcji z predefiniowanymi scenami i filmami. Zmniejsza to ryzyko napotkania nieodpowiednich odpowiedzi od chatbotów AI.

Dodatkowo, Character AI usunięto znaki oznaczone jako naruszające zasady. Użytkownicy nie będą już mieli dostępu do historii czatów z udziałem tych znaków.

Mimo to na stronie nadal znajdują się pewne nieodpowiednie postacie i sceny, takie jak: przedstawiający Jeffreya Epsteina i Ghislaine MaxwellChociaż osoby poniżej 18 roku życia nie mogą rozmawiać z tymi chatbotami, nadal mogą widzieć wysyłane przez nie wiadomości, które mogą zawierać niepokojące sytuacje.

Character AI mówi, że poważnie traktuje bezpieczeństwo swoich użytkownikówPonadto trwają prace nad wprowadzeniem dodatkowych funkcji bezpieczeństwa dla wszystkich użytkowników.