Was ist Character AI?

Character AI ist ein Chatbot-Dienst, der basierend auf der Anpassung eines Benutzers menschenähnliche Textantworten generieren kann.

Seit der Einführung im Jahr 2022 können Benutzer Charaktere mit anpassbaren Persönlichkeiten und Reaktionen erstellen. Sie können diese Charaktere in der Community veröffentlichen, damit andere mit ihnen chatten können, oder selbst mit dem Charakter chatten.

Der Dienst nutzt künstliche Intelligenz, um glaubwürdige Antworten zu erstellen. Er ist bei Kindern und Jugendlichen beliebt, da die Charaktere individuell angepasst werden können. Sie können sie auf bestehenden Personen oder Charakteren der Popkultur basieren lassen oder etwas Neues erschaffen.

Anforderungen an das Mindestalter

Gemäß Character AI Nutzungsbedingungen, Benutzer müssen mindestens 13 Jahre alt sein, um den Dienst nutzen zu können. EU-Bürger oder Einwohner müssen 16 Jahre alt sein.

Wenn sich ein minderjähriges Kind registrieren möchte, erhält es eine Benachrichtigung über ein Problem bei der Anmeldung. Es wird dann automatisch zur Anmeldeseite zurückgeleitet und kann es nicht erneut versuchen. Nutzer können jedoch ein Konto erstellen, indem sie ein Alter zwischen 13 und 17 Jahren angeben, ohne dass eine Altersverifizierung erforderlich ist.

Nutzer unter 18 Jahren haben keinen Zugriff auf offene Chats mit KI-Charakteren. Sie können lediglich Videos und Szenen ansehen und keine Gespräche mit der KI führen. Um an KI-Konversationen teilzunehmen, müssen Nutzer ihr Alter per Selfie verifizieren und gegebenenfalls einen gültigen Ausweis vorlegen, falls das Alter anhand des Selfies nicht festgestellt werden kann.

Aber, Google Play listet die Character AI App als ‚Elternaufsicht‘ erforderlich. Der App Store von Apple listet die App als 17+ auf.

Nach der Registrierung können Benutzer eine Reihe von Chatbots für verschiedene Zwecke durchsuchen. Dazu gehören das Üben einer Sprache, das Brainstorming neuer Ideen und das Spielen von Spielen. Die auf der Discover-Seite vorgestellten Chatbots sind beim ersten Beitritt relativ neutral. Es besteht jedoch die Möglichkeit, nach bestimmten Wörtern zu suchen, die in keiner Weise gefiltert zu sein scheinen.

Benutzer können auch einen Charakter oder eine Stimme erstellen.

Erstelle einen Charakter

Benutzer können das Profilbild, den Namen, den Slogan, die Beschreibung sowie die Begrüßung und Stimme ihres Charakters anpassen. Sie können wählen, ob der Charakter privat bleiben oder öffentlich geteilt werden soll.

Anschließend können Sie den Charakter „definieren“. Hier erklären Sie, wie er sprechen oder handeln soll, und verleihen dem Chatbot-Charakter so eine „Persönlichkeit“.

Sie können Charaktere auch so anpassen, dass sie auf bestimmte Weise reagieren. Wenn Sie also sagen, dass der Charakter deprimiert ist, werden seine Reaktionen das widerspiegeln. Wenn Sie sagen, dass er optimistisch ist, wird das auch in seinen Reaktionen zum Ausdruck kommen.

Die Gespräche sind realistisch, sodass man sich leicht in die Weltanschauung der Figur hineinversetzen kann.

Eine Stimme erstellen

Um eine Stimme zu erstellen, müssen Benutzer einen klaren 10- bis 15-sekündigen Audioclip der Stimme ohne Hintergrundgeräusche hochladen. Sie können auch kürzere Clips verwenden, aber die Stimme könnte dann roboterhafter wirken. Um den Upload abzuschließen, müssen Sie der Stimme einen Namen und einen Slogan geben.

Wenn Sie einem Charakter die von Ihnen hochgeladene Stimme zuweisen, können Sie die Chatbot-Antworten mit dieser Stimme abspielen. Die hochgeladene Stimme wird dadurch ziemlich genau nachgeahmt.

Controversies

Im selben Monat fand eine Untersuchung Chatbots, die nachahmten Brianna Ghey , Molly Russel auf die Character AI Plattform. Nachdem die Plattform darauf aufmerksam gemacht wurde, löschte sie die Chatbots. Der Vorfall warf Fragen zur Erstellung von Charakter-Chatbots auf, insbesondere wenn diese reale Menschen widerspiegeln.

Vor diesen Vorfällen berichteten andere von schlechter Beratung und Vorurteilen gegenüber Rasse und Geschlecht.

Andere Benutzer haben jedoch die Character AI App zur Unterstützung ihrer psychischen Gesundheit.

Sicherheitsaspekte

Wie bei jedem KI-Tool, Character AI lernt von den Menschen, die mit ihm interagieren. Leider kann dies zu unangemessenen und schädlichen Inhalten führen.

Die Nutzungsbedingungen und Community-Richtlinien der App ähneln denen anderer und warnen vor solchen Inhalten. Darüber hinaus können Benutzer Chatbots oder Charaktere aus verschiedenen Gründen melden. Die Community-Richtlinien ermutigen Benutzer, nach Möglichkeit konkrete Beispiele für Regelverstöße mitzuteilen.

Obwohl die App über ein eigenes Moderationsteam verfügt, kann dieses keine Direktnachrichten zwischen Community-Mitgliedern moderieren. Dies liegt daran, dass derartige Nachrichten außerhalb der Plattform stattfinden, z. B. auf Discord or RedditSie fordern die Benutzer jedoch dazu auf, Regelverstöße in der App zu melden, wenn sie welche bemerken.

Sicherheit für unter 18-Jährige

Character AI Die App verfügt über verschiedene Sicherheitsfunktionen für Minderjährige unter 18 Jahren. Diese können keine offenen Gespräche mit KI-Chatbots führen, sondern sind auf die Interaktion mit vorgefertigten Szenen und Videos beschränkt. Dadurch wird das Risiko unangemessener Reaktionen von KI-Chatbots verringert.

Zusätzlich Character AI hat Charaktere entfernt, die als Regelverletzer gekennzeichnet sind. Benutzer können nicht mehr auf Chatverläufe mit diesen Charakteren zugreifen.

Allerdings gibt es auf der Website immer noch einige unpassende Charaktere und Szenen, wie zum Beispiel solche die Jeffrey Epstein und Ghislaine Maxwell darstellenObwohl Minderjährige unter 18 Jahren nicht mit diesen Chatbots chatten können, können sie dennoch deren Begrüßungsnachrichten sehen, die verstörende Szenarien enthalten können.

Character AI sagt, dass es die Sicherheit seiner Benutzer ernst nimmt. Darüber hinaus wird an zusätzlichen Sicherheitsfunktionen für alle Benutzer gearbeitet.