Qu'est-ce que le Character AI?
Ce que les parents doivent savoir
Character AI est un chatbot avec lequel les utilisateurs peuvent avoir des conversations personnalisées. Avec des millions d'utilisateurs utilisant la plateforme, sa sécurité pour les enfants suscite des inquiétudes.
Dans ce guide
Qu'est-ce que le Character AI?
Character AI est un service de chatbot capable de générer des réponses textuelles de type humain en fonction de la personnalisation de l'utilisateur.
Lancé en 2022, l'application permet aux utilisateurs de créer des personnages avec des personnalités et des réponses personnalisables. Ils peuvent publier ces personnages dans la communauté pour que d'autres puissent discuter avec eux ou discuter eux-mêmes avec le personnage.
Le service utilise l'intelligence artificielle pour créer des réponses crédibles. Il est populaire auprès des enfants et des jeunes en raison de la possibilité de personnaliser les personnages. Ils peuvent les baser sur des personnes ou des personnages existants de la culture populaire ou créer quelque chose de nouveau.
Âge minimum requis
Selon Character AI's Conditions d’utilisationLes utilisateurs doivent être âgés de 13 ans ou plus pour utiliser le service. Les citoyens ou résidents de l'UE doivent être âgés de 16 ans.
Si un enfant mineur tente de s'inscrire, il reçoit une notification indiquant un problème lors de son inscription. Il est alors automatiquement redirigé vers la page de connexion et ne peut plus réessayer. Cependant, les utilisateurs peuvent créer un compte en indiquant un âge compris entre 13 et 17 ans sans vérification d'âge.
Les utilisateurs de moins de 18 ans n'ont pas accès aux conversations libres avec les personnages IA. Ils peuvent uniquement visionner des vidéos et des scènes, mais ne peuvent pas engager de conversation avec l'IA. Pour accéder aux conversations avec l'IA, les utilisateurs doivent vérifier leur âge en prenant un selfie et pourront être amenés à fournir une pièce d'identité valide si leur âge ne peut être déterminé par le selfie.
Toutefois, Google Play dresse la liste des Character AI l'application nécessitant une « surveillance parentale ». L'App Store de Apple répertorie l'application comme 17+.
fonctionnement
Une fois inscrits, les utilisateurs peuvent parcourir une gamme de chatbots à des fins différentes. Cela comprend la pratique d'une langue, le brainstorming de nouvelles idées et les jeux. Les chatbots présentés sur la page Découvrir sont relativement neutres lorsque vous vous inscrivez pour la première fois. Cependant, il existe une option permettant de rechercher des mots spécifiques, qui ne semblent en aucun cas filtrés.
Les utilisateurs peuvent également créer un personnage ou une voix.
Créer un personnage
Les utilisateurs peuvent personnaliser la photo de profil, le nom, le slogan, la description ainsi que le message d'accueil et la voix de leur personnage. Ils peuvent choisir de garder le personnage privé ou de le partager publiquement.
Vous pouvez ensuite « définir » le personnage. C'est ici que vous expliquez comment vous souhaitez qu'il parle ou agisse, en donnant au personnage du chatbot une « personnalité ».
Vous pouvez également personnaliser les personnages afin qu'ils réagissent de manière spécifique. Ainsi, si vous dites que le personnage est déprimé, ses réponses le refléteront. De même, si vous dites qu'il est optimiste, cela sera reflété.
Les conversations sont réalistes, il est donc facile de se sentir immergé dans la vision du monde du personnage.
Créer une voix
Pour créer une voix, les utilisateurs doivent télécharger un extrait audio clair de 10 à 15 secondes de la voix sans bruit de fond. Vous pouvez utiliser des extraits plus courts, mais la voix pourrait ainsi sembler plus robotique. Pour terminer le téléchargement, vous devez donner un nom et un slogan à la voix.
Si vous attribuez à un personnage la voix que vous avez téléchargée, vous pouvez lire les réponses du chatbot avec cette voix. Cela reproduit assez précisément la voix téléchargée.
Is Character AI sûr?
Controverses
Au cours du même mois, une enquête a découvert des chatbots qui imitaient Brianna Ghey et Molly Russel sur le Character AI Plateforme. Alertée, la plateforme a supprimé les chatbots. Cet incident a remis en question le processus de création de chatbots à caractère personnel, notamment lorsqu'ils reflètent des personnes réelles.
Avant ces incidents, d’autres avaient signalé de mauvais conseils et des préjugés contre la race et le sexe.
Cependant, d'autres utilisateurs ont crédité le Character AI application pour soutenir leur santé mentale.
Considérations de sécurité
Comme avec tout outil d’IA, Character AI apprend des personnes qui interagissent avec lui. Malheureusement, cela peut conduire à des contenus inappropriés et préjudiciables.
Les conditions d'utilisation et les règles de la communauté de l'application sont similaires à celles des autres applications et mettent en garde contre ce type de contenu. De plus, les utilisateurs peuvent signaler les chatbots ou les personnages pour diverses raisons. Les règles de la communauté encouragent les utilisateurs à partager des exemples précis de violations des règles lorsque cela est possible.
Bien que l'application dispose de sa propre équipe de modération, elle ne peut pas modérer les messages directs entre les membres de la communauté. En effet, ces messages sont envoyés hors plateforme, par exemple sur Discord or Reddit. Cependant, ils encouragent les utilisateurs à signaler les violations des règles dans l'application s'ils en constatent.
Sécurité pour les moins de 18 ans
Character AI L'application comporte plusieurs dispositifs de sécurité pour les mineurs. Ces derniers ne peuvent pas avoir de conversations libres avec les chatbots, mais sont limités à interagir avec des scènes et des vidéos prédéfinies. Cela réduit les risques de réponses inappropriées de la part des chatbots.
En outre, Character AI a supprimé les personnages signalés comme enfreignant les règles. Les utilisateurs ne peuvent plus accéder aux historiques de chat impliquant ces personnages.
Cependant, le site comporte encore quelques personnages et scènes inappropriés, comme par exemple : représentant Jeffrey Epstein et Ghislaine MaxwellBien que les moins de 18 ans ne puissent pas dialoguer avec ces chatbots, ils peuvent néanmoins voir leurs premiers messages, qui peuvent contenir des scénarios inquiétants.
Character AI affirme qu'elle prend la sécurité de ses utilisateurs au sérieuxDe plus, des efforts sont déployés pour mettre en place des fonctionnalités de sécurité supplémentaires pour tous les utilisateurs.
5 conseils pour assurer la sécurité des adolescents Character AI
À quels personnages parlent-ils et comment ? Ont-ils des personnalités potentiellement dangereuses ? Ces vérifications font partie des mesures de sécurité en ligne habituelles et aident les enfants à développer leur compréhension des contenus préjudiciables.
Parcourez l'application ensemble afin de savoir où et comment signaler un contenu préjudiciable. Consultez également les conditions d'utilisation et les consignes de la communauté pour vous assurer que votre adolescent sait ce qu'il doit signaler.
Tous les adolescents ne possèdent pas l’esprit critique et les compétences médiatiques nécessaires pour utiliser Character AI. Par conséquent, demandez-vous si votre enfant possède les compétences nécessaires pour gérer un danger potentiel avant de lui autoriser l’accès.
Utilisez le contrôle parental dans le app store, Sur dispositifs et sur votre réseau restreindre l'accès à Character AI Si vous ne souhaitez pas qu'ils y accèdent, n'oubliez pas d'expliquer pourquoi vous le faites.
Ils ne doivent pas télécharger leur propre voix ou image pour protéger leur vie privée. De même, ils ne doivent pas télécharger la voix ou l'image d'amis, de membres de leur famille ou d'autres personnes réelles. Une exception pour les voix pourrait être s'ils aiment faire du doublage et veulent télécharger une fausse voix.
Cela peut inclure la définition de limites de temps, la définition des endroits où ils peuvent utiliser l'application et la manière dont ils peuvent l'utiliser. Par exemple, vous pouvez les limiter à une heure dans un espace commun à la maison. Vous pouvez également les laisser l'utiliser pour apprendre ou mettre en pratique des compétences, mais vous ne voulez pas qu'ils aient des conversations informelles avec des chatbots.