MENU

O que é Character AI? O que os pais precisam saber

Uma mão segura um smartphone que lê character.ai na frente de uma tela de computador.

O Character AI é um chatbot com o qual os usuários podem ter conversas personalizadas. Com milhões de usuários fazendo uso da plataforma, há preocupações sobre sua segurança para crianças.

Saiba o que você pode fazer para manter seu filho adolescente seguro.

O que é IA de personagem?

O Character AI é um serviço de chatbot que pode gerar respostas de texto semelhantes às humanas com base na personalização do usuário.

Lançado em 2022, os usuários podem criar personagens com personalidades e respostas personalizáveis. Eles podem publicar esses personagens na comunidade para que outros conversem ou podem conversar com o personagem eles mesmos.

O serviço usa inteligência artificial para criar respostas críveis. É popular entre crianças e jovens devido à capacidade de personalizar personagens. Eles podem baseá-los em pessoas ou personagens existentes na cultura popular ou criar algo novo.

Requisitos de idade mínima

De acordo com os Termos de Serviço da Character AI, os usuários devem ter 13 anos ou mais para usar o serviço. Cidadãos ou residentes da UE devem ter 16 anos.

Se uma criança menor de idade tentar se registrar, ela receberá uma notificação de que há um problema com sua inscrição. Ela então retornará automaticamente para a página de login, mas não poderá tentar novamente. No entanto, não há recursos de verificação de idade se ela mentir sobre sua idade.

No entanto, o Google Play lista o aplicativo Character AI como exigindo 'Orientação Parental'. A App Store da Apple lista o aplicativo como 17+.

Como Funciona

Uma vez registrados, os usuários podem navegar por uma variedade de chatbots para diferentes propósitos. Isso inclui praticar um idioma, fazer brainstorming de novas ideias e jogar jogos. Os chatbots apresentados na página Discover são relativamente neutros quando você entra pela primeira vez. No entanto, há a opção de pesquisar por palavras específicas, que não parecem filtradas de forma alguma.

Os usuários também podem criar um personagem ou voz.

Crie um personagem

Os usuários podem personalizar a foto de perfil, o nome, o slogan, a descrição, bem como a saudação e a voz do personagem. Eles podem escolher manter o personagem privado ou compartilhá-lo publicamente.

Você pode então 'definir' o personagem. É aqui que você explica como quer que ele fale ou aja, dando ao personagem do chatbot uma 'personalidade'.

Você também pode personalizar personagens para que eles respondam de maneiras específicas. Então, se você disser que o personagem está deprimido, suas respostas refletirão isso. Da mesma forma, se você disser que ele está otimista, isso refletirá isso.

As conversas são realistas, então é fácil se sentir imerso na visão de mundo do personagem.

Criando uma voz

Para criar uma voz, os usuários devem carregar um clipe de áudio claro de 10 a 15 segundos da voz, sem ruído de fundo. Você pode usar clipes mais curtos, mas a voz pode parecer mais robótica dessa forma. Para finalizar o carregamento, você deve dar um nome e um slogan à voz.

Se você atribuir a um personagem a voz que você carregou, você pode reproduzir as respostas do chatbot naquela voz. Ele faz um trabalho bastante preciso de imitar a voz carregada.

A IA do personagem é segura?

controvérsias

Em outubro de 2024, um adolescente tirou a própria vida após interagir com um personagem que ele criou. As conversas que precederam a morte deles estavam relacionadas ao suicídio. Em um exemplo, o chatbot perguntou ao adolescente se ele havia planejado como acabaria com sua vida.

No mesmo mês, uma investigação encontrou chatbots que imitavam Brianna Ghey e Molly Russel na plataforma Character AI. Uma vez alertada sobre eles, a plataforma excluiu os chatbots. O incidente colocou em questão o processo de criação de chatbots de personagens, especialmente quando eles espelham pessoas reais.

Antes desses incidentes, outras pessoas relataram conselhos ruins e preconceitos contra raça e gênero.

No entanto, outros usuários deram crédito ao aplicativo Character AI por ajudar na saúde mental deles.

Considerações de segurança

Como qualquer ferramenta de IA, a Character AI aprende com as pessoas que interagem com ela. Infelizmente, isso pode levar a conteúdo inapropriado e prejudicial.

Os Termos de Serviço e as Diretrizes da Comunidade do aplicativo são semelhantes aos de outros e alertam contra esse tipo de conteúdo. Além disso, os usuários podem denunciar chatbots ou personagens por uma série de motivos. As Diretrizes da Comunidade incentivam os usuários a compartilhar exemplos específicos de violações de regras sempre que possível.

Captura de tela das opções de relatórios no Character AI

Embora o aplicativo tenha sua própria equipe de moderação, eles não podem moderar mensagens diretas entre membros da comunidade. Isso ocorre porque qualquer mensagem desse tipo ocorre fora da plataforma, como em Discord or Reddit. No entanto, eles incentivam os usuários a relatar violações de regras no aplicativo, caso vejam alguma.

Segurança para menores de 18 anos

A Character AI anunciou uma série de recursos de segurança para menores de 18 anos. Eles incluem:

  • mudanças nos modelos que menores usam. Isso inclui reduzir as chances de se deparar com conteúdo inapropriado;
  • maior resposta e intervenção quando os usuários violam os Termos de Serviço das diretrizes da Comunidade;
  • um aviso adicional para lembrar aos usuários que os chatbots não são pessoas reais;
  • notificações após uma sessão de uma hora na plataforma.

Além disso, a Character AI removeu personagens sinalizados como violadores de regras. Os usuários não podem mais acessar históricos de bate-papo envolvendo esses personagens.

A Character AI diz que leva a segurança de seus usuários a sério. Além disso, está trabalhando em recursos de segurança adicionais para todos os usuários.

Esta é a imagem para: OBTENHA SEU KIT DE FERRAMENTAS DIGITAL

Fique por dentro de aplicativos e plataformas

Ajude a manter a sua família segura nas plataformas que utilizam com aconselhamento personalizado para gerir riscos e danos.

ADQUIRA SEU KIT DE FERRAMENTAS DIGITAIS

5 dicas para manter os adolescentes seguros no Character AI

Verifique regularmente o uso do aplicativo

Com quais personagens eles estão falando e como? Eles têm alguma personalidade potencialmente prejudicial? Esses check-ins são parte da segurança online regular e ajudam as crianças a desenvolver sua compreensão de conteúdo prejudicial.

Juntos, revisem os recursos de privacidade e segurança

Passem pelo aplicativo juntos para que ambos saibam onde e como denunciar conteúdo prejudicial. Além disso, reveja os Termos de Serviço e as Diretrizes da Comunidade para garantir que seu filho adolescente saiba o que deve denunciar.

Considere a maturidade deles e também a idade

Nem todo adolescente tem o pensamento crítico e as habilidades de alfabetização midiática para usar o Character AI. Então, considere se seu filho tem as habilidades para gerenciar danos potenciais antes de permitir o acesso.

Use o controle dos pais no loja de aplicativos, Em dispositivos e na sua rede para restringir o acesso à IA do personagem se você não quiser que eles acessem. No entanto, lembre-se de também falar sobre o motivo de você estar fazendo isso.

Discuta as formas apropriadas de usar ferramentas de IA

Eles não devem carregar suas próprias vozes ou imagens para proteger sua privacidade. Da mesma forma, eles não devem carregar vozes ou imagens de amigos, familiares ou outras pessoas reais. Uma exceção para vozes pode ser se eles gostam de dublar e querem carregar uma voz falsa.

Defina limites em torno do uso

Isso pode incluir definir limites de tempo, definir onde eles podem usar o aplicativo e concordar sobre como eles podem usar o aplicativo. Por exemplo, você pode limitá-los a uma hora em uma área comum em casa. Você também pode deixá-los usar para aprender ou praticar habilidades, mas não quer que eles tenham conversas casuais com chatbots.

Isso foi útil?
Diga-nos como podemos melhorá-lo

Postagens recentes