O que é a Character AI?
O que os pais precisam saber
Character AI é um chatbot com o qual os usuários podem ter conversas personalizadas. Com milhões de usuários utilizando a plataforma, há preocupações quanto à segurança para crianças.
Neste guia
O que é a Character AI?
Character AI é um serviço de chatbot que pode gerar respostas de texto semelhantes às humanas com base na personalização do usuário.
Lançado em 2022, os usuários podem criar personagens com personalidades e respostas personalizáveis. Eles podem publicar esses personagens na comunidade para que outros conversem ou podem conversar com o personagem eles mesmos.
O serviço usa inteligência artificial para criar respostas críveis. É popular entre crianças e jovens devido à capacidade de personalizar personagens. Eles podem baseá-los em pessoas ou personagens existentes na cultura popular ou criar algo novo.
Requisitos de idade mínima
De acordo com as Character AI'S Termos de Serviço, os usuários devem ter 13 anos ou mais para usar o serviço. Cidadãos ou residentes da UE devem ter 16 anos.
Se uma criança menor de idade tentar se cadastrar, receberá uma notificação informando que houve um problema com o cadastro. Em seguida, será redirecionada automaticamente para a página de login, mas não poderá tentar novamente. No entanto, os usuários podem criar uma conta informando uma idade entre 13 e 17 anos, sem necessidade de verificação de idade.
Usuários menores de 18 anos não têm acesso a chats abertos com personagens de IA. Eles podem apenas acessar vídeos e cenas, e não podem interagir em conversas com a IA. Para acessar conversas com a IA, os usuários devem verificar sua idade tirando uma selfie e podem ser solicitados a fornecer um documento de identidade válido caso a idade não possa ser determinada pela selfie.
O Mercado Pago não havia executado campanhas de Performance anteriormente nessas plataformas. Alcançar uma campanha de sucesso exigiria Google Play lista os Character AI aplicativo que requer 'Orientação Parental'. A App Store de Apple lista o aplicativo como 17+.
Como Funciona
Uma vez registrados, os usuários podem navegar por uma variedade de chatbots para diferentes propósitos. Isso inclui praticar um idioma, fazer brainstorming de novas ideias e jogar jogos. Os chatbots apresentados na página Discover são relativamente neutros quando você entra pela primeira vez. No entanto, há a opção de pesquisar por palavras específicas, que não parecem filtradas de forma alguma.
Os usuários também podem criar um personagem ou voz.
Crie um personagem
Os usuários podem personalizar a foto de perfil, o nome, o slogan, a descrição, bem como a saudação e a voz do personagem. Eles podem escolher manter o personagem privado ou compartilhá-lo publicamente.
Você pode então 'definir' o personagem. É aqui que você explica como quer que ele fale ou aja, dando ao personagem do chatbot uma 'personalidade'.
Você também pode personalizar personagens para que eles respondam de maneiras específicas. Então, se você disser que o personagem está deprimido, suas respostas refletirão isso. Da mesma forma, se você disser que ele está otimista, isso refletirá isso.
As conversas são realistas, então é fácil se sentir imerso na visão de mundo do personagem.
Criando uma voz
Para criar uma voz, os usuários devem carregar um clipe de áudio claro de 10 a 15 segundos da voz, sem ruído de fundo. Você pode usar clipes mais curtos, mas a voz pode parecer mais robótica dessa forma. Para finalizar o carregamento, você deve dar um nome e um slogan à voz.
Se você atribuir a um personagem a voz que você carregou, você pode reproduzir as respostas do chatbot naquela voz. Ele faz um trabalho bastante preciso de imitar a voz carregada.
Is Character AI seguro?
controvérsias
No mesmo mês, uma investigação encontrou chatbots que imitavam Brianna Ghey e Molly Russel na Character AI plataforma. Após ser alertada sobre eles, a plataforma excluiu os chatbots. O incidente colocou em questão o processo de criação de chatbots de personagens, especialmente quando eles espelham pessoas reais.
Antes desses incidentes, outras pessoas relataram conselhos ruins e preconceitos contra raça e gênero.
No entanto, outros usuários deram crédito ao Character AI aplicativo para dar suporte à saúde mental deles.
Considerações de segurança
Como acontece com qualquer ferramenta de IA, Character AI aprende com as pessoas que interagem com ele. Infelizmente, isso pode levar a conteúdo impróprio e prejudicial.
Os Termos de Serviço e as Diretrizes da Comunidade do aplicativo são semelhantes aos de outros e alertam contra esse tipo de conteúdo. Além disso, os usuários podem denunciar chatbots ou personagens por uma série de motivos. As Diretrizes da Comunidade incentivam os usuários a compartilhar exemplos específicos de violações de regras sempre que possível.
Embora o aplicativo tenha sua própria equipe de moderação, eles não podem moderar mensagens diretas entre membros da comunidade. Isso ocorre porque qualquer mensagem desse tipo ocorre fora da plataforma, como em Discord or Reddit. No entanto, eles incentivam os usuários a relatar violações de regras no aplicativo, caso vejam alguma.
Segurança para menores de 18 anos
Character AI Possui uma série de recursos de segurança para menores de 18 anos. Eles não podem ter conversas abertas com chatbots de IA, sendo limitados a interagir com cenas e vídeos pré-criados. Isso reduz as chances de encontrarem respostas inapropriadas por parte dos chatbots de IA.
Além disso, Character AI removeu personagens sinalizados por violarem as regras. Os usuários não podem mais acessar históricos de bate-papo envolvendo esses personagens.
No entanto, ainda existem alguns personagens e cenas inapropriadas no site, como por exemplo: retratando Jeffrey Epstein e Ghislaine MaxwellEmbora menores de 18 anos não possam conversar com esses chatbots, eles ainda podem ver as mensagens iniciais, que podem conter situações perturbadoras.
Character AI diz que leva a sério a segurança de seus usuários. Além disso, está trabalhando em recursos de segurança adicionais para todos os usuários.
5 dicas para manter os adolescentes seguros em Character AI
Com quais personagens eles estão falando e como? Eles têm alguma personalidade potencialmente prejudicial? Esses check-ins são parte da segurança online regular e ajudam as crianças a desenvolver sua compreensão de conteúdo prejudicial.
Passem pelo aplicativo juntos para que ambos saibam onde e como denunciar conteúdo prejudicial. Além disso, reveja os Termos de Serviço e as Diretrizes da Comunidade para garantir que seu filho adolescente saiba o que deve denunciar.
Nem todos os adolescentes têm o pensamento crítico e as habilidades de alfabetização midiática necessárias para usar Character AI. Portanto, considere se seu filho tem habilidades para lidar com possíveis danos antes de permitir o acesso.
Use o controle dos pais no loja de aplicativos, Em dispositivos e na sua rede para restringir o acesso a Character AI se você não quiser que eles acessem. No entanto, lembre-se de explicar também o motivo pelo qual você está fazendo isso.
Eles não devem carregar suas próprias vozes ou imagens para proteger sua privacidade. Da mesma forma, eles não devem carregar vozes ou imagens de amigos, familiares ou outras pessoas reais. Uma exceção para vozes pode ser se eles gostam de dublar e querem carregar uma voz falsa.
Isso pode incluir definir limites de tempo, definir onde eles podem usar o aplicativo e concordar sobre como eles podem usar o aplicativo. Por exemplo, você pode limitá-los a uma hora em uma área comum em casa. Você também pode deixá-los usar para aprender ou praticar habilidades, mas não quer que eles tenham conversas casuais com chatbots.