¿Qué es Character AI?

Character AI es un servicio de chatbot que puede generar respuestas de texto similares a las humanas según la personalización del usuario.

Lanzado en 2022, los usuarios pueden crear personajes con personalidades y respuestas personalizables. Pueden publicar estos personajes en la comunidad para que otros puedan chatear con ellos o pueden chatear con el personaje ellos mismos.

El servicio utiliza inteligencia artificial para crear respuestas creíbles. Es popular entre niños y jóvenes debido a la posibilidad de personalizar los personajes. Pueden basarse en personas o personajes existentes de la cultura popular o crear algo nuevo.

Requisitos de edad mínima

De acuerdo con Character AI, Términos de ServicioLos usuarios deben tener 13 años o más para usar el servicio. Los ciudadanos o residentes de la UE deben tener 16 años.

Si un menor de edad intenta registrarse, recibe una notificación de que hay un problema con su registro. Acto seguido, regresa automáticamente a la página de inicio de sesión, pero no puede volver a intentarlo. Sin embargo, los usuarios pueden crear una cuenta indicando una edad comprendida entre los 13 y los 17 años, sin necesidad de verificación de edad.

Los usuarios menores de 18 años no tienen acceso a chats abiertos con personajes de IA. Solo pueden acceder a videos y escenas, y no pueden conversar con la IA. Para acceder a las conversaciones con IA, los usuarios deben verificar su edad mediante una selfie, y es posible que se les solicite una identificación válida si no se puede determinar su edad con la selfie.

Sin embargo, Google Play enumera el Character AI aplicación que requiere 'Guía parental'. La App Store de Apple enumera la aplicación como mayor de 17 años.

Una vez registrados, los usuarios pueden explorar una variedad de chatbots para diferentes propósitos, como practicar un idioma, generar nuevas ideas y jugar. Los chatbots que aparecen en la página Descubrir son relativamente neutrales cuando te registras por primera vez. Sin embargo, existe la opción de buscar palabras específicas, que no parecen estar filtradas de ninguna manera.

Los usuarios también pueden crear un personaje o una voz.

Crea un personaje

Los usuarios pueden personalizar la foto de perfil, el nombre, el eslogan, la descripción, el saludo y la voz de su personaje. Pueden optar por mantener el personaje privado o compartirlo públicamente.

Luego puedes "definir" el personaje. Aquí es donde explicas cómo quieres que hable o actúe, dándole al personaje del chatbot una "personalidad".

También puedes personalizar los personajes para que respondan de maneras específicas. Por ejemplo, si dices que el personaje está deprimido, sus respuestas lo reflejarán. Del mismo modo, si dices que está animado, lo reflejará.

Las conversaciones son realistas, por lo que es fácil sentirse inmerso en la cosmovisión del personaje.

Creando una voz

Para crear una voz, los usuarios deben subir un clip de audio claro de 10 a 15 segundos de la voz sin ruido de fondo. Puedes usar clips más cortos, pero la voz puede sonar más robótica de esta manera. Para terminar de subir la voz, debes darle un nombre y un eslogan.

Si le asignas a un personaje la voz que has cargado, puedes reproducir las respuestas del chatbot con esa voz. Hace un trabajo bastante preciso al imitar la voz cargada.

Controversias

Ese mismo mes, una investigación descubrió chatbots que imitaban brianna ghey y molly russell en el Character AI Plataforma. Tras ser alertada, la plataforma eliminó los chatbots. El incidente cuestionó el proceso de creación de chatbots con personajes, especialmente cuando imitan a personas reales.

Antes de estos incidentes, otras personas denunciaron malos consejos y prejuicios contra la raza y el género.

Sin embargo, otros usuarios han dado crédito a la Character AI Aplicación que apoya su salud mental.

Consideraciones de seguridad

Al igual que con cualquier herramienta de IA, Character AI Aprende de quienes interactúan con él. Desafortunadamente, esto puede generar contenido inapropiado y dañino.

Las Condiciones de servicio y las Normas de la comunidad de la aplicación son similares a las de otras y advierten contra este tipo de contenido. Además, los usuarios pueden denunciar chatbots o personajes por diversos motivos. Las Normas de la comunidad alientan a los usuarios a compartir ejemplos específicos de infracciones de las normas siempre que sea posible.

Si bien la aplicación tiene su propio equipo de moderación, no puede moderar mensajes directos entre miembros de la comunidad. Esto se debe a que dichos mensajes se realizan fuera de la plataforma, como en Discord or RedditSin embargo, alientan a los usuarios a denunciar las violaciones de las reglas en la aplicación si detectan alguna.

Seguridad para menores de 18 años

Character AI Cuenta con una serie de medidas de seguridad para menores de 18 años. No pueden mantener conversaciones abiertas con chatbots de IA, sino que se limitan a interactuar con escenas y vídeos predefinidos. Esto reduce la probabilidad de que reciban respuestas inapropiadas de los chatbots de IA.

Además en Character AI Se han eliminado los personajes marcados por infringir las reglas. Los usuarios ya no pueden acceder a los historiales de chat relacionados con estos personajes.

Sin embargo, todavía hay algunos personajes y escenas inapropiados en el sitio, como por ejemplo: que representa a Jeffrey Epstein y Ghislaine MaxwellAunque los menores de 18 años no pueden chatear con estos chatbots, sí pueden ver los mensajes iniciales, que pueden contener situaciones perturbadoras.

Character AI Dice que se toma en serio la seguridad de sus usuarios.Además, se está trabajando para incorporar funciones de seguridad adicionales para todos los usuarios.