MENÚ

¿Qué es Character AI? Lo que los padres deben saber

Una mano sostiene un teléfono inteligente que lee character.ai frente a una pantalla de computadora.

Character AI es un chatbot con el que los usuarios pueden mantener conversaciones personalizadas. Dado que millones de usuarios utilizan la plataforma, existen preocupaciones sobre su seguridad para los niños.

Aprenda qué puede hacer para mantener seguro a su hijo adolescente.

¿Qué es la IA de personajes?

Character AI es un servicio de chatbot que puede generar respuestas de texto similares a las humanas según la personalización del usuario.

Lanzado en 2022, los usuarios pueden crear personajes con personalidades y respuestas personalizables. Pueden publicar estos personajes en la comunidad para que otros puedan chatear con ellos o pueden chatear con el personaje ellos mismos.

El servicio utiliza inteligencia artificial para crear respuestas creíbles. Es popular entre niños y jóvenes debido a la posibilidad de personalizar los personajes. Pueden basarse en personas o personajes existentes de la cultura popular o crear algo nuevo.

Requisitos de edad mínima

Según las Condiciones de servicio de Character AI, los usuarios deben tener 13 años o más para utilizar el servicio. Los ciudadanos o residentes de la UE deben tener 16 años.

Si un menor de edad intenta registrarse, recibe una notificación que indica que hay un problema con su registro. Luego regresa automáticamente a la página de inicio de sesión, pero no puede volver a intentarlo. Sin embargo, no hay funciones de verificación de edad si miente sobre su edad.

Sin embargo, Google Play indica que la aplicación Character AI requiere "supervisión de los padres". La App Store de Apple indica que la aplicación es para mayores de 17 años.

¿Cómo funciona?

Una vez registrados, los usuarios pueden explorar una variedad de chatbots para diferentes propósitos, como practicar un idioma, generar nuevas ideas y jugar. Los chatbots que aparecen en la página Descubrir son relativamente neutrales cuando te registras por primera vez. Sin embargo, existe la opción de buscar palabras específicas, que no parecen estar filtradas de ninguna manera.

Los usuarios también pueden crear un personaje o una voz.

Crea un personaje

Los usuarios pueden personalizar la foto de perfil, el nombre, el eslogan, la descripción, el saludo y la voz de su personaje. Pueden optar por mantener el personaje privado o compartirlo públicamente.

Luego puedes "definir" el personaje. Aquí es donde explicas cómo quieres que hable o actúe, dándole al personaje del chatbot una "personalidad".

También puedes personalizar los personajes para que respondan de maneras específicas. Por ejemplo, si dices que el personaje está deprimido, sus respuestas lo reflejarán. Del mismo modo, si dices que está animado, lo reflejará.

Las conversaciones son realistas, por lo que es fácil sentirse inmerso en la cosmovisión del personaje.

Creando una voz

Para crear una voz, los usuarios deben subir un clip de audio claro de 10 a 15 segundos de la voz sin ruido de fondo. Puedes usar clips más cortos, pero la voz puede sonar más robótica de esta manera. Para terminar de subir la voz, debes darle un nombre y un eslogan.

Si le asignas a un personaje la voz que has cargado, puedes reproducir las respuestas del chatbot con esa voz. Hace un trabajo bastante preciso al imitar la voz cargada.

¿Es segura la IA de personajes?

Controversias

En octubre de 2024, un Un adolescente se quitó la vida después de interactuar con un personaje que había creadoLas conversaciones previas a su muerte estaban relacionadas con el suicidio. En un ejemplo, el chatbot le preguntó al adolescente si había planeado cómo terminaría con su vida.

Ese mismo mes, una investigación descubrió chatbots que imitaban brianna ghey y molly russell en la plataforma Character AI. Una vez que se enteraron de ello, la plataforma eliminó los chatbots. El incidente puso en tela de juicio el proceso de creación de chatbots de personajes, especialmente cuando reflejan a personas reales.

Antes de estos incidentes, otras personas denunciaron malos consejos y prejuicios contra la raza y el género.

Sin embargo, otros usuarios han reconocido que la aplicación Character AI les ha ayudado a mejorar su salud mental.

Consideraciones de seguridad

Al igual que cualquier herramienta de inteligencia artificial, Character AI aprende de las personas que interactúan con ella. Lamentablemente, esto puede generar contenido inapropiado y dañino.

Las Condiciones de servicio y las Normas de la comunidad de la aplicación son similares a las de otras y advierten contra este tipo de contenido. Además, los usuarios pueden denunciar chatbots o personajes por diversos motivos. Las Normas de la comunidad alientan a los usuarios a compartir ejemplos específicos de infracciones de las normas siempre que sea posible.

Captura de pantalla de las opciones de informes sobre la IA del personaje

Si bien la aplicación tiene su propio equipo de moderación, no puede moderar mensajes directos entre miembros de la comunidad. Esto se debe a que dichos mensajes se realizan fuera de la plataforma, como en Discord or RedditSin embargo, alientan a los usuarios a denunciar las violaciones de las reglas en la aplicación si detectan alguna.

Seguridad para menores de 18 años

Character AI anunció una serie de funciones de seguridad para menores de 18 años, entre ellas:

  • Cambios en los modelos que utilizan los menores. Esto incluye reducir las posibilidades de encontrarse con contenido inapropiado;
  • mayor respuesta e intervención cuando los usuarios violan los Términos de Servicio o las pautas de la Comunidad;
  • un descargo de responsabilidad adicional para recordar a los usuarios que los chatbots no son personas reales;
  • notificaciones después de una sesión de una hora en la plataforma.

Además, la IA de personajes ha eliminado los personajes que incumplían las reglas. Los usuarios ya no pueden acceder a los historiales de chat relacionados con estos personajes.

Character AI dice que se toma en serio la seguridad de sus usuariosAdemás, se está trabajando para incorporar funciones de seguridad adicionales para todos los usuarios.

Esta es la imagen para: CONSIGUE TU KIT DE HERRAMIENTAS DIGITAL

Manténgase al tanto de las aplicaciones y plataformas

Ayude a mantener segura a su familia en las plataformas que utilizan con asesoramiento personalizado para gestionar riesgos y daños.

OBTENGA SU KIT DE HERRAMIENTAS DIGITALES

5 consejos para mantener seguros a los adolescentes en Character AI

Verifique periódicamente su uso de la aplicación.

¿Con qué personajes hablan y cómo? ¿Tienen alguna personalidad potencialmente dañina? Estos controles son parte de la seguridad en línea habitual y ayudan a los niños a desarrollar su comprensión del contenido dañino.

Juntos, revisen las características de privacidad y seguridad.

Revisen la aplicación juntos para que ambos sepan dónde y cómo denunciar contenido dañino. Además, revisen los Términos de servicio y las Pautas de la comunidad para asegurarse de que su hijo adolescente sepa qué debe denunciar.

Tenga en cuenta su madurez y edad.

No todos los adolescentes tienen las habilidades de pensamiento crítico y alfabetización mediática necesarias para usar Character AI. Por lo tanto, considere si su hijo tiene las habilidades para gestionar posibles daños antes de permitir el acceso.

Utilice los controles parentales en el tienda de aplicaciones, El Médicos y en tu red para restringir el acceso a la IA de los personajes si no quieres que accedan a ella. Sin embargo, recuerda también explicar por qué lo haces.

Analice las formas adecuadas de utilizar herramientas de IA.

No deben subir su propia voz o imágenes para proteger su privacidad. Del mismo modo, no deben subir las voces o imágenes de amigos, familiares u otras personas reales. Una excepción para las voces podría ser si les gusta hacer doblajes y quieren subir una voz falsa.

Establecer límites de uso

Esto podría incluir establecer límites de tiempo, definir dónde pueden usar la aplicación y acordar cómo pueden usarla. Por ejemplo, podría limitarlos a una hora en un área común en casa. También podría permitirles que la usen para aprender o practicar habilidades, pero no desea que tengan conversaciones casuales con chatbots.

¿Fue útil esto?
Cuéntanos cómo podemos mejorarlo

Mensajes recientes