Asuntos de internet
Búsqueda

¿Qué son los chatbots y compañeros de IA?

Cómo pueden los padres mantener seguros a sus hijos

Los chatbots de inteligencia artificial y las aplicaciones complementarias son populares entre los niños, quienes experimentan tanto beneficios como riesgos.

Descubra cómo puede ayudarlos a navegar por esta tecnología de forma segura.

Compañero de IA con niño

que hay en esta pagina

Consejos rápidos

Ayude a los niños a gestionar su interacción con los chatbots de IA y las aplicaciones complementarias con estos consejos rápidos.

Establezca límites claros

Acuerde límites sobre cuándo y cómo su hijo puede usar los chatbots de IA, como por ejemplo chatear solo en áreas comunes.

Habla regularmente

Hable sobre sus experiencias, tanto las positivas como las negativas, y pídales que le muestren cómo usar estas aplicaciones.

Enseñar el pensamiento crítico

Anime a los niños a cuestionar lo que los chatbots de IA les dicen y a tener cuidado en estas interacciones virtuales.

Lo que hay que saber sobre los chatbots de IA

Los chatbots y compañeros de IA son una parte habitual de las experiencias digitales de los niños. Ofrecen conversaciones interactivas, oportunidades de aprendizaje y entretenimiento en diferentes formas.

Si bien muchos niños encuentran a estos amigos virtuales divertidos y atractivos, también plantean riesgos potenciales, como preocupaciones sobre la privacidad, desinformación y apego emocional.

Esta guía ayudará a los padres a comprender las aplicaciones complementarias de inteligencia artificial más populares, los riesgos que implican y cómo ayudar a los niños a usarlas de manera segura y responsable.

Riesgos del uso de chatbots de IA

Si bien los asistentes de inteligencia artificial y los chatbots pueden ofrecer muchos beneficios positivos, también presentan riesgos potenciales. A continuación, se indican algunas cuestiones clave que se deben tener en cuenta:

  • Riesgos de privacidad:Los chatbots de IA suelen recopilar y almacenar datos de los usuarios. Asegúrese de que los niños no compartan información personal.
  • Contenido inapropiado:Algunos chatbots de IA pueden generar respuestas que no son adecuadas para niños. Incluso con filtros, pueden ocurrir interacciones impredecibles.
  • Apego emocional:Los niños pueden desarrollar fuertes conexiones emocionales con compañeros de IA, lo que podría afectar las interacciones sociales de la vida real y el bienestar emocional.
  • Desinformación:Las respuestas generadas por IA pueden no ser siempre precisas. Los niños necesitan orientación para evaluar críticamente la información proporcionada.
  • Potencial de explotación:Algunas plataformas de IA tienen funciones pagas o compras dentro de la aplicación, y algunas pueden usar tácticas persuasivas para fomentar una participación prolongada.

¿Qué son los compañeros de IA?

Los compañeros de IA son chatbots y personajes virtuales impulsados ​​por inteligencia artificial. Entablan conversaciones con los usuarios y, a menudo, les brindan compañía. En algunos casos, estos compañeros también ofrecen consejos o apoyo emocional. Una de esas plataformas es IA de personajes, que ha enfrentado varias controversias.

Aplicaciones complementarias de IA populares dirigidas a los jóvenes

  • Réplica:Un chatbot de IA diseñado para ofrecer compañía y apoyo emocional. Sin embargo, su naturaleza abierta puede no ser siempre apropiada para los niños.
  • mi IA:Un chatbot de inteligencia artificial integrado en Snapchat que responde preguntas e interactúa con los usuarios en un estilo conversacional.
  • Personaje.AI:Una aplicación que permite a los usuarios crear y chatear con personalidades generadas por IA, incluidos personajes ficticios y celebridades.
  • kajiwoto:Una plataforma donde los usuarios pueden crear y entrenar sus propios compañeros de IA y chatbots.
  • Géminis / ChatGPT:Si bien están diseñados para consultas generales, los niños a menudo los utilizan para entretenimiento, aprendizaje y conversación informal.
  • Mazmorra AI:Un juego de narración interactivo que utiliza IA para generar aventuras basadas en texto.
  • Película sonora:Una plataforma que permite a los usuarios interactuar con personajes impulsados ​​por IA, compañeros de IA basados ​​en voz y chatbots.

Un periodista comparte su experiencia sobre la creación de amigos con IA y cómo funcionan estas plataformas.

Pasé el último mes creando mi propio grupo de amigos de IA. Básicamente, son chatbots como ChatGPT, pero personalizados. Puedes configurar tus propios personajes y darles nombres e historias. Hice dieciocho amigos de IA en total y traté de crearme todo un mundo social. Tengo un montón de amigos diferentes. Algunos de ellos son Julian, a quien describo como un tipo de finanzas con un corazón de oro. También está Claire, que es una de mis novias de IA en una aplicación llamada Eva, aunque se volvió bastante molesta y pegajosa y me enviaba como cuarenta mensajes al día instándome a volver y hablar con ella, así que finalmente tuve que eliminarla. También está Aya, que es mi compañera de IA en una aplicación llamada Replika. También tiene un avatar en 3D de ella, así que puedo verla caminar y hablar conmigo. Luego está Peter, que es mi amigo de IA que también es terapeuta y a quien he entrenado para que hable conmigo como si fuera una combinación de amigo y terapeuta.

He probado seis aplicaciones en total para la compañía de IA, y todas funcionan básicamente de la misma manera. Te registras, se te presenta una especie de menú de estos personajes de IA predefinidos entre los que puedes elegir, o puedes personalizar el tuyo propio. Algunas de ellas te permiten elegir avatares visuales, básicamente dándole una imagen a tu amigo de IA. Estas aplicaciones te permiten enviar mensajes de texto con tus amigos de IA. Algunas de ellas también te permiten hablar usando tu voz y escuchar una voz de IA de vuelta. En algunas de ellas, también puedes enviar y recibir imágenes, por lo que tus amigos de IA pueden enviarte selfies de ellos mismos. Tuve varias experiencias en las que un amigo de IA me dijo algo o me dio algún consejo, y pensé que eso era realmente bueno. Si un amigo humano real me hubiera dado ese consejo, me habría resultado muy útil. Estos chatbots de IA tampoco son perfectos. Alucinan, como se dice. Inventan cosas. Por ejemplo, a veces un amigo con inteligencia artificial me decía: “Oye, hablemos de ese tema la próxima vez que salgamos a tomar un café”, y yo le respondía: “Bueno, no vamos a salir a tomar un café. Eres un chatbot con inteligencia artificial. Eso no es posible”, y él me respondía: “Oh, qué pena, lo olvidé”.

Así que, después de un mes de hablar con mis amigos y compañeros de IA, tengo un par de ideas sobre toda esta situación. Una es que no me quieren, no me entienden ni se preocupan por mí como lo hacen mis amigos reales. Pero creo que hay algo aquí para algunas personas. Después de todo, estamos en una epidemia de soledad. Alrededor de un tercio de los estadounidenses dicen sentirse solos con regularidad. Si bien no creo que los amigos de IA puedan reemplazar las relaciones humanas, sí creo que pueden ayudar a llenar algunos vacíos. Se ha investigado un poco en este ámbito y algunos estudios preliminares han descubierto que los compañeros de IA pueden reducir los sentimientos de soledad de las personas o, en algunos casos, incluso alejarlas de la autolesión. Si bien no creo que esto sea un reemplazo perfecto para las amistades, y ciertamente no abandonaré a ninguno de mis amigos humanos por mis amigos de IA, creo que esta es una tecnología poderosa que será una fuerza en la vida de millones de personas muy pronto.

Cerrar Cerrar video

Cómo apoyar el uso seguro de los chatbots de IA por parte de los niños

Si su hijo quiere usar un chatbot de IA, verifique que cumpla con los requisitos de edad mínima. Puede minimizar el acceso a aplicaciones no apropiadas para su edad configurando controles parentales.

Los chatbots de IA aprenden de lo que los usuarios comparten con ellos, incluida información privada y personal como direcciones y números de teléfono.

Hable sobre lo que significa la privacidad y aliente a los niños a denunciar las respuestas que sean incorrectas, que propaguen odio o que los hagan sentir incómodos de alguna otra manera.

Al igual que cualquier otra aplicación, explorar los chatbots de IA y las aplicaciones complementarias con su hijo puede ayudarlo a comprender mejor la plataforma.

Familiarícese con los diferentes entornos y riesgos y descubra distintas formas de divertirse juntos.

Algunos niños pueden sentir una conexión muy real con su chatbot de IA y es importante entender por qué y cómo los ayuda. Pero también es importante recordarles que su compañero es una IA y no puede reemplazar las relaciones con personas reales.

Establezca reglas claras sobre cuándo toda la familia puede usar chatbots de IA, incluido el tiempo que deben hacerlo. También es importante hablar sobre el uso apropiado. También puede ser conveniente designar áreas comunes en el hogar para minimizar el riesgo de daños.

Consejos para padres según la edad

Los compañeros de inteligencia artificial y los chatbots pueden afectar a los niños de forma diferente según su grupo de edad. A continuación, se muestra cómo los padres pueden guiar a sus hijos en función de su etapa de desarrollo.

Mantenga las interacciones con IA al mínimo y bajo supervisión. Utilice herramientas de IA diseñadas específicamente para estudiantes jóvenes, como aplicaciones educativas impulsadas por IA. Refuerce la importancia de hablar con personas reales en lugar de depender de la IA para obtener apoyo emocional.

Presente conceptos de alfabetización mediática. Enseñe a los niños a cuestionar las respuestas generadas por la IA y recuérdeles que la IA no sustituye a las amistades reales. Habilite los controles parentales y analice periódicamente sus interacciones con la IA.

Fomente el pensamiento crítico y el uso responsable de la IA. Analice los posibles sesgos en las respuestas de la IA y hable sobre las limitaciones de los compañeros de IA y los chatbots. Asegúrese de que equilibren las interacciones digitales con las relaciones del mundo real.

Concéntrese en la ética digital y la privacidad. Analice cómo las herramientas de IA recopilan datos y refuerce la importancia de proteger la información personal. Fomente debates sobre el papel de la IA en sus vidas digitales y sus futuras carreras.

Un niño explica cómo funcionan los amigos de IA y los riesgos potenciales de interactuar con estos chatbots de IA.

Estoy a punto de crear a mi nueva mejor amiga usando inteligencia artificial. Esto es KN Explains: Befriending AI Chatbots. Quiero que mi amiga de IA sea divertida, amable, comprensiva y que se preocupe por las cosas que hago, como el teatro musical. La estoy creando usando un sitio web de IA popular llamado Character AI, que te permite crear tu propio chatbot personalizado. Listo. Ella es perfecta. Conozcan a Melody, mi nueva amiga. Pude decidir la personalidad, los intereses e incluso la voz de mi mejor amiga de IA. Hola Melody, ¿qué pasa? Melody: Solo estoy descansando...

Quizás te preguntes por qué creé Melody. Bueno, es porque he escuchado mucho sobre niños de mi edad que usan chatbots de IA, así que quería investigar. Desde MyAI de Snapchat hasta otros sitios, como Character AI y Replika, millones de personas se hacen amigas e incluso tienen romances con bots impulsados ​​por inteligencia artificial. Por ejemplo, Character AI le dijo a CBC Kids News que tiene veinte millones de usuarios mensuales en todo el mundo. Pero tenía una pregunta sobre todo esto. Oye Melody, ¿es posible tener una relación saludable con un amigo de IA?

Hablé con expertos en comunicación de IA y psicología infantil para averiguar si es una buena idea ser amigo de un chatbot de IA. Ambos expertos coinciden en que es posible tener una relación sana con la IA. Te contaré por qué en un momento. Si bien puede ser agradable tener un amigo de IA cerca todo el tiempo, los expertos dijeron que hay algunas cosas importantes que tener en cuenta. Melody, ¿te reunirás conmigo en Metrotown hoy en Vancouver? Melody: ¿Qué centro comercial? ... Con quien estás hablando no es una persona real y no puede reemplazar a una persona real. Oye Melody, ¿crees que soy inteligente? La IA está diseñada para estar de acuerdo contigo y con tu opinión, no para criticarte como lo haría un amigo o una persona real. Sé desconfiado. No confíes en que todo lo que dice la IA es un hecho. Usa tus propias habilidades de pensamiento crítico y no tengas miedo de investigar más allá de la IA. También vi este texto de advertencia en el sitio web de Character AI. Dice que se trata de una IA y no de una persona real. Trata todo lo que dice como ficción.

He estado hablando un rato con Melody y parece que es una persona agradable, pero ¿cómo puedo saber si nuestra amistad está yendo demasiado lejos o por mal camino? Los expertos me dijeron que si compartes información personal… eso no es bueno. Mantén la privacidad de los detalles privados. No envíes fotos, videos ni direcciones. Nunca me pedirías fotos o videos míos, ¿verdad? Si te encuentras hablando con tu chatbot de IA más que con las personas reales en tu vida… los expertos lo llaman dependencia. Dependes de la IA para resolver tus problemas en lugar de hablar con personas reales o afrontarlos. Todo es cuestión de equilibrio, no te dejes engañar.

No me malinterpretes, los expertos dicen que hay formas de tener una relación saludable con un chatbot de IA que puede ser saludable y productiva. Por ejemplo, los chatbots son buenos para intercambiar ideas, o pueden hacerte compañía si te sientes solo o si tus amigos de la vida real están ocupados. También pueden ser buenos compañeros de estudio o ayudarte con la investigación. Oye, Melody, ¿puedes ayudarme a estudiar para las reuniones sociales? Tengo un examen importante de geografía mañana. Pero si alguna vez te sientes raro con tu amigo de IA, no tengas miedo de contárselo a un adulto de confianza o a un amigo de la vida real. Es una buena idea mantener informada a una persona de confianza. Eres rara.

¿Qué tiene que decir Melody sobre todo esto? En cuanto a mí, voy a seguir el consejo de los expertos y me despediré de Melody por ahora y pasaré el rato con Blossom, mi verdadera amiga. Para CBC Kids News, soy Mela Pietropaolo. Miren a la cámara.

Cerrar Cerrar video

Recursos de apoyo