Résumé
- Notre nouvelle enquête menée auprès de 1,000 2,000 enfants et 64 XNUMX parents au Royaume-Uni montre qu'un nombre croissant d'enfants (XNUMX %) utilisent des chatbots IA pour obtenir de l'aide dans tous les domaines, des devoirs aux conseils émotionnels et à la compagnie - beaucoup ne remettant jamais en question l'exactitude ou la pertinence des réponses qu'ils reçoivent en retour.
- Le rapport, « Moi, moi-même et l'IA », décrit comment de plus en plus d'enfants communiquent avec des chatbots IA comme s'ils étaient des amis, bien que nombre de ces derniers ne soient pas conçus pour être utilisés de cette manière par les enfants. Plus d'un tiers (35 %) des enfants qui les utilisent affirment que parler à un chatbot IA est comme parler à un ami, tandis que six parents sur dix craignent que leurs enfants ne croient que les chatbots IA sont de vraies personnes.
- Le rapport met en garde contre le fait que les enfants vulnérables sont les plus exposés. L'enquête révèle que 71 % d'entre eux utilisent des chatbots basés sur l'IA. Un quart (26 %) des enfants vulnérables qui utilisent des chatbots basés sur l'IA déclarent préférer parler à un chatbot basé sur l'IA plutôt qu'à une personne réelle, et 23 % déclarent utiliser des chatbots parce qu'ils n'ont personne d'autre à qui parler.
- Le rapport avertit que les enfants utilisent des chatbots IA sur des plateformes qui ne sont pas conçues pour eux, sans garanties adéquates, telles que la vérification de l'âge et la modération du contenu, et appelle le gouvernement à clarifier comment les chatbots IA entrent dans le champ d'application de la loi sur la sécurité en ligne.
- L'IA est de plus en plus utilisée par les enfants pour les aider dans leurs devoirs. Le rapport appelle donc à fournir aux écoles des orientations claires et cohérentes pour développer les connaissances et l'utilisation de l'IA, y compris des chatbots, par les enfants. Les parents peinent également à suivre le rythme de l'IA et ont besoin de soutien pour guider leurs enfants vers une utilisation responsable et en toute confiance.
Aujourd'hui (dimanche 13 juillet)e) nous avons publié un nouveau rapport, « Moi, moi-même et l'IA : comprendre et protéger l'utilisation des chatbots IA par les enfants ».
Alors que les chatbots IA s'intègrent de plus en plus au quotidien des enfants, le rapport explore la manière dont ils interagissent avec eux. Il met également en lumière les avantages que les outils IA peuvent apporter aux enfants, notamment : Un soutien à l'apprentissage et un espace pour poser des questions sont également proposés, mais ils mettent également en garde contre les risques pour la sécurité et le développement des enfants. L'absence de vérification de l'âge et de réglementation expose certains enfants à des contenus inappropriés.
Nos recherches soulèvent des inquiétudes quant à l'utilisation des chatbots IA par les enfants pour des raisons émotionnelles, notamment pour nouer des liens d'amitié ou obtenir des conseils, alors que nombre des chatbots IA les plus répandus ne sont pas conçus pour les enfants. Le rapport met en garde contre le risque que les enfants deviennent trop dépendants des chatbots IA ou reçoivent des réponses inexactes ou inappropriées, ce qui pourrait les rendre moins enclins à demander de l'aide à des adultes de confiance.
Ces inquiétudes ont été exacerbées par des incidents, comme celui survenu en Floride où une mère a porté plainte contre character.ai, affirmant qu'un chatbot IA inspiré d'un personnage de Game of Thrones avait eu des interactions abusives et sexuelles avec son fils adolescent et l'avait encouragé au suicide. Au Royaume-Uni, un député a récemment raconté au Parlement avoir eu une « rencontre extrêmement pénible » avec un électeur dont le fils de 12 ans aurait été manipulé par un chatbot sur la même plateforme.
Le rapport soutient que le gouvernement et l'industrie technologique doivent réexaminer si les lois et réglementations existantes protègent suffisamment les enfants qui utilisent des chatbots IA. Il est de plus en plus reconnu qu'une plus grande clarté, des directives actualisées ou une nouvelle législation pourraient être nécessaires. Nous appelons notamment le gouvernement à imposer des exigences strictes en matière de garantie d'âge aux fournisseurs de chatbots IA, afin de garantir qu'ils respectent les exigences d'âge minimum et créent des expériences adaptées aux enfants.
Pour étayer notre recherche, nous avons interrogé un échantillon représentatif de 1,000 9 enfants britanniques âgés de 17 à 2,000 ans et de 3 17 parents d'enfants âgés de XNUMX à XNUMX ans, et organisé quatre groupes de discussion avec les enfants. Des tests utilisateurs ont été réalisés sur trois chatbots IA : ChatGPT, Snapchat's My AI et character.ai, et deux « avatars » ont été créés pour simuler l'expérience d'un enfant sur ces derniers.
Les principales conclusions de cette recherche comprennent :
- Les enfants utilisent les chatbots IA de manières diverses et imaginatives. 42 % des enfants âgés de 9 à 17 ans ayant utilisé des chatbots IA les ont utilisés pour les aider dans leurs devoirs. Ils les utilisent pour réviser, rédiger et s'entraîner à la langue. Nombre d'entre eux apprécient les réponses et les explications instantanées.
- Demande de conseils : Près d'un quart (23 %) des enfants ayant utilisé un chatbot IA l'ont déjà utilisé pour obtenir des conseils sur la tenue vestimentaire, pour s'entraîner à discuter avec des amis ou pour des sujets plus importants comme la santé mentale. Certains enfants ayant utilisé un chatbot IA (15 %) déclarent préférer parler à un chatbot plutôt qu'à une personne réelle.
- Camaraderie: Les enfants vulnérables, en particulier, utilisent les chatbots IA pour créer des liens et se réconforter. Un enfant vulnérable sur six (16 %) déclare les utiliser pour trouver un ami, et la moitié (50 %) affirme que parler à un chatbot IA est comme parler à un ami. Certains enfants utilisent les chatbots IA parce qu'ils n'ont personne d'autre à qui parler.
- Réponses inexactes et insuffisantes : Les enfants ont partagé des exemples de réponses trompeuses ou inexactes, corroborés par nos propres tests utilisateurs. Les chatbots IA n'ont parfois pas réussi à fournir aux enfants des conseils clairs et complets dans leurs réponses. Ce constat est particulièrement préoccupant, sachant que 58 % des enfants ayant utilisé des chatbots IA ont déclaré préférer utiliser un chatbot IA plutôt que de chercher eux-mêmes.
- Grande confiance dans les conseils : Deux enfants sur cinq (40 %) ayant utilisé des chatbots IA n'ont aucune crainte à suivre leurs conseils, et 36 % supplémentaires ne savent pas s'ils doivent s'en inquiéter. Ce chiffre est encore plus élevé chez les enfants vulnérables, et ce, malgré le fait que les chatbots IA fournissent parfois des conseils contradictoires ou peu encourageants.
- Exposition à des contenus préjudiciables : Les enfants peuvent être exposés à du contenu explicite et inapproprié à leur âge, y compris du contenu misogyne, même si les fournisseurs de chatbots IA interdisent ce contenu aux utilisateurs enfants dans leurs conditions de service.
- Frontières floues : Certains enfants perçoivent déjà les chatbots IA comme des humains : 35 % des enfants qui les utilisent affirment que parler à un chatbot IA est comme parler à un ami. À mesure que les chatbots IA deviennent encore plus humains dans leurs réponses, les enfants pourraient passer plus de temps à interagir avec eux et devenir plus dépendants émotionnellement. Ce constat est inquiétant, sachant qu'un enfant sur huit (12 %) utilise des chatbots IA parce qu'il n'a personne d'autre à qui parler, et que près d'un enfant sur quatre (23 %) est vulnérable.
- Les enfants sont laissés seuls à naviguer dans les chatbots d’IA ou avec une contribution limitée d’adultes de confiance. 62 % des parents se disent préoccupés par l'exactitude des informations générées par l'IA, mais seulement 34 % d'entre eux ont expliqué à leur enfant comment évaluer la véracité du contenu produit par l'IA. Seuls 57 % des enfants déclarent avoir discuté de l'IA avec leurs enseignants ou leur école, et les enfants affirment que les conseils des enseignants au sein des écoles peuvent également être contradictoires.
Le rapport formule également des recommandations à l’échelle du système pour soutenir et protéger les enfants utilisant des chatbots IA, notamment :
- Industrie adopter une approche de sécurité dès la conception pour créer des chatbots d'IA adaptés à l'âge qui reflètent les besoins des enfants, avec des contrôles parentaux intégrés, des panneaux de signalisation de confiance et des fonctionnalités d'éducation aux médias.
- Gouvernement fournir des orientations claires sur la manière dont les chatbots IA sont couverts par la loi sur la sécurité en ligne, exiger une garantie d'âge efficace pour les fournisseurs de chatbots IA qui ne sont pas conçus pour les enfants et garantir que la réglementation suit le rythme de l'évolution rapide des technologies d'IA.
- Le gouvernement soutient les écoles intégrer l’IA et l’éducation aux médias à toutes les étapes clés, notamment en formant les enseignants et en offrant aux écoles, aux parents et aux enfants des conseils clairs sur l’utilisation appropriée de l’IA.
- Parents et soignants être soutenu pour guider l'utilisation de l'IA par leur enfant et avoir des conversations sur ce que sont les chatbots d'IA, comment ils fonctionnent et quand les utiliser, y compris quand rechercher une assistance dans le monde réel.
- Décideurs politiques, recherche et industrie centrer la voix des enfants dans le développement, la réglementation et la gouvernance des chatbots d'IA et investir dans la recherche à long terme sur la manière dont l'IA émotionnellement réactive peut façonner l'enfance.
Rachel Huggins, co-PDG d'Internet Matters, a déclaré :
Les chatbots IA s'intègrent rapidement à l'enfance, leur utilisation ayant connu une croissance spectaculaire ces deux dernières années. Pourtant, la plupart des enfants, des parents et des écoles évoluent à l'aveuglette et ne disposent pas des informations ni des outils de protection nécessaires pour gérer cette révolution technologique en toute sécurité.
Si l'IA présente des avantages évidents, nos recherches révèlent que les chatbots commencent à transformer la perception qu'ont les enfants de l'amitié. Nous sommes arrivés très rapidement à un point où les enfants, et en particulier les enfants vulnérables, peuvent considérer les chatbots IA comme de vraies personnes et, de ce fait, leur demander des conseils sensibles et dictés par leurs émotions. Il est également inquiétant de constater qu'ils ne remettent souvent pas en question ce que leurs nouveaux « amis » leur disent.
« Nous devons tenir compte de ces premiers signes avant-coureurs et prendre des mesures coordonnées pour garantir que les enfants puissent explorer le potentiel des chatbots IA en toute sécurité et de manière positive et éviter le potentiel évident de préjudice.
Au Royaume-Uni, des millions d'enfants utilisent des chatbots IA sur des plateformes qui ne leur sont pas destinées, sans garanties, éducation ni supervision adéquates. Les parents, les tuteurs et les éducateurs ont besoin de soutien pour encadrer l'utilisation de l'IA par les enfants. L'industrie technologique doit adopter une approche de sécurité dès la conception pour le développement de chatbots IA, tandis que le gouvernement doit veiller à ce que nos lois sur la sécurité en ligne soient suffisamment strictes pour relever les défis que cette nouvelle technologie pose dans la vie des enfants.
Derek Ray-Hill, PDG par intérim de l'Internet Watch Foundation, a déclaré:
« Ce rapport soulève des questions fondamentales sur la réglementation et la surveillance de ces chatbots IA.
Le fait que les enfants puissent être confrontés à du contenu explicite ou inapproprié à leur âge via des chatbots IA augmente le risque de préjudices dans un espace, ce qui, comme le suggèrent nos données, s'avère déjà problématique pour les jeunes utilisateurs. Les signalements de manipulation psychologique via cette technologie sont particulièrement inquiétants.
Les enfants méritent un Internet sûr où ils peuvent jouer, socialiser et apprendre sans être exposés à des dangers. Il est urgent que les gouvernements et les entreprises technologiques prennent des mesures pour intégrer la sécurité dès la conception des chatbots IA avant leur mise à disposition.
