ملخص
- يُظهر استطلاعنا الجديد الذي شمل 1,000 طفل و2,000 والد في المملكة المتحدة كيف يستخدم عدد متزايد من الأطفال (64%) روبوتات الدردشة التي تعمل بالذكاء الاصطناعي للحصول على المساعدة في كل شيء بدءًا من الواجبات المنزلية وحتى النصائح العاطفية والرفقة - مع عدم تشكيك الكثيرين أبدًا في دقة أو ملاءمة الردود التي يتلقونها.
- التقرير، "أنا، نفسي، والذكاء الاصطناعي"يصف هذا البحث تزايد عدد الأطفال الذين يتحدثون مع روبوتات الدردشة الذكية كأصدقاء، على الرغم من أن العديد من هذه الروبوتات الشائعة غير مصممة للأطفال. يقول أكثر من ثلث (35%) الأطفال الذين يستخدمونها إن التحدث إليها أشبه بالتحدث إلى صديق، بينما يعرب ستة من كل عشرة آباء عن قلقهم من اعتقاد أطفالهم أن روبوتات الدردشة الذكية أشخاص حقيقيون.
- يُحذّر التقرير من أن الأطفال الأكثر ضعفًا هم الأكثر عرضة للخطر، حيث وجدت الدراسة أن 71% منهم يستخدمون روبوتات الدردشة الذكية. ويشير ربع (26%) من الأطفال الذين يستخدمون هذه الروبوتات إلى أنهم يفضلون التحدث إليها على التحدث مع شخص حقيقي، بينما أفاد 23% منهم أنهم يستخدمونها لعدم وجود أي شخص آخر يتحدثون إليه.
- ويحذر التقرير من أن الأطفال يستخدمون برامج الدردشة التي تعمل بالذكاء الاصطناعي على منصات غير مصممة لهم، دون وجود ضمانات كافية، مثل التحقق من العمر وتعديل المحتوى، ويدعو الحكومة إلى توضيح كيفية وقوع برامج الدردشة التي تعمل بالذكاء الاصطناعي ضمن نطاق قانون السلامة عبر الإنترنت.
- يتزايد استخدام الأطفال للذكاء الاصطناعي لمساعدتهم في واجباتهم المدرسية، ويدعو التقرير إلى تزويد المدارس بإرشادات واضحة ومتسقة حول بناء معارف الأطفال واستخدامهم للذكاء الاصطناعي، بما في ذلك روبوتات الدردشة. ويواجه الآباء أيضًا صعوبة في مواكبة وتيرة الذكاء الاصطناعي، ويحتاجون إلى دعم لتوجيه أطفالهم لاستخدامه بثقة ومسؤولية.
اليوم (الأحد 13 يوليو)العاشر) لقد نشرنا تقريرًا جديدًا، "أنا، نفسي والذكاء الاصطناعي: فهم وحماية استخدام الأطفال لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي".
مع تزايد انتشار روبوتات الدردشة الذكية في حياة الأطفال اليومية، يستكشف التقرير كيفية تفاعل الأطفال معها. ويسلط التقرير الضوء على فوائد أدوات الذكاء الاصطناعي للأطفال، مثل: دعم التعلم ومساحة لطرح الأسئلة، كما يُحذر من أنها تُشكل خطرًا على سلامة الأطفال ونموهم. ويؤدي عدم التحقق من السن والتنظيم إلى تعرض بعض الأطفال لمحتوى غير لائق.
يثير بحثنا مخاوف من استخدام الأطفال لروبوتات الدردشة الذكية لأغراض عاطفية، بما في ذلك بناء الصداقات وتقديم النصائح، على الرغم من أن العديد من هذه الروبوتات الشائعة غير مصممة للأطفال لاستخدامها بهذه الطريقة. ويحذر التقرير من أن الأطفال قد يعتمدون بشكل مفرط على هذه الروبوتات أو يتلقون ردودًا غير دقيقة أو غير لائقة، مما قد يقلل من احتمالية طلبهم المساعدة من بالغين يثقون بهم.
وقد تفاقمت هذه المخاوف بفعل حوادث، مثل قضية في فلوريدا رفعت فيها أم دعوى قضائية ضد منصة "كاراكتير.آي"، مدّعيةً أن روبوت دردشة ذكيًا مستوحى من إحدى شخصيات مسلسل "صراع العروش" مارس سلوكًا مسيئًا وجنسيًا مع ابنها المراهق، وشجعه على الانتحار. وفي المملكة المتحدة، أبلغ نائب البرلمان مؤخرًا عن "اجتماعٍ مُريع للغاية" مع أحد نوابها، الذي زُعم أن ابنه البالغ من العمر 12 عامًا قد تعرّض للتحرش الجنسي من قِبل روبوت دردشة على المنصة نفسها.
يُشير التقرير إلى ضرورة إعادة النظر في القوانين واللوائح الحالية لحماية الأطفال الذين يستخدمون روبوتات الدردشة الذكية. هناك إدراك متزايد للحاجة إلى مزيد من الوضوح، أو تحديث الإرشادات، أو سن تشريعات جديدة. وندعو الحكومة، على وجه الخصوص، إلى فرض متطلبات صارمة لضمان السن على مُقدمي روبوتات الدردشة الذكية، لضمان التزامهم بمتطلبات الحد الأدنى للسن، وتوفير تجارب مُناسبة للأطفال.
لإثراء بحثنا، أجرينا استطلاع رأي على عينة تمثيلية من 1,000 طفل في المملكة المتحدة تتراوح أعمارهم بين 9 و17 عامًا، و2,000 من أولياء أمور أطفال تتراوح أعمارهم بين 3 و17 عامًا، وعقدنا أربع مجموعات تركيز مع الأطفال. وأُجري اختبار المستخدم على ثلاثة روبوتات دردشة تعمل بالذكاء الاصطناعي. ChatGPT, Snapchatالصورة My AI و character.ai، وتم إنشاء اثنين من "الصور الرمزية" لمحاكاة تجربة الطفل على هذه المواقع.
وتتضمن النتائج الرئيسية لهذا البحث ما يلي:
- يستخدم الأطفال روبوتات الدردشة التي تعمل بالذكاء الاصطناعي بطرق متنوعة ومبتكرة. ٤٢٪ من الأطفال الذين تتراوح أعمارهم بين ٩ و١٧ عامًا والذين استخدموا روبوتات الدردشة الذكية، استخدموها لدعم واجباتهم المدرسية. يستخدمونها للمساعدة في المراجعة، ودعم الكتابة، وممارسة مهارات اللغة. كثيرون منهم يُقدّرون الحصول على إجابات وشروحات فورية.
- طلب النصيحة: ما يقرب من ربع (23%) الأطفال الذين استخدموا روبوتات الدردشة الذكية استخدموها بالفعل لطلب المشورة بشأن الملابس المناسبة أو لممارسة الحوار مع الأصدقاء، وصولًا إلى أمور أكثر أهمية مثل الصحة النفسية. ويؤكد بعض الأطفال الذين استخدموا روبوتات الدردشة الذكية (15%) أنهم يفضلون التحدث إلى روبوت دردشة على التحدث إلى شخص حقيقي.
- الرفقة: يستخدم الأطفال المعرضون للخطر بشكل خاص روبوتات الدردشة الذكية للتواصل والراحة. صرّح واحد من كل ستة أطفال (16%) من المعرضين للخطر أنهم يستخدمونها لأنهم يريدون صديقًا، بينما قال نصفهم (50%) إن التحدث إلى روبوت دردشة ذكي يشبه التحدث إلى صديق. يستخدم بعض الأطفال روبوتات الدردشة الذكية لعدم وجود من يتحدثون إليه.
- إجابات غير دقيقة وغير كافية: شارك الأطفال أمثلة على إجابات مضللة أو غير دقيقة، وهو ما أكدته اختباراتنا الخاصة للمستخدمين. في بعض الأحيان، فشلت روبوتات الدردشة الذكية في دعم الأطفال بنصائح واضحة وشاملة من خلال إجاباتها. وهذا مثير للقلق بشكل خاص، نظرًا لأن 58% من الأطفال الذين استخدموا روبوتات الدردشة الذكية قالوا إنهم يعتقدون أن استخدام روبوت دردشة ذكي أفضل من البحث بأنفسهم.
- ثقة عالية في النصيحة: اثنان من كل خمسة (40%) من الأطفال الذين استخدموا روبوتات الدردشة الذكية لا يساورون أي قلق بشأن اتباع نصائحها، بينما لا يبدي 36% منهم أي قلق. وترتفع هذه النسبة بشكل أكبر بين الأطفال المعرضين للخطر، على الرغم من أن روبوتات الدردشة الذكية قد تقدم أحيانًا نصائح متناقضة أو غير داعمة.
- التعرض للمحتوى الضار: يمكن أن يتعرض الأطفال لمواد صريحة وغير مناسبة لأعمارهم، بما في ذلك المحتوى المسيء للنساء، على الرغم من أن مزودي برامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي يحظرون هذا المحتوى لمستخدمي الأطفال في شروط الخدمة الخاصة بهم.
- حدود غير واضحة: يرى بعض الأطفال بالفعل أن روبوتات الدردشة الذكية تُشبه البشر، حيث يقول 35% من الأطفال الذين يستخدمونها إن التحدث إليها يُشبه التحدث إلى صديق. ومع ازدياد تشابه ردود روبوتات الدردشة مع البشر، قد يقضي الأطفال وقتًا أطول في التفاعل معها، ويصبحون أكثر اعتمادًا عاطفيًا عليها. وهذا أمر مُقلق، إذ يستخدمها واحد من كل ثمانية أطفال (12%) لعدم وجود من يتحدثون إليه، مما يزيد إلى ما يقرب من واحد من كل أربعة أطفال (23%) مُعرّضين للخطر.
- يُترك الأطفال للتعامل مع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي بمفردهم أو مع مدخلات محدودة من البالغين الموثوق بهم. أعرب 62% من أولياء الأمور عن قلقهم بشأن دقة المعلومات المُنتجة بواسطة الذكاء الاصطناعي، إلا أن 34% فقط منهم تحدثوا مع أطفالهم حول كيفية تقييم مدى صحة المحتوى المُنتج بواسطة الذكاء الاصطناعي. وأفاد 57% فقط من الأطفال بأنهم تحدثوا مع المعلمين أو المدرسة حول الذكاء الاصطناعي، كما يقول الأطفال إن نصائح المعلمين داخل المدارس قد تكون متناقضة.
ويقدم التقرير أيضًا توصيات على مستوى النظام لدعم وحماية الأطفال الذين يستخدمون روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، بما في ذلك:
- حلول اعتماد نهج السلامة من خلال التصميم لإنشاء روبوتات محادثة ذكية مناسبة للعمر تعكس احتياجات الأطفال، مع أدوات تحكم أبوية مدمجة وعلامات موثوقة وميزات محو الأمية الإعلامية.
- حكومة توفير إرشادات واضحة حول كيفية تغطية برامج الدردشة التي تعمل بالذكاء الاصطناعي بموجب قانون السلامة عبر الإنترنت، وإلزام مقدمي برامج الدردشة التي تعمل بالذكاء الاصطناعي والتي لا يتم إنشاؤها للأطفال بضمان فعال للعمر، وضمان مواكبة التنظيم لتقنيات الذكاء الاصطناعي سريعة التطور.
- الحكومة تدعم المدارس دمج الذكاء الاصطناعي ومحو الأمية الإعلامية في جميع المراحل الرئيسية، بما في ذلك تدريب المعلمين وتقديم إرشادات واضحة للمدارس والآباء والأطفال حول الاستخدام المناسب للذكاء الاصطناعي.
- الآباء ومقدمو الرعاية الحصول على الدعم لتوجيه استخدام أطفالهم للذكاء الاصطناعي وإجراء محادثات حول ماهية روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، وكيف تعمل ومتى يتم استخدامها، بما في ذلك متى يتم طلب الدعم في العالم الحقيقي.
- صناع السياسات والبحوث والصناعة تركيز أصوات الأطفال على تطوير وتنظيم وإدارة برامج الدردشة التي تعمل بالذكاء الاصطناعي والاستثمار في الأبحاث طويلة الأجل حول كيفية تأثير الذكاء الاصطناعي المستجيب عاطفياً على الطفولة.
قالت راشيل هوجينز، الرئيسة التنفيذية المشاركة لشركة Internet Matters:
أصبحت روبوتات الدردشة بالذكاء الاصطناعي جزءًا لا يتجزأ من الطفولة، حيث ازداد استخدامها بشكل كبير خلال العامين الماضيين. ومع ذلك، فإن معظم الأطفال والآباء والمدارس لا يدركون ذلك، ولا يمتلكون المعلومات أو الأدوات الوقائية اللازمة لإدارة هذه الثورة التكنولوجية بأمان.
رغم الفوائد الواضحة للذكاء الاصطناعي، يكشف بحثنا كيف بدأت روبوتات الدردشة تُغيّر نظرة الأطفال إلى "الصداقة". لقد وصلنا بسرعة إلى مرحلة أصبح فيها الأطفال، وخاصةً الأطفال الأكثر ضعفًا، ينظرون إلى روبوتات الدردشة كأشخاص حقيقيين، وبالتالي يطلبون منها نصائح عاطفية وحساسة. ومما يثير القلق أيضًا أنهم غالبًا ما لا يشككون في ما يقوله لهم "أصدقاؤهم" الجدد.
"يتعين علينا أن ننتبه إلى هذه العلامات التحذيرية المبكرة ونتخذ إجراءات منسقة للتأكد من أن الأطفال قادرون على استكشاف إمكانات برامج الدردشة التي تعمل بالذكاء الاصطناعي بأمان وإيجابية وتجنب إمكانية الضرر الواضحة.
يستخدم ملايين الأطفال في المملكة المتحدة روبوتات الدردشة الذكية على منصات غير مصممة لهم، دون ضمانات أو توعية أو إشراف كافٍ. يحتاج الآباء ومقدمو الرعاية والمعلمون إلى دعم لتوجيه استخدام الأطفال للذكاء الاصطناعي. يجب على قطاع التكنولوجيا اعتماد نهج تصميمي قائم على السلامة عند تطوير روبوتات الدردشة الذكية، بينما ينبغي على الحكومة ضمان أن تكون قوانين السلامة على الإنترنت قوية بما يكفي لمواجهة التحديات التي تُدخلها هذه التكنولوجيا الجديدة في حياة الأطفال.
وقال ديريك راي هيل، الرئيس التنفيذي المؤقت لمؤسسة مراقبة الإنترنت::
"يثير هذا التقرير بعض الأسئلة الأساسية حول تنظيم ومراقبة روبوتات الدردشة التي تعمل بالذكاء الاصطناعي.
إن احتمال تعرض الأطفال لمحتوى صريح أو غير مناسب لأعمارهم عبر روبوتات الدردشة الذكية يزيد من احتمالية وقوع أضرار في هذا الفضاء، وهو أمرٌ، كما تشير أدلتنا، يُشكل تحديًا للمستخدمين الصغار. وتُثير التقارير التي تُشير إلى احتمال وقوع استدراج عبر هذه التقنية قلقًا بالغًا.
يستحق الأطفال إنترنت آمنًا، حيث يمكنهم اللعب والتواصل الاجتماعي والتعلم دون التعرض للأذى. نحتاج إلى اتخاذ إجراءات عاجلة من الحكومات وشركات التكنولوجيا لتعزيز الأمان في روبوتات الدردشة الذكية قبل طرحها في الأسواق.
