هذا الشهر، شاركنا في حملة #Take20Talk التي نظمها التحالف المناهض للتنمر.
تعرف على استخدام الأطفال للذكاء الاصطناعي التوليدي وتأثيراته قبل أبحاثنا القادمة حول الذكاء الاصطناعي التوليدي والتعليم.
لقد سررنا بالمشاركة في #Take20Talk مع التحالف المناهض للتنمر. لقد أتاحت لنا المحادثة الفرصة لمناقشة تأثير الذكاء الاصطناعي التوليدي على الرفاهية الرقمية للأطفال.
في الجلسة، ناقشنا استخدام الأطفال للذكاء الاصطناعي التوليدي، والفوائد والمخاطر التي يفرضها، والمشهد السياسي الحالي المحيط بهذه التكنولوجيا المتطورة. يأتي هذا العرض قبل بحثنا القادم حول الذكاء الاصطناعي التوليدي والتعليم، والذي سيتم إصداره في أوائل العام المقبل.
ملخص
- الذكاء الاصطناعي التوليدي (Gen AI) هو أحد أشكال الذكاء الاصطناعي الذي ينتج النصوص والصور والصوت.
- يمكن أن يدعم Gen AI تعلم الأطفال ورفاهتهم.
- ومع ذلك، هناك مخاطر على التفكير النقدي، والعلاقات، والسلامة.
- تشير الأبحاث إلى زيادة استخدام أدوات الذكاء الاصطناعي التوليدية.
- اكتشف المزيد من الموارد حول الذكاء الاصطناعي والأطفال.
ما هو الذكاء الاصطناعي التوليدي؟
الذكاء الاصطناعي التوليدي (Gen-AI) هو شكل من أشكال الذكاء الاصطناعي الذي ينتج نصوصًا وصورًا ومقاطع صوتية أصلية. يتم تدريب نماذج الذكاء الاصطناعي التوليدي على مجموعات البيانات المستخدمة لصياغة محتوى جديد، بالاعتماد على الأنماط التي تم تعلمها أثناء عملية التدريب.
استخدامات Gen-AI معالجة اللغات الطبيعية (NLP)هذا فرع من فروع الذكاء الاصطناعي "يركز على مساعدة أجهزة الكمبيوتر على فهم اللغة البشرية وتفسيرها وتوليدها". توفر هذه التقنيات العديد من الفرص المثيرة للأطفال. ومع ذلك، كما هو الحال مع جميع التقنيات الجديدة، إلى جانب الفوائد، هناك أيضًا مخاطر محتملة يجب معرفتها.
ما هي فرص Gen-AI؟
تجارب تعليمية مخصصة
يمكن للذكاء الاصطناعي التوليدي أن يساعد المعلمين في تخصيص خطط الدروس والمواد الخاصة بهم لدعم احتياجات التعلم المختلفة لطلابهم بشكل أفضل. وبالتالي، يضمن هذا تجربة تعليمية أكثر جاذبية وشاملة للفصول الدراسية المتنوعة.
في الواقع، يستخدم المعلمون بالفعل أدوات الذكاء الاصطناعي التوليدي لتوفير الدعم المخصص للتلاميذ ذوي الاحتياجات التعليمية الخاصة والإعاقات (SEND).
الدعم من خلال خطوط المساعدة
يمكن للأطفال الاستفادة من خطوط المساعدة التي تستخدم الذكاء الاصطناعي التوليدي. يمكن لخطوط المساعدة الاجتماعية والصحية العقلية المبنية على الذكاء الاصطناعي التوليدي أن توفر دعمًا سريع الاستجابة وشخصيًا للشباب. يمكن أن يؤدي هذا إلى المساعدة الفورية وتعزيز الفعالية الشاملة للدعم البشري.
على سبيل المثال، هاتف مساعدة الاطفال هي خدمة صحة نفسية عبر الإنترنت تستخدم تقنية الذكاء الاصطناعي التوليدي لتقديم الدعم على مدار الساعة طوال أيام الأسبوع للأطفال في جميع أنحاء كندا. باستخدام البرمجة اللغوية العصبية، تقوم هذه الخدمة بتحليل ومطابقة أسلوب التواصل لدى الشباب. وهذا بدوره يوجه الأطفال إلى قناة الخدمة المحددة التي يحتاجون إليها، سواء كان ذلك للحصول على الدعم بشأن الضائقة العاطفية أو مشكلات التنمر أو غيرها من المخاوف.
توفر خطوط المساعدة مساحة آمنة ومجهولة للشباب للتعبير عن مشاعرهم ومخاوفهم دون خوف من الحكم عليهم. ومع ذلك، في حين يمكن لروبوتات الدردشة في خطوط المساعدة تقديم استجابات سريعة، إلا أنها تفتقر إلى الدقة والقدرة على التكيف التي يوفرها الدعم البشري. وبالتالي، فإنها ستواجه صعوبة في استبدال فعالية التفاعل البشري بشكل كامل.
روبوتات الدردشة للدعم العاطفي
بالإضافة إلى دعم وتوجيه الشباب عبر الهاتف، يمكن لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي أن تعمل كرفاق افتراضيين. وفي بعض الحالات، قد توفر الدعم العاطفي للأطفال الذين يكافحون لتكوين صداقات أو التعامل مع التحديات الاجتماعية. بالإضافة إلى ذلك، يمكن لروبوتات الدردشة هذه دعم الأطفال الذين يشعرون بالوحدة أو الذين يكافحون لمشاركة مشاعرهم مع الآخرين.
وباستخدام الضمانات المناسبة، يمكن لبرامج المحادثة الآلية أيضًا دعم الأطفال الذين يعانون من القلق الاجتماعي. ويمكن لهذه الأدوات أن توفر مساحة خالية من الأحكام المسبقة للمشاركة في المحادثات، وتطوير التفاعلات الاجتماعية وممارستها.
ومن الأمثلة على هذا النوع من روبوتات الدردشة هارليHarlie هو تطبيق للهواتف الذكية يستخدم تقنية الذكاء الاصطناعي وخوارزميات البرمجة اللغوية العصبية للتحدث مع البشر. ومع ذلك، بدلاً من مجرد الرد على الأسئلة، يشجع Harlie الحوار من خلال طرح الأسئلة على المستخدم. وعلاوة على ذلك، وبإذن من المستخدم، يمكن لـ Harlie التقاط معلومات حول أنماط الكلام لمشاركتها مع فرق الصحة والبحث وتوفير علاج مستهدف.
ما هي المخاطر المحتملة؟
التأثيرات على التفكير النقدي
إن الاعتماد المفرط على الذكاء الاصطناعي التوليدي قد يؤثر سلبًا على مهارات التفكير النقدي لدى الأطفال. وذلك لأنه يقلل من فرص المشاركة في التحليل المستقل وحل المشكلات. وعلاوة على ذلك، فإن استخدام الذكاء الاصطناعي كمصدر رئيسي للمعرفة قد يضر بالقدرة على طرح الأسئلة وتقييم المعلومات. اطلع على دليلنا للتفكير النقدي عبر الإنترنت.
من المهم أن مساعدة الأطفال على دمج أدوات الذكاء الاصطناعي في تعليمهم دون الاعتماد عليهم بشكل كبير.
العلاقات الاجتماعية غير السوية والتنمر
هناك اتجاه مقلق يتمثل في قيام المستخدمين الشباب بنسخ سلوكيات التنمر وتوجيهها إلى روبوتات الدردشة التي تعمل بالذكاء الاصطناعي. وعلى وسائل التواصل الاجتماعي، يشجع بعض المستخدمين الآخرين على "التنمر" على روبوتات الدردشة من خلال التلاعب بهم وسوء المعاملة بشكل عام.
في حين أن الأطفال لا يمارسون التنمر على البشر الآخرين، إلا أن هناك مخاوف بشأن كيف يمكن للتفاعلات الافتراضية أن تؤدي إلى تطبيع سلوكيات التنمر.
التعرض للمحتوى الصريح
قد يؤدي استخدام بعض روبوتات الدردشة التي تعمل بالذكاء الاصطناعي إلى تعريض الأطفال لـ محتوى صريح وغير مناسبومن الأمثلة على هذا النوع من برامج المحادثة الآلية: Replika. Replika هو روبوت دردشة مُخصّص بتقنية الذكاء الاصطناعي، يُشجّع المستخدمين على مشاركة معلوماتهم الشخصية. كلما زادت المعلومات التي يُشاركها المستخدم، زادت قدرته على تخصيص ردوده.
على الرغم من أن الموقع يزعم أنه مخصص فقط لمن هم فوق سن 18 عامًا، إلا أنه لا يتطلب التحقق من العمر. وبالتالي، لن يواجه الأطفال عقبات كثيرة عند استخدام الموقع.
Replika يشجع المستخدمين على المشاركة في محادثات صريحة للبالغين. كما يدفعهم إلى دفع رسوم لروبوت الدردشة لمشاركة صور غير لائقة أو تسهيل مكالمة فيديو "رومانسية". إن تطبيع دفع المال مقابل المحتوى الفاضح قد يعزز ثقافةً يشعر فيها الأطفال بأنه من المقبول طلب واستقبال وإرسال صور غير لائقة - سواءً مع روبوت الدردشة أو فيما بينهم.
إنشاء محتوى غير قانوني
تشير التقارير إلى أن الأطفال يستخدمون بشكل متزايد أدوات الذكاء الاصطناعي لتوليد صور غير لائقة لأقرانهم، وهو ما يسهله استخدام تطبيقات "خلع الملابس" التي يسهل الوصول إليها. الصور غير اللائقة لمن هم دون سن 18 عامًا غير قانونية بغض النظر عن ظروف إنتاجها. ويشمل ذلك مواد الاعتداء الجنسي على الأطفال (CSAM) تم إنتاجها باستخدام تقنية Deepfake.
وفي حين تختلف ديناميكيات إنتاج وتوزيع المحتوى المزيف عن أشكال أخرى من الاعتداء الجنسي القائم على الصور، فإن الضرر الذي يلحق بالضحايا من المرجح أن يكون بنفس القدر من الخطورة، إن لم يكن أكثر.
لاستكشاف تأثيرات تقنية التزييف العميق بمزيد من التفصيل، عقدنا سلسلة من مجموعات التركيز في وقت سابق من هذا العام. وتضمنت مجموعات التركيز مراهقين تتراوح أعمارهم بين 15 و17 عامًا وغطت موضوع كراهية النساء على الإنترنت. وشمل ذلك أيضًا ديناميكيات النوع الاجتماعي التي تدعم التحرش الجنسي والاعتداء الجنسي على الأطفال.
ناقش المشاركون الاعتداء الجنسي باستخدام تقنية التزييف العميق - وهي القضية التي تصدرت عناوين الأخبار عدة مرات هذا العام، سواء في المملكة المتحدة أو على المستوى الدولي. شارك المراهقون - وخاصة المشاركات الإناث - عمومًا في الرأي القائل بأن كون المرء ضحية للانتهاك باستخدام تقنية التزييف العميق قد يكون في الواقع أكثر ضررًا من الأشكال التقليدية لمشاركة الصور دون موافقة.
أخبرنا المشاركون أن شدة الضرر تكمن في الافتقار إلى القدرة على التصرف والسيطرة التي قد يشعرون بها في حالة التزييف العميق. وذلك لأنهم لن يكونوا على علم بإنتاجه أو موافقتهم عليه:
"أعتقد أن تقنية التزييف العميق قد تكون أسوأ كثيرًا، لأنك إذا كنت تستخدم صورًا عارية، فأنت تلتقطها أيضًا، لذا فأنت تعلم عنها، بينما إذا كنت تستخدم تقنية التزييف العميق، فلن يكون لديك أي فكرة عنها على الإطلاق. قد يكون هناك واحدة فقط الآن ولا أحد يستطيع أن يعرف" - فتاة، تتراوح أعمارها بين 15 و17 عامًا، مجموعة تركيزية حول موضوع إنترنت ماترز.
الأبحاث القادمة في مجال الذكاء الاصطناعي التوليدي
قررت حكومة المملكة المتحدة عدم تقديم تشريعات جديدة بشأن الذكاء الاصطناعي. وبدلاً من ذلك، ستعتمد على الأطر التشريعية القائمة لتنظيم إنتاج واستخدام تقنيات الذكاء الاصطناعي الجديدة.
ولكن لا يزال من غير الواضح ما إذا كان هذا النهج البسيط سوف يحمي الأفراد - وخاصة الأطفال - بشكل كاف من مجموعة المخاطر الكاملة التي يفرضها الذكاء الاصطناعي، بما في ذلك الأضرار الناشئة عن الخدمات والتقنيات الجديدة.
من المهم أن تؤخذ آراء ومخاوف الشباب وأولياء الأمور في الاعتبار عند وضع السياسات المتعلقة باستخدامات الذكاء الاصطناعي التوليدي. وينطبق هذا بشكل خاص عندما يتعلق الأمر باستخدام التكنولوجيا في التعليم حيث قد تكون التطبيقات المحتملة هي الأكثر تأثيرًا.
لذا، نحن متحمسون للإعلان بحث جديد حول تأثيرات الذكاء الاصطناعي التوليدي على التعليماستنادًا إلى آراء الأطفال والآباء. سيستكشف البحث كيف تستخدم الأسر والمدارس الجيل الجديد من الذكاء الاصطناعي، وآمال الأطفال والآباء ومخاوفهم بشأن المستقبل.
