ملخص
- حث تقرير جديد صادر عن Internet Matters الحكومة الجديدة على اتخاذ إجراءات صارمة ضد "وباء" الصور الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي بعد أن كشف استطلاع للرأي أن 13٪ من المراهقين لديهم تجربة مع صور عارية مزيفة.
- لقد أدى احتمال إساءة استخدام صور عارية مزيفة بشكل غير منضبط إلى بث الخوف في حياة العديد من الأطفال؛ حيث يعتقد أكثر من نصف المراهقين (55%) أنه سيكون من الأسوأ إنشاء صور عارية مزيفة لهم ومشاركتها بدلاً من صورة حقيقية.
- يدعو موقع Internet Matters إلى حظر أدوات "التعري"، حيث يحذر التقرير من أنه من السهل جدًا إنشاء مقاطع فيديو مزيفة عارية عبر الإنترنت.
- وينبغي أن تتضمن الإصلاحات الموصى بها للمناهج الدراسية تعليم الأطفال كيفية التعرف على الفيديوهات المزيفة واستخدام تقنية الذكاء الاصطناعي بشكل مسؤول.
تنشر مؤسسة Internet Matters، وهي المؤسسة البريطانية الرائدة غير الربحية التي تدعم سلامة الأطفال على الإنترنت، اليوم (الثلاثاء 22 أكتوبر) تقريرًا جديدًا، "الوجه الجديد للإساءة الرقمية: تجارب الأطفال مع الصور المزيفة العارية"ويقدر التقرير أن أربعة أطفال في كل فصل من ثلاثين فصلاً دراسياً لديهم بعض الخبرة في "التزييف العميق العارية"، ويدعو الحكومة إلى تقديم تشريع جديد لمعالجة نمو الذكاء الاصطناعي التوليدي (GenAI) للصور العارية المزيفة للشباب، وخاصة الفتيات، من خلال حظر ما يسمى بالتطبيقات "التعرية".
يوضح التقرير الطرق التي جعلت بها شركة GenAI إنتاج صور جنسية صريحة غير موافقة لأشخاص عاديين - بما في ذلك الأطفال - عملية سريعة وبسيطة ورخيصة. ويزعم التقرير أن التشريعات الحالية لا تواكب هذا التطور؛ فنماذج الذكاء الاصطناعي المستخدمة في إنتاج صور جنسية للأطفال ليست غير قانونية حاليًا في المملكة المتحدة، على الرغم من أن حيازة صورة جنسية مزيفة لطفل تعد جريمة جنائية.
في حين يمكن استخدام تقنية التزييف العميق لأغراض إيجابية، مثل التعليم أو التدريب، تشير الأدلة إلى أن غالبية هذه التقنية يتم إنشاؤها لإلحاق الأذى، بما في ذلك من خلال الاعتداء الجنسي، والاستغلال الجنسي بدوافع مالية، والتضليل، والاحتيال أو الاحتيال. في الماضي كانت هذه الظاهرة تستهدف المشاهير الإناث إلى حد كبير، ولكن الآن أصبح إنشاء صور عارية مزيفة أمرًا متاحًا على نطاق أوسع ويؤثر على الأطفال، حيث من المرجح أن تكون الفتيات هن المستهدفات.
يسلط تقرير Internet Matters اليوم الضوء على مدى انتشار وسهولة استخدام أدوات "التعري" على الإنترنت. وتشير التقديرات إلى أن 99% من مقاطع الفيديو المزيفة العارية تظهر فيها فتيات ونساء، وغالبًا ما لا تنجح نماذج "التعري" على صور الأولاد والرجال. وقد تم استخدام الصور الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تظهر فيها أطفال لتسهيل الاعتداء الجنسي على الأطفال، والاعتداء الجنسي الذي يرتكبه البالغون والابتزاز الجنسي، ويمكن أن تؤثر على الضحايا بشكل عميق، مما يؤدي إلى ظهور القلق والاكتئاب والأفكار الانتحارية.
استخدم المراهقون تطبيقات "التعري" لإنشاء صور جنسية صريحة لزميلاتهم في الفصل، وغالبًا ما يتشاركون هذه الصور في المحادثات الجماعية ووسائل التواصل الاجتماعي. وقالت الفتيات لـ Internet Matters إنهن يشعرن بالرعب والخجل ويخشين أن يعتقد المعلم أو الوالد أنهن حقيقيات.
يتضمن تقرير اليوم تفاصيل استطلاع رأي وطني أجرته مؤسسة Internet Matters وشمل 2,000 والد لأطفال تتراوح أعمارهم بين 3 و17 عامًا و1,000 طفل تتراوح أعمارهم بين 9 و17 عامًا في المملكة المتحدة، وأجرته مؤسسة Opinium في يونيو 2024. ويُظهر الاستطلاع ما يلي:
- لدى عدد كبير من الأطفال نوع ما من الخبرة مع التزييف العميق لصور عارية. بشكل عام، كان لدى 13% من الأطفال تجربة مع التزييف العميق لصور عارية (بما في ذلك إرسال أو استقبال واحدة، أو مواجهة التزييف العميق لصور عارية عبر الإنترنت، أو استخدام تطبيق للتعري أو شخص يعرفونه استخدم تطبيقًا للتعري). وهذا يعني أن حوالي نصف مليون (529,632) مراهق في المملكة المتحدة، أو 4 مراهقين في فصل مكون من 30 طالبًا، لديهم تجربة مع التزييف العميق لصور عارية.
- المراهقون الأولاد (18%) هم أكثر عرضة بمرتين من الفتيات المراهقات (9%) للإبلاغ عن تجربة مع صور عارية مزيفة، ومع ذلك فإن الأولاد أكثر عرضة لأن يكونوا منشئي صور عارية مزيفة، والفتيات أكثر عرضة لأن يكونوا ضحايا.
- الأولاد والأطفال المعرضون للخطر هم أكثر عرضة للتفاعل مع مقاطع فيديو مزيفة عارية. 10% من الأولاد الذين تتراوح أعمارهم بين 13 و17 عامًا صادفوا مقاطع فيديو مزيفة عارية عبر الإنترنت، مقارنة بنحو 2% من الفتيات في نفس العمر. ربع الأطفال المعرضين للخطر لديهم تجربة مع مقاطع فيديو مزيفة عارية، مقارنة بنحو 11% من الأطفال غير المعرضين للخطر.
- يرى المراهقون أن إساءة استخدام الصور المزيفة العارية أسوأ من إساءة استخدام الصور التي تحتوي على صور حقيقية. يعتقد أكثر من نصف المراهقين (55%) أن إنشاء صور عارية مزيفة لهم ومشاركتها سيكون أسوأ من صورة حقيقية.
- لا تمتلك معظم العائلات أي فهم لماهية التزييف العميق، حيث يقول ما يقرب من ثلثي الأطفال (61%) وما يقرب من نصف الآباء (45%) إنهم لا يعرفون أو يفهمون مصطلح "التزييف العميق".
- تريد العائلات من الحكومة وشركات التكنولوجيا بذل المزيد من الجهود لمعالجة مشكلة التعري العميق. يعتقد 84% من المراهقين و80% من الآباء أن أدوات التعري يجب حظرها على الجميع في المملكة المتحدة، بما في ذلك البالغين.
- كما تتفق الأسر على أن هناك حاجة إلى مزيد من التعليم حول موضوع التزييف العميق. فقد تم تعليم 11% فقط من المراهقين عن التزييف العميق في المدرسة، و6% فقط عن التزييف العميق للعراة. وتشعر الغالبية العظمى من المراهقين (92%) والآباء (88%) أنه يجب تعليم الأطفال عن مخاطر التزييف العميق في المدرسة.
ويدعو التقرير إلى تشريعات جديدة واتخاذ إجراءات من جانب الصناعة لحماية الأطفال من الاعتداءات الجنسية المزيفة، ويزعم أنه لا يمكن أن نتوقع من الآباء والمدارس أن يحموا الأطفال بمفردهم. ويدعو التقرير إلى اتخاذ إجراءات، بما في ذلك:
- تسعى الحكومة إلى حظر أدوات التعري كأولوية في هذا البرلمان وتعزيز قانون السلامة على الإنترنت من خلال مدونات الممارسات المتعلقة بالأذى القائم على النوع الاجتماعي وإساءة معاملة الأطفال.
- شركات التكنولوجيا ستتخذ إجراءات أكثر حزما من خلال إزالة الوصول إلى أدوات التعري على محركات البحث ومتاجر التطبيقات.
- سيتم تحديث المنهج الوطني لدمج تدريس محو الأمية الإعلامية النقدية.
تزامنًا مع ودعم تقرير اليوم، تطلق Internet Matters موارد جديدة تتضمن نصائح الخبراء للآباء والأمهات حول حماية الأطفال من التزييف العميق.
قالت كارولين بونتينج، الحائزة على وسام الإمبراطورية البريطانية، والرئيسة التنفيذية المشاركة لشركة إنترنت ماترز:
"لقد أتاح الذكاء الاصطناعي إنتاج صور مزيفة للغاية للأطفال بنقرة زر واحدة. إن الصور المزيفة العارية تشكل غزوًا عميقًا لاستقلالية الجسد وكرامته، وقد يكون تأثيرها مدمرًا للحياة. ومع تركيز أدوات التعري بشكل كبير على الإناث، فإنها تخلف تأثيرًا غير متناسب على الفتيات.
"أخبرنا الأطفال عن مخاوفهم من أن يحدث لهم هذا دون علمهم ومن قبل أشخاص لا يعرفونهم. إنهم يرون أن إساءة استخدام الصور المزيفة تشكل انتهاكًا أكبر لأنها خارجة عن سيطرتهم.
"قد يتعرض أي شخص لانتهاكات الصور المزيفة في أي وقت. ولا ينبغي ترك الآباء وحدهم للتعامل مع هذه القضية المثيرة للقلق. لقد حان الوقت لكي تتخذ الحكومة والصناعة إجراءات لمنع ذلك من خلال اتخاذ إجراءات صارمة ضد الشركات التي تنتج وتروج لهذه الأدوات المستخدمة في إساءة معاملة الأطفال".
