ما هو التزييف العميق؟

ما هو التزييف العميق؟

النوعان الرئيسيان من التزييف العميق هما الفيديو والصوت. يتلاعب التزييف العميق بالفيديو بمظهر الشخص بينما يتلاعب التزييف العميق بالصوت.

غالبًا ما تعمل مقاطع الفيديو والصوت المزيفة معًا لإنشاء محتوى مضلل. قد يكون لدى الأشخاص الذين ينشئون هذا المحتوى المزيف نوايا بريئة. على سبيل المثال، قد يصنعون مقطع فيديو لشخصية مشهورة تؤدي رقصة مضحكة لإضحاك الناس. ومع ذلك، حتى أفضل النوايا يمكن أن تؤدي إلى معلومات مضللة وارتباك.

ما هي مقاطع الفيديو المزيفة؟

تعد مقاطع الفيديو المزيفة هي النوع الأكثر شيوعًا. يستخدم الأشخاص الذين يصنعون هذه المقاطع الذكاء الاصطناعي استبدال وجه شخص ما أو جسده في لقطات فيديو موجودة. ومن الأمثلة على ذلك جعل أحد المشاهير يقول شيئًا مثيرًا للجدل أو مذيع أخبار يقدم قصصًا ملفقة.

في بعض مقاطع الفيديو المزيفة، يقوم ممثل صوتي بتقليد صوت المشاهير أو الصوت الأصلي لتوفير الصوت الجديد. أو قد يستخدم صانع الصوت أيضًا استنساخ الصوت.

ما هو استنساخ الصوت؟

استنساخ الصوت، أو التزييف الصوتي العميق، يتلاعب بالأصوات بدلاً من الفيديو ليبدو وكأنه شخص آخر. تستخدم عملية احتيال شائعة بشكل متزايد استنساخ الصوت لاستهداف الأشخاص. بالنسبة للآباء، قد يتلقون مكالمة محمومة من طفلهم الذي يحتاج إلى المال لغرض معين على الفور. هذه الاحتيالات مقنعة للغاية وقد أدت إلى خسارة مالية.

يمكن لأي شخص أيضًا استخدام مقطع صوتي مزيف للتنمر على شخص آخر. على سبيل المثال، يمكنه تقليد صوت زميل في الفصل ليبدو الأمر وكأنه قال شيئًا لم يقله.

بغض النظر عن نوع التزييف العميق، من المهم أن تتذكر أن شخصًا ما يحتاج إلى استخدام أداة الذكاء الاصطناعي لإنشائه. لا يكون منشئو التزييف العميق واضحين دائمًا، لكن الذكاء الاصطناعي لا ينشئ هذا المحتوى تلقائيًا.

ما هي الأضرار المحتملة؟

يمكن أن تؤثر المواد المزيفة على الأشخاص بعدة طرق، وقد تترك الأطفال والشباب عرضة للأذى عبر الإنترنت.

قد يجد الأطفال والشباب صعوبة في التعرف على مقاطع الفيديو والصوت المزيفة، خاصة مع تطور التكنولوجيا. بالإضافة إلى ذلك، قد يعني تزايد إمكانية الوصول إلى أدوات الذكاء الاصطناعي أن المزيد من الأشخاص يمكنهم إنشاء مقاطع فيديو مزيفة. وبالتالي، يمكن أن يؤدي هذا إلى زيادة نطاق الأضرار المحتملة.

معلومات كاذبة ودعاية

يمكن لمستخدمي الإنترنت استخدام التزييف العميق من أجل:

• نشر معلومات كاذبة؛
• تدمير الثقة في الشخصيات العامة؛ أو
• التلاعب بالمحادثات حول السياسة وغيرها من القضايا المهمة.

لا يزال الأطفال في مرحلة تطوير مهارات التفكير النقدي، لذا فهم معرضون بشكل خاص لتصديق هذا النوع من المعلومات.

الضرر بالسمعة

تربط بعض التقارير مقاطع الفيديو المزيفة بالمواد الإباحية الانتقامية. وفي هذه الحالات، يقوم الجاني بإضافة الضحية إلى محتوى مسيء مثل مقاطع الفيديو أو الصور الإباحية.

قد يستخدم الجاني هذه المقاطع المزيفة لإكراه الضحايا. وقد يشمل هذا مطالبتهم بالدفع أو إرسال صور حقيقية لمنعهم من نشر المقاطع المزيفة على نطاق أوسع.

ما هو الابتزاز الجنسي؟

تعرف على المزيد حول الإكراه الجنسي للأطفال عبر الإنترنت.

التنمر الإلكتروني والتحرش والإساءة

قد يستخدم الجناة أيضًا مقاطع فيديو مزيفة لتخويف الآخرين من خلال إنشاء مقاطع فيديو تهدف إلى السخرية منهم أو ترهيبهم أو إحراجهم.

قد تؤدي طبيعة التزييف العميق إلى جعل التنمر أكثر شدة بالنسبة للضحية، بل قد يصل الأمر إلى حد السلوك المسيء.

تعرف على الاعتداء الجنسي على الأطفال عبر الإنترنت

احصل على التوجيه للآباء والمعلمين والشباب.

A تقرير مؤسسة مراقبة الإنترنت لعام 2023 حذرت من زيادة مواد الاعتداء الجنسي على الأطفال التي تم إنشاؤها بواسطة الذكاء الاصطناعي (CSAM). وقد حددوا أكثر من 20,000 ألف صورة من هذه الصور المنشورة على أحد إنترنت مظلم منتدى CSAM على مدى شهر واحد. وقد حكموا على أكثر من نصف هؤلاء بأنهم "من المرجح أن يكونوا إجراميين".

ورغم أن هذا الرقم لا يشمل مقاطع الفيديو المزيفة، تقول مؤسسة مراقبة الإنترنت إن "محتوى الفيديو الواقعي بالحركة الكاملة سيصبح شائعًا". كما تشير المؤسسة إلى أن مقاطع الفيديو القصيرة التي تم إنشاؤها بواسطة الذكاء الاصطناعي موجودة بالفعل. "ستصبح هذه المقاطع أكثر واقعية وانتشارًا".

الخسارة المالية والاحتيال

تتسبب بعض عمليات الاحتيال المتعلقة بتقليد الأصوات أو استنساخها في خسارة الضحايا للمال. كما تم استخدام صور بعض الشخصيات العامة للترويج للاستثمارات الاحتيالية.

ومن الأمثلة على ذلك YouTuber Mr Beast، الذي بدا وكأنه يقدم لمتابعيه محتوى جديدًا iPhoneلكن في الواقع، لم يكن هو. يوتيوب شائع بين الأطفال والمراهقين. لذا، فإن مقاطع التزييف العميق التي تحاكي منشئي المحتوى المفضلين لديهم قد تجعلهم عرضة لهذه الاحتيالات.

عرض نص الفيديو

حسنًا، لنتحدث عن التكنولوجيا، فالذكاء الاصطناعي يُغذي طفرةً في الجرائم الإلكترونية. من المتوقع أن تصل تكلفتها إلى 8 تريليونات دولار هذا العام، أي أكثر من اقتصاد اليابان وفقًا لتقديرات خبراء الأمن السيبراني. أكبر مُستخدمي يوتيوب في العالم من بين أولئك الذين تلاعب الذكاء الاصطناعي بصورهم الفيديوية للترويج لعملية احتيال، وحتى... BBC المقدمون ليسوا بمنأى عن هذا. ألقوا نظرة على هذا: لم يعد المقيمون البريطانيون بحاجة إلى العمل، هذا ما أعلنه ضيفنا اليوم، إيلون ماسك. سيكشف عن مشروع استثماري جديد أثناء تشغيل شبكة الإنترنت. سأخبركم المزيد عن هذا المشروع الذي يفتح فرصًا جديدة للبريطانيين لتحقيق عائد استثماري. تم استثمار أكثر من ثلاثة مليارات دولار في المشروع الجديد، وهو قيد التشغيل حاليًا.

غريب، أليس كذلك؟ يبدو الأمر مثلي، يبدو مثلي، قد تقول. من الصعب نوعًا ما، أليس كذلك، أن تفهم هذا؟ ولهذا تحدثت إلى ستيفاني هير، وهي خبيرة مستقلة في مجال التكنولوجيا، كما ينبغي لي أن أقول.

تجري مقابلة مع ستيفاني هير، الخبيرة المستقلة في مجال التكنولوجيا، حول صعوبة اكتشاف مقاطع الفيديو المزيفة.

يقول هير: "يجد الكثيرون صعوبة بالغة في اكتشاف هذه الأمور. ولست أول من يفعل ذلك، ولا أعتقد أنك ستكون الأخير، للأسف، لأنه لا يوجد ما يمنع حدوثه. ولا توجد أي لوائح تُحاسب أي شخص. لست متأكدًا ممن ستستفيد منه إذا أردت مقاضاة شخص ما على سبيل المثال. والآن، لننتقل إلى..." Facebook وقالوا إنكم بحاجة لحذف هذا، إنه مُزيف، وقد فعلوا ذلك... لقد فعلوا ذلك، وما زالت ميتا تفعل ذلك منذ ذلك الحين. ومع ذلك، هناك الكثير من مقاطع الفيديو المُزيفة التي تُشير إلى عمليات احتيال، والقلق هو أن الناس يُنفقون أموالهم ظنًا منهم أنها حقيقية، وهذا هو القلق، كيف يُميز الناس بين الحقيقي والمُزيف؟

"بصراحة، لست متأكدًا من محاولة الحكم على ذلك من خلال القيود الفنية لأننا تمكنا من رؤية أن هناك بعض الأشياء غير الصحيحة حتى مع مقطع الفيديو الخاص بك. لقد أوضحت تمامًا أنه غير شرعي. ما تريد فعله حقًا هو أن تسأل نفسك عما إذا كان الأمر يبدو جيدًا لدرجة يصعب تصديقها، فمن المحتمل أن يكون كذلك. إذا بدا الأمر غريبًا بعض الشيء، فمن المحتمل أن يكون كذلك. حسنًا، لا يوجد شيء مثل الغداء المجاني."

"بالتأكيد لا يوجد، وقد غردت أو شاركت مقالاً حول هذا الموضوع كتبه BBC هذا ما يقدم لك نصائح حول كيفية اكتشاف مقاطع الفيديو المزيفة.

إغلاق الفيديو

أفضل طريقة للحفاظ على سلامة الأطفال عبر الإنترنت هي تزويدهم بالأدوات اللازمة لاكتشاف الأذى والحصول على الدعم. وإليك كيف يمكنك مساعدتهم في التعامل مع مقاطع الفيديو المزيفة.