تنتشر على الإنترنت مقاطع فيديو واقعية بشكل كبير تُظهر نساءً يرتدين البكيني ويُجرين مقابلات في الشارع، مما يثير تعليقات بذيئة. لكن الحقيقة هي أن هذه المقاطع مزيفة، تم إنتاجها بواسطة الذكاء الاصطناعي بهدف إغراق وسائل التواصل الاجتماعي بمحتوى متحيز جنسياً.
هذا المحتوى الرديء، الذي يتم إنتاجه بكميات كبيرة باستخدام أدوات ذكاء اصطناعي منخفضة الجودة، غالباً ما يطغى على المنشورات الأصلية ويُضعف التمييز بين الواقع والخيال.
وقد أدى هذا الاتجاه إلى ظهور شريحة من المؤثرين الذين ينتجون محتوى جنسياً بطريقة غير احترافية، مدفوعين بالحوافز التي تقدمها المنصات التي تكافئ المحتويات واسعة الانتشار على شبكات التواصل الاجتماعي.
تنتشر مقاطع الفيديو المنتجة بواسطة الذكاء الاصطناعي، والتي تتضمن فكاهة بذيئة وتُظهر محاورات مزعومات شبه عاريات في شوارع الهند أو المملكة المتحدة.
وجد فريق خدمة تقصّي صحّة الأخبار في وكالة فرانس برس مئات من هذه الفيديوهات على إنستغرام، بما في ذلك الكثير باللغة الهندية، تُظهر ذكوراً يُجرى معهم مقابلات يُطلقون تعليقات معادية للنساء ومتحيزة جنسياً، بل ويحاولون أحياناً الإمساك بالنساء، بينما يتفرج حشد من الرجال أو يضحكون في الخلفية.
حظيت هذه المقاطع بعشرات الملايين من المشاهدات، واستغل البعض هذا الإقبال عليها مادياً من خلال الترويج لتطبيق مراسلة للبالغين يهدف إلى "تكوين صداقات جديدة".
أُنشئت هذه المقاطع باستخدام مُولّد الذكاء الاصطناعي "فيو 3" (Veo 3) من غوغل، والمعروف بصوره الشديدة الواقعية، وفقاً لما ذكرته شركة الأمن السيبراني الأميركية "غِت ريل سيكيوريتي" في تحليلٍ حصلت وكالة فرانس برس على نسخة منه.
وقالت عالمة النفس المتخصصة في الشؤون السيبرانية المقيمة في الهند نيرالي بهاتيا لوكالة فرانس برس إن "كراهية النساء، التي كانت عادة تبقى محصورة في غرف الدردشة والمجموعات، أصبحت الآن مُقنّعة في شكل صور مُولّدة بواسطة الذكاء الاصطناعي". وأضافت "هذا جزء من التحيزات الجنسية التي يُحدثها الذكاء الاصطناعي وهو يُغذّي التحيز الجنسي".
تغرق شبكات التواصل الاجتماعي الآن بشكل متزايد في كم هائل من الميمات والفيديوهات والصور المُولّدة بواسطة الذكاء الاصطناعي والتي تُنافس المحتوى الأصلي على جذب الانتباه.
ورأت إيمانويل صليبا من "غِت ريل سيكيوريتي" أنه "إنترنت اليوم". ولاحظت أن "المحتوى المُتواضع المُولّد بواسطة الذكاء الاصطناعي، وأي نوع من المحتوى غير المُصنّف المولّد بواسطة الذكاء الاصطناعي، يُقوّض ببطء الثقة الضئيلة التي لا تزال قائمة بالمحتوى المرئي".
وتُسهب مقاطع فيديو من حساب شهير على تيك توك في تعداد ما قد تفعله "فتيات جامحات" للحصول على المال.
وتُستهدف النساء أيضاً بواسطة حيَل لجذب الانتباه مقلقة مُولّدة بواسطة الذكاء الاصطناعي. وقد تتبع فريق تقصّي صحّة الأخبار في وكالة فرانس برس الانتشار الواسع لمقاطع فيديو تُظهر مدربة حوت مزيفة تُدعى "جيسيكا رادكليف" تتعرض لهجوم قاتل من حوت قاتل خلال عرض في حديقة مائية.
وانتشر المقطع المُفبرك عبر منصات عدة، من بينها تيك توك وفيسبوك وإكس، ما أثار تعاطفاً واسعاً من مستخدمين من مختلف أنحاء العالم أعربوا عن حزنهم لمقتل المرأة التي اعتقدوا أنها حقيقية.
في العام المنصرم، اكتشف مدير مبادرة الأمن والثقة والسلامة Security, Trust, and Safety في جامعة كورنيل للتكنولوجيا أليكسيوس مانتزارليس 900 حساب على إنستغرام لـ"عارضات أزياء" يُحتمل أنهن من إنتاج الذكاء الاصطناعي، معظمهن شبه عاريات.
واستقطبت هذه الحسابات المزيفة 13 مليون متابع ونشرت أكثر من 200 ألف صورة، وعادةً ما تُحقق الربح من جمهورها من خلال إعادة توجيههم إلى منصات تجارية لمشاركة المحتوى.
ومع انتشار المحتوى المزيف المُولّد بواسطة الذكاء الاصطناعي، رأى مانتزارليس في حديث لوكالة فرانس برس أن "الأرقام قد تكون أعلى بكثير اليوم". وأضاف "توقعوا رؤية المزيد من المحتوى السخيف الذي يستغل معايير الجسد، وهي (…) غير حقيقية" كلياً.
ويقدم كثر من منشئي المحتوى على يوتيوب وتيك توك دورات مدفوعة الأجر حول كيفية تحقيق الدخل من المحتوى الواسع الانتشار المُولّد بواسطة الذكاء الاصطناعي.
وسعت بعض المنصات إلى اتخاذ إجراءات صارمة ضد الحسابات التي تُروّج لمحتوى رديء الجودة.
وأعلنت يوتيوب أخيراً أن منشئي المحتوى "المزيف" و"المُنتَج بكميات كبيرة" لن يكونوا مؤهلين لتحقيق الدخل بعد الآن.
وقالت مستشارة الذكاء الاصطناعي ديفيندرا جادون لوكالة فرانس برس "الذكاء الاصطناعي لا يخترع كراهية النساء. إنه يعكس ويُضخّم ما هو موجود أصلا". وأضافت "إذا كافأ الجمهور هذا النوع من المحتوى بملايين علامات الإعجاب، فستستمر الخوارزميات ومنشئو الذكاء الاصطناعي في إنتاجه. المعركة الأهم ليست تكنولوجية فحسب، بل اجتماعية وثقافية أيضاً".