تحذير من منظمة «كومون سينس»: منصة «جيميني إيه آي» من غوغل تشكل خطرًا على الأطفال

أطلقت منظمة كومون سينس ميديا، المعنية بتقديم النصح والإرشاد للأهالي والمدارس لضمان الاستخدام الآمن للتكنولوجيا ووسائل التواصل الاجتماعي، تحذيراً بشأن منصة «جيميني إيه آي» التابعة لشركة غوغل، مؤكدة أن خدماتها لا تلائم الأطفال على الرغم من إضافة بعض خصائص الحماية مؤخراً.

عيوب جوهرية ونقص في إجراءات السلامة:

أوضحت المنظمة أن منصة «جيميني» تمثل خطراً كبيراً على الأطفال، وذلك بسبب وجود عيوب أساسية في تصميمها وعدم كفاية إجراءات السلامة التي تتناسب مع أعمارهم. وأشارت إلى أن النسخ المخصصة للأطفال دون سن 13 عاماً أو تلك المزودة بحماية للمراهقين، تشبه إلى حد كبير النسخة الموجهة للبالغين مع بعض التحسينات الأمنية، إلا أنها ليست منصات مصممة خصيصاً للأطفال.

تجاهل الفروق العمرية:

اكتشفت المنظمة أن «جيميني» تعامل جميع الأطفال والمراهقين على نحو مماثل، متجاهلة الاختلافات الكبيرة في مراحل النمو، حيث يحتاج المستخدمون الأصغر سناً إلى توجيهات ومعلومات مختلفة عن المراهقين الأكبر سناً.

محتوى غير آمن ونصائح خطيرة:

نبهت «كومون سينس» إلى أن مرشحات الحماية في المنصة توفر حماية محدودة، لكنها لا تحول دون تعرض الأطفال لمحتوى غير لائق أو تعجز عن التعرف على أعراض الصحة النفسية الخطيرة. واعتبرت المنظمة أن «جيميني» هي أول منصة دردشة رئيسية تعمل بالذكاء الاصطناعي يستخدمها الأطفال دون سن 13 عاماً.

كما لفتت المنظمة إلى أن المنصة تقدم نصائح غير آمنة للصحة النفسية، وقد تُفسر أحياناً على أنها تشجع على إيذاء النفس أو الانتحار. إضافة إلى ذلك، تسهل المنصة تداول مواد غير لائقة وغير آمنة للأطفال، بما في ذلك الإشارات إلى الكحوليات والمخدرات والمحتوى الجنسي.

تدعو منظمة «كومون سينس ميديا» الآباء والمربين إلى أخذ الحيطة والحذر عند السماح للأطفال باستخدام منصات الدردشة الذكية، خاصة تلك التي لم تصمم خصيصاً للفئات العمرية الصغيرة، وتشدد على ضرورة الإشراف والمتابعة الدقيقة لحماية الأطفال من أي محتوى غير مناسب أو ضار.