فلسطين
تكنولوجيا

مخاطر الدمى الذكية: اختبار أميركي يكشف تقديم محتوى عنيف وغير ملائم للأطفال

شهاب١٩ تشرين الثاني ٢٠٢٦ في ١١:٠٥ م0 مشاهدة
مخاطر الدمى الذكية: اختبار أميركي يكشف تقديم محتوى عنيف وغير ملائم للأطفال

تنويه

هذا الخبر بعنوان "دمى الذكاء الاصطناعي للأطفال تقدم إجابات صادمة ومحتوى غير مناسب" نشر أولاً على موقع شهاب وتم جلبه من مصدره الأصلي بتاريخ ١٩ تشرين الثاني ٢٠٢٦.

لا يتحمل موقعنا مضمونه بأي شكل من الأشكال. بإمكانكم الإطلاع على تفاصيل هذا الخبر من خلال مصدره الأصلي.

كشفت تجربة أجرتها شبكة «إن بي سي» الأميركية عن مشكلات مقلقة في مجموعة من الدمى المخصصة للأطفال والمزودة بتقنيات الذكاء الاصطناعي، حيث قدمت هذه الألعاب إجابات ومعلومات غير ملائمة لأعمار مستخدميها، تضمنت أوصافاً تفصيلية لجرائم ووقائع دموية من التاريخ.

وأظهرت التجربة أن بعض هذه الألعاب، التي تُسوّق كأدوات تعليمية وترفيهية آمنة للأطفال دون سن الثالثة، لا تلتزم دائماً بالضوابط اللازمة لحماية الصغار من المحتوى غير المناسب، رغم تصميمها للتفاعل معهم وسرد القصص ومساعدتهم على التعلم. وقد شملت الاختبارات ثلاثة أنواع من الدمى، وهي «Pixie Paws Smart» التابعة لشركة «Contexto»، و«Lizzy AI Companion» من شركة «Smile»، و«BB Hoo» من إنتاج «VTech»، حيث ظهرت مشكلات مختلفة في طريقة استجابتها لأسئلة المستخدمين.

إجابات دموية وأخطاء تعليمية

وبحسب نتائج الاختبار، تفاوتت أوجه الخلل بين الألعاب الثلاث، إذ قدمت بعضها روايات تفصيلية ومبالغاً فيها عن جرائم تاريخية وحروب، تضمنت وصفاً لمشاهد إصابات وجروح لا تتناسب مع الفئة العمرية المستهدفة. وفي إحدى التجارب، أبدت دمية «Pixie Paws Smart» استعداداً لمواصلة الحديث عن الفظائع التاريخية وتقديم تفاصيل إضافية، مما دفع الفريق القائم على الاختبار إلى إيقاف المحادثة.

ولم تقتصر المشكلات على المحتوى العنيف، إذ رصد الاختبار أخطاء في تهجئة الكلمات لدى بعض الدمى، رغم تسويقها لمساعدة الأطفال على تطوير مهارات التعلم واللغة. كما انتقلت إحدى الألعاب تلقائياً بين اللغة الإنجليزية والماندرينية أثناء المحادثة، في مؤشر على وجود مشكلات في جودة النموذج اللغوي المستخدم وآلية معالجة الإجابات.

مخاوف تتجاوز الخصوصية إلى سلامة الأطفال

وكانت المخاوف المتعلقة بخصوصية الأطفال من أبرز الانتقادات التي صاحبت انتشار الألعاب المعززة بالذكاء الاصطناعي، نظراً إلى اعتمادها على تسجيل المحادثات ومعالجة البيانات عبر نماذج تابعة لشركات تختلف سياساتها بشأن جمع المعلومات وحفظها واستخدامها. لكن نتائج الاختبار الأميركي سلطت الضوء على جانب آخر من المخاطر، يتعلق بقدرة هذه الألعاب على إنتاج محتوى غير مناسب، أو تقديم معلومات خاطئة خلال تفاعلها المباشر مع الأطفال.

وتزداد حساسية هذه المشكلة عندما تكون الألعاب موجهة إلى أطفال صغار لا يمتلكون القدرة على التمييز بين المعلومات الصحيحة والمضللة، أو تقييم طبيعة المحتوى الذي تقدمه لهم.

انتقادات متكررة للألعاب المدعومة بالذكاء الاصطناعي

ولا تمثل هذه النتائج أول تحذير من مخاطر الدمى الذكية، إذ سبق أن أثارت مجموعة أبحاث المصلحة العامة الأميركية المعنية بسلامة المستهلك مخاوف بشأن ألعاب محشوة تعتمد على الذكاء الاصطناعي، بعد رصد محادثات تضمنت محتوى غير مناسب للأطفال. كما أشار تقرير نشره موقع «بيزنس إنسايدر» إلى حالات أخفقت فيها بعض الألعاب في مهام تعليمية بسيطة، وقدمت إجابات مثيرة للجدل بشأن موضوعات سياسية ومعلومات تاريخية.

وفي المقابل، لا تقدم شركات الذكاء الاصطناعي الكبرى، مثل «أوبن إيه آي» و«أنثروبيك»، دمى مخصصة للأطفال الصغار تعتمد مباشرة على نماذجها، إذ تتركز منتجاتها المتاحة في تطبيقات وأدوات رقمية تخضع لقيود عمرية وسياسات استخدام مختلفة.

أدى انتشار الذكاء الاصطناعي التفاعلي إلى ظهور جيل جديد من الألعاب التي تستطيع إجراء محادثات والتفاعل مع الأطفال بصورة تحاكي التواصل البشري. وتثير هذه التطورات تساؤلات بشأن مسؤولية الشركات المصنعة عن اختبار الألعاب قبل طرحها، وضرورة وضع ضوابط تمنع وصول الأطفال إلى المحتوى العنيف أو المضلل، إلى جانب توفير ضمانات واضحة لحماية بياناتهم الشخصية.

شارك الخبر: