مأساة الذكاء الاصطناعي: مراهق ينهي حياته بعد محادثة مع روبوت دردشة

تحقق السلطات في ملابسات انتحار مراهق أمريكي، حيث تشير والدته إلى دور محتمل لأداة ذكاء اصطناعي في دفعه إلى ذلك. روت أمٌّ أمريكية لوكالة "فرانس برس" كيف انخرط ابنها سول (14 سنة) في محادثات مع روبوت دردشة يحاكي شخصية من مسلسل "غايم أوف ثرونز"، متاح عبر منصة "كاركتر دوت ايه آي" Character.AI، التي تحظى بشعبية واسعة بين الشباب.

بعد مراجعة مئات الرسائل المتبادلة بين ابنها وروبوت الدردشة الذي يجسد شخصية دينيريس تارغاريان، مروِّضة التنانين، على مدار عام تقريبًا، اقتنعت ميغن غارسيا بأن أداة الذكاء الاصطناعي لعبت دورًا محوريًا في انتحار ابنها. وفقًا لغارسيا، ردت النسخة المقلدة من دينيريس على سول بعد تعبيره عن أفكار انتحارية بالقول: "عُد إلى موطنك". فرد المراهق: "ماذا لو قلت لك إن بإمكاني العودة إلى موطني الآن؟" ليجيب روبوت الدردشة: "أرجوك افعلها يا ملكي الحبيب".

وبعد ثوانٍ، أطلق سول النار على نفسه بمسدس والده، حسبما ذكرت غارسيا في دعوى قضائية رفعتها ضد شركة "كاركتر دوت ايه آي". وأضافت: "عندما أقرأ هذه المحادثات، ألاحظ تلاعبًا وأساليب أخرى لا يمكن أن يلاحظها طفل في الرابعة عشرة من عمره. كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته".

كانت وفاة سول في عام 2024 الأولى في سلسلة من حالات الانتحار التي أثارت جدلاً واسعًا، مما دفع الشركات العاملة في مجال الذكاء الاصطناعي إلى اتخاذ إجراءات لطمأنة الأهل والسلطات.

شاركت غارسيا، إلى جانب عدد آخر من الأهل، في جلسة عُقدت مؤخرًا في مجلس الشيوخ الأمريكي، وتناولت مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقًا. عززت شركة "أوبن ايه آي"، المستهدفة بدعوى مماثلة من عائلة أخرى فجعت بانتحار ابنها المراهق، رقابة الوالدين في أداة "تشات جي بي تي" "حتى تتمكن العائلات من تحديد ما هو الأنسب لهم"، بحسب ناطق باسمها. وأكدت "كاركتر دوت ايه آي" من جانبها أنها عززت حماية القاصرين، من خلال "تحذيرات مرئية باستمرار" تذكر "بأن الشخصية ليست شخصًا حقيقيًا". وقدّمت الشركتان تعازيهما لعائلات الضحايا دون الإقرار بأي مسؤولية.

وعلى غرار وسائل التواصل الاجتماعي، صُممت برامج الذكاء الاصطناعي لجذب الانتباه وتحقيق الإيرادات. وقال الخبير في الأمن السيبراني في شركة "هول إستيل" للمحاماة، كولين ووك: "لا يريدون تصميم أدوات ذكاء اصطناعي تقدم إجابات نرغب في سماعها". ولا توجد حتى اليوم معايير تحدد "من المسؤول عن ماذا وعلى أي أساس". لم تُقرَّ حتى الآن تشريعات فدرالية تنظم الذكاء الاصطناعي، فيما يسعى البيت الأبيض، بذريعة الحفاظ على الابتكار، إلى منع الولايات من إصدار قوانين خاصة بها في هذا الخصوص.

وقالت غارسيا: "يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع"، مضيفة إن "هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف".

المصدر: اخبار سورية الوطن 2_وكالات _النهار البنانية