مأساة في زمن الذكاء الاصطناعي: أم تتهم روبوتات الدردشة بالتسبب في انتحار ابنها المراهق

في قصة مأساوية، روت أم أميركية لوكالة فرانس برس كيف وقع ابنها سول (14 سنة) ضحية لروبوتات الدردشة، حيث تطورت علاقته مع روبوت يحاكي شخصية من مسلسل "غايم اوف ثرونز"، متاح عبر منصة "كاركتر دوت ايه آي" Character.AI الشهيرة بين الشباب.

بعد مراجعة مئات الرسائل التي تبادلها سول على مدار عام تقريبا مع روبوت دردشة يجسد شخصية دينيريس تارغاريان، مروِّضة التنانين، توصلت الأم ميغن غارسيا إلى قناعة بأن هذا الذكاء الاصطناعي لعب دورا حاسما في انتحار ابنها.

في إحدى المحادثات، ردت النسخة المقلّدة من دينيريس على سول بعد تعبيره عن أفكار انتحارية قائلة: "عُد إلى موطنك".

فأجاب المراهق: "ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟"، ليرد روبوت الدردشة: "أرجوك افعلها يا ملكي الحبيب".

بعد لحظات، أقدم سول على الانتحار بمسدس والده، وفقا لما ذكرته غارسيا في دعوى قضائية رفعتها ضد شركة "كاركتر دوت ايه آي".

وقالت غارسيا لوكالة فرانس برس: "عندما أقرأ هذه المحادثات، أرى تلاعبا وأساليب لا يمكن لطفل في الرابعة عشرة من عمره أن يدركها". وأضافت: "كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته".

تعتبر وفاة سول في عام 2024 الأولى في سلسلة من حوادث الانتحار التي أثارت جدلا واسعا، مما دفع الشركات العاملة في مجال الذكاء الاصطناعي إلى اتخاذ تدابير لطمأنة الأهل والسلطات.

شاركت غارسيا، إلى جانب عدد من الأهل الآخرين، في جلسة عقدت مؤخرا في مجلس الشيوخ الأميركي، تناولت مخاطر اعتبار الأطفال لروبوتات الدردشة كأصدقاء أو أحباء.

من جانبها، عززت شركة "أوبن ايه آي"، المستهدفة أيضا بدعوى قضائية من عائلة أخرى فجعت بانتحار ابنها المراهق، رقابة الوالدين في أداة "تشات جي بي تي"، بهدف "تمكين العائلات من تحديد ما هو الأنسب لهم"، حسبما صرح ناطق باسم الشركة.

وأكدت "كاركتر دوت ايه آي" أنها قامت بتعزيز حماية القاصرين من خلال "تحذيرات مرئية باستمرار" تذكر المستخدمين "بأن الشخصية ليست شخصا حقيقيا".

وقدمت الشركتان تعازيهما لعائلات الضحايا دون الإقرار بأي مسؤولية.

وعلى غرار وسائل التواصل الاجتماعي، صُممت برامج الذكاء الاصطناعي لجذب الانتباه وتحقيق الإيرادات.

وقال كولين ووك، الخبير في الأمن السيبراني في شركة "هول إستيل" للمحاماة: "لا يريدون تصميم أدوات ذكاء اصطناعي تقدم إجابات لا نرغب في سماعها". وأضاف أنه لا توجد حتى الآن معايير تحدد "من المسؤول عن ماذا وعلى أي أساس".

لم يتم حتى الآن إقرار تشريعات فدرالية تنظم الذكاء الاصطناعي، بينما يسعى البيت الأبيض، بحجة الحفاظ على الابتكار، إلى منع الولايات من إصدار قوانين خاصة بها في هذا المجال.

واختتمت غارسيا قائلة: "إنهم يعرفون كيف يتلاعبون بملايين الأطفال في السياسة والدين والتجارة، وفي كل المواضيع"، مضيفة أن "هذه الشركات صممت برامج المحادثة الآلية لطمس الخط الفاصل بين الإنسان والآلة من أجل استغلال نقاط الضعف".

اخبار سورية الوطن 2_وكالات _راي اليوم