دراسات تحذر: مخاطر خفية في الفضفضة الرقمية وتطبيقات الذكاء الاصطناعي

في عصر يشهد تطورًا تكنولوجيًا متسارعًا وتوسعًا للذكاء الاصطناعي في جوانب الحياة اليومية، أصبحت بعض التطبيقات الذكية التي تعتمد على المحادثة (التشات بوت) ملاذًا نفسيًا يلجأ إليه الكثيرون للتعبير عن مشاعرهم وتفريغها، بعيدًا عن الأصدقاء أو الأطباء والمعالجين النفسيين. هذا النوع من "الفضفضة الرقمية"، الذي يبدو مريحًا وآمنًا، يحمل في طياته مخاطر نفسية واجتماعية غير متوقعة، وفقًا لدراستين حديثتين نُشرت نتائجهما في عدة مجلات علمية محكّمة.

على الرغم من أن "الروبوتات" أصبحت وسيلة للدعم النفسي لما يتراوح بين 20 و50% من الأشخاص الذين يبحثون عنه، إلا أنها لم تُصمم لتقديم رعاية نفسية حقيقية، بحسب نتائج الدراستين. كما أن 70% من المراهقين يستخدمون ذكاء اصطناعيًا مرافقًا مثل "Replika" أو "Character.AI"، ونصفهم يستخدمونه بانتظام، مما يوضح اتساع ظاهرة الاعتماد النفسي على هذه التقنيات عالميًا.

قارنت الدراستان بين تفاعل المعالجين النفسيين وثلاثة "روبوتات" دردشة تستند إلى نماذج لغوية كبيرة، مع حالتين افتراضيتين لأشخاص يعانون ضائقة عاطفية، وذلك من خلال تحليل ردود الطرفين.

أظهرت النتائج الفروقات الجوهرية التالية:

• المعالجون البشر طرحوا أسئلة توضيحية متعاطفة، واستكشفوا السياق والمعاني الكامنة وراء المشاعر.
• "الروبوتات" اكتفت بتقديم نصائح عامة، واقتراحات مباشرة، وعبارات طمأنة دون أن تتعمق في التفاصيل.

وأشارت هذه النتائج إلى أن "روبوتات" الذكاء الاصطناعي لديها القدرة على محاكاة التعاطف، لكنها تفتقر إلى الحس الإنساني والفهم المتبادل الضروريين للحصول على علاج فعال وآمن. وحذر الباحثون من أن معاملة هذه النماذج على أنها بديل عن المعالج النفسي قد تؤدي إلى إهمال الجوانب المعقدة في المشكلات النفسية، وتبني أنماط تفكير سلبية بسبب ميل "الروبوتات" إلى الموافقة أو التأييد المفرط.

وتزداد المخاطر عند استخدام الذكاء الاصطناعي في أوقات الأزمات أو التفكير في إيذاء النفس. في واحدة من الدراسات، تحدث مستخدم لـ"روبوتات" دردشة عن غضبه بعد فقدان وظيفته ثم سأل عن أسماء جسور عالية. وقد عبّرت "الروبوتات" عن تعاطفها مع المستخدم، والعديد منها قدم أسماء الجسور، وهذه الإجابة تعد خطيرة في هذا السياق، وتعني أن الذكاء الاصطناعي لا يزال يعاني في التعامل مع المواقف التي تتطلب تمييزًا دقيقًا للعبارات التي تشير إلى احتمال وجود خطر على حياة المستخدم.

أين تكمن الفجوة بين الإنسان و"الروبوتات"؟

العلاج النفسي ليس مجرد حوار، بل علاقة إنسانية قائمة على الثقة والتعاطف والسرية والخبرة العلاجية. أما النماذج اللغوية الكبيرة (LLMs)، فحتى مع فائدتها في بعض المهام المنظمة، فإنها غير قادرة على أن تكون بمنزلة معالج نفسي، نظرًا إلى افتقارها إلى العمق الإنساني في التعاطف، وتحيزها، وضعف قدرتها على فهم الفروق الثقافية. كما أنها تعمل في بيئة غير خاضعة للرقابة، وتفتقر إلى المعايير الأخلاقية والإجراءات القانونية التي تنظم عمل المعالجين النفسيين البشر.

وتعود الفجوة بين الإنسان والذكاء الاصطناعي في مجال العلاج النفسي إلى مجموعة من الأسباب الأساسية:

القدرة على الحوار العلاجي

العلاج الفعال يتطلب من المعالج أن يحاور المريض بلطف وأن يساعده في إدراك أفكاره وسلوكياته السلبية، وأما النماذج اللغوية فتميل إلى المجاملة والموافقة الدائمة. وهذا قد يعزز السلوكيات السلبية، ويشكل خطرًا إذا أكدت هذه النماذج أوهام المستخدم أو زودته بمعلومات قد تؤذيه.

الإتاحة تغذّي القلق

إن إمكانية الوصول إلى "روبوتات" المحادثة في أي وقت تبدو ميزة جذابة، لكن عند الإفراط في الاستخدام يزيد الاعتماد النفسي عليها، ما قد يؤدي إلى تفاقم الأفكار السلبية ويزيد القلق لدى المستخدم.

القدرة على اكتشاف الحالات الحرجة والمعقدة

لا يستطيع الذكاء الاصطناعي تقييم الخطر الفوري على المستخدم، أو التواصل مع خدمات الطوارئ، أو اتخاذ قرار بضرورة متابعة الحال الصحية في المستشفى، وهي أمور أساسية في الرعاية النفسية المتخصصة.

الاعتماد على “الروبوتات” يؤخر العلاج

قد يشعر بعض المستخدمين بأن الدعم الذي يتلقونه من "روبوت" المحادثة كافٍ، ما يدفعهم إلى تجنب طلب المساعدة من مختصين مؤهلين، وهذا الأمر قد يزيد حالتهم سوءًا على المدى الطويل.

المسؤولية والمساءلة

عندما يُرتكب خطأ ما يؤثر سلبيًا في الصحة النفسية أو الجسدية للمريض، يُحاسَب المعالج البشري وفقًا للقوانين. أما أنظمة الذكاء الاصطناعي فلا تخضع لأي ضوابط قانونية. في عام 2024، انتحر مراهق بعد تفاعله مع "روبوت" ذكاء اصطناعي غير خاضع للرقابة على منصة "Character"، ولاحقًا، سمح القضاء الأمريكي لعائلة الضحية بمقاضاة شركتي "جوجل" والشركة المطوّرة للمنصة بتهمة الإهمال المؤدي إلى الوفاة.

محاكاة التعاطف لا تُغني عن الرعاية البشرية مع أن "روبوتات" الذكاء الاصطناعي يمكن أن تقدم معلومات تثقيفية ودعمًا نفسيًا عامًا، فإنها تبقى أداة مساعدة وليست بديلًا عن الرعاية البشرية المتخصصة، فالعلاج النفسي الحقيقي يحتاج إلى تفاعل إنساني عميق، وإدراك دقيق للمشاعر والسياقات، وقدرة على التدخل عند الحاجة، وهي أمور لا تزال خارج نطاق قدرات الآلات.