هل يوجهك الذكاء الاصطناعي نحو قرارات أسوأ؟ دراسة تكشف عن انحياز خفي

كشفت دراسة حديثة أجراها باحثون من جامعتي هونغ كونغ وتسينغهوا عن وجود انحياز خفي في توصيات الذكاء الاصطناعي، قد يؤثر بشكل كبير على قرارات البشر ويدفعهم نحو خيارات أقل فائدة، على الرغم من استمرارهم في اعتبار هذه المساعدات الذكية أدوات قيمة. شملت التجربة 233 مشاركًا، وركزت على تأثير نصائح الذكاء الاصطناعي في مواقف مالية وعاطفية. وأظهرت النتائج أن المشاركين اتخذوا قرارات أقل ملاءمة لهم بمعدلات تتراوح بين خمسة وثمانية أضعاف في بعض ظروف التجربة، مقارنة بالظروف التي لم تتأثر بهذا الانحياز، وذلك وفقًا للدراسة المنشورة في مجلة الأكاديمية الوطنية الأمريكية للعلوم (PNAS).

انحياز بسيط يغير الاختيارات:

اختبر الباحثون تأثير التوجيه غير المعلن في نصائح الذكاء الاصطناعي نحو قرارات أقل فائدة للمستخدم، مع الحفاظ على مظهر النصائح المعتادة. وقد تبين أن تعديلًا محدودًا في صياغة التوصيات كان كافيًا لتغيير اختيارات المشاركين بشكل ملحوظ، حيث ارتفع احتمال اتخاذ قرار غير مثالي بنسبة تصل إلى 38%، اعتمادًا على الموقف. لم يتطلب هذا التأثير ضغطًا مباشرًا أو ترويجًا متكررًا لمنتج معين، بل نشأ من تغييرات طفيفة في صياغة النصائح واتجاهها، مما دفع المستخدم نحو خيار محدد دون توضيح الأسباب.

المشاركون لم يلاحظوا التأثير بالضرورة:

أظهرت الدراسة أن المشاركين استمروا في تقييم المساعدة التي يقدمها الذكاء الاصطناعي بدرجة عالية، حتى عندما قادهم إلى قرارات أقل ملاءمة لمصالحهم. وظلوا ينظرون إلى المساعد الذكي كمحاور مفيد، دون إدراك تأثير توصياته على اختياراتهم. وتسلط هذه النتائج الضوء على تحديات الثقة في أنظمة الذكاء الاصطناعي، حيث يمكن أن تبدو ردودها موضوعية ومتسقة، بينما تؤثر طريقة صياغتها على قرارات المستخدم.

مخاوف بشأن المصالح التجارية:

تؤكد نتائج الدراسة على أهمية الانتباه إلى احتمال توجيه توصيات الذكاء الاصطناعي لخدمة مصالح تختلف عن مصالح المستخدم. فعلى سبيل المثال، يمكن نظريًا ضبط نظام ذكي لتشجيع المستخدمين بصورة غير مباشرة على شراء منتج معين أو اختيار مورد محدد، مع تقديم التوصية كـنصيحة محايدة. وتزداد هذه المخاوف مع تزايد اعتماد المستخدمين على أدوات الذكاء الاصطناعي للحصول على المعلومات والمشورة في مجالات حيوية كالمعاملات المالية والعلاقات الشخصية. وتشير الدراسة إلى أن تقييم المساعد الذكي يجب أن يشمل مدى حياد توصياته ووضوح المصالح الكامنة وراءها، وليس فقط مدى فائدة إجاباته أو رضا المستخدم عنها.

تستند الدراسة إلى تجربة بحثية شارك فيها 233 شخصًا، وركزت على تأثير التحيز غير المعلن في توصيات الذكاء الاصطناعي على قرارات بشرية في سياقات مالية وعاطفية. ونُشرت النتائج في مجلة PNAS، المعروفة باسم الأكاديمية الوطنية الأمريكية للعلوم.