باحثون يكشفون "الصندوق الأسود" للذكاء الاصطناعي: نهج جديد لفهم قرارات الأنظمة الذكية

في واشنطن، أفادت وكالة سانا أن باحثين يعملون على ابتكار أساليب متطورة تهدف إلى فك شفرة آلية اتخاذ القرار لدى أنظمة الذكاء الاصطناعي. تهدف هذه الجهود إلى إزاحة الستار عما يُعرف بـ«الصندوق الأسود»، الذي يمثل الغموض المحيط بعمل العديد من نماذج التعلم الآلي المتقدمة التي تقدم نتائج دقيقة دون الكشف بسهولة عن الأسس المنطقية لقراراتها.

وبحسب ما أوردته صحيفة The Guardian، يعكف فريق بحثي في معهد ماساتشوستس للتكنولوجيا (MIT) على تطوير تقنيات مبتكرة تمكن أنظمة الذكاء الاصطناعي من تقديم تفسيرات أكثر وضوحاً لقراراتها. من شأن هذا التطور أن يعزز الثقة في هذه الأنظمة، خاصة مع تزايد الاعتماد عليها في قطاعات حيوية وحساسة كالطب، والنقل، ومجال البحث العلمي.

يعتمد هذا النهج الجديد على نموذج يُطلق عليه اسم «عنق الزجاجة المفاهيمي». فبدلاً من انتقال النظام مباشرة من البيانات الخام إلى النتيجة النهائية، يقوم أولاً بتحديد مجموعة من المفاهيم أو الخصائص التي يمكن للبشر استيعابها وفهمها، ثم يستند إليها في صياغة تنبؤاته واتخاذ قراراته.

يتيح هذا الأسلوب ربط مخرجات النظام بعوامل واضحة وقابلة للتفسير، مما يمكن المستخدمين والباحثين من فهم الأسباب الكامنة وراء قرارات الذكاء الاصطناعي بدقة ووضوح أكبر.

ويعتقد الباحثون أن هذه المقاربة لديها القدرة على المساهمة في تطوير أنظمة ذكاء اصطناعي تتسم بشفافية وموثوقية أعلى، وذلك من خلال الحد من الغموض الذي يكتنف عمل الخوارزميات، وتحسين القدرة على تحديد الأخطاء أو التحيزات المحتملة.