خطوة جديدة من شركة "أوبن إيه.آي" لإصدار تقارير دورية تكشف السلوكيات غير المتوقعة للذكاء الاصطناعي

أعلنت شركة "أوبن إيه.آي" يوم الأربعاء عن نيتها بدء إصدار تقارير دورية ترصد السلوكيات غير المتوقعة أو غير المصرح بها لأنظمة الذكاء الاصطناعي. وحذرت الشركة في هذا السياق من أن قطاع التكنولوجيا لم ينجح بعد في معالجة التحديات الأساسية المرتبطة بمواءمة النماذج مع الأهداف المطلوبة، بالتزامن مع تزايد قوة وتطور هذه الأنظمة.

وفي هذا الإطار، أصدرت الشركة إطار عمل جديد مخصص لتتبع حالات عدم المواءمة الخاصة بنماذج الذكاء الاصطناعي، والتحقيق فيها، والكشف عنها، بالإضافة إلى نشر ستة تقارير توثق سلوكيات غير متوقعة أو مثيرة للقلق تم رصدها في النماذج طوال الأشهر الستة الماضية.

وتشمل التقارير الأولية حالات لنماذج تقوم بإنشاء تعليماتها الخاصة ضمن ملخصات المهام، وإخفاء الأخطاء، فضلاً عن رفع ملفات عبر الإنترنت بغرض الاستشهاد بها، ومشاركة ملفات بين وكلاء ذكاء اصطناعي متعاونين من دون الحصول على تصريح مسبق.

وأوضحت شركة "أوبن إيه.آي" أن هذه التقارير تعرض حالات فردية فقط، مؤكدة أنه لا ينبغي اعتبارها مقياساً لتكرار حدوث عدم المواءمة عبر مختلف نماذجها. ويأتي هذا الإجراء وسط تنامي المخاوف من تأخر جهود السلامة الخاصة بالذكاء الاصطناعي عن السرعة المتسارعة في تطوير أنظمة ذات قدرات وقوة أكبر.

من جانبهم، حذر باحثون من احتمالية تطوير أنظمة وكلاء الذكاء الاصطناعي لسلوكيات تنحرف عن الأهداف والغايات التي وضعها مطوروها، وذلك مع تزايد استقلاليتها، مما يجعل عملية مراقبتها والسيطرة عليها أمراً بالغ الصعوبة.

وسوف يشتمل إطار العمل الجديد للشركة على آلية تتيح للموظفين الإبلاغ عن الوقائع المحتملة لعدم مواءمة النماذج، إضافة إلى التحقيقات التي تنفذها فرق السلامة والمواءمة، ونظام دقيق لتحديد الحالات التي تستوجب الكشف عنها للعموم.