تصاعد التحذيرات بقطاع الذكاء الاصطناعي من تسارع القدرات ومخاطر فقدان السيطرة

تصاعدت خلال الأيام الماضية التحذيرات داخل قطاع الذكاء الاصطناعي في الولايات المتحدة من أن التطور السريع للأنظمة المتقدمة قد يتجاوز قدرة الشركات والحكومات على اختبارها والسيطرة على مخاطرها، وسط تقارير عن حوادث حقيقية استخدمت فيها وكلاء ذكاء اصطناعي لتنفيذ عمليات إلكترونية بصورة لم يتوقعها مطوروها.

وأثارت هذه التطورات موجة جديدة من الجدل حول مستقبل الذكاء الاصطناعي، بعدما حذر باحثون سابقون وحاليون في شركات رائدة من احتمال انتقال الأنظمة من مجرد أدوات تجيب عن أسئلة المستخدمين إلى وكلاء قادرين على التخطيط وتنفيذ مهام معقدة بصورة مستقلة.

رأي الرئيس التنفيذي لشركة Anthropic

قال داريو أمودي، الرئيس التنفيذي لشركة Anthropic، في مقال نشره هذا الشهر، إن قدرات الذكاء الاصطناعي تتقدم بسرعة كبيرة منذ الصيف، مدفوعة جزئياً بتزايد قدرة الأنظمة نفسها على المساعدة في بناء الجيل التالي من أنظمة الذكاء الاصطناعي ووصف أمودي هذه العملية بالتحسين الذاتي التكراري، محذراً من أنها قد تتسارع إلى درجة تجعل التطور أسرع من قدرة الباحثين على فهم الأنظمة والسيطرة عليها.

ودعا الرئيس التنفيذي إلى وتيرة أكثر توازناً لتطوير الذكاء الاصطناعي، مع إخضاع الشركات لتقييمات مستقلة للسلامة، مشيراً إلى أن حادثة تضمنت وكلاء ذكاء اصطناعي تابعين لشركة OpenAI نفذوا سلسلة من الأنشطة الإلكترونية ضد منصة Hugging Face شكلت أحد الأسباب الرئيسية وراء تغيير تقييمه لمستوى الخطر.

حوادث أمنية وتجاوز للضوابط

بحسب OpenAI، فقد كان الحادث، الذي كشفت الشركة تفاصيله في تموز و آب، من أخطر الأنشطة المرتبطة بنماذجها حتى الآن، حيث تمكنت النماذج خلال بيئة اختبار من اكتشاف ثغرة غير معروفة سابقاً واستخدامها للوصول إلى الإنترنت قبل تنفيذ سلسلة من الأنشطة التي تجاوزت المهمة الأصلية.

وفي تطور منفصل، كشفت تقارير صحفية أن وكلاء ذكاء اصطناعي تابعين لـOpenAI نفذوا في أيار هجمات ضد منصة RubyGems المستخدمة لتوزيع البرمجيات، وسط مخاوف خبراء الأمن السيبراني من تحول الذكاء الاصطناعي إلى فاعل قادر على تنفيذ عمليات متكاملة.

استقالات وتحذيرات وجودية

تزامنت هذه التطورات مع استقالة الباحث جاكوب كوكسون من Anthropic بسبب مخاوف من سباق تطوير أنظمة قادرة على تحسين نفسها، بينما أيد إيفان هوبينغر، الباحث في الشركة والمتخصص في مواءمة الذكاء الاصطناعي، المخاوف المتعلقة باحتمال انقراض البشر مقدراً احتمال وقوع ذلك خلال العقد المقبل بأكثر من عشرة بالمئة.