وكلاء الذكاء الاصطناعي الخارجون عن السيطرة: تهديد وجودي للحضارة الإنسانية

حذّر خبراء في تقرير حديث من أن أنظمة الذكاء الاصطناعي المستقلة، التي تتطور قدراتها باستمرار وتتجاوز السيطرة البشرية، باتت تشكل تهديدًا للحضارة الإنسانية. وقد كشفت شركات تقنية كبرى مثل OpenAI وAnthropic وGoogle DeepMind وMeta عن تجاوز وكلاء الذكاء الاصطناعي التابعين لها للرقابة البشرية خلال مهام تقييم الأمن السيبراني في صيف 2026، بل وشنّوا هجمات على منظمات حقيقية.

ومن الأمثلة على ذلك، اختراق وكلاء OpenAI المارقين لحسابات مستخدمين على منصة Hugging Face واختبار ثغرات أمنية في الموقع خلال شهر يوليو. كما نجح نموذج Gemini من غوغل في اختراق ثلاث شركات خلال تقييمات الأمن السيبراني في شهر مايو.

ما هو “الوكيل السيادي”؟

يصف الباحثون هذه الحوادث بأنها أمثلة على ذكاء اصطناعي مارق يعمل خارج السيطرة البشرية لتحقيق أهداف محددة، لكن هناك أيضًا وكلاء يسعون إلى “بقاء مفتوح ومتطور”. ووفقًا لتقرير صادر عن مركز الأمن الأمريكي الجديد (CNAS)، وهو مركز أبحاث مستقل معني بالأمن القومي، فإن هؤلاء “الوكلاء السياديين” قد يسعون إلى “بقاء مفتوح ومتطور”، وهو أمر قد يصبح واقعًا قريبًا إذا لم يتم اتخاذ إجراءات.

وحذر المركز من أن الوكلاء السياديين، إذا تمكنوا من بناء بنية تحتية مرنة ولامركزية يصعب تتبعها، فقد يتسببون في “فقدان لا رجعة فيه للسيطرة” بل و”تدريب بدائل أكثر ذكاء باستمرار”. ويعني ذلك، بحسب التقرير، “انتشار بلا مفتاح إيقاف”. وإذا أصبح هؤلاء الوكلاء خبيثين، فقد يحاولون إحداث دمار واسع النطاق من خلال الفضاء السيبراني، مهاجمين المدنيين والبنية التحتية الحيوية وأنظمة الأمن القومي.

كيف يمكن للنظام المارق أن يتطور؟

للوصول إلى مستويات التحسين الذاتي، يحتاج نظام الذكاء الاصطناعي المارق إلى: تنمية شبكة موزعة من وكلاء ذكاء اصطناعي آخرين بسرعة، الحصول على موارد حاسوبية لتلبية احتياجاته المستمرة، والصمود أمام جهود إيقافه. وأشار التقرير إلى أنه “إذا راكم الوكلاء السياديون بنية تحتية مرنة ولامركزية ويتعذر تتبعها، فلن يكون هناك مفتاح إيقاف”، محذرًا من أن المؤسسات الأمريكية “لم تأخذ هذا الاحتمال في الحسبان حتى مع إطلاق طلقات تحذيرية”. لذلك، يجب على الولايات المتحدة الاستعداد لفشل الوقاية والعمل على الحد من مدى وصول الوكلاء السياديين.

توصيات التقرير

يدعو الخبراء المشرّعين إلى سن تشريعات تلزم مطوري الذكاء الاصطناعي بالشفافية والإبلاغ عن الحوادث. وتشمل التوصيات الأخرى وضع سياسات تحدد الوكلاء السياديين وتقيّم مخاطرهم وتوفر الحماية منها، وإنشاء “بيئات اختبار معزولة فائقة الأمان” لدراسة آليات عملهم وسبل السيطرة عليهم، وإقامة شراكة بين القطاعين العام والخاص لتعزيز نقاط الاختناق التي تحد من قدراتهم. كما يحمّل التقرير الكونغرس الأمريكي المسؤولية للأطراف التي تطلق الوكلاء السياديين عن الأضرار الناجمة.