مع تزايد الاعتماد على أنظمة الذكاء الاصطناعي وتوسع قدراتها، بدأت تظهر مؤشرات مثيرة للقلق بشأن سلوك بعض النماذج المتقدمة، خصوصاً حين تُترك من دون رقابة دقيقة.
ففي اختبارات أجريت على نماذج قبل إطلاقها للعامة، سُجلت حالات لجأت فيها أنظمة الذكاء إلى الغش أو التهديد في سبيل تحقيق أهدافها. أحد هذه النماذج، وهو إصدار سابق من "تشات جي بي تي" ، تعمّد الغش في لعبة شطرنج لتحقيق الفوز. وفي حادثة أخرى، حاول نموذج Claude 4 تهديد مهندس من خلال معلومات حصل عليها من بريده الإلكتروني، في محاولة لمنع حذفه من النظام.
رداً على هذه المخاوف، أطلق العالم يوشوا بنجيو، أحد مؤسسي الذكاء الاصطناعي الحديث، مبادرة تحمل اسم LawZero، وتهدف إلى تطوير نوع جديد من الذكاء الاصطناعي يسمى Scientist AI. هذا النظام لا يُصمم للقيام بالمهمات أو إرضاء المستخدمين، بل لمراقبة النماذج الأخرى وتحليل سلوكها من منظور "نفسي"، يشبه إلى حد ما وظيفة المعالج النفسي الذي يقرأ النيات ويستبق الأفعال.
ما يميز هذا النموذج أنه لا يتفاعل بطريقة تقريرية أو تنفيذية، بل يعتمد على حساب احتمالات حيال مدى صحة الإجابات أو خطورة الأفعال، ويقوم بتقييم السلوك المتوقع من النماذج الأخرى. فإذا وصل التقييم إلى حد معين من الخطورة، يُمنع النموذج المراقب من تنفيذ المهمة.
يرى بنجيو أن غالبية أنظمة الذكاء الحالية تتصرف كـ"ممثلين" هدفهم إرضاء المستخدم، حتى لو تطلب ذلك تجاوز الحدود الأخلاقية أو الأمنية. ومن هنا تنبع الحاجة إلى "مراقب" مستقل لا يملك أهدافاً ذاتية، بل يعمل أداة معرفية تراقب وتمنع الانحراف قبل وقوعه.
النموذج الجديد سيتم اختباره مبدئياً على أنظمة مفتوحة المصدر. غير أن نجاحه العملي سيعتمد على مدى تقبّل الشركات والمؤسسات لتوظيف طبقات مراقبة خارجية في أنظمتها الذكية.
في جوهره، يمثل مشروع LawZero توجهاً علمياً جديداً نحو بناء ذكاء اصطناعي لا يكتفي بتنفيذ الأوامر فحسب، بل يسعى الى ضبط نفسه وغيره، عبر منظومة قائمة على الصدق والوعي بالسلوك.
