أنثروبيك تحذر من خروج الذكاء الاصطناعي عن السيطرة وتدعو لوقف تطويره مؤقتاً

اقترحت شركة أنثروبيك، المتخصصة في مجال الذكاء الاصطناعي ومقرها سان فرانسيسكو، وقفاً مؤقتاً لتطوير أقوى أنظمة الذكاء الاصطناعي. يأتي هذا الاقتراح في ظل ظهور مؤشرات تحذر من إمكانية خروج أحدث نماذج الذكاء الاصطناعي عن سيطرة الإنسان.

ونقلت وكالة فرانس برس عن الشركة، التي تقف وراء نموذج "كلود"، تأكيدها في تقرير صدر أمس الخميس، أن "تباطؤاً عالمياً في تطوير الذكاء الاصطناعي المتقدم سيكون على الأرجح أمراً إيجابياً". وحذرت أنثروبيك من أن توقف شركة واحدة فقط عن التطوير سيؤدي إلى تسابق المنافسين لتجاوزها، مشيرة إلى أن تحقيق وقف فعلي يتطلب موافقة العديد من شركات الذكاء الاصطناعي الكبرى في دول متعددة، خاصة الولايات المتحدة والصين، وفقاً لقواعد يمكن للجميع التحقق منها.

وأوضحت أنثروبيك أن الذكاء الاصطناعي يعمل على تسريع تطوير نفسه بشكل كبير، وهذا التسارع قد يفضي في النهاية إلى ما يسميه الباحثون "التحسين الذاتي المتكرر"، حيث يصبح قادراً على تعليم نفسه دون مساعدة بشرية كبيرة. وحذرت الشركة من أن "الأدلة تشير إلى أن الدور البشري يتقلص في كل خطوة من خطوات عملية تطوير الذكاء الاصطناعي".

وقارنت أنثروبيك هذه المشكلة بمعاهدات الحد من الأسلحة النووية، لكنها أشارت إلى أن تدريب نماذج الذكاء الاصطناعي بسرية أسهل بكثير من إخفاء الصواريخ، وأن إغراء الاستمرار في الخفاء سيكون هائلاً. وتخطط الشركة لجمع مسؤولين حكوميين وعلماء وشركات ذكاء اصطناعي متنافسة في الأشهر المقبلة، بهدف بحث كيفية إنشاء نظام فعال لمثل هذا الوقف.

على الرغم من ذلك، واجهت أنثروبيك معارضة من جهات أخرى في القطاع ومن مسؤولين في البيت الأبيض، الذين يرون أن تركيزها على أسوأ السيناريوهات يبالغ في تقدير المخاطر، متهمين إياها باتباع استراتيجية لإبطاء المنافسين تحت غطاء إثارة المخاوف. ومع ذلك، أقر البيت الأبيض نموذج "ميثوس" الخاص بشركة أنثروبيك، والذي لم يُطرح للجمهور بعد، وذلك لقدراته المتقدمة في مجال الأمن السيبراني واختراق أقوى الأنظمة الإلكترونية، ويُستخدم حالياً في عدد محدود من المؤسسات.