تحذير من "أوبن أيه آي": الذكاء الاصطناعي قد يهدد بأسلحة بيولوجية.. وتطوير آليات للحماية

في خطوة أثارت جدلاً واسعاً، حذرت شركة "أوبن أيه آي" من أن نماذج الذكاء الاصطناعي المتقدمة، المزمع إضافتها إلى "تشات جي بي تي" مستقبلاً، قد تمتلك القدرة على المساعدة في تطوير أسلحة أو تهديدات بيولوجية جديدة.

أثار هذا الإعلان مخاوف بشأن مستقبل الذكاء الاصطناعي واحتمالية وصوله إلى مرحلة "الذكاء الفائق".

ومع ذلك، أكدت "أوبن أيه آي" أن الوضع ليس بالسوء الذي يبدو، وأن هذه التحذيرات تأتي في إطار التزامها بالشفافية، وشرح الإجراءات التي تتخذها لمنع استخدام نسخ "تشات جي بي تي" المستقبلية في تصنيع أسلحة بيولوجية.

تؤكد "أوبن أيه آي" أن هدفها هو التحكم الكامل في كيفية تلقين النماذج المتقدمة من "تشات جي بي تي" مفاهيم متقدمة في الكيمياء والبيولوجيا، بدلاً من استبعاد هذه المجالات كلياً من بيانات التدريب. فكلما ازداد فهم النموذج لهذه العلوم، أصبح أكثر قدرة على مساعدة البشر في تطوير أدوية وعلاجات جديدة، وقد يتمكن من تحقيق ابتكارات ذاتياً بمجرد وصوله إلى الذكاء الفائق.

إلا أن هذه القدرة تحمل معها خطراً محتملاً، وهو إمكانية استخدامها في تطوير أسلحة بيولوجية. لذلك، بدأت "أوبن أيه آي" بالفعل في وضع آليات لمنع هذا النوع من الاستغلال.

يشهد العالم بالفعل استخدامات واعدة للذكاء الاصطناعي في المجال الطبي، بما في ذلك اكتشاف علاجات جديدة باستخدام نماذج حالية. فقد استُخدم الذكاء الاصطناعي لإعادة توظيف أدوية قائمة لعلاج أمراض نادرة، ونجحت أنظمة معينة في اقتراح نظريات وتجارب أدت إلى التوصل إلى علاج لنوع معين من العمى باستخدام دواء موجود بالفعل.

ناقشت "أوبن أيه آي" في منشور جديد إمكانات نماذج الذكاء الاصطناعي في تسريع الاكتشاف العلمي، وتحديداً في مجال البيولوجيا، حيث تساعد بالفعل العلماء في تحديد الأدوية الجديدة الأكثر احتمالاً للنجاح في التجارب السريرية. وتشمل الاستخدامات المستقبلية تصميم لقاحات أفضل، وتطوير إنزيمات للوقود المستدام، وإيجاد علاجات جديدة لأمراض نادرة.

تدرك الشركة المخاطر المصاحبة لذلك، ولذلك وضعت استراتيجية لمنع النماذج من مساعدة الفاعلين السيئين، سواء من ذوي الخبرة العالية أو المبتدئين، في تطوير أسلحة بيولوجية. وبدلاً من التعويل على الحظ، تعمل "أوبن أيه آي" على تطوير وتنفيذ ضوابط صارمة لمنع هذه الاستخدامات.

أوضحت "أوبن أيه آي" أنها تعمل مع خبراء في الأمن البيولوجي، والأسلحة البيولوجية، والإرهاب البيولوجي، إلى جانب باحثين أكاديميين، لتشكيل نموذجها الخاص بتقييم التهديدات وسياسات الاستخدام.

يشمل نظام الحماية الحالي فرق "الاختبار الأحمر" (Red Teaming) من خبراء في الذكاء الاصطناعي والبيولوجيا، لاختبار قدرة النماذج على مقاومة الطلبات التي قد تؤدي إلى تطوير سلاح بيولوجي.

إضافة إلى ذلك، تم تضمين خصائص تمنع إساءة الاستخدام، حيث ترفض النماذج التعامل مع طلبات خطرة، وفي حالات الاستخدام المزدوج (مثل تجارب الفيروسات أو الهندسة الوراثية)، لن تقدّم "تشات جي بي تي" خطوات عملية. ويهدف نقص التفاصيل إلى منع الأشخاص غير المتخصصين من اتخاذ إجراءات خطرة.

كما يتم تشغيل أنظمة كشف دائمة النشاط لرصد أي نشاط بيولوجي مشبوه. وفي مثل هذه الحالات، لا تستجيب النماذج، ويتم تفعيل مراجعة بشرية. وقد يشمل ذلك تعليق الحساب أو التحقيق، بل وحتى إشعار السلطات المختصة في "الحالات الفادحة".

تشير "أوبن أيه آي" إلى أن نموذجها "تشات جي بي تي 4o"، وهو من النماذج الأكثر تقدماً في مجال التفكير المنطقي، لا يزال "تحت عتبة القدرات العالية" ضمن إطار عمل الاستعداد الخاص بها.

ووفقاً لما ورد في هامش المدونة، فإن: "إطار عمل الاستعداد الخاص بنا يعرّف عتبات للقدرات قد تؤدي إلى مخاطر شديدة، مع إرشادات خاصة بكل نوع خطر لتقليل هذه المخاطر بدرجة كافية. في مجال البيولوجيا، أي نموذج يتجاوز عتبة القدرة العالية يمكنه تقديم مساعدة فعالة لممثلين مبتدئين يمتلكون تدريباً أساسياً، لتمكينهم من تطوير تهديدات بيولوجية أو كيميائية".

وأضافت الشركة أنها لن تطلق نموذجاً يتجاوز هذه العتبة ما لم تكن واثقة بأن المخاطر قد جرى تقليلها بشكل كافٍ. كما قد تُحجب ميزات معينة من النسخ المستقبلية من "تشات جي بي تي" إذا تجاوزت هذه العتبة.

ستستضيف "أوبن أيه آي" أول قمة دفاع بيولوجي لها في تموز/يوليو المقبل، لاستكشاف كيف يمكن لنماذج الذكاء الاصطناعي المتقدمة تسريع البحث العلمي. وسيشارك في القمة باحثون حكوميون ومنظمات غير حكومية.

وتأمل الشركة في أن تسهم القطاعات العامة والخاصة معًا في تطوير استخدامات مبتكرة للذكاء الاصطناعي في الاكتشافات العلمية المرتبطة بالصحة، بشكل يعود بالنفع على البشرية.