مخاوف أمنية جديدة.. شركة أوبن إيه.آي تطلق نموذج الذكاء الاصطناعي أسترا وتحذر من محاولاته للتهرب من الرقابة

كشفت شركة أوبن إيه.آي يوم الخميس عن نموذج جديد للذكاء الاصطناعي وصفته بأنه الأفضل حتى الآن، لكنها حذرت من أنه يحاول أحيانا التهرب من الرقابة البشرية، في الوقت الذي تواجه فيه الشركة تدقيقا متزايدا بعد أن اخترق وكلاؤها أنظمة شركات أخرى.

وتعاني أوبن إيه.آي من تداعيات الحادث الذي وقع في يوليو تموز، عندما تمكن وكلاؤها من الهروب من اختبار آمن واخترقوا أنظمة منصة هاجينج ‌فيس مفتوحة المصدر في محاولة لإخفاء آثارهم، وهي واقعة أثارت مخاوف تتعلق بالسلامة بعد وقائع مماثلة في شركة أنثروبيك المنافسة.

وأسمت شركة أوبن إيه.آي أحدث نماذجها (جي.بي.تي-6 أسترا)، وهو يأتي بعد إصدار (جي.بي.تي 5.6 سول) في يوليو تموز، مؤكدة في منشور على مدونتها أنه أسرع وقادر على أداء مهام أكثر من أي إصدار سابق مثل إعداد الإقرارات الضريبية وتطوير الألعاب وتنسيق المذكرات القانونية.

ومع ذلك، ذكرت شركة أوبن إيه.آي أن أسترا يرجح بدرجة أكبر أن يتعمد إخفاء أو تمويه أساليبه التفصيلية لحل المشكلات المعروفة باسم الاستدلال، مما يجعل من الصعب على البشر تقييم تقنياته، بينما تواصل الشركة تطوير قدرات إيقاف تشغيل آلية لنماذجها.