كشف تقرير حديث صادر عن موقع TechRadar Pro عن وجود ثغرة خطيرة في طريقة عمل الترشيحات في نموذج "شات جي بي تي". هذه الثغرة تسمح للمحتالين بالتلاعب بالمحتوى المقترح من خلال هذه الأداة الذكية. وأشار التقرير إلى أن "شات جي بي تي" يعتمد في ترشيحاته على الروابط التي يعتبرها موثوقة، دون التحقق من المحتوى الحالي للموقع أو أي تغييرات قد تطرأ عليه.
تجربة عملية تكشف الخلل:
اعتمد التقرير على تجربة أجراها جيمس بروكبانك، المؤسس والمدير التنفيذي لشركة "ديجيتال لوفت" للتسويق الرقمي. لاحظ بروكبانك أن نموذج "شات جي بي تي" لا يتحقق من جودة أو مصداقية المحتوى الموجود داخل الروابط التي يوصي بها، بل يكتفي بالثقة في الروابط بناءً على سجلها السابق.
هذه الثغرة فتحت الباب أمام بعض المستخدمين لشراء روابط لمواقع منتهية الصلاحية، أو اختراق مواقع شهيرة كانت موثوقة في الماضي، مثل المواقع التابعة للأمم المتحدة أو الهيئات الخيرية البريطانية. ثم يقومون بإعادة توجيه هذه الروابط إلى مواقع مشبوهة أو مليئة بالمحتوى المضلل، لتصبح معتمدة لاحقاً ضمن ترشيحات الأداة.
تلاعب واضح لا تلتقطه خوارزميات النموذج:
أعطى بروكبانك مثالاً بموقع كان تابعاً لجهة خيرية بريطانية تحظى بثقة إعلامية كبيرة، بما في ذلك مواقع مثل "بي بي سي" و"سي إن إن" و"بلومبرغ". هذا الموقع تحول لاحقاً إلى مصدر لمحتوى ألعاب مشبوهة. وعلى الرغم من هذا التغيير الجذري في المحتوى، استمر "شات جي بي تي" في اقتراحه كمصدر موثوق.
يشير بروكبانك إلى أن هذه الممارسات تختلف تماماً عن بناء الروابط الشرعية المعروفة في مجال تحسين محركات البحث. فخوارزميات "غوغل"، على سبيل المثال، تعتمد على معايير جودة دقيقة لتقييم نوعية المحتوى وسلامة الموقع. أما "شات جي بي تي"، فلا يزال يفتقر إلى آلية تقييم شاملة للمحتوى الحالي داخل الروابط.
مخاوف من توظيف الذكاء الاصطناعي في التضليل:
تشير هذه الثغرة إلى خطر متزايد يتمثل في إمكانية استغلال أدوات الذكاء الاصطناعي لنشر معلومات مضللة أو ترويج محتوى غير آمن، وذلك بالاعتماد على روابط فقدت مصداقيتها ولكنها لا تزال تحمل "قيمة ظاهرية" بسبب سجلها السابق.
في ظل الاستخدام الواسع لـ "شات جي بي تي" كمصدر للمعلومات والبحث، تثير هذه المشكلة تساؤلات حول ضرورة تطوير آليات تحقق أكثر دقة، والاعتماد على تقييمات ديناميكية للمحتوى تتجاوز التاريخ السابق للمواقع.
أخبار سوريا الوطن١-الأخبار