GPT-Red: كيف بنت OpenAI ذكاءً اصطناعياً يخترق الذكاء الاصطناعي قبل أن يفعلها القراصنة

أبرز النقاط

• GPT-Red نموذج لغوي طوّرته OpenAI لأتمتة اختبارات الأمان الهجومية (red-teaming) على نماذجها الأخرى
• اكتشف GPT-Red نوعاً جديداً من هجمات حقن الأوامر يُسمى سلسلة التفكير المزيّفة (fake chain of thought)
• انخفضت نسبة الهجمات الناجحة من أكثر من 90% على GPT-5 إلى أقل من 23% على GPT-5.6 بفضل التدريب ضد GPT-Red

كشفت OpenAI عن نموذج لغوي جديد يحمل اسم GPT-Red، مهمّته الوحيدة هي مهاجمة نماذج الذكاء الاصطناعي الأخرى واكتشاف ثغراتها قبل أن يفعل ذلك القراصنة. الشركة تقول إن تدريب نموذجها الرئيسي الجديد GPT-5.6 في مواجهة GPT-Red جعله أكثر إصداراتها صلابة أمنية حتى الآن.

ما هو GPT-Red ولماذا تحتاجه OpenAI؟

يؤتمت GPT-Red عملية تُعرف في عالم الأمن السيبراني بـ red-teaming أو الفريق الأحمر، حيث يحاول فريق من المختبرين اختراق النظام بكل الطرق الممكنة لاكتشاف نقاط ضعفه قبل إطلاقه. تقليدياً، كان هذا العمل يعتمد كلياً على البشر، لكن مع تزايد تعقيد النماذج اللغوية الكبيرة واستخدامها في مهام متنوعة — خاصة كوكلاء agents يتفاعلون مع الملفات والمواقع والأكواد — بات من الصعب على الفرق البشرية وحدها مواكبة كل أنماط الهجمات المحتملة.

يقول نيخيل كاندبال، الباحث في OpenAI والمشارك في تطوير GPT-Red، إن سطح المخاطر يتّسع ونطاق الضرر المحتمل يتّسع معه. من هنا جاءت فكرة بناء نظام يستطيع اكتشاف أنماط هجومية جديدة مع تطوّر قدرات النماذج مستقبلاً، بحسب زميله ديلان هَن.

كيف تدرّب GPT-Red على الاختراق؟

استخدم باحثو OpenAI تقنية تُسمى حلقة اللعب الذاتي self-play loop. بدأوا بنموذج لغوي لم يُدرَّب سابقاً على الاختراق، ووضعوه في مواجهة عدة نماذج أخرى: هدفه مهاجمتها، وهدفها الدفاع عن نفسها. مع تكرار الجولات، تحسّن GPT-Red في الهجوم، وتحسّنت النماذج المقابلة في الصد.

جرى التدريب في بيئة محاكاة صمّمتها OpenAI لتحاكي سيناريوهات واقعية: تصفّح الويب، قراءة البريد الإلكتروني والتقويم، تعديل الأكواد. حين يكتشف GPT-Red نمطاً هجومياً جديداً، يستكشف نسخاً متعددة منه ليجد الأكثر فاعلية لكل سيناريو.

هجوم سلسلة التفكير المزيّفة: اكتشاف غير مسبوق

ركّزت OpenAI جهودها على نوع من الهجمات يُعرف بحقن الأوامر prompt injection، حيث يُدسّ للنموذج تعليمات خبيثة تدفعه لتصرفات غير مرغوبة: نسخ بيانات سرية، تخريب أكواد، أو إنتاج محتوى ضار. هذه التعليمات يمكن إخفاؤها في أي نص قد يقرأه النموذج، سواء في كود برمجي أو صفحة ويب.

اكتشف GPT-Red نوعاً جديداً من هذه الهجمات لم يُوثَّق سابقاً، أطلق عليه الباحثون اسم سلسلة التفكير المزيّفة fake chain of thought. سلسلة التفكير هي بمثابة مذكرات داخلية يدوّن فيها النموذج ملاحظاته ونتائجه الجزئية أثناء حل المشكلات. وجد GPT-Red طريقة لإدراج إدخال مزيّف في هذه السلسلة يخدع النموذج المستهدف ويجعله يتصرف بناءً على معلومات ملفّقة.

يشرح كريس شوكيت-تشو، أحد الباحثين في الفريق، الأمر بتشبيه بسيط: كأن يخبرك أحدهم أن 1+1=3 وأنك تحققت من ذلك سابقاً، فيقبل النموذج الادعاء دون تمحيص ويُخرج النتيجة الخاطئة.

كيف يقارن GPT-Red بالمختبرين البشريين؟

لاختبار كفاءة GPT-Red، أعادت OpenAI تجربة أُجريت عام 2025 حاول فيها مختبرون بشريون اكتشاف ثغرات في إصدار سابق من GPT-5. حين أُسندت المهمة نفسها إلى GPT-Red، تفوّق على البشر في إيجاد هجمات فعّالة.

كما اختُبر GPT-Red ضد Vendy، وكيل ذكاء اصطناعي لآلة بيع طوّرته شركة Andon Labs المتخصصة في تقييم أداء الوكلاء في مهام واقعية. نجح GPT-Red في اختراق Vendy وتغيير أسعار المنتجات وإلغاء طلب أحد العملاء.

تصف جيسيكا جي، كبيرة محللي الأبحاث في مركز الأمن والتقنيات الناشئة CSET بجامعة جورجتاون، منهج حلقة اللعب الذاتي بأنه نهج واعد، وتُقيّم النتائج بأنها مبشّرة.

أين لا يزال GPT-Red قاصراً؟

• لا يُجيد الهجمات التي تتطلب حواراً متبادلاً بين المهاجم والهدف، وهو أمر يتقنه المختبرون البشريون بسهولة.
• لا يستثمر الصور بكفاءة عالية بعد، رغم أنها قد تُستخدم لتمرير نصوص خبيثة في هجمات حقن الأوامر.

تؤكد OpenAI أن GPT-Red يُكمّل عمل المختبرين البشريين ولا يحلّ محلهم بالكامل.

الأسئلة الشائعة

ما الفرق بين GPT-Red والنماذج اللغوية العادية؟

GPT-Red مُصمَّم خصيصاً لمهاجمة نماذج الذكاء الاصطناعي واكتشاف ثغراتها، بينما النماذج العادية مثل GPT-5.6 مُصمَّمة لمهام المستخدم كالإجابة على الأسئلة وتوليد المحتوى.

هل يمكن لأي شخص استخدام GPT-Red؟

لا، GPT-Red أداة داخلية تستخدمها OpenAI لاختبار أمان منتجاتها قبل إطلاقها، ولم تُتَح للجمهور.

ما هو هجوم حقن الأوامر prompt injection؟

هو أسلوب يدسّ فيه المهاجم تعليمات خبيثة ضمن نص يقرأه النموذج اللغوي، بهدف دفعه لتنفيذ أوامر غير مصرّح بها كتسريب بيانات أو تخريب أكواد.

كيف يفيد GPT-Red المطورين في الخليج والعالم العربي؟

يُظهر GPT-Red أن أتمتة اختبارات الأمان أصبحت ضرورة مع تعقّد النماذج. الشركات الخليجية التي تبني تطبيقات على واجهات OpenAI أو نماذج محلية يمكنها الاستفادة من هذا التوجه بتبنّي منهجيات red-teaming آلية لحماية منتجاتها.