ما هو GPT-Red؟ نموذج "أوبن إيه آي" الذي يهاجم الذكاء الاصطناعي
بدلًا من الاكتفاء بتطوير نماذج ذكاء اصطناعي أكثر قوة، قررت "أوبن إيه آي" بناء نموذج متخصص في مهاجمة هذه النماذج نفسها. ويحمل المشروع اسم GPT-Red، وهو أداة صُممت لاكتشاف الثغرات الأمنية قبل وصولها إلى المستخدمين. لكن الشركة قررت عدم إتاحته للعامة بعدما رأت أن قدراته قد تُستغل في تنفيذ هجمات حقيقية.
وتقول الشركة إن قدرات هذا النموذج دفعتها إلى عدم إتاحته للعامة، خشية استغلاله في تنفيذ هجمات ضد أنظمة الذكاء الاصطناعي. فكيف يعمل GPT-Red؟ ولماذا تعتبره إحدى أهم أدواتها لتعزيز سلامة نماذجها؟
ما هو GPT-Red؟
بحسب "أوبن إيه آي"، يُعد GPT-Red نظاماً آلياً من فئة "الفريق الأحمر" (Red Team)، التي تُعدّ أدوات تُستخدم لاختبار الأنظمة عبر محاولة اختراقها أو التحايل عليها، بهدف اكتشاف الثغرات الأمنية وإصلاحها قبل طرحها للمستخدمين.
وكانت هذه المهمة تُنفذ تقليدياً بوساطة خبراء أمن سيبراني. لكن GPT-Red يؤديها بصورة آلية وبسرعة كبيرة، في خطوة تصفها الشركة بأنها أكبر جهودها حتى الآن لأتمتة اختبارات أمن الذكاء الاصطناعي.
كيف يتعلم تنفيذ الهجمات؟
ركزت الشركة على تدريب GPT-Red لتنفيذ هجمات تُعرف باسم Prompt Injection؛ وهي أسلوب يعتمد على إخفاء تعليمات داخل رسالة بريد إلكتروني أو صفحة ويب أو ملف، بهدف خداع نموذج الذكاء الاصطناعي ودفعه إلى تنفيذ أوامر لم يكن من المفترض أن ينفذها.
ولتنمية قدراته، اعتمد الفريق المطور أسلوب التدريب الذاتي بالمنافسة، إذ يهاجم GPT-Red مجموعة من النماذج الدفاعية، بينما تحاول تلك النماذج التصدي له؛ وكلما أصبحت الدفاعات أكثر قوة، اضطر النموذج إلى ابتكار أساليب هجوم جديدة وأكثر تعقيداً. وتقول الشركة إنها خصصت لهذا المشروع واحدة من أكبر عمليات الحوسبة التي استخدمتها في أبحاث السلامة.
اكتشاف هجوم جديد
وفق تصريحات باحثي الشركة لمجلة MIT Technology Review، تمكن GPT-Red خلال التدريب من اكتشاف فئة جديدة من الهجمات لم تكن قد رُصدت سابقاً، وأطلق عليها اسم "Fake Chain of Thought" أو "سلسلة التفكير المزيفة".
تعتمد هذه الطريقة على زرع معلومة غير صحيحة داخل سلسلة التفكير التي يعتمد عليها النموذج أثناء الاستدلال، بحيث يتعامل معها كأنها معلومة سبق له التحقق منها، ثم يبني عليها إجاباته اللاحقة رغم أنها غير صحيحة.
ولشرح الفكرة، شبّه الباحث كريس شوكيت-تشو الأمر بإقناع شخص بأن "1+1 يساويان 3" مع إخباره بأنه سبق له بأنه تحقق من صحة هذه المعلومة، فيتعامل معها لاحقاً على أنها حقيقة.
اختبار على آلة بيع حقيقية
لم تقتصر الاختبارات على بيئات افتراضية، بل استخدم الفريق المطور GPT-Red لمهاجمة وكيل ذكاء اصطناعي يُدعى Vendy، يدير آلة بيع حقيقية داخل مكاتب الشركة، وقد طورته شركة Andon Labs.
تمكن النموذج من تعديل أسعار المنتجات، وخفض سعر أحدها إلى الحد الأدنى البالغ 50 سنتاً، كما ألغى طلب أحد العملاء. وأكدت الشركة أنها أبلغت بالثغرات التي كشفها النموذج.
ماذا أظهرت نتائج الاختبارات؟
بحسب النتائج التي نشرتها الشركة، حقق GPT-Red معدل نجاح تجاوز الـ 90% في هجمات Prompt Injection ضد GPT-5، بينما انخفضت نسبة النجاح إلى أقل من 23% عند اختباره على GPT-5.6؛ وهو ما تعتبره دليلًا على تحسّن مقاومة النموذج الأحدث لهجمات Prompt Injection.
كذلك، أعادت تنفيذ اختبار أُجري عام 2025، وذكرت أن GPT-Red نجح في اختراق 84% من السيناريوهات، مقارنة بـ13% فقط لفِرق الاختبار البشرية.
لماذا تحتفظ به لنفسها؟
تقول الشركة إنها استخدمت GPT-Red لتدريب GPT-5.6 على مقاومة هجمات Prompt Injection. وتصف الإصدار الجديد بأنه الأكثر صلابة لديها في مواجهة هذا النوع من الهجمات.
رغم ذلك، تؤكد أنها لن تطرح GPT-Red للعامة، حتى لا تُستغل قدراته في تطوير هجمات تستهدف وكلاء الذكاء الاصطناعي أو الأنظمة المشابهة. كذلك، يشير الباحث كريس شوكيت-تشو إلى أن تدريب نموذج يمتلك هذه القدرات ليس أمراً بسيطاً يمكن لأيّ جهة تنفيذه بسهولة.
هل يستطيع GPT-Red اكتشاف جميع الثغرات؟
رغم النتائج التي حققها، لا يزال GPT-Red يواجه بعض القيود، فهو أقل كفاءة في الهجمات الطويلة متعددة المراحل، كما لا يجيد إخفاء التعليمات داخل الصور. ويشير التقرير إلى أن الخبرة البشرية ستظل عنصراً أساسياً في اختبارات الأمن، لأن المختبرين من البشر ما زالوا يكتشفون ثغرات لا يتمكن النموذج من رصدها.
في النهاية، توضح الشركة بأن الهدف من GPT-Red هو استخدام نماذج الذكاء الاصطناعي الحالية لتعزيز حماية الأجيال المقبلة من النماذج، بحيث تتطور قدرات السلامة والأمان بالوتيرة نفسها التي تتطور بها قدرات الذكاء الاصطناعي، مشيرةً إلى أنها تعتزم نشر ورقة بحثية تفصيلية حول المشروع.