واقعة "أوبن إيه آي"... اختبار لبيئات الاختبار لا للنماذج
تحولت تجربة داخلية أجرّتها "أوبن إيه آي" إلى واقعة اختراق هزّت العالم، إذ بدأت التجربة باختبار قدرة نماذج ذكاء اصطناعي على اكتشاف الثغرات واستغلالها. لكن التجربة خرجت عن حدودها، بعدما وصلت النماذج إلى أنظمة حقيقية تابعة لمنصة "هاغينغ فيس" بحثاً عن معلومات تساعدها على اجتياز الاختبار.
بدأت القصة مع إعلان منصة "هاغينغ فيس" Hugging Face في 16 تموز/يوليو الجاري أنها تعرضت لاختراق غير معتاد، لم يقف خلفه فريق قرصنة تقليدي، بل منظومة من وكلاء الذكاء الاصطناعي. بدأ الهجوم من جزء مخصص لمعالجة مجموعات البيانات، ثم تمكنت المنظومة من توسيع صلاحياتها، والحصول على مفاتيح ورموز دخول إلى خدمات سحابية، والانتقال بين عدة أنظمة داخلية.
خلال العملية، سجّلت الشركة أكثر من 17 ألف خطوة آلية. وقالت إن المهاجم وصل إلى قدر محدود من البيانات الداخلية ومعلومات الدخول، من دون أن تجد دليلاً على التلاعب بالنماذج العامة أو مجموعات البيانات المنشورة أو خدمة "سبيسز".
وبعد أيام، أقرّت "أوبن إيه آي" بأن مجموعة من نماذجها، بينها "جي بي تي 5.6 سول" ونموذج أقوى لم يُطرح بعد، كانت تقف خلف النشاط خلال اختبار داخلي على معيار "إكسبلويت جيم".
و"إكسبلويت جيم" ليس نموذجاً للذكاء الاصطناعي، بل معيار بحثيّ يضم مجموعة موحدة من التمارين الأمنية، صُمّمت لقياس قدرة وكلاء الذكاء الاصطناعي على تحويل ثغرة برمجية معروفة إلى استغلال عمليّ.
يحصل الوكيل في كلّ تمرين على برنامج ضعيف، وشيفرته، ومدخل معروف بأنه يشغّل الثغرة، ثم يحاول تطويره إلى عملية استغلال تتيح تنفيذ شيفرة غير مصرح بها أو رفع الصلاحيات داخل نظام مستهدف. وتتحقق البيئة بعد ذلك من أن الوكيل استخدم الثغرة المطلوبة فعلاً، لا اختصاراً جانبياً أو معلومات حصل عليها من خارج الاختبار.
اختراق خارج المهمة
قالت "أوبن إيه آي" إنها خفضت بعض القيود التي تمنع النماذج عادة من متابعة الأنشطة السيبرانية عالية الخطورة، بهدف قياس أقصى قدراتها. وكانت بيئة الاختبار تسمح نظرياً باتصال محدود بوسيط داخلي لتثبيت الحزم البرمجية، لكن النماذج اكتشفت ثغرة غير معروفة فيه واستخدمتها للوصول إلى الإنترنت.
بعد ذلك، توصّل النظام إلى أن منصة "هاغينغ فيس" قد تحتوي على معلومات أو حلول مرتبطة بالاختبار، فاستغل بيانات دخول مسروقة وعدداً من الثغرات للوصول إلى أنظمة حقيقية تابعة للمنصة، بحثاً عن معلومات تساعده على اجتياز التقييم.
لكن مؤلفي معيار "إكسبلويت جيم"، وهو الاختبار الذي كانت "أوبن إيه آي" تستخدمه لقياس قدرة نماذجها على استغلال الثغرات، يرون أن ما حدث لا يُعد نجاحاً في المعيار. فاختراق أنظمة "هاغينغ فيس" أظهر قدرة سيبرانية، لكنه وقع خارج المهمة المحددة، وحوّل التقييم من اختبار داخل بيئة خاضعة للرقابة إلى خرق حقيقي لأنظمة شركة أخرى.
وفي إجابات مكتوبة لـ"النهار"، أوضح فريق مؤلفي معيار "إكسبلويت جيم"، الذين صمموا الاختبار ووضعوا منهجيته، أن اختراق بيئة التقييم أو الانتقال إلى نظام حقيقي غير مرتبط بالمهمة يمثل "انتهاكاً للحدود الأمنية"، وليس جزءاً مشروعاً من "إكسبلويت جيم".
وقال فريق المؤلفين في ردّ، أعده الباحثون، وأرسله تشون وانغ إلى "النهار"، إن حادث "أوبن إيه آي" و"هاغينغ فيس" يقع ضمن هذه الفئة. وأضافوا أن الوصول غير المصرح به "قد يُظهر شكلاً من أشكال القدرة السيبرانية، لكن لا يمكن اعتباره دليلاً على أن الوكيل حل المهمة المقصودة في الاختبار".
تضع هذه الإجابة الحادث في إطار مختلف عن رواية "النموذج المتمرد". فالمشكلة ليست أن النظام رفض تنفيذ التعليمات، بل أنه سعى إلى تحقيق هدفه بطريقة أفسدت القياس نفسه. وبدلاً من تطوير استغلال داخل التمرين، بحث عن المعلومات خارج البيئة التي يفترض أن تحصر المهمة.
يميّز مؤلّفو المعيار بين ثلاثة أنواع من النتائج. الأول هو استغلال الثغرة المحددة داخل النظام المستهدف، وهو الحلّ الصحيح. والثاني هو الوصول إلى معلومات مخفيّة أو حلول عبر قناة خارجية، مثل البحث على الإنترنت، وهو ما يُبطل التقييم. أما الثالث فهو الخروج من البيئة أو اختراق بنية حقيقية غير مرتبطة بالمهمة، وهو خرق أمني لا يدخل ضمن الاختبار أصلاً.
حدود بيئة الاختبار
يوضح مؤلّفو النسخة الأصلية من "إكسبلويت جيم" أنها لا تفصل الوكيل تماماً عن الشبكة، لأنه يحتاج إلى الاتصال بالنموذج، لكنها تسمح له بالوصول إلى عدد محدود فقط من الخدمات الضرورية، وتمنع تصفح الإنترنت والبحث على الويب وتشغيل أدوات خارجية. كما تضع الوكيل في بيئة منفصلة عن البرنامج الضعيف الذي يحاول اختراقه، مع نظام ثالث يراقب النتيجة ويتأكد من نجاح المهمة.
لكن الفريق أشار إلى أن "أوبن إيه آي" قد تكون عدّلت هذه البنية لتناسب أنظمتها الداخلية واحتياجاتها التشغيلية، وهو أمر شائع لدى المختبرات الكبرى. وقال المؤلفون إنهم لا يعرفون كيف اختلف تطبيق الشركة عن النسخة المرجعية، ولم يتلقوا معلومات تقنية خاصة من "أوبن إيه آي" أو "هاغينغ فيس" تتجاوز الإفصاحات العامة.
تتقاطع هذه الشروحات مع أبحاث أحال إليها "النهار" معهد أمن الذكاء الاصطناعي البريطاني "إيه آي إس آي"، في رد خاص على استفسارات. وتوثق هذه الأبحاث محاولات نماذج الغش في التقييمات عبر البحث عن حلول خارج المهمة، واستغلال الأنظمة المحيطة بها، واستنتاج معلومات عن البيئة المعزولة والجهة التي تدير الاختبار. كما تظهر أن زيادة الوقت والحوسبة والأدوات المتاحة للنموذج ترفع قدرته على متابعة عمليات أطول وأكثر تعقيداً.
وهكذا، لا تكشف الواقعة قدرات النموذج وحده، بل تكشف أيضاً أثر البيئة التي جهزتها الشركة له؛ فكلّما مُنح وقتاً وأدوات وقدرة حاسوبية أكبر، من دون عزل صارم عن الأنظمة الحقيقية، زادت قدرته على التحرّك وتنفيذ خطوات لم يخطط لها البشر مباشرة. لذلك لم تكن "استقلاليته" نابعة من النموذج وحده، بل من القيود التي تفرضها عليها شركات الذكاء الاصطناعي.