LedgerMind.. نظام جديد يقلل هلوسة الذكاء الاصطناعي دون إعادة تدريبه
لا تزال "الهلوسة" تمثل إحدى أبرز المشكلات التي تواجه أنظمة الذكاء الاصطناعي، ولا سيما الوكلاء متعددي الوسائط (Multimodal Agents) الذين يعتمدون على أدوات خارجية للبحث وتحليل الصور والبيانات قبل الوصول إلى الإجابة. فحتى عندما تكون الأدوات قد وفرت معلومات صحيحة، قد ينتهي النموذج إلى بناء استنتاجات أو تفاصيل لا تستند فعلياً إلى تلك البيانات.
في محاولة لمعالجة هذه المشكلة، طوّر فريق بحثي من جامعة هونغ كونغ للعلوم والتكنولوجيا (HKUST-Guangzhou) إطار عمل جديداً يحمل اسم LedgerMind. ووفق الورقة البحثية المنشورة على منصة arXiv، لا يتطلب هذا النظام إعادة تدريب النموذج أو تعديل بنيته، بل يعمل كطبقة تشغيل (Runtime) تُضاف أثناء تشغيل النموذج.
تعتمد الفكرة على إنشاء سجل منظم للأدلة (Structured Evidence Ledger)، تُحفظ فيه جميع المعلومات التي تعيدها الأدوات المستخدمة أثناء تنفيذ المهمة. ويفرض النظام بعد ذلك على النموذج إسناد كل استنتاج أو ادعاء إلى عنصر محدد داخل هذا السجل، بدلاً من الاعتماد على سلسلة استدلال داخلية قد تتضمن معلومات غير مدعومة.
ولتحقيق ذلك، تُحوَّل مخرجات الأدوات إلى سجلات تحتوي على مصدر المعلومة ونوعها وصياغة موحدة لها، إلى جانب حالتها داخل النظام. ثم تُراجع الاستنتاجات عبر ثلاث طبقات من التحقق تشمل مقارنة النصوص مع الأدلة المستشهد بها، والتأكد من اتساق الكيانات مثل الأسماء والأماكن، إضافة إلى مطابقة القيم الرقمية، بما في ذلك السنوات والأعداد.
وتتضمن المنظومة أيضاً آلية لإصلاح الأخطاء، إلا أنها تعمل ضمن قيد واضح؛ إذ لا يُسمح لها بإدخال معلومات جديدة غير موجودة في مخرجات الأدوات. ويصف الباحثون هذه الخاصية بأنها تضمن بقاء جميع التعديلات قابلة لتتبع مصدرها الأصلي، وهو أمر قد يكون مهماً في التطبيقات التي تتطلب شفافية عالية في الاستدلال.
وبحسب النتائج التي أوردها الباحثون، حسّن LedgerMind أداء ستة نماذج رائدة للذكاء الاصطناعي من شركات "أوبن إيه آي" و"غوغل" و"أنثروبيك" وZhipu كما حقق زيادة تراوحت بين 11.2 و19.7 نقطة في مجموعة اختبارات أعدها الباحثون، ورفع أداء نموذج Kimi-K2.6 في أحد الاختبارات من 19.5% إلى 46%، فيما سجل 58.9% على معيار VTC-Bench باستخدام Gemini-3-Flash، وهي نتيجة يصفها البحث بأنها الأفضل على هذا المعيار.
مع ذلك، لا يخلو البحث من تحفظات. فالنتائج تستند إلى تقييم أجراه مؤلفو الدراسة أنفسهم، وتشمل مجموعة اختبارات داخلية إلى جانب معايير عامة، كما أظهرت إحدى تجارب البرمجة تراجعاً طفيفاً في الأداء بدلاً من تحسنه. كذلك، لم تتناول الورقة تأثير هذا النهج في سرعة التنفيذ أو كلفة المعالجة، وهما عاملان أساسيان عند تقييم جدوى استخدامه في التطبيقات العملية.
ورغم هذه الملاحظات، يسلط LedgerMind الضوء على اتجاه متنامٍ في أبحاث الذكاء الاصطناعي، يقوم على تحسين موثوقية النماذج عبر آليات تحقق وتشغيل أكثر صرامة، بدلاً من الاكتفاء بتطوير نماذج أكبر أو إعادة تدريبها.