7 مبادئ تحكم الذكاء الاصطناعي.. «سدايا» تطلق الإطار الوطني للمخاطر
أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي «سدايا» الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، ليكون مرجعاً للقطاعين العام والخاص في تقييم ومعالجة تهديدات الأنظمة الذكية. ويهدف الإطار لترسيخ الحوكمة والاستخدام المسؤول وفق 7 مبادئ أخلاقية.
وأكدت «سدايا» أن الإطار يزود الجهات بمنهجية عملية متسلسلة تبدأ بتحديد المخاطر وتقييمها، وصولاً إلى معالجتها والمتابعة المستمرة، موضحة أن هذه المنهجية تُطبق عبر جميع مراحل دورة حياة الأنظمة الذكية، لضمان تحقيق أعلى مستويات الموثوقية والامتثال التنظيمي.
وبيّن الإطار اختلاف مخاطر الذكاء الاصطناعي جوهرياً عن البرمجيات التقليدية، نظراً لارتباطها بحالة عدم اليقين وطريقة اتخاذ النماذج لقراراتها بشكل مستقل. مشيرة إلى أن هذه المخاطر تمتد آثارها إلى أبعاد اجتماعية وتنظيمية وأخلاقية أوسع، وقد تظهر بصورة غير متوقعة أثناء التشغيل.
وحصرت الهيئة المخاطر المحتملة في سبع فئات رئيسية، تتصدرها مخاطر التحيز والتمييز، والخصوصية، وإنتاج المعلومات المضللة، إلى جانب إساءة الاستخدام في عمليات الاحتيال. كما شملت الفئات مخاطر الاعتماد المفرط على الأنظمة وإضعاف دور الإنسان، والآثار الاقتصادية والبيئية، وضعف موثوقية الأنظمة وسلامتها.
ولضبط هذه التهديدات، اعتمدت الهيئة سبعة مبادئ أساسية لأخلاقيات الذكاء الاصطناعي، ترتكز على النزاهة، والخصوصية، وتعزيز دور الإنسان، والمنافع الاجتماعية، والموثوقية، والشفافية، والمساءلة. مشددة على أن هذه المبادئ تضمن توافق النماذج الذكية مع قيم العدالة، وتحمل المطورين والمشغلين مسؤولية الآثار الناتجة عن قرارات أنظمتهم.
وتناول الدليل التشريعي أبرز تحديات التقييم، وفي مقدمتها الاعتماد على بيانات أو مكونات برمجية من أطراف ثالثة، وغياب المقاييس الموحدة. لافتة إلى وجود فجوة بين بيئات الاختبار التجريبية والواقع التشغيلي، مما يجعل عملية التقييم ديناميكية تتطلب مراقبة مستمرة للأنظمة بعد إطلاقها.
وأكدت الهيئة أن البيانات تمثل الركيزة الأساسية في إدارة المخاطر، ملزمة الجهات بضبط صلاحيات الوصول إليها وتتبع مصادرها لمعالجة مخاطر التحيز والأمن. موضحة أن متطلبات إدارة المخاطر تختلف باختلاف القطاعات كالصحي والمالي والتعليمي، مما يستوجب تطبيق ضوابط تتناسب مع طبيعة وحساسية بيانات كل قطاع.
وأكدت «سدايا» أن الإطار يزود الجهات بمنهجية عملية متسلسلة تبدأ بتحديد المخاطر وتقييمها، وصولاً إلى معالجتها والمتابعة المستمرة، موضحة أن هذه المنهجية تُطبق عبر جميع مراحل دورة حياة الأنظمة الذكية، لضمان تحقيق أعلى مستويات الموثوقية والامتثال التنظيمي.
وبيّن الإطار اختلاف مخاطر الذكاء الاصطناعي جوهرياً عن البرمجيات التقليدية، نظراً لارتباطها بحالة عدم اليقين وطريقة اتخاذ النماذج لقراراتها بشكل مستقل. مشيرة إلى أن هذه المخاطر تمتد آثارها إلى أبعاد اجتماعية وتنظيمية وأخلاقية أوسع، وقد تظهر بصورة غير متوقعة أثناء التشغيل.
وحصرت الهيئة المخاطر المحتملة في سبع فئات رئيسية، تتصدرها مخاطر التحيز والتمييز، والخصوصية، وإنتاج المعلومات المضللة، إلى جانب إساءة الاستخدام في عمليات الاحتيال. كما شملت الفئات مخاطر الاعتماد المفرط على الأنظمة وإضعاف دور الإنسان، والآثار الاقتصادية والبيئية، وضعف موثوقية الأنظمة وسلامتها.
ولضبط هذه التهديدات، اعتمدت الهيئة سبعة مبادئ أساسية لأخلاقيات الذكاء الاصطناعي، ترتكز على النزاهة، والخصوصية، وتعزيز دور الإنسان، والمنافع الاجتماعية، والموثوقية، والشفافية، والمساءلة. مشددة على أن هذه المبادئ تضمن توافق النماذج الذكية مع قيم العدالة، وتحمل المطورين والمشغلين مسؤولية الآثار الناتجة عن قرارات أنظمتهم.
وتناول الدليل التشريعي أبرز تحديات التقييم، وفي مقدمتها الاعتماد على بيانات أو مكونات برمجية من أطراف ثالثة، وغياب المقاييس الموحدة. لافتة إلى وجود فجوة بين بيئات الاختبار التجريبية والواقع التشغيلي، مما يجعل عملية التقييم ديناميكية تتطلب مراقبة مستمرة للأنظمة بعد إطلاقها.
وأكدت الهيئة أن البيانات تمثل الركيزة الأساسية في إدارة المخاطر، ملزمة الجهات بضبط صلاحيات الوصول إليها وتتبع مصادرها لمعالجة مخاطر التحيز والأمن. موضحة أن متطلبات إدارة المخاطر تختلف باختلاف القطاعات كالصحي والمالي والتعليمي، مما يستوجب تطبيق ضوابط تتناسب مع طبيعة وحساسية بيانات كل قطاع.