تنشر بنوك السعودية والإمارات الذكاء الاصطناعي في الائتمان والاحتيال والخدمة والعمليات أسرع مما تُكتب كتب القواعد، ولم ينتظر المشرفون: يسأل فاحصو ساما أصلاً عن جرد النماذج والتحقق والقابلية للتفسير بموجب الأطر القائمة، بينما تضع سدايا مبادئ الذكاء الاصطناعي الوطنية وتنفذ نظام حماية البيانات، وكان المصرف المركزي الإماراتي صريحاً فيما يتوقعه من المؤسسات المرخّصة التي تستخدم تعلم الآلة. والبنك الذي يريد النشر بسرعة يحتاج إلى إطار حوكمة يجيب قبل أن يُسأل.
يغطي هذا الدليل ما تتوقعه سدايا وساما ونظام حماية البيانات في السعودية، وما يتوقعه ميثاق الذكاء الاصطناعي والمصرف المركزي وقوانين حماية البيانات في الإمارات، ونموذج التشغيل، من الجرد إلى اللجنة إلى الأدوات، الذي يتيح للبنك النشر بسرعة وبشكل يمكن الدفاع عنه.
السعودية: مبادئ سدايا وإشراف ساما
تحكم السعودية الذكاء الاصطناعي عبر طبقتين. تضع الهيئة السعودية للبيانات والذكاء الاصطناعي الإطار الوطني: مبادئ أخلاقيات الذكاء الاصطناعي، التي تغطي الإنصاف والخصوصية والشفافية والمساءلة والسلامة والإنسانية، وإرشادات لاحقة لتبني الذكاء الاصطناعي التوليدي. وهذه قائمة على المبادئ وتنطبق عبر القطاعات. ثم يشرف ساما على البنوك عبر قواعد كانت قائمة أصلاً وتغطي الذكاء الاصطناعي الآن بالتطبيق: إطار الأمن السيبراني، وقواعد الإسناد (التي تحكم أي خدمة ذكاء اصطناعي تُشترى من مورّد أو تعمل في سحابة)، وتوقعات إدارة مخاطر النماذج ضمن أطر حوكمة تقنية المعلومات والمخاطر، ومبادئ حماية المستهلك التي تتطلب معاملة عادلة وقابلة للتفسير للعملاء. ويضيف نظام حماية البيانات الشخصية، الذي تنفذه سدايا، الموافقة وتحديد الغرض وقيود النقل على البيانات التي تُدرَّب عليها النماذج وتعمل بها.
لا يوجد كتاب قواعد واحد للذكاء الاصطناعي من ساما حتى أواخر 2026، ولا ينبغي للبنوك انتظاره. فالمشرفون يسألون أصلاً عن جرد النماذج والتحقق وقابلية تفسير قرارات الائتمان والاحتيال ونسب البيانات والضوابط حول أدوات الذكاء الاصطناعي التوليدي التي يستخدمها الموظفون.
الإمارات: ميثاق الذكاء الاصطناعي وإرشادات المصرف المركزي
أصدرت الإمارات ميثاقها لتطوير واستخدام الذكاء الاصطناعي في يوليو 2024، واضعة اثني عشر مبدأً منها الإشراف البشري والسلامة وتجنب التحيز الخوارزمي والخصوصية والشفافية، تحت وزير الدولة للذكاء الاصطناعي والاستراتيجية الوطنية. وأصدر المصرف المركزي إرشادات حول استخدام الذكاء الاصطناعي وتعلم الآلة من المؤسسات المرخّصة، مؤطرة بتوقعاته لحماية المستهلك ومخاطر النماذج: يجب أن تستطيع المؤسسات تفسير القرارات الآلية التي تمس العملاء، واختبار النماذج ومراقبتها للتحيز والانزياح، وإبقاء البشر مساءلين، وإدارة الذكاء الاصطناعي من الأطراف الثالثة كإسناد. ويحكم قانون حماية البيانات الشخصية الاتحادي وأنظمة حماية البيانات في المناطق الحرة في مركز دبي المالي العالمي وسوق أبوظبي العالمي البيانات الأساسية.
نهج الإمارات أسرع حركة من السعودية وأكثر صراحة بشأن الذكاء الاصطناعي التوليدي؛ ومع ذلك فالالتزامات على البنك متشابهة جداً في الجوهر.
ما يطلبه المنظّمان فعلياً
انزع الإطار وتتقارب الأسئلة الإشرافية. جرد للنماذج: كل نموذج مستخدم، وما يقرره، ومن يملكه، ومدى جوهريته. التحقق: اختبار مستقل قبل النشر ودورياً بعده، متناسب مع الجوهرية. القابلية للتفسير: القدرة على ذكر أسباب قرار يمس عميلاً بلغة يفهمها العميل والمشرف. اختبار الإنصاف: دليل على أن النتائج لا تختلف بلا مبرر عبر الجنسية أو الجنس أو العمر أو خصائص محمية أخرى. حوكمة البيانات: النسب والموافقة والإقامة والاحتفاظ لبيانات التدريب والاستدلال. الإشراف البشري: دور محدد يستطيع التجاوز أو الإيقاف أو السحب. إدارة الأطراف الثالثة: العناية الواجبة والعقود وترتيبات الخروج نفسها لمورّدي الذكاء الاصطناعي ومزودي النماذج السحابية كما لأي إسناد جوهري. ومعالجة الحوادث: ما يحدث حين يسيء نموذج التصرف، ومن يُبلَّغ، وكيف يُعوَّض العملاء.
الذكاء الاصطناعي التوليدي يغيّر الجرد
افترضت إدارة مخاطر النماذج التقليدية عدداً صغيراً من النماذج يبنيها البنك. ويضيف الذكاء الاصطناعي التوليدي نماذج أساس لم يبنها البنك، يستخدمها مئات الموظفين عبر أدوات قد لا يكون البنك اعتمدها، ومدمجة على نحو متزايد في منتجات المورّدين. والاستجابة الحوكمية هي توسيع الجرد ليشمل استخدامات الذكاء الاصطناعي التوليدي، وتصنيفها حسب البيانات التي تمسها والقرارات التي تؤثر فيها، ووضع سياسة أدوات معتمدة مع بديل داخل الحدود كي لا يلجأ الموظفون إلى الأدوات الاستهلاكية، وتطبيق منطق التحقق والمراقبة نفسه على حالة الاستخدام لا على النموذج. وتعني قواعد إقامة البيانات أن معظم حالات استخدام بيانات العملاء يجب أن تعمل داخل البلد، ما يبسّط السياسة إذا وفّر البنك المنصة.
نموذج تشغيل ينجح
لجنة حوكمة ذكاء اصطناعي متعددة الوظائف بتمثيل من المخاطر والامتثال والبيانات والتقنية والقانون والأعمال، تجتمع بوتيرة مرتبطة بخط النشر لا بالتقويم. نظام تدرج يضع القرارات الماسة بالعملاء (الائتمان، وحجب الاحتيال، والتسعير، والتحصيل) في الفئة الأعلى بتحقق كامل، والاستخدامات الإنتاجية الداخلية في فئة أخف. قوالب توثيق قياسية: بطاقات النماذج وأوراق البيانات وتقارير التحقق وسجلات القرار، تُنتج كجزء من البناء لا بعده. أدوات تؤتمت الأجزاء المملة: الجرد ومراقبة الانزياح ومقاييس الإنصاف وسجلات التدقيق وسير عمل الموافقات. ومالك تنفيذي مسمّى، لأن المنظّمين يريدان معرفة من المساءل.
الحوكمة كمُمكِّن
البنوك التي تتعامل مع الحوكمة كبوابة تنشر ببطء؛ والتي تتعامل معها كمنصة تنشر أسرع، لأن كل نموذج جديد يرث الجرد والمراقبة وقوالب التوثيق ومسار الموافقة من سابقه. قد يستغرق أول نموذج ائتمان ضمن إطار سليم وقتاً أطول للموافقة؛ والخامس يستغرق أسابيع. وينطبق الأمر نفسه على العلاقات مع المنظّمين: المشرفون الذين رأوا حوكمة البنك تعمل على نموذج يسألون أقل عن التالي.
كيف تساعد Eurisko
تبني Eurisko أنظمة ذكاء اصطناعي للبنوك بحوكمة مدمجة: جرد النماذج، والتحقق واختبار الإنصاف، والقابلية للتفسير للقرارات الماسة بالعملاء، ومراقبة الانزياح وتسجيل التدقيق، منشورة داخل حدود بيانات البنك. توفر منصتنا Kortex الأدوات؛ وعملت فرق التسليم لدينا تحت إشراف ساما والمصرف المركزي الإماراتي. إن كنتم تنشئون وظيفة حوكمة للذكاء الاصطناعي أو تنضّجونها، تحدثوا إلى فريقنا.
