حوكمة الذكاء الاصطناعي في السعودية هي مجموعة السياسات والمسؤوليات والضوابط التي تحدد البيانات التي يستطيع نظام الذكاء الاصطناعي استخدامها، والإجراءات التي يمكنه تنفيذها، والحالات التي تحتاج إلى موافقة بشرية، وطريقة تسجيل مخرجاته ومراقبتها. وتساعد الحوكمة الشركات على استخدام وكلاء الذكاء الاصطناعي بصورة قابلة للقياس والمراجعة، مع إدارة المخاطر ودعم متطلبات حماية البيانات.
لم يعد السؤال أمام المديرين التنفيذيين هو: «هل يمكننا استخدام الذكاء الاصطناعي؟» بل أصبح: «كيف نستخدمه داخل عملياتنا من دون فقدان السيطرة؟»
تستطيع أنظمة الذكاء الاصطناعي اليوم قراءة المستندات، وإعداد مسودات عروض الأسعار، والبحث داخل المعرفة المؤسسية، وتصنيف استفسارات العملاء، واقتراح الردود وتنفيذ أجزاء من سير العمل. وكلما انتقل الذكاء الاصطناعي من تقديم المعلومات إلى اقتراح القرارات والإجراءات، ازدادت الحاجة إلى ضوابط واضحة تحدد مسؤولياته وحدوده.
لماذا يحتاج المديرون التنفيذيون إلى حوكمة الذكاء الاصطناعي؟
يحتاج المديرون التنفيذيون إلى الحوكمة لأن أنظمة الذكاء الاصطناعي قد تؤثر في العملاء والعمليات والبيانات والإيرادات وسمعة المؤسسة.
قد يقدم روبوت محادثة داخلي إجابة غير دقيقة يمكن للموظف مراجعتها بسهولة. لكن الخطورة ترتفع عندما يقترح النظام سعرًا، أو يصيغ ردًا لعميل، أو يوصي بالموافقة على طلب، أو يستخدم بيانات شخصية لتنفيذ مهمة.
تساعد حوكمة الذكاء الاصطناعي الإدارة على الإجابة عن أسئلة أساسية:
- ما أنظمة الذكاء الاصطناعي المستخدمة داخل المؤسسة؟
- ما الغرض من كل نظام؟
- ما البيانات التي يستطيع الوصول إليها؟
- من يملك مسؤولية تشغيله؟
- ما الإجراءات التي يمكنه تنفيذها؟
- أين تكون الموافقة البشرية مطلوبة؟
- كيف تُقاس جودة مخرجاته؟
- ماذا يحدث إذا أخطأ؟
- كيف يمكن إيقافه أو العودة إلى المعالجة اليدوية؟
- كيف تتأكد المؤسسة من استمرار ملاءمته بعد الإطلاق؟
من دون هذه الإجابات، قد تستخدم الإدارات والموظفون أدوات مختلفة دون رؤية مركزية أو ضوابط متسقة.
ما الفرق بين حوكمة البيانات وحوكمة الذكاء الاصطناعي؟
تحدد حوكمة البيانات كيفية جمع البيانات وتصنيفها والوصول إليها وتخزينها ومشاركتها والاحتفاظ بها، بينما تغطي حوكمة الذكاء الاصطناعي كيفية استخدام الأنظمة لهذه البيانات لإنتاج إجابات أو توصيات أو إجراءات.
ترتبط الحوكمتان، لكنهما لا تعنيان الشيء نفسه.
قد تمتلك المؤسسة بيانات منظمة ومحمية جيدًا، ومع ذلك يظل نظام الذكاء الاصطناعي قادرًا على:
- إنتاج إجابة غير دقيقة.
- استخدام مصدر قديم.
- تطبيق قاعدة عمل بطريقة خاطئة.
- التصرف خارج نطاق المهمة.
- تقديم توصية دون توضيح مستوى الثقة.
- إرسال مخرج قبل مراجعته.
- الاستمرار في العمل بعد تغير السياسات أو البيانات.
لذلك يجب أن تشمل حوكمة وكلاء الذكاء الاصطناعي البيانات والنموذج والتعليمات ومصادر المعرفة والتكاملات والصلاحيات والمخرجات والإجراءات الناتجة عنها.
ما المقصود بوكيل ذكاء اصطناعي محكوم؟
وكيل الذكاء الاصطناعي المحكوم هو نظام يعمل ضمن غرض وصلاحيات وقواعد محددة، ويستطيع التوقف أو تصعيد الحالة عندما لا تتوافر له المعلومات أو الثقة الكافية.
لا تعني الحوكمة منع الوكيل من العمل، بل تحديد ما يمكنه فعله بأمان.
قد يُسمح للوكيل بأن:
- يقرأ طلبًا أو مستندًا.
- يستخرج البيانات.
- يبحث داخل مصادر معتمدة.
- يطابق البيانات مع قواعد المؤسسة.
- ينشئ مسودة.
- يقترح قرارًا.
- يصنف الطلب.
- يرسل الحالة إلى الموظف المختص.
وفي المقابل، قد يحتاج إلى موافقة بشرية قبل أن:
- يرسل عرض سعر إلى العميل.
- يطبق خصمًا استثنائيًا.
- يعدل سجلًا داخل CRM أو ERP.
- يقدم التزامًا تعاقديًا.
- ينفذ قرارًا له أثر مالي.
- يرسل ردًا في حالة حساسة.
- يستخدم بيانات لغرض جديد.
- يتعامل مع حالة منخفضة الثقة.
يعتمد مستوى الاستقلالية المناسب على طبيعة المهمة ومخاطر الخطأ وقابلية التراجع عن الإجراء.
من المسؤول عن حوكمة الذكاء الاصطناعي داخل المؤسسة؟
لا ينبغي ترك حوكمة الذكاء الاصطناعي لفريق التقنية وحده. تحتاج المؤسسة إلى توزيع واضح للمسؤوليات بين الإدارة والأعمال والتقنية والأمن والبيانات والامتثال.
الإدارة التنفيذية
تعتمد الأولويات ومستوى المخاطر المقبول والميزانية، وتتأكد من ارتباط المشروع بهدف تجاري واضح.
مالك العملية
يحدد طريقة عمل العملية وقواعدها والاستثناءات ومؤشرات النجاح. وقد يكون مدير المبيعات أو العمليات أو خدمة العملاء، وفق حالة الاستخدام.
فريق تقنية المعلومات
يدير التكاملات والصلاحيات والبنية التحتية والهوية والوصول والتشغيل الفني.
فريق البيانات
يتحقق من جودة البيانات ومصادرها وتعريفاتها وطريقة تحديثها واستخدامها.
الأمن السيبراني
يقيّم المخاطر الأمنية، وحماية التكاملات، وإدارة الأسرار والحسابات والصلاحيات، والاستجابة للحوادث.
الخصوصية أو الامتثال
يراجع الغرض من معالجة البيانات، ونوع البيانات المستخدمة، والأطراف المشاركة، ومتطلبات الاحتفاظ والنقل وحقوق أصحاب البيانات.
المستخدمون النهائيون
يختبرون النظام داخل سير العمل الفعلي ويبلغون عن الأخطاء والاستثناءات وصعوبات الاستخدام.
مزود الحل
يوضح كيفية عمل النظام، ومصادر البيانات التي يستخدمها، وأطراف المعالجة، وإمكانات التسجيل والمراقبة، وحدود الحل ومسؤوليات كل طرف.
يجب تعيين مالك واضح لكل نظام ذكاء اصطناعي، حتى لا تضيع المسؤولية بين الفرق عندما تظهر مشكلة.
لماذا تحتاج المؤسسة إلى سجل لحالات استخدام الذكاء الاصطناعي؟
يساعد سجل حالات الاستخدام المؤسسة على معرفة أين وكيف يُستخدم الذكاء الاصطناعي داخل الإدارات.
قد يتضمن السجل:
- اسم النظام أو الأداة.
- الغرض من الاستخدام.
- الإدارة المسؤولة.
- مالك العملية.
- فئة المستخدمين.
- أنواع البيانات المستخدمة.
- مصادر البيانات.
- الأنظمة المتكاملة.
- نوع المخرجات أو الإجراءات.
- مستوى المراجعة البشرية.
- تصنيف المخاطر.
- تاريخ الاعتماد.
- نتائج الاختبارات.
- مؤشرات الأداء والمخاطر.
- تاريخ المراجعة التالية.
- الموردون والأطراف الخارجية.
يمنع هذا السجل ظهور ما يسمى بالذكاء الاصطناعي غير المرئي، حيث يستخدم الموظفون أدوات عامة أو يرفعون بيانات المؤسسة إليها من دون مراجعة أو موافقة.
كيف تصنف المؤسسة حالات استخدام الذكاء الاصطناعي حسب المخاطر؟
يساعد تصنيف المخاطر على تطبيق ضوابط تتناسب مع أثر النظام بدلًا من فرض عملية واحدة على جميع الاستخدامات.
حالات منخفضة المخاطر
تشمل المهام التي تنتج مسودات داخلية يمكن مراجعتها بسهولة، مثل:
- تلخيص مستند غير حساس.
- اقتراح عناوين داخلية.
- تنسيق محتوى.
- البحث الأولي داخل معرفة عامة.
قد تحتاج هذه الحالات إلى سياسة استخدام واضحة ومراجعة دورية بسيطة.
حالات متوسطة المخاطر
تشمل أنظمة تؤثر في سير العمل أو العملاء، لكن يمكن اكتشاف أخطائها وتصحيحها قبل التنفيذ، مثل:
- إعداد مسودة عرض سعر.
- اقتراح رد لخدمة العملاء.
- استخراج بيانات من طلب.
- البحث داخل الوثائق الداخلية.
- تصنيف الحالات وتحويلها بين الفرق.
تحتاج هذه الحالات إلى مصادر معتمدة، وحدود للثقة، ومراجعة بشرية، واختبارات جودة، وسجلات مناسبة.
حالات مرتفعة المخاطر
تشمل الأنظمة التي يمكن أن تؤدي أخطاؤها إلى أثر مالي أو قانوني أو تشغيلي أو إنساني كبير، مثل:
- تنفيذ قرارات مالية تلقائية.
- اتخاذ قرارات تؤثر في حقوق الأفراد.
- إصدار التزامات تعاقدية.
- التعامل مع بيانات حساسة.
- تنفيذ إجراءات لا يمكن التراجع عنها بسهولة.
- تشغيل عمليات حرجة دون إشراف.
تحتاج هذه الحالات إلى مراجعة أعمق، وضوابط أقوى، واختبارات مستقلة، ومسارات موافقة وتصعيد، وخطة إيقاف واستجابة للحوادث.
يعتمد التصنيف النهائي على طبيعة القطاع والبيانات والأثر، وليس على اسم التقنية فقط.
ما الضوابط المطلوبة قبل منح وكيل الذكاء الاصطناعي حق الوصول؟
يجب تطبيق أقل مستوى من الصلاحيات اللازمة لإنجاز المهمة، مع فصل واضح بين القراءة والاقتراح والتنفيذ.
تشمل الضوابط المهمة:
تحديد مصادر البيانات
يجب تحديد الأنظمة والمجلدات والوثائق التي يستطيع الوكيل استخدامها، ومنع الوصول إلى المصادر غير الضرورية.
تقييد الصلاحيات
يحصل الوكيل على الصلاحيات التي يحتاجها فقط. ويمكن بدء المشروع بصلاحيات قراءة محددة عندما لا تكون هناك حاجة إلى تعديل السجلات.
فصل البيئات
ينبغي فصل بيئة التطوير والاختبار عن بيئة الإنتاج، وعدم استخدام بيانات الإنتاج في الاختبار من دون ضوابط مناسبة.
إدارة الحسابات والمفاتيح
يجب عدم مشاركة حسابات شخصية أو صلاحيات مفتوحة مع النظام. تُدار هويات الخدمة والمفاتيح والأسرار وفق سياسات المؤسسة.
تحديد نطاق الإجراءات
يجب كتابة قائمة واضحة بالإجراءات المسموحة والممنوعة، بدلًا من منح الوكيل صلاحية عامة.
وضع حدود للثقة
عندما تكون ثقة النظام منخفضة أو تتعارض المصادر، يجب أن يتوقف ويصعّد الحالة بدلًا من التخمين.
إمكانية الإيقاف
تحتاج المؤسسة إلى وسيلة لتعطيل النظام أو سحب صلاحياته أو العودة إلى العملية اليدوية إذا ظهرت مشكلة.
متى تحتاج قرارات الذكاء الاصطناعي إلى مراجعة بشرية؟
تكون المراجعة البشرية أكثر أهمية عندما يكون القرار حساسًا أو مرتفع القيمة أو يصعب التراجع عنه أو عندما تكون بيانات النظام غير مكتملة.
قد تُطلب الموافقة البشرية عندما:
- يقل مستوى الثقة عن الحد المحدد.
- يتجاوز الخصم أو القيمة حدًا ماليًا.
- تختلف النتيجة عن القواعد المعتادة.
- يحتوي الطلب على بيانات ناقصة.
- لا يجد النظام مصدرًا معتمدًا.
- تؤثر النتيجة في عميل أو موظف.
- يؤدي الإجراء إلى التزام مالي أو تعاقدي.
- يستخدم النظام بيانات حساسة.
- تظهر حالة جديدة لم تُختبر سابقًا.
يجب ألا تكون المراجعة البشرية مجرد زر موافقة شكلي. يحتاج المراجع إلى رؤية المعلومات والسياق والمصادر والاستثناءات التي تساعده على اتخاذ قرار حقيقي.
كيف تدعم حوكمة الذكاء الاصطناعي حماية البيانات الشخصية؟
تدعم الحوكمة حماية البيانات من خلال ربط كل استخدام بغرض محدد، وتقليل البيانات المستخدمة، وتقييد الوصول، ومراجعة دورة حياة المعلومات.
عند معالجة بيانات شخصية، يجب على المؤسسة تقييم:
- الغرض من المعالجة.
- الأساس النظامي المناسب.
- أنواع البيانات المستخدمة.
- ضرورة كل عنصر من البيانات.
- الأطراف التي تستطيع الوصول إليها.
- الموردين وأطراف المعالجة.
- مكان التخزين والمعالجة.
- أي عمليات نقل خارج المملكة.
- مدة الاحتفاظ.
- إجراءات الحذف أو إخفاء الهوية.
- الضوابط الأمنية.
- حقوق أصحاب البيانات.
- الحاجة إلى تقييم أثر الخصوصية.
لا تعني الخصوصية أن جميع أنظمة الذكاء الاصطناعي يجب أن تعمل بطريقة واحدة، ولا أن الموافقة هي الأساس الوحيد لجميع عمليات المعالجة. تعتمد المتطلبات على الغرض ونوع البيانات والسياق النظامي.
كما لا يعني استخدام حل تقني أن المؤسسة أصبحت ممتثلة تلقائيًا. يجب على مزود الحل أن يوضح ضوابطه ومسؤولياته، بينما تظل المؤسسة مسؤولة عن تقييم الاستخدام الفعلي وإدارته.
هل يجب أن تبقى جميع البيانات داخل السعودية؟
لا يمكن اختزال حماية البيانات في موقع الخادم فقط. يجب تقييم مكان تخزين البيانات ومعالجتها، لكن نقل البيانات الشخصية خارج المملكة لا يُمنع بصورة مطلقة.
تخضع عمليات النقل إلى متطلبات وشروط وضمانات وإجراءات وفق الحالة ونوع البيانات والغرض والجهة المستقبلة.
لذلك يجب أن يسأل المدير التنفيذي:
- أين تُخزن البيانات؟
- أين تتم المعالجة؟
- هل تنتقل البيانات أو السجلات إلى خارج المملكة؟
- ما الأطراف الخارجية المشاركة؟
- ما الغرض والأساس المستخدم للنقل؟
- ما الضمانات المطبقة؟
- هل يتضمن الاستخدام بيانات حساسة؟
- هل تستطيع المؤسسة حذف البيانات أو استعادتها؟
- ماذا يحدث للبيانات عند انتهاء العقد؟
قد تكون البنية المحلية مناسبة لبعض المؤسسات أو حالات الاستخدام، لكنها ليست وحدها دليلًا كاملًا على الامتثال أو الأمان.
ما الأسئلة التي يجب طرحها على مزود الذكاء الاصطناعي؟
يجب أن يطلب المدير التنفيذي إجابات عملية وقابلة للتحقق، وليس وعودًا عامة حول الدقة أو الأمان.
أسئلة عن البيانات
- ما البيانات التي يحتاجها النظام؟
- لماذا يحتاج إلى كل نوع منها؟
- أين تُعالج البيانات وتُخزن؟
- هل تُستخدم بياناتنا لتدريب نماذج عامة؟
- ما الأطراف الخارجية التي تصل إليها؟
- كيف تُدار فترات الاحتفاظ والحذف؟
أسئلة عن الصلاحيات
- هل يستطيع النظام العمل بصلاحيات قراءة محددة؟
- ما الإجراءات التي يستطيع تنفيذها؟
- هل يمكن منع الكتابة أو الإرسال التلقائي؟
- كيف تُدار حسابات الخدمة والمفاتيح؟
- هل يمكن سحب الصلاحيات فورًا؟
أسئلة عن المخرجات
- كيف يوضح النظام مصادر إجابته أو اقتراحه؟
- ماذا يحدث عندما تكون ثقته منخفضة؟
- كيف يكتشف البيانات الناقصة أو المتعارضة؟
- ما أنواع الأخطاء المعروفة؟
- كيف يمكن للمستخدم تصحيح المخرج؟
أسئلة عن اللغة
- هل اختُبر النظام على مستندات عربية فعلية؟
- هل يستطيع معالجة مستندات ثنائية اللغة؟
- كيف يتعامل مع الأرقام والأسماء والمصطلحات الفنية؟
- هل يحافظ على رموز المنتجات والقيم دون ترجمة خاطئة؟
أسئلة عن التشغيل
- ما مؤشرات الأداء والمخاطر؟
- ما معايير قبول المشروع؟
- من يراقب النظام بعد الإطلاق؟
- كيف تُدار تحديثات النموذج والتعليمات؟
- ما خطة التعامل مع الحوادث؟
- هل توجد آلية للعودة إلى العملية اليدوية؟
- ما التدريب الذي سيحصل عليه الموظفون؟
لا يُعد طول المشروع وحده مؤشرًا على جودة المزود. الأهم هو وجود مراحل واضحة ونطاقات قابلة للاختبار ونتائج ومعايير قبول موثقة.
كيف تختبر المؤسسة جودة اللغة العربية؟
لا يكفي أن يذكر المورد أن النظام يدعم العربية. يجب اختباره على عينات تمثل بيئة المؤسسة.
ينبغي أن يشمل الاختبار:
- العربية الفصحى والمصطلحات المستخدمة في القطاع.
- المستندات التي تجمع العربية والإنجليزية.
- الجداول من اليمين إلى اليسار.
- الأرقام والتواريخ والعملات.
- أسماء المنتجات والعلامات.
- المستندات الممسوحة ضوئيًا.
- اختلاف كتابة الاسم أو المصطلح.
- الأسئلة التي تحتوي على أخطاء إملائية.
- حالات لا توجد لها إجابة في المصادر.
في أنظمة البحث المعزز بالاسترجاع، يجب قياس قدرة النظام على العثور على المصدر الصحيح، وليس جودة صياغة الإجابة فقط.
كيف تراقب المؤسسة وكيل الذكاء الاصطناعي بعد إطلاقه؟
لا تنتهي الحوكمة عند اعتماد النظام. قد تتغير البيانات أو السياسات أو مصادر المعرفة أو سلوك المستخدمين بعد الإطلاق.
يجب أن تشمل المراقبة:
- جودة المخرجات.
- نسبة الأخطاء الحرجة.
- مستوى تدخل الموظفين.
- نسبة الحالات المصعّدة.
- استخدام مصادر قديمة.
- محاولات الوصول غير المصرح بها.
- زمن الاستجابة.
- شكاوى المستخدمين والعملاء.
- تغير أنماط الاستخدام.
- فشل التكاملات.
- أثر تحديث النموذج أو التعليمات.
- اختلاف الأداء بين العربية والإنجليزية.
يجب تحديد مستوى أو مؤشر يستدعي إيقاف النظام أو تقليل صلاحياته أو إعادة اختباره.
كيف تُدار تحديثات أنظمة الذكاء الاصطناعي؟
قد يتغير أداء النظام عند تحديث النموذج أو التعليمات أو مصادر المعرفة أو قواعد العمل، حتى لو لم تتغير واجهته.
لذلك يجب إدارة التحديثات من خلال:
- توثيق الإصدار المستخدم.
- تسجيل التغييرات.
- اختبارها في بيئة منفصلة.
- إعادة تشغيل حالات التقييم الأساسية.
- مقارنة النتائج بالإصدار السابق.
- مراجعة أثر التغيير في العربية والإنجليزية.
- الحصول على الموافقات المطلوبة.
- توفير إمكانية الرجوع إلى الإصدار السابق.
لا ينبغي نقل تحديث مؤثر إلى الإنتاج لمجرد أنه يحسن بعض الإجابات؛ فقد يؤدي إلى تراجع الأداء في حالات أخرى.
كيف تتعامل المؤسسة مع أخطاء وحوادث الذكاء الاصطناعي؟
تحتاج المؤسسة إلى خطة تحدد ما يحدث عند تقديم مخرج خاطئ أو تنفيذ إجراء غير مناسب أو استخدام بيانات بطريقة غير متوقعة.
يجب أن تحدد الخطة:
- كيفية اكتشاف الحادث.
- من يتلقى البلاغ.
- من يملك صلاحية إيقاف النظام.
- كيفية عزل التكامل أو سحب الصلاحيات.
- كيفية العودة إلى العملية اليدوية.
- طريقة حفظ الأدلة والسجلات.
- كيفية تقييم أثر الخطأ.
- الجهات الداخلية التي يجب إشراكها.
- طريقة تصحيح البيانات أو المخرجات.
- متى يجب إخطار الأطراف المعنية وفق المتطلبات المطبقة.
- كيفية منع تكرار المشكلة.
يجب اختبار الخطة عمليًا، وليس الاحتفاظ بها كوثيقة لا يعرف المستخدمون كيفية تطبيقها.
ما مؤشرات أداء ومخاطر الذكاء الاصطناعي؟
يجب مراقبة القيمة والمخاطر معًا. لا يكفي قياس السرعة أو عدد المهام المنفذة.
مؤشرات الأداء
- الوقت الموفر.
- متوسط زمن المعالجة.
- نسبة المخرجات المقبولة.
- حجم العمل اليدوي الذي تم تقليله.
- معدل الحل من أول تواصل.
- سرعة إعداد عروض الأسعار.
- رضا المستخدمين.
- معدل تبني النظام.
مؤشرات الجودة
- دقة استخراج البيانات.
- دقة مطابقة المنتجات.
- نسبة الإجابات المدعومة بالمصادر.
- معدل التعديلات البشرية.
- نسبة الحالات المصعّدة بصورة صحيحة.
- معدل النتائج غير المكتملة.
مؤشرات المخاطر
- عدد الأخطاء الحرجة.
- محاولات الوصول غير المصرح بها.
- عدد الإجراءات التي أُوقفت بسبب انخفاض الثقة.
- استخدام بيانات أو مصادر غير معتمدة.
- عدد الحالات التي تجاوزت الصلاحيات.
- شكاوى الخصوصية أو الجودة.
- اختلاف الأداء بين اللغات أو الفئات.
- زمن اكتشاف الحادث والاستجابة له.
يجب الاتفاق على الحدود المقبولة والإجراءات التي تُتخذ عند تجاوزها.
كيف تطبق حوكمة الذكاء الاصطناعي دون إبطاء الابتكار؟
يمكن تطبيق الحوكمة بطريقة عملية من خلال ربط مستوى الضوابط بمستوى المخاطر.
ابدأ بالخطوات التالية:
- أنشئ سجلًا لحالات استخدام الذكاء الاصطناعي.
- عيّن مالكًا لكل نظام.
- صنف الاستخدام حسب المخاطر.
- حدد البيانات والصلاحيات المطلوبة.
- وثق الإجراءات المسموحة والممنوعة.
- حدد نقاط المراجعة البشرية.
- جهز حالات اختبار ومعايير قبول.
- اختبر النظام على بيانات تمثل الواقع.
- درّب المستخدمين على الحدود والتصعيد.
- راقب الأداء والمخاطر بعد الإطلاق.
- راجع النظام عند تغير النموذج أو البيانات أو السياسات.
- احتفظ بخطة إيقاف وعودة إلى العمل اليدوي.
تسمح هذه الطريقة بتسريع الاستخدامات منخفضة المخاطر، مع تخصيص مراجعة أعمق للحالات الحساسة.
كيف تدعم LeenAI حوكمة وكلاء الذكاء الاصطناعي؟
تركز LeenAI على بناء وكلاء ذكاء اصطناعي مرتبطين بسير عمل محدد داخل المؤسسة، بدلًا من تقديم أدوات عامة دون حدود تشغيلية واضحة.
قد يساعد SmartQuote على قراءة طلبات RFQ، واستخراج البنود، ومطابقتها مع بيانات المنتجات والأسعار، وإنشاء مسودة عرض يراجعها مسؤول مخول من المبيعات أو التسعير.
وقد يساعد WhatsApp CX على تصنيف استفسارات العملاء، واسترجاع إجابات من مصادر معتمدة، وتصعيد الحالات المعقدة أو منخفضة الثقة إلى الموظف المختص.
أما OpsRAG فيساعد الموظفين على البحث داخل المعرفة والوثائق التشغيلية، مع ربط الإجابات بالمصادر المتاحة وفق إعداد النظام.
يمكن بدء هذه الحلول بصلاحيات ونطاقات محددة، مع مراجعة بشرية ومعايير تقييم وسجلات تشغيل مناسبة. لكن الضوابط النهائية تعتمد على حالة الاستخدام وبيانات المؤسسة وأنظمتها وسياساتها ومتطلبات قطاعها.
ما قائمة المراجعة التنفيذية قبل اعتماد نظام ذكاء اصطناعي؟
قبل الموافقة على النظام، تأكد من وجود إجابات واضحة عن الأسئلة التالية:
- هل توجد مشكلة تشغيلية محددة؟
- هل يوجد مالك مسؤول عن النظام؟
- هل صُنفت حالة الاستخدام حسب المخاطر؟
- هل حُددت البيانات الضرورية فقط؟
- هل تم توثيق الغرض من استخدامها؟
- هل عُرفت مصادر البيانات المعتمدة؟
- هل حُددت صلاحيات النظام؟
- هل توجد إجراءات ممنوعة بوضوح؟
- هل حُددت نقاط المراجعة البشرية؟
- هل توجد حدود للثقة وقواعد للتصعيد؟
- هل اختُبرت العربية والإنجليزية؟
- هل توجد حالات تقييم واقعية؟
- هل حُددت مؤشرات الأداء والمخاطر؟
- هل توجد خطة للمراقبة بعد الإطلاق؟
- هل توجد خطة للاستجابة للحوادث؟
- هل يمكن إيقاف النظام أو العودة إلى العملية اليدوية؟
- هل يعرف المستخدمون كيفية تشغيله والإبلاغ عن الأخطاء؟
- هل تم تقييم الموردين والأطراف الخارجية؟
- هل تمت مراجعة متطلبات حماية البيانات؟
- هل توجد مراجعة دورية بعد الإطلاق؟
ما الخطوة التالية للمديرين التنفيذيين؟
تبدأ حوكمة الذكاء الاصطناعي بتحديد حالة استخدام واحدة ومالك واحد ونتيجة واحدة يمكن قياسها.
لا تحتاج المؤسسة إلى بناء إطار ضخم قبل اختبار أول حالة استخدام، لكنها تحتاج منذ البداية إلى معرفة البيانات المستخدمة والصلاحيات الممنوحة والمسؤول عن القرار وطريقة قياس الأداء والتعامل مع الأخطاء.
يمكن اختبار سير عمل محدد خلال 6–8 أسابيع للحصول على أدلة تساعد الإدارة على اتخاذ قرار التوسع. لكن الهدف من الفترة التجريبية ليس تجاوز الحوكمة من أجل السرعة، بل اختبار الضوابط والنتائج معًا.
إن حوكمة الذكاء الاصطناعي في السعودية لا تعني إبطاء التحول الرقمي. بل تمنح المؤسسات طريقة واضحة لنقل الذكاء الاصطناعي من تجربة منفصلة إلى قدرة تشغيلية يمكن الوثوق بها ومراقبتها وتحسينها.
المؤسسات التي تبدأ بالمسؤوليات والبيانات والصلاحيات ومعايير النجاح ستكون أكثر قدرة على الاستفادة من وكلاء الذكاء الاصطناعي من المؤسسات التي تبدأ بالتقنية وحدها.
