ما الذكاء الاصطناعي المحوكم؟
فريق نوفا
في معظم المؤسسات اليوم، سؤال «هل نستخدم الذكاء الاصطناعي؟» انتهى. الإجابة نعم: في التسويق، وفي خدمة العملاء، وعلى أجهزة موظفين لا يعلم أحدٌ بما يلصقونه في نوافذ المحادثة. السؤال الحقيقي الذي يصل إلى طاولة القيادة صار مختلفًا: هل نستطيع أن ندافع عن طريقة استخدامنا له أمام لجنة تدقيق، أو عميل كبير، أو جهة تنظيمية؟ هذا المقال يضع تعريفًا عمليًّا للإجابة بنعم.
تعريف مباشر
الذكاء الاصطناعي المحوكم هو ذكاء اصطناعي يعمل ضمن صلاحيات صريحة ومحدودة النطاق، وتُسجَّل قراراته وإجراءاته في سجلّ قابل للتدقيق، ويخضع لمسؤولية بشرية واضحة. والاختبار العملي لهذا التعريف سؤال واحد: هل تستطيع المؤسسة أن تجيب في أي لحظة: من استخدم أي بيانات، لأي غرض، بأي صلاحية، وما الدليل؟ إن كانت الإجابة تتطلّب تحقيقًا يدويًّا يستغرق أسابيع، فالاستخدام قائم لكنه غير محوكم.
لاحظ ما الذي لا يقوله التعريف: لا يشترط نموذجًا معيّنًا، ولا مزوّدًا معيّنًا، ولا يمنع التجربة. الحوكمة صفةٌ لطريقة التشغيل، لا للنموذج نفسه.
ما الذي لا يُعدّ حوكمة؟
تتعثّر مؤسسات كثيرة لأنها تتبنّى أحد البدائل الثلاثة الشائعة وتسمّيه حوكمة:
- السياسة المكتوبة وحدها. وثيقة «ضوابط استخدام الذكاء الاصطناعي» على نظام إدارة المستندات لا تغيّر سلوك أحد إن لم تكن مفروضة تقنيًّا. السياسة التي لا يقابلها ضابط تقني هي تمنٍّ موثَّق.
- الحظر الشامل. منع الأدوات كليًّا لا يوقف الاستخدام؛ ينقله فقط إلى الأجهزة الشخصية وخارج أي رؤية. وهذا أسوأ وضع ممكن: المخاطر قائمة، والرؤية معدومة، والمؤسسة تظن نفسها آمنة.
- سجلّ الدخول وحده. معرفة من سجّل دخوله إلى أداةٍ ما لا تجيب عن السؤال المهم: ماذا فعل بعد الدخول؟ أي بيانات قرأ؟ أي إجراء نفّذ؟ الحوكمة تبدأ حيث ينتهي سجلّ الدخول.
الأركان الأربعة للذكاء الاصطناعي المحوكم
حين تتأمّل المؤسسات التي تجاوزت مرحلة الفوضى، تجد أن ما بنته يقوم على أربعة أركان متكاملة:
- الصلاحيات الصريحة. كل وكيل وكل تدفّق يعمل بصلاحيات محدّدة سلفًا على مستوى الإجراء ومصدر البيانات: ماذا يقرأ، وماذا ينفّذ، وأين يتوقّف ليسأل إنسانًا. الصلاحية الضمنية: «الأداة متاحة فافعل ما شئت»: هي عكس الحوكمة.
- الرؤية الحيّة. القدرة على رؤية ما يعمل الآن: أي تدفّقات نشطة، على أي أنظمة، وبأي وتيرة. الرؤية ليست تقريرًا شهريًّا؛ هي لوحة تجيب اليوم عن سؤال اليوم.
- السجلّ والأدلة. كل إجراء آلي يترك أثرًا منظّمًا: من، وماذا، ومتى، وبأي صلاحية، وبأي نتيجة. حين يصبح السجلّ منتجًا ثانويًّا تلقائيًّا للتشغيل: لا عملًا يدويًّا لاحقًا: تتحوّل جاهزية التدقيق من حملة سنوية مرهقة إلى حالة دائمة.
- المسؤولية البشرية. لكل تدفّق مالكٌ بالاسم، وللقرارات عالية الأثر نقطة موافقة بشرية قبل التنفيذ. الذكاء الاصطناعي المحوكم لا يُخرج الإنسان من الحلقة؛ يضعه في الموضع الصحيح منها: حيث الأثر كبير والسياق ضروري.
لماذا أصبح هذا شرطًا الآن؟
ثلاثة تحوّلات جعلت الحوكمة شرطًا للتبنّي الجاد بدل أن تكون ترفًا لاحقًا:
- الاستخدام سبق القرار. الذكاء الاصطناعي غير المُدار: ما يُعرف بالذكاء الاصطناعي الظلّي (Shadow AI): موجود في مؤسستك الآن. القرار المتاح لك ليس «هل نسمح به؟» بل «هل نراه ونحكمه؟».
- التوقعات التنظيمية ترتفع. في السياق السعودي تحديدًا، أطرٌ مثل نظام حماية البيانات الشخصية (PDPL) تجعل أسئلة «أين تقيم البيانات؟ ولأي غرض تُعالَج؟ ومن اطّلع عليها؟» أسئلةً يجب أن تملك إجاباتها الموثّقة: والأنظمة التي تعمل بصلاحيات مسجّلة وسجلّ كامل صُمّمت لتدعم رحلتك نحو هذه الإجابات. (وهذا مقال تعليمي، لا استشارة قانونية.)
- الثقة صارت ميزة تشغيلية. المؤسسة التي تستطيع أن تعرض سجلّ قراراتها الآلية بثقة تتعاقد أسرع، وتجتاز المراجعات الأمنية أسرع، وتوسّع استخدامها الداخلي أسرع: لأن كل توسعة لا تفتح نقاشًا من الصفر.
اعتراض شائع: «الحوكمة تبطئنا»
هذا الاعتراض يستحق إجابة مباشرة، لأنه أكثر ما يؤخّر القرار. الصحيح أن الحوكمة المرتجلة: لجان موافقة يدوية لكل طلب، ونماذج تُعبَّأ ثم تُنسى: تبطئ فعلًا، وتدفع الفرق دفعًا نحو الالتفاف. أما الحوكمة المبنية في طبقة التشغيل نفسها فتعمل بالاتجاه المعاكس تمامًا: الصلاحيات تُضبط مرة واحدة وتسري تلقائيًّا على كل ما بعدها، والسجلّ يتولّد من دون جهد إضافي من أحد، والموافقة البشرية لا تعترض إلا القرارات التي تستحق الاعتراض فعلًا. والنتيجة العملية أن الفريق الذي يعمل داخل مساحة محكومة يطلق حالات استخدام جديدة أسرع من فريق يفاوض على كل استثناء من الصفر: لأن الأسئلة الصعبة أُجيب عنها مرة واحدة، في مرحلة التصميم، لا في كل اجتماع.
كيف تعرف أن ما لديك محوكم فعلًا؟ خمسة أسئلة
اختبر وضعك الحالي بهذه الأسئلة: بصدق، ومن دون «نظريًّا نستطيع»:
- هل تستطيع خلال دقائق حصر التدفّقات والوكلاء النشطين في المؤسسة الآن؟
- هل لكل حالة استخدامٍ غرضٌ موثّق ونطاق بيانات محدّد قبل أن تعمل؟
- إذا نفّذ وكيلٌ إجراءً خاطئًا، هل تعرف من يوقفه، وكم يستغرق الإيقاف؟
- هل تستطيع تسليم فريق التدقيق سجلًّا كاملًا لقرارات الشهر الماضي دون تجهيز يدوي؟
- هل تمرّ القرارات عالية الأثر: مدفوعات، بيانات عملاء، التزامات تعاقدية: بموافقة بشرية موثّقة؟
خمس إجابات بنعم تعني أنك تدير منظومة محوكمة. ثلاث فأقل تعني أن لديك تجارب ناجحة: ومخاطرة مفتوحة.
الخطوة العملية الأولى
لا تبدأ بشراء شيء، ولا بمنع شيء. ابدأ بالحصر: أسبوع واحد لجمع صورة صادقة عن الاستخدام القائم فعلًا: الأدوات، والفرق، والبيانات التي تمرّ. ثم اختر حالة استخدام واحدة عالية القيمة وضع عليها الأركان الأربعة كاملة: صلاحيات صريحة، ورؤية، وسجلّ، ومالك بشري. هذه الحالة الواحدة تصبح النموذج الذي تقيس عليه البقية. ولا تجعل الكمال عدوّ البداية: ركنٌ واحد مطبَّق بصدق هذا الشهر خيرٌ من إطار مثالي يُناقَش حتى نهاية السنة.
وإن أردت أداة تفكير جاهزة لهذا التمرين، فقد نشرنا قوائم تحقق تفاعلية لجاهزية الحوكمة وأسئلة المشتريات، وأدلة عملية تتوسّع في كل ركن من الأركان الأربعة.