لماذا تحتاج أنظمة الذكاء الاصطناعي الوكيلة إلى حوكمة على طراز النواة بدلاً من مزيد من المراجعين البشريين

أبرز النقاط

• نموذج الإنسان في الحلقة (HITL) يتحول إلى عنق زجاجة تشغيلي في الأنظمة الإنتاجية واسعة النطاق
• الحل يكمن في الانتقال من التفكير بالقدرات إلى التفكير بالمسؤوليات المحددة
• بنية Kernel Space تفرض السياسات آلياً وتُصعّد الاستثناءات الحقيقية فقط للبشر

حين تنتقل أنظمة الذكاء الاصطناعي الوكيلة من مرحلة العروض التجريبية إلى بيئات الإنتاج الفعلية — حيث تنقل الأموال، وتعدّل البنية التحتية، وتغيّر سجلات حساسة — يتكشّف قصور النموذج السائد للرقابة البشرية. الاعتماد على مراجع بشري يوافق على كل قرار يبدو منطقياً نظرياً، لكنه يتحول عملياً إلى فخ قابلية التوسع الذي يُغرق الفِرق في طوابير لا تنتهي ويُفرز ظاهرة إجهاد التنبيهات.

لماذا يفشل نموذج الإنسان في الحلقة عند التوسع؟

في بيئات التطوير أو خطوط الأنابيب منخفضة التردد، يبدو توجيه القرارات غير المؤكدة إلى إنسان خياراً معقولاً. لكن في أنظمة الإنتاج التي تُشغّل عشرات الوكلاء وتتخذ مئات القرارات في الساعة، يتحول هذا النموذج إلى ما يُسمى فخ قابلية التوسع (Scalability Trap).

السيناريو يتكرر يومياً: وكيل ذكي يُعلّم قراراً للمراجعة، فيوافق عليه الإنسان. ثم يصل قرار آخر، ثم عشرات. تتضخم الطوابير، فيبدأ المراجع بالنقر السريع دون قراءة حمولات JSON فعلياً. يضغط على زر الموافقة لأن الاجتماع يبدأ بعد عشر دقائق، ولم تحدث كارثة بعد. هذا هو إجهاد التنبيهات بعينه: الحوكمة تتدهور إلى إدارة يدوية لمعدل النفاذ.

المشكلة ليست ضعفاً بشرياً، بل ديون تقنية في طبقة الحوكمة ناجمة عن توجيه قرارات ثنائية كثيرة جداً عبر طابور يدوي. أشار Tyler Akidau في مقاله حول البنية التحتية المفقودة لعصر الذكاء الاصطناعي إلى أن الصناعة استثمرت بكثافة في قدرات الوكلاء، لكنها أهملت البنية التحتية التي تحكم السلطة والقيود والمساءلة.

ما البديل القابل للتوسع؟ الحوكمة بالاستثناء

الحل لا يكمن في توظيف مزيد من المراجعين للإشراف على مزيد من الروبوتات، بل في تغيير نموذج الحوكمة كلياً. المبدأ الجديد هو الحوكمة بالاستثناء (Governance by Exception): البشر يصمّمون السياسات، وبيئة التشغيل تفرضها آلياً، ولا تُصعَّد للبشر إلا الحالات الاستثنائية الحقيقية.

هذا النهج يستلهم بنية أنظمة التشغيل: فصل واضح بين فضاء المستخدم (Userspace) وفضاء النواة (Kernel Space). في السياق الوكيل، تعمل النواة كطبقة تنفيذ مميّزة تتحقق من كل إجراء مقترح قبل أن يمس العالم الحقيقي، وتطبّق سياسات محددة مسبقاً بسرعة الآلة.

من القدرات إلى المسؤوليات: تحوّل جوهري في التصميم

الإطار السائد في الذكاء الاصطناعي المؤسسي يطرح سؤالاً واحداً: ما الذي يستطيع هذا الوكيل فعله؟ ما الأدوات المتاحة له؟ ما الواجهات البرمجية التي يمكنه استدعاؤها؟ هذا هو إطار القدرات (Capabilities Frame)، وهو طبيعي وبديهي، لكنه في الأنظمة الإنتاجية هو الإطار الخاطئ تماماً.

في التصميم المؤسسي، الدور ثابت ومُسنَد، تماماً كنموذج التحكم في الوصول المبني على الأدوار (RBAC) في البرمجيات التقليدية: يُحدد ما يُصرَّح للكيان بفعله، بصرف النظر عن المهام التي يُنفذها لحظياً. لا نستطيع التحكم في كيفية تفكير الوكيل، لكننا نستطيع تحديد ما يُسمح له بفعله بصرامة.

• المالية: القدرة هي «يمكنه تنفيذ صفقات أسهم». المسؤولية هي «مُصرَّح له بتنفيذ صفقات حتى 50,000 دولار للأمر الواحد، في أسهم عالية السيولة فقط، مع حد أقصى للخسارة اليومية 2%»
• العمليات الصحية: القدرة هي «يمكنه إعادة جدولة مواعيد المرضى». المسؤولية هي «مُصرَّح له بإعادة حجز زيارات العيادات الخارجية غير الحرجة ضمن نافذة 14 يوماً، مع تجنب الحجز المزدوج للأخصائيين»
• سلسلة الإمداد: القدرة هي «يمكنه تغيير مسار الشحنات». المسؤولية هي «مُصرَّح له بإعادة توجيه البضائع غير الخطرة ضمن ميزانية غرامات SLA بحد أقصى 5,000 دولار»

الفجوة بين هاتين الصياغتين هي الفجوة بين عرض تجريبي ونشر إنتاجي حقيقي. في الأنظمة التي تمس الأموال أو السجلات الطبية أو اللوجستيات الفعلية، لا يكفي الاعتماد على موجّهات (Prompts) تطلب من النموذج اللغوي «الحذر في حجم المراكز» والأمل في أن المحاذاة (Alignment) ستصمد أمام المدخلات العدائية والحالات الحدية.

ماذا يعني هذا للمؤسسات الخليجية؟

مع تسارع التحول الرقمي في دول الخليج ضمن رؤى مثل السعودية 2030 والإمارات 2031، تتبنى المؤسسات المالية والصحية واللوجستية أنظمة وكيلة بوتيرة متصاعدة. لكن الانتقال من التجريب إلى الإنتاج يتطلب بنية حوكمة تتجاوز المراجعة البشرية اليدوية. السوق الخليجية، بتركيزها على الامتثال التنظيمي الصارم في القطاعات المالية والصحية، قد تكون من أوائل المستفيدين من نموذج الحوكمة بالاستثناء الذي يوازن بين الأتمتة والرقابة.

كيف تُبنى طبقة النواة عملياً؟

الطبقة التنفيذية المميّزة (Kernel Space) ليست مجرد استعارة نظرية. في المقال السابق من السلسلة، قدّم المؤلف مفاهيم تقنية محددة: أولاً، مبدأ التكرارية الآمنة (Idempotency) الذي يضمن إمكانية إعادة تنفيذ الإجراءات دون آثار جانبية غير مقصودة. ثانياً، التحقق من الحالة في الوقت الفعلي (JIT State Verification) للتأكد من أن العالم لم يتغير منذ اتخاذ الوكيل قراره. ثالثاً، القياس عن بُعد المرتبط بمعرّفات الدوال الحتمية (DFID-correlated telemetry) لتتبع الأخطاء والتدقيق.

هذه المفاهيم ليست جديدة على الأنظمة الموزعة؛ فقد حلّت مشكلات مشابهة قبل عقود. الجديد هو تطبيقها على الوكلاء الذكيين الذين يتخذون قرارات بسرعة الآلة ويُحدثون تغييرات حقيقية في العالم.

الأسئلة الشائعة

ما الفرق بين نموذج Human-in-the-Loop ونموذج Governance by Exception؟

في HITL، يُوجَّه كل قرار غير مؤكد إلى مراجع بشري للموافقة. في Governance by Exception، تُفرض السياسات آلياً بواسطة طبقة تنفيذ مميّزة، ولا تُصعَّد للبشر إلا الاستثناءات الحقيقية التي تخرج عن القواعد المحددة مسبقاً.

لماذا لا يكفي الاعتماد على الموجّهات (Prompts) لضبط سلوك الوكلاء؟

الموجّهات تعتمد على محاذاة النموذج اللغوي، وهي قابلة للاختراق بمدخلات عدائية أو حالات حدية غير متوقعة. في الأنظمة عالية المخاطر، لا تُعدّ سطح تحكم كافياً لأنها لا تفرض قيوداً صارمة على مستوى التنفيذ.

ما المقصود بإطار المسؤوليات مقابل إطار القدرات؟

إطار القدرات يسأل: ما الذي يستطيع الوكيل فعله؟ إطار المسؤوليات يسأل: ما الذي يُصرَّح له بفعله، وضمن أي حدود وشروط؟ الثاني يُحدد سقوفاً كمية وسياقية واضحة للإجراءات المسموحة.

هل يمكن تطبيق هذا النموذج في القطاعات الخليجية المنظمة؟

نعم، بل قد يكون ضرورياً. القطاعات المالية والصحية في الخليج تخضع لمتطلبات امتثال صارمة، ونموذج الحوكمة بالاستثناء يوفر مسار تدقيق واضحاً وقيوداً مُطبَّقة آلياً تتوافق مع المعايير التنظيمية.