هندسة الحلقات لأنظمة الوكلاء المحكومة

هندسة الذكاء الاصطناعي

هندسة الحلقات هي ممارسة ناشئة لتصميم النظام الذي يوجّه وكيل الذكاء الاصطناعي بصورة متكررة، ويزوّده بالأدوات والسياق، ويتحقق من عمله، ويقرر متى يتوقف. التحول المهم هنا ليس الانتقال من موجه ذكي إلى موجه أطول، بل من الإشراف اليدوي على كل خطوة إلى بناء حلقة تنفيذ محكومة.

السؤال الصحيح ليس: «هل يستطيع النموذج إكمال المهمة؟» بل:

ما الدليل الذي يجب أن تنتجه كل دورة قبل أن يُسمح للنظام بالاستمرار أو التوقف أو التصعيد أو إحداث أثر فعلي؟

هذا هو الفرق بين وكيل يواصل المحاولة ونظام تشغيل موثوق لأعمال الوكلاء.

هندسة الحلقات طبقة أعلى من تشغيل الوكيل

يعرّف IBM مفهوم هندسة الحلقات كسير عمل تكراري مبني على هدف وفعل وملاحظة وتعديل. ويشرح OpenAI حلقة وكيل Codex كآلية تنسيق بين المستخدم والنموذج والأدوات.

لكن لكل طبقة سؤالاً مختلفاً:

هندسة الحلقات لا تستبدل الطبقات الأخرى، بل تضاعف جودتها أو عيوبها. يصبح الموجه الضعيف أو السياق الملوث أو الأدوات المفرطة الصلاحية أخطر عندما يمكن تشغيلها مراراً.

أصغر حلقة مفيدة تحتاج إلى عقد واضح

لا أبدأ بعدة وكلاء أو بمنسق معقد. أبدأ بعقد يستطيع فريق التشغيل مراجعته من دون قراءة التفكير الداخلي للنموذج:

goal:
  outcome: classify_one_reconciliation_exception
  done_when: evidence_bundle_passes_controls

scope:
  read: [ledger, processor_report, settlement_report]
  write: [case_note, proposed_correction]
  forbidden: [post_ledger_entry, move_money, close_case]

limits:
  iterations: 4
  wall_time: 8m
  model_cost: 1.50_USD

terminal_states:
  - proposed
  - no_action
  - needs_human
  - control_failed

هذه ليست صيغة معيارية، بل قائمة تصميم قابلة للتنفيذ. تحتاج الحلقة الموثوقة إلى ستة عناصر.

1. هدف متكرر ونهاية قابلة للتحقق

«حقق في الاستثناء» نشاط، أما «أنشئ حزمة أدلة كاملة، وصنّف السبب، وقدّم اقتراحاً يجتاز أربعة ضوابط» فهي نتيجة.

يجب إعادة تقييم الهدف في كل دورة، وإلا قد يحسّن الوكيل الإشارة الأسهل: ملاحظات أكثر، أو استدعاءات أكثر للأدوات، أو تفسيراً مقنعاً، أو تقييماً أخضر لا يمثل نتيجة الأعمال.

2. مُشغّل محدود وقابل لمنع التكرار

تحتاج الحلقة سبباً واضحاً للبدء: حدثاً أو جدولاً أو عنصراً في طابور أو فشل ضابط أو طلباً بشرياً. ويجب أن يحمل المُشغّل هوية وأولوية ومالكاً ومفتاحاً لمنع التكرار.

من دون ذلك قد تنتج المشكلة الواقعية الواحدة عدة حلقات نشطة. هذا مزعج في صيانة البرمجيات وخطر في العمليات المالية.

3. سياق مُعدّ لا محادثة متراكمة

يجب أن تستقبل كل دورة حزمة أدلة مقصودة: السجلات الحالية والسياسة ذات الصلة ونتائج الأدوات والقرارات السابقة وملخصاً قصيراً للمحاولات.

إضافة التاريخ الكامل ليست تصميماً للذاكرة، بل تضخيم للسياق. يجب حفظ الحقائق والقرارات الدائمة والتخلص من بقايا المحادثة.

4. أدوات بصلاحيات تتناسب مع المهمة

يوصي دليل OpenAI لبناء الوكلاء بتقييم مخاطر الأدوات وفق القراءة أو الكتابة، وقابلية العكس، والصلاحيات، والأثر المالي.

أقسم الأدوات إلى ثلاث فئات:

• الملاحظة: قراءة السجلات والسياسات والقياسات.
• الإعداد: إنشاء مسودة أو اقتراح أو حالة اختبار أو ملاحظة.
• إحداث الأثر: تغيير حالة عميل أو نشر برمجية أو إضافة قيد مالي أو تحريك أموال.

يمكن أتمتة الملاحظة غالباً، ويحتاج الإعداد إلى تحقق، أما إحداث الأثر فيحتاج إلى تفويض صريح يتناسب مع أثره وقابلية عكسه.

وإذا كُشفت الأدوات عبر MCP، فإن مواصفة التفويض في MCP تعالج حماية النقل والرموز والنطاقات. لكن طبقة الأعمال تظل مسؤولة عن تحديد ما إذا كان هذا الوكيل، في هذه الحالة وهذه المرحلة، يملك حق استخدام الأداة.

5. دليل أقوى من ثقة النموذج

قول النموذج «اكتملت المهمة» ادعاء وليس دليلاً. تحتاج الحلقة إلى أدلة يستطيع مكوّن آخر فحصها، مثل:

• نتائج اختبارات مرتبطة بالإصدار الحالي؛
• ضوابط المخطط والثوابت؛
• لقطات قبل التنفيذ وبعده؛
• إيصالات أدوات غير قابلة للتعديل؛
• أعداد مستقلة ومجاميع رقابية؛
• نتائج سياسات حتمية؛
• نقد نموذجي وفق معيار ثابت؛
• موافقة بشرية للاستثناءات عالية الأثر.

يفيد نمط المولّد والمقيّم لدى Anthropic عندما تكون معايير النجاح واضحة بما يكفي لإنتاج تغذية راجعة مفيدة. لكن وجود نموذج ثانٍ لا يجعله ضابطاً مستقلاً تلقائياً؛ فقد يشترك النموذجان في نقص السياق أو الانحياز نفسه.

6. حالات نهاية تشمل الفشل

الحلقة التي لا تملك نهاية سلبية ليست سوى سياسة إعادة محاولة بلا حدود.

أحتاج على الأقل إلى:

• تم: ثبتت النتيجة المطلوبة؛
• لا إجراء: يثبت الدليل أن التغيير غير لازم؛
• يحتاج تدخلاً بشرياً: تجاوز الغموض أو الأثر الصلاحية المفوضة؛
• فشل الضابط: غاب مصدر أو تحقق أو حماية لازمة؛
• نفدت الميزانية: بلغ النظام حد الوقت أو الدورات أو التكلفة.

التوقف الآمن ميزة منتج، لأنه يمنع الوكيل غير المتأكد من تحويل عدم اليقين إلى فعل متكرر.

التحقق يحتاج ثلاث طبقات

تحقق حتمي

استخدم البرمجيات للخصائص التي تستطيع البرمجيات تقريرها: الأنواع، والتوازن، والحدود، والانتقالات المسموحة، والاكتمال، والتوقيعات، والتفرد، وقواعد السياسة.

هذه الضوابط رخيصة وقابلة للتكرار والشرح، ولا ينبغي تحويلها إلى سؤال للنموذج.

تقييم بالنموذج

استخدم النموذج عندما تحتاج الخاصية إلى تفسير: هل الشرح مدعوم بالأدلة؟ هل يعالج الاقتراح الهدف؟ هل أغفل خطراً مهماً؟

توضح إرشادات Anthropic لتقييم الوكلاء أن تقييم الوكيل متعدد الخطوات يجب أن يشمل استخدام الأدوات وتغييرات الحالة والنتائج الوسيطة، لا الإجابة النهائية فقط.

صلاحية مسؤولة

استخدم شخصاً مسمى أو سياسة مفوضة رسمياً لتحديد العواقب التي يسمح للنظام بإنشائها.

يدعو الإطار الأساسي لإدارة مخاطر الذكاء الاصطناعي من NIST إلى توثيق النطاق والمسؤوليات والإشراف البشري والاختبار والتقييم والمراقبة. عملياً، يجب أن تُظهر المعمارية من يملك الحلقة الخارجية: حدود المخاطر، وصلاحية الأدوات، وسياسة الاستثناءات، وتغييرات التقييم، وقرار توسيع الاستقلالية.

حالة استخدام عملية: حلقة استثناءات المصالحة المالية

لنفترض عملية دفع اصطناعية لها ثلاثة سجلات مستقلة:

1. قيد في دفتر الأستاذ الداخلي؛
2. تقرير من معالج أو شبكة دفع؛
3. كشف تسوية أو كشف بنكي.

يكتشف محرك المصالحة اختلافاً. يضع سير العمل التقليدي الحالة في طابور المحلل، بينما يمنح التصميم الضعيف وكيلاً بصلاحيات واسعة ويطلب منه «حل الاستثناء».

التصميم القائم على هندسة الحلقات أضيق وأكثر أماناً.

الدورة الأولى: تجميع الحقائق

تقرأ الحلقة السجلات الثلاثة، وتتحقق من اكتمال المصادر، وتوحّد المعرّفات، وتبني المجاميع الرقابية. ولا تستطيع تعديل أي سجل مالي.

إذا غاب مصدر، تصبح الحالة النهائية control_failed. لا يستنتج الوكيل وقوع التسوية من رسالة نجاح.

الدورة الثانية: التصنيف والاقتراح

يصنّف الوكيل الفرق: تأخير زمني، أو تقرير مكرر، أو خلل ربط المعرّفات، أو فرق رسوم أو عملة، أو قيد مفقود، أو سبب غير معروف.

ثم يقترح عدم اتخاذ إجراء، أو انتظاراً، أو تصحيح بيانات، أو قيداً تعويضياً، مع الأثر المتوقع والسجلات الداعمة.

الدورة الثالثة: تحقق مستقل

تعيد الضوابط الحتمية حساب المجاميع، وتتحقق من العملة والقيمة، ووجود السجلات، وصحة الانتقال المقترح.

ويتحقق مقيّم منفصل من أن السرد مدعوم بالأدلة وأن سبباً بديلاً معقولاً لم يُهمل. يرى المقيّم حزمة الأدلة ومعيار التقييم، لا التفكير المخفي للمولّد.

قرار الحلقة الخارجية

لا يملك أي نموذج إضافة قيد مالي. قد تعتمد السياسة إثراء بيانات منخفض المخاطر وقابل للعكس، أما التصحيح المالي فيحتاج إلى الدور التشغيلي المخول.

بعد الموافقة ينشئ النظام قيداً تعويضياً جديداً ولا يعدّل التاريخ المالي. ثم تُعاد المصالحة على الحالة الجديدة، ولا تغلق الحالة إلا نتيجة جديدة.

هذا المثال يوضح المفهوم: تستطيع الحلقة الداخلية تسريع التحقيق، لكن الحلقة الخارجية تملك الحقيقة المالية.

تؤكد مبادئ المرونة التشغيلية للجنة بازل القدرة على الاستجابة والتعافي والتعلم مع استمرار العمليات الحرجة. يجب أن تدعم هندسة الحلقات هذا الانضباط لا أن تنشئ طريقاً سريعاً وغامضاً حوله.

راقب الحلقة كنظام إنتاج

تحتاج المنصة إلى قياسات مترابطة تشمل:

• هوية المُشغّل والحالة؛
• إصدارات السياق والسياسة؛
• إصدارات النموذج والموجه والمقيّم؛
• استدعاءات الأدوات ونتائج التفويض؛
• عدد الدورات والمدة والتكلفة؛
• الأدلة والضوابط الفاشلة؛
• القرارات البشرية وأسبابها؛
• الحالة النهائية والنتيجة اللاحقة.

يوفر نموذج الإشارات في OpenTelemetry مفردات مفيدة: التتبعات تعرض المسار، والمقاييس تعرض السلوك المجمع، والسجلات تحفظ الأحداث، والسياق المرافق يربط الإشارات.

لا أقيس «الرموز المستهلكة» وحدها. أقيس نسبة الاكتمال المثبت، ودقة التصعيد، وتكرار الاستثناء، وحداثة الأدلة، والتكلفة لكل نتيجة مثبتة، ونسبة تجاوز البشر لقرار الحلقة.

كل توقف متكرر معلومة تصميم. إذا غاب المعرّف نفسه باستمرار فالمشكلة في عقد البيانات. وإذا رفض المراجعون الفئة نفسها من الاقتراحات فالمشكلة في التقييم أو الصلاحيات. وإذا عاد الاستثناء بعد التصحيح فالحلقة تعالج الأعراض لا السبب.

متى تكون هندسة الحلقات الإجابة الخاطئة؟

استخدم الأتمتة الحتمية عندما تكون الحالات والانتقالات معروفة والمدخلات منظمة والقرار مشفراً بثبات ولا يضيف الغموض قيمة.

واستخدم سير عمل يقوده الإنسان عندما يكون الهدف نفسه موضع خلاف، أو يتعذر توفير الأدلة بأمان، أو لا يمكن تفويض المسؤولية، أو يكون الفعل نادراً وغير قابل للعكس.

استخدم حلقة وكيل عندما يجمع العمل بين التفسير واستعمال الأدوات وتعدد الخطوات وإمكان عكس الأفعال والتقدم القابل للتحقق.

الاختبار ليس صعوبة المهمة، بل إمكان تحديد حدودها وإثبات نتيجتها.

تسلسل تبنٍ عملي

1. المراقبة: شغّل الحلقة على حالات تاريخية أو منسوخة بأدوات قراءة فقط.
2. التوصية: دعها تعدّ اقتراحات للعمل الحي، مع بقاء كل قرار مؤثر بيد البشر.
3. تفويض الأفعال القابلة للعكس: اسمح بتحديثات ضيقة عندما تجتاز الضوابط الحتمية.
4. التوسع حسب فئة الدليل: زد الاستقلالية فقط في فئات العمل ذات المدخلات المستقرة والضوابط الواضحة والتعافي الموثوق.

في كل مرحلة يجب إصدار نسخة من الحلقة نفسها: الهدف، وتجميع السياق، وعقود الأدوات، ومعيار التقييم، والميزانيات، وشروط التوقف. وإلا قد يغير تعديل موجه أو أداة الضابط التشغيلي بصمت.

قاعدة التصميم

لا تحسّن الحلقة وفق عدد الدورات التي تنجزها من دون إنسان. حسّنها وفق جودة الدليل الذي تنتجه قبل أن يغيّر النظام حالته.

الحلقة الجيدة تستمر عندما يثبت التقدم، وتتوقف عندما تفشل الضوابط، ولها مالك مسؤول عن العواقب.

هذه هي هندسة الحلقات: ليست استقلالية بلا نهاية، بل تكراراً مصمماً ومحكوماً.

قراءة ذات صلة

• مراقبة أنظمة الذكاء الاصطناعي: من الرموز إلى نتائج الأعمال
• حوكمة الذكاء الاصطناعي المسؤولة كنظام هندسي
• المصالحة المالية بالتصميم لا بجداول البيانات
• كيفية بناء خادم MCP لواجهة API

المراجع

• IBM — ما هي هندسة الحلقات؟
• OpenAI — تفكيك حلقة وكيل Codex
• OpenAI — دليل عملي لبناء وكلاء الذكاء الاصطناعي
• Anthropic — بناء وكلاء فعّالين
• Anthropic — تقييم وكلاء الذكاء الاصطناعي
• NIST — الإطار الأساسي لإدارة مخاطر الذكاء الاصطناعي
• لجنة بازل — مبادئ المرونة التشغيلية
• OpenTelemetry — الإشارات
• Model Context Protocol — التفويض