عصر الوكلاء الذاتيين للذكاء الاصطناعي يفرض حوكمة من نوع جديد

وكلاء قادرين على التخطيط والتنفيذ

معظم أنظمة الذكاء الاصطناعي المستخدمة اليوم ما زالت تعمل كنماذج توليد أو تحليل: مستخدم يقدّم طلباً، والنظام يرد بنص، أو تحليل، أو توقع، بينما يظل الإنسان هو صاحب القرار النهائي حول ما يجب فعله لاحقاً. مع ظهور الذكاء الاصطناعي الوكالي (Agentic AI) يتغير هذا النمط؛ إذ تصبح الأنظمة قادرة على تفكيك هدف إلى سلسلة من الخطوات، اختيار الأفعال المناسبة، والتفاعل مع أنظمة أخرى لإتمام المهمة من البداية إلى النهاية دون إشراف مباشر في كل مرحلة.

هذه الاستقلالية الجزئية تعني أن السؤال لم يعد: «هل الإجابة صحيحة؟»، بل: «ماذا سيحدث عندما يُسمح للنظام أن يتصرف؟». فالنظام الذاتي قد يسلك مسارات لم تكن متوقعة بالكامل، أو يوظّف البيانات في سياقات لم تكن مقصودة عند تصميمه، ما يرفع من مخاطر القرارات الخاطئة أو الأفعال غير المرغوبة التي قد يصعب اكتشافها أو عكس أثرها في الوقت المناسب.

حوكمة الأنظمة الذاتية

الأنظمة الذاتية لا يمكن أن تُترك تعمل في فراغ. فهي تحتاج إلى حدود واضحة تحدد ما يمكنها الوصول إليه، وما يُسمح لها بفعله، وكيف تُسجَّل وتُراجع أفعالها. من دون هذه الضوابط، قد تتحول حتى الأنظمة المدرَّبة جيداً إلى مصدر لمشاكل معقدة يصعب رصدها مبكراً أو تصحيحها بعد وقوعها، خاصة عندما تتصل هذه الأنظمة ببنية تحتية حساسة أو بيانات حرجة.

لذلك تُعتبر الحوكمة جزءاً من دورة الحياة الكاملة للنظام، لا طبقة تُضاف في النهاية. في مرحلة التصميم، على المؤسسات أن تحدد بوضوح نطاق صلاحيات الوكيل، وحدود الأفعال المسموح بها، وقواعد استخدام البيانات، وآليات التصرف في الحالات الغامضة أو عالية الشك. عند النشر، تنتقل الحوكمة إلى محور الولوج والتحكم: من يحق له استخدام النظام، ما هي الأنظمة التي يمكنه الاتصال بها، وما هي الأذونات التقنية الممنوحة له. بعد الإطلاق، تصبح المراقبة المستمرة أولوية، لأن الأنظمة الذاتية تتكيف مع بيانات جديدة وقد تنحرف تدريجياً عن الهدف الأصلي إذا لم تخضع لعمليات مراجعة منتظمة.

الشفافية والمسؤولية في زمن الوكلاء الذاتيين

مع ازدياد مسؤوليات أنظمة الذكاء الاصطناعي، يصبح من الأصعب تعقّب كيف يُتخذ القرار داخل «الصندوق الأسود» للنموذج. هذا التعقيد يخلق حاجة أكبر إلى شفافية أقوى حول مسارات اتخاذ القرار، ومَن يُسأل عند وقوع خلل. لذلك تشدد مقاربات الحوكمة الحديثة على تسجيل أفعال الأنظمة، وتوثيق القرارات، وربط كل خطوة بسياقها ومصادر بياناتها.

هذه السجلات تساعد المؤسسات على فهم ما حدث إذا اتخذ وكيل ذاتي إجراءً غير متوقع، وتسمح لها بتحديد المسؤولية بوضوح: من وضع القواعد، من وافق على صلاحيات النظام، ومن كان مكلفاً بمراقبته. في غياب هذا الوضوح، تصبح الأخطاء «يتيمة» يصعب نسبها أو معالج جذورها، ما يضعف الثقة الداخلية والخارجية في تبنّي هذه التقنيات على المدى الطويل.

من أدوات إلى وكلاء ضمن العمليات

تعمل Deloitte على تطوير أطر حوكمة ومقاربات استشارية لمساعدة المؤسسات على إدارة أنظمة الذكاء الاصطناعي كجزء مدمج في عملياتها، لا كأدوات معزولة على الهامش. بدل التركيز على النموذج نفسه فقط، ينظر هذا النهج إلى مكان النظام داخل سلسلة القيمة: كيف تُتخذ القرارات، كيف تتدفق البيانات عبر الأنظمة، وأين يمكن أن تظهر نقاط ضعف أو مخاطر عند إدخال وكيل ذاتي في المسار.

أبحاث Deloitte تبيّن أن تبنّي الوكلاء الذاتيين يتسارع بوتيرة تتجاوز بناء الضوابط اللازمة لإدارتهم: حوالي 23٪ من الشركات تستخدم بالفعل وكلاء ذكاء اصطناعي، ومن المتوقع أن ترتفع هذه النسبة إلى 74٪ خلال عامين، بينما لا تعلن إلا 21٪ من المؤسسات عن امتلاكها لضمانات قوية للإشراف على سلوك هذه الأنظمة. هذه الأرقام تضع الحوكمة في قلب النقاش، وتحوّلها من موضوع تنظيمي ثانوي إلى عنصر استراتيجي في نجاح أو فشل مبادرات الذكاء الاصطناعي.

المراقبة في الزمن الحقيقي

بمجرد أن يدخل وكيل ذاتي حيز التشغيل، تتحول الحوكمة من مجرد إعداد قواعد ثابتة إلى إشراف لحظي على سلوك النظام في العالم الحقيقي. فالقواعد الأولية لا تغطي دائماً كل الحالات، والبيئات التشغيلية تتغير باستمرار، ما يتطلب آليات لمشاهدة ما يقوم به النظام أثناء العمل، والتدخل السريع عند اللزوم. مقاربة Deloitte تشمل حلولاً للمراقبة في الزمن الحقيقي تُتيح للفرق متابعة الأفعال التي ينفذها الوكيل خطوة بخطوة.

إذا تصرف النظام بشكل غير متوقع، يمكن حينها إيقاف إجراءات معينة، أو تقييد صلاحياته، أو إعادة ضبط إعداداته. هذا النوع من الإشراف النشط لا يحمي العمليات فحسب، بل يساعد أيضاً على الامتثال في القطاعات المنظمة؛ حيث يجب على الشركات أن تُظهر للجهات الرقابية أن أنظمتها لا تلتزم بالقواعد على الورق فقط، بل تخضع بالفعل لمراقبة وتحكّم مستمرين.

وكلاء يراقبون المعدات… وحوكمة تربط الأنظمة ببعضها

في تطبيقات عملية، تصف Deloitte سيناريوهات يراقب فيها نظام ذكاء اصطناعي أداء المعدات عبر عدة مواقع، اعتماداً على بيانات حسّاسات متوزعة في الميدان. عندما تشير البيانات إلى بوادر مبكرة لعطل محتمل، يمكن للوكيل تفعيل مسار صيانة، إرسال تنبيهات، فتح تذكرة في نظام إدارة الأعطال، وتحديث أنظمة تخطيط الموارد في الخلفية. من منظور المستخدم النهائي، تبدو هذه العملية كـ«إجراء واحد» سلس، لكنها في الواقع سلسلة قرارات وأفعال موزعة عبر أنظمة متعددة.

هنا تلعب أطر الحوكمة دوراً حاسماً: فهي تحدد ما الذي يمكن للنظام القيام به تلقائياً، وما الذي يتطلب موافقة بشرية، وكيف تُسجَّل هذه القرارات لتُراجع لاحقاً. بهذه الطريقة، تُستغل قوة الأتمتة والذاتية دون فقدان السيطرة على ما يحدث في الطبقات التقنية والعملية الأعمق، وهو توازن دقيق بين الكفاءة التشغيلية والضبط المؤسسي.

حوكمة الوكلاء الذاتيين للذكاء الاصطناعي على جدول أعمال AI & Big Data Expo 2026

تشكل حوكمة الأنظمة الذاتية محوراً رئيسياً للنقاش في فعالية AI & Big Data Expo North America 2026، التي تُعقد يومي 18 و19 ماي في سانتا كلارا، كاليفورنيا، حيث تُصنَّف Deloitte كـ«شريك ماسي» ضمن الجهات المشاركة في صياغة كيفية نشر هذه الأنظمة والتحكم فيها عملياً. وجود مثل هذه الفاعلين يبرز أن النقاش لم يعد تقنياً محضاً، بل أصبح استراتيجياً وتنظيمياً في آن واحد.

في النهاية، التحدي الأكبر لا يكمن في بناء أنظمة أذكى فقط، بل في ضمان أن تتصرف هذه أنظمة الوكلاء الذاتيين للذكاء الاصطناعي بطريقة يمكن للمؤسسات أن تفهمها، وتديرها، وتثق بها على المدى الطويل. الوكلاء الذاتيون من دون حوكمة أقرب إلى سائق ماهر يقود بلا إشارات مرور ولا قواعد سير؛ قد يصل بسرعة، لكنه يعرّض الجميع للخطر. المطلوب اليوم هو الجمع بين مهارة «السائق» وقوة «القواعد» حتى يصبح الذكاء الاصطناعي رافعة مستدامة، لا مصدر مخاطرة غير محسوبة.