هل تندمج مجالات مراقبة الذكاء الاصطناعي وتقييمه وضمان جودته؟

مبادئ ساتيا ناديلا السبعة، وصفقة Dynatrace للاستحواذ على Arize بقيمة 915 مليون دولار، ونقاش بين مدراء تقنية المعلومات (CIOs) والمؤسسين والمستثمرين حول من يجب أن يتولى مراجعة وكلاء الذكاء الاصطناعي. تم التحديث في أكتوبر 2026.

قد يشرح لك وكيل ذكاء اصطناعي إجراءات استرداد الأموال بشكل مثالي، لكنه يرسلها إلى الحساب الخطأ. سجل المحادثة يبدو سليمًا، لكن المعاملة المالية خاطئة.

توجد ثلاث فئات من المنتجات لاصطياد مثل هذه المشكلات: المراقبة (observability)، والتقييم (evaluation)، والضمان (assurance). وقد بدأت الشركات الموردة بدمجها معًا. أما ما إذا كان المشترون سيتبعون هذا التوجه، فهذا سؤال لا يزال مفتوحًا، تمامًا كسؤال آخر: من الذي يجب أن يتولى عملية المراجعة؟ وما الذي يُعدّ "مستقلًا" حقًا؟

يتطور الذكاء الاصطناعي من مجرد الإجابة عن الأسئلة إلى تنفيذ الإجراءات الفعلية. وتتوقع شركة Gartner أنه بحلول عام 2028، سيضم ثلث تطبيقات برامج المؤسسات تقنيات ذكاء اصطناعي تعمل كوكلاء مستقلين (Agentic AI)، مقارنة بأقل من 1% في عام 2024. يمكن لهذه الوكلاء كتابة الأكواد البرمجية وتقديمها، وتحويل الأموال، والتواصل مع العملاء، وغالبًا دون الحاجة إلى أي تدخل بشري لمراقبتهم في الوقت الفعلي.

عندما كانت البرمجيات تقتصر على تقديم الإجابات فقط، كان السؤال الرئيسي هو: هل هذه الإجابات جيدة؟ أما الوكلاء فيطرحون أسئلة أعمق: ماذا فعل؟ وهل كان تصرفه صحيحًا؟ وهل هناك من يمكنه تحمّل المسؤولية عنه؟ وهل يمكن إيقافه؟ وبالنسبة لمدراء تقنية المعلومات، فإن هذه الأسئلة تتعلق بحوكمة الذكاء الاصطناعي وإدارة المخاطر بقدر ما تتعلق بالهندسة التقنية.

واليوم، تغطي ثلاثة أسواق أجزاءً من هذه المهمة:

• مراقبة الذكاء الاصطناعي (AI observability): تسجل ما قام به الذكاء الاصطناعي.
• تقييم الذكاء الاصطناعي (AI evaluation): يقيس مدى جودة أدائه.
• ضمان الذكاء الاصطناعي (AI assurance): يجمع الأدلة والضوابط وحدودها معًا، ليتمكن شخص ما من اتخاذ قرار مسؤول. وتُعرّفه الحكومة البريطانية بأنه عملية قياس الجدارة بالثقة وتقييمها والتواصل بشأنها.

بلغ حجم سوق مراقبة الذكاء الاصطناعي 1.25 مليار دولار في عام 2025، وتتوقع الدراسة نفسها أن يشهد مجالا التقييم وضمان الجودة أسرع نمو داخله. وأتمّت شركة Dynatrace صفقة الاستحواذ على Arize في 1 أكتوبر 2026، وهي صفقة بقيمة 915 مليون دولار تهدف إلى دمج التقييم والمراقبة. كما أتمّت Cisco صفقتها للاستحواذ على Galileo في شهر مايو. وفي 10 أكتوبر، نشر ساتيا ناديلا سبعة مبادئ للثقة بالذكاء الاصطناعي تمس الأسواق الثلاثة جميعها.

يستعرض الجزء المتبقي من هذا المقال كيف وصل الذكاء الاصطناعي إلى هذه المرحلة، وما اقترحه ناديلا، ونقاشًا بين خمسة أصوات مركّبة حول الاتجاه الذي يسير إليه السوق.

من القواعد إلى وكلاء الذكاء الاصطناعي: لماذا أصبحت الثقة أكثر صعوبة

تاريخ مبسط في أربع مراحل. جعلت كل مرحلة الآلة أكثر قدرة، وأصعب في التفسير.

1. القواعد (تقريبًا من الخمسينيات إلى الألفية الجديدة). كانت معظم التطبيقات البرمجية تُكتب يدويًا، خطوة بخطوة. وكانت مليئة بالأخطاء البرمجية، لكن المهندس كان قادرًا على فتح الكود وتحديد السطر الذي تسبب في الخطأ.
2. الأنماط (العقد الثاني من الألفية). مع التعلم العميق، تعلمت الآلات من الأمثلة بدلاً من القواعد لتنفيذ مهام مثل التعرف على الصور والكلام. لم يكتب أحد المنطق البرمجي. واقتصرت هذه الأنظمة في الغالب على التصنيف والترتيب والتوصية، بينما كان البشر أو البرمجيات العادية هم من يقررون ما يجب فعله بالمخرجات.
3. المحادثة (2022 إلى 2024). أصبحت روبوتات المحادثة قادرة على الكتابة والتلخيص والجدال. وكانت غالبًا ما تخطئ، لكن شخصًا ما كان يقرأ الإجابة عادةً قبل التصرف بناءً عليها.
4. الوكلاء (من 2025 فصاعدًا). الوكلاء ينقرون، ويكتبون، ويشترون، ويبرمجون، وينشرون. وتدربهم المختبرات عبر جعلهم يتدربون على المهام في مكاتب ومتصفحات وقواعد بيانات برمجية محاكاة. وبعضهم يعمل لفترات طويلة دون أن يراجع إنسان كل خطوة يتخذونها.

في مرحلة المحادثة، كانت الإجابة الخاطئة تكلفك إعادة القراءة فقط. أما في مرحلة الوكلاء، فقد يكلفك الإجراء الخاطئ أموالًا أو بيانات أو عميلًا.

لطالما اتخذت البرمجيات قرارات آلية مكلفة قبل ظهور الوكلاء بزمن طويل. لكن الفرق الآن هو أن نموذجًا واحدًا متعدد الأغراض يختار وينفذ سلسلة من الإجراءات عبر عدة أدوات. وعندما يحدث خطأ ما، قد يكون السبب هو النموذج نفسه، أو موجّه الأوامر (prompt)، أو البيانات التي استرجعها، أو واجهة برمجة التطبيقات (API)، أو ذاكرة قديمة، أو صلاحياته، أو حتى تفاعل بين وكيلين. والإجابة النهائية ليست سوى جزء من الدليل.

يصف ناديلا الوضع القديم قائلاً: مع البرمجيات التقليدية، "كانت لدينا الأدوات والقدرة على تتبع السلوكيات وصولاً إلى مسار برمجي محدد". أما مع النماذج الحالية، فلا يمكن لأحد الإشارة إلى بيانات التدريب أو الأوزان الكامنة وراء قرار معين. والأسواق الثلاثة هذه تحاول سد تلك الفجوة.

إطار حوكمة الذكاء الاصطناعي لساتيا ناديلا: 7 مبادئ للثقة بوكلاء الذكاء الاصطناعي

في 10 أكتوبر 2026، نشر ناديلا مقالاً بعنوان "النماذج كمخاطر داخلية في عصر الذكاء الفائق" على مدونته. ويتمحور اقتراحه الأساسي حول أننا "نحتاج إلى فصل توفير الذكاء عن السلطة عليه".

يشبه النموذج القوي بموظف يتمتع بصلاحيات وصول واسعة. فالقلق ليس من أن النموذج خبيث؛ فأي شخص لديه صلاحية الوصول إلى أنظمة مهمة قد يرتكب أخطاءً أو يتم اختراقه، ولذلك تحدّ مما يمكنه الوصول إليه، وتسجل ما يفعله، وتحتفظ بالقدرة على إيقافه. وبلغة ناديلا: "إذا لم يكن قابلاً للمراقبة، فلن يكون جديرًا بالثقة!"

يسميها سبعة "مبادئ للمراقبة". وعند قراءتها معًا، تعمل كإطار لحوكمة الذكاء الاصطناعي الخاص بالوكلاء. وفيما يلي إعادة صياغة لكل مبدأ، متبوعة بتخطيطي الشخصي للأسواق التي تغطيه اليوم.

1. تنوع النماذج: لا ينبغي لأي ذكاء اصطناعي منفرد أن يراجع عمله بنفسه أو يتخذ قرارًا مهمًا بمفرده. السوق اليوم: التقييم.
2. مراقبة كل شيء: يجب أن يترك كل إجراء ذي معنى دليلاً مقاومًا للتلاعب يمكن للإنسان قراءته. السوق اليوم: المراقبة.
3. قابلية التحقق: يُختبر النظام بأكمله باستمرار، بما في ذلك الهجمات وحالات الفشل والحالات الحدية. السوق اليوم: التقييم والضمان.
4. ضوابط مستقلة: يجب أن توجد القواعد التي تحدد ما يمكن للذكاء الاصطناعي الوصول إليه خارج نطاقه، حيث لا يستطيع تغييرها. السوق اليوم: أدوات الأمان والوصول في الغالب، مع بدء ظهور الضوابط الوقائية (guardrails) في منصات الذكاء الاصطناعي.
5. قابلية التدقيق المستقلة: تُحفظ الأدلة المتعلقة بسلوك الذكاء الاصطناعي بشكل منفصل عن الذكاء الاصطناعي الذي تتم مراجعته. السوق اليوم: الضمان.
6. الاحتواء: يجب أن يتمكن شخص مصرح له من إيقاف النموذج مؤقتًا أو إغلاقه أثناء تنفيذ المهمة. السوق اليوم: أدوات بيئة التشغيل والأمان في الغالب.
7. الإفصاح عن الحوادث: عند حدوث خلل، يتم إبلاغ المتضررين ومشاركة الدروس المستفادة. السوق اليوم: ممارسة مؤسسية، تدعمها سجلات المراقبة.

لا يغطي أي سوق منفرد أكثر من مبدأين من السبعة. أما الضوابط المستقلة والاحتواء فتقع في الغالب خارج الأسواق الثلاثة، ضمن أدوات الأمان وبيئة التشغيل. وعند جمعها معًا، تصف هذه المبادئ نظامًا أكبر من الأسواق الثلاثة مجتمعة.

وكانت خاتمته: "إن نظام الذكاء الفائق الأكثر جدارة بالثقة لن يكون النظام الذي يضم النموذج الذي نثق به أكثر من غيره. بل سيكون النظام الذي يتيح لنا أقل قدر ممكن من الثقة بالنموذج".

الثقة بالنموذج بأقل قدر ممكن تتطلب سجلاً لما فعله (المراقبة)، وطريقة للحكم على أدائه (التقييم)، وأدلة يمكن لشخص ما تحمل مسؤوليتها (الضمان). كما يتطلب أمرين تركتهما هذه الأسواق في الغالب لأدوات الأمان وبيئة التشغيل: ضوابط لا يستطيع النموذج تغييرها، وطريقة تتيح لإنسان إيقافه.

مراقبة الذكاء الاصطناعي مقابل التقييم مقابل الضمان: واقع السوق اليوم

تخيل وكيل الذكاء الاصطناعي كسائق عُيّن حديثًا.

• المراقبة هي كاميرا لوحة القيادة. تسجل كل منعطف وتوقف وشبه حادث، وتجيب عن سؤال: "ماذا فعل الذكاء الاصطناعي؟" وتُباع أساسًا للفرق المسؤولة عن تشغيل الأنظمة.
• التقييم هو اختبار القيادة. يمنح درجة لكيفية تعامل السائق مع مواقف محددة، ويجيب عن سؤال: "ما مدى جودته؟" ويشتريه في الغالب المهندسون الذين يبنون منتجات الذكاء الاصطناعي، وبشكل متزايد فرق ضمان الجودة (QA).
• الضمان هو تقرير الفحص. يجمع الأدلة اللازمة لتحديد ما إذا كانت السيارة والسائق جاهزين للطريق، قبل الرحلة الأولى وطوال فترة القيادة. ويجيب عن سؤال: "هل توجد أدلة كافية لتحمّل المسؤولية؟" لا يوجد فحص يثبت أن سيارة لن تتعرض لحادث أبدًا؛ فالتقرير الجيد يوضح ما تم فحصه، وما تم اكتشافه، وما لا يزال مجهولاً. وهذا المجال هو الأقل تطورًا بين الثلاثة، والعمل فيه مشتت حاليًا بين فرق الجودة والمخاطر والامتثال.

عملت الأدوات المنفصلة للمشترين المنفصلين بشكل جيد نسبيًا طالما كان الذكاء الاصطناعي يقتصر على تقديم الإجابات. أما مع الوكلاء، فقد أصبحت الفجوات بينها أكثر أهمية. كل أداة مفيدة بذاتها، لكن اللقطات التي لا يراجعها أحد لا تثبت شيئًا، والاختبار يصبح قديمًا إذا تغير السائق كل أسبوع، والتقرير يعتمد على اللقطات ونتائج الاختبارات التي يستند إليها.

عمليات الاستحواذ الأخيرة على منصات مراقبة وتقييم الذكاء الاصطناعي:

• في أكتوبر 2026، استحوذت Dynatrace على Arize مقابل 915 مليون دولار، لدمج التقييم مع مراقبة بيئات الإنتاج.
• في مايو 2026، [استحوذت Cisco على Galileo](https://blogs.cisco.com/news/cisco-announces-the-intent-to-acquire-galileo) لصالح Splunk، لتغطية التقييم والمراقبة والضوابط الوقائية للوكلاء.
• في فبراير 2026، [استحوذت Snowflake على Observe](https://www.sec.gov/Archives/edgar/data/1640147/000164014726000019/snow-20260518.htm)، لدمج المراقبة داخل منصة بيانات.
• في فبراير 2026، [استحوذت ClickHouse على Langfuse](https://wetheflywheel.com/en/ai-observability/)، وهي أداة لتتبع نماذج اللغة الكبيرة (LLM).

وتقول Dynatrace إن صفقة Arize تدمج التقييم والمراقبة معًا لتمكين الفرق من فحص الذكاء الاصطناعي قبل الإطلاق والحفاظ على موثوقيته بعد ذلك. بينما تصف Cisco منصة Galileo بأنها تغطي التقييم المبكر وصولاً إلى مراقبة الإنتاج والضوابط الوقائية.

تُظهر هذه الصفقات أن الشركات الموردة تدمج منتجاتها. لكنها لا تُظهر بعد أن المشترين يدمجون ميزانياتهم، أو يتخلون عن الأدوات المتخصصة، أو يشترون خدمات الضمان من نفس الشركة التي تشغل أنظمة الذكاء الاصطناعي الخاصة بهم. والجزء المتبقي من هذا المقال يتناول هذه التساؤلات.

![رسم توضيحي لوكيل ذكاء اصطناعي تعمل فيه المراقبة والتقييم والاعتماد والتحكم كحلقة واحدة خارجه

https://pbs.twimg.com/media/HUXj23UaIAAG2Id?format=png&name=small

اقرأ وصف الصورة

ALT

إذا اندمجت الأسواق · راقب، قيّم، اعتمد، وتحكم

ترتيب محتمل في حال اندمجت الأسواق بالفعل، وليس توقعًا. الوكيل يؤدي العمل، بينما تُضبط السجلات والتقييمات وضوابط الإيقاف بطريقة لا يستطيع الوكيل تغييرها.

النقاش: من يجب أن يراجع وكلاء الذكاء الاصطناعي؟

خمسة أصوات مركّبة، مبنية على حجج سمعها المستثمرون والمؤسسون. وهي ليست اقتباسات لأشخاص حقيقيين.

• مستثمر الرؤية الطويلة: يستثمر بأفق زمني يمتد لـ 15 عامًا ويركز على هوية المشتري.
• مستثمر الزخم: يتابع أين تتجه الأموال والمواهب حاليًا.
• باني الوكلاء: يطلق وكلاء ذكاء اصطناعي للعملاء كل أسبوع.
• مؤسس المنصة: يدير منصة للبيانات والذكاء الاصطناعي ويريد السيطرة على البنية التقنية بالكامل.
• مدير تقنية المعلومات في بنك: يوافق على أي وكيل قبل أن يلمس حساب أي عميل.

الجولة الأولى: هل ستندمج الأسواق؟

مستثمر الزخم: هذا يحدث بالفعل. شركات المراقبة تستحوذ على شركات التقييم، والصفقات بهذا الحجم تعني عادةً أن فئة جديدة تتشكل.

مدير تقنية المعلومات في بنك: عمليات الاستحواذ ليست كالاندماج. لقد اشتريت حزمًا متكاملة من قبل وانتهى بي المطاف بثلاثة منتجات وشعار واحد وثلاث عمليات تسجيل دخول. كما تتوقع Gartner إلغاء أكثر من 40% من مشاريع الذكاء الاصطناعي العامل كوكيل بحلول نهاية عام 2027، ومن أسباب ذلك عدم كفاية ضوابط إدارة المخاطر. مشكلة الثقة حقيقية، ولم يُثبت بعد أن سوقًا واحدًا مدمجًا قادر على حلها.

مستثمر الرؤية الطويلة: تندمج الأسواق عندما يندمج المشترون. حاليًا هناك ثلاثة أطراف: فريق العمليات يراقب، وفريق الذكاء الاصطناعي يقيّم، وفريق المخاطر يعتمد. والسؤال هو: هل سيخلق الوكلاء شخصًا واحدًا يتحمل المسؤولية عن الأطراف الثلاثة؟

باني الوكلاء: شركتي لديها هذا الشخص بالفعل. عندما يعيد الوكيل الأموال للعميل الخطأ، لا يسأل أحد عن الفريق المسؤول عن المشكلة. بل يطلبون مني التسجيل والتقييم والأدلة خلال دقائق.

مستثمر الرؤية الطويلة: إذا كان هذا شائعًا، فالمشتري يندمج، وهذا يخبرني بأكثر مما تفعله صفقات الاستحواذ.

الجولة الثانية: لماذا لا نحتفظ بثلاث أدوات منفصلة؟

مدير تقنية المعلومات في بنك: لماذا لا يمكنني الاحتفاظ بثلاث أدوات هي الأفضل في فئتها؟

باني الوكلاء: لأن كل أداة تعتمد على الأخرى. لا يمكنك تقييم ما لم يُسجّل، ولا يمكنك اعتماد ما لم يُقيَّم. وأي فشل في بيئة الإنتاج يجب أن يتحول إلى حالة اختبار جديدة. ومع وجود ثلاث أدوات، تصبح كل عملية تسليم نقطة يمكن أن يضيع فيها الأمر.

مستثمر الزخم: الخط الفاصل بين ما قبل الإطلاق وما بعده يتلاشى أيضًا. الوكلاء يتغيرون أسبوعيًا: نموذج جديد، موجّه أوامر جديد، أداة جديدة. واختبارها مرة واحدة عند الإطلاق يشبه فحص سيارة مرة واحدة بينما يقوم أحدهم بتغيير محركها باستمرار.

مدير تقنية المعلومات في بنك: الحزم المدمجة تكون عادةً متوسطة المستوى في كل شيء.

مستثمر الرؤية الطويلة: في البداية، نعم. الأدوات المتخصصة تميل للفوز أولاً، ثم تلحق بها المنتجات المدمجة لاحقًا. حدث هذا في العديد من فئات البنية التحتية، وإن لم يكن في جميعها.

الجولة الثالثة: من يجب أن يمتلكها؟

مؤسس المنصة: نحن نشغّل النموذج بالفعل، ونخزن البيانات، ونسجل آثار التنفيذ. ضعوا التقييم والاعتماد على نفس المنصة: مورد واحد، وفاتورة واحدة، ومكان واحد للمراجعة.

مدير تقنية المعلومات في بنك: إذن الشركة التي تشغّل أنظمة الذكاء الاصطناعي الخاصة بي هي من تخبرني أنها تعمل بشكل صحيح؟

مؤسس المنصة: نحن بارعون في ذلك.

مدير تقنية المعلومات في بنك: هذه ليست المشكلة. يجب أن يظل مدقق الحسابات الخارجي مستقلاً عن النشاط الذي يدققه. الطلاب لا يصححون امتحاناتهم بأنفسهم، وشركات السيارات لا تجري كل اختبارات التصادم بنفسها.

مستثمر الرؤية الطويلة: ناديلا يشير إلى نقطة مشابهة - يجب أن يكون التحقق مستقلاً عن الذكاء الذي يقيمه، ويجب أن توجد الضوابط خارج النموذج؛ وهذا يشبه قيام منصة بتقييم الذكاء الاصطناعي الذي تشغله، أي أنها تقيّم أداءها بنفسها.

باني الوكلاء: إذن قد تندمج الأدوات بينما ينقسم السوق على خط مختلف: المراجعة التي تتم داخل المنصة مقابل المراجعة التي تتم خارجها.

مؤسس المنصة: المراجعة الداخلية ستكون أرخص وأسهل.

مدير تقنية المعلومات في بنك: لكن المراجعة الخارجية قد تكون ما يقبله المنظم وشركة التأمين لديّ. قد أدفع مقابل الاثنين، لكنني سأعتمد على واحد منهما فقط للاعتماد النهائي.

مستثمر الرؤية الطويلة: مصطلح "خارجي" يحتاج إلى تعريف. الاستقلال التقني يعني أن الوكيل لا يستطيع تغيير المدقق الخاص به، أو تعديل السجل، أو التحايل على حدوده. والاستقلال المؤسسي يعني أن طرفًا آخر يتولى المراجعة وليس لديه دافع للتساهل.

باني الوكلاء: هذان الأمران ليسا متطابقين. فشركة منفصلة قد تستخدم نفس النماذج ونفس الفحوصات الضعيفة التي تستخدمها المنصة. بينما يمكن لمنصة ما إبقاء ضوابطها وسجلاتها بعيدة تمامًا عن متناول الوكيل.

مدير تقنية المعلومات في بنك: إذًا أفضل طرح خمسة أسئلة بدلاً من مقارنة الشعارات. هل يستطيع الوكيل تعديل السجل؟ هل يرى المدقق التغيير الفعلي في أنظمتي أم فقط ما أبلغ عنه الوكيل؟ من يختبر المدقق الخاص بك؟ هل يمكن لطرف آخر إعادة إنتاج نتيجتك؟ وما الذي لم تتمكن من التحقق منه؟

الجولة الرابعة: ما الاسم الذي يجب أن نطلقه على ذلك؟

مستثمر الزخم: سيستمر المحللون على الأرجح في تسميته "مراقبة الذكاء الاصطناعي" لبضع سنوات أخرى، لأن هذا هو المكان الذي توجد فيه الميزانية.

مؤسس المنصة: "طبقة الثقة للذكاء الاصطناعي".

باني الوكلاء: "راقب، قيّم، واضمن": راقبه، قيّمه، واجعل شخصًا ما يعتمد النتيجة.

مدير تقنية المعلومات في بنك: توخوا الحذر مع كلمة "اضمن". الأداة تنتج الأدلة، والإنسان يقرأها ويوقع. صمموا الأداة لذلك الإنسان.

مستثمر الرؤية الطويلة: الاسم أقل أهمية مما إذا كان لدى المشترين بند ميزانية مخصص له. في عام 2026، معظمهم لا يملكون ذلك. وأتوقع أن تمتلك معظم الشركات الكبرى بندًا كهذا بحلول عام 2028، مع مالك واحد يتحمل المسؤولية عندما يخطئ الوكيل.

مدير تقنية المعلومات في بنك: مهما كان اسمه، أحتاج إلى القدرة على إيقافه.

كيفية اختبار وكيل ذكاء اصطناعي: مثال استرداد الأموال

يصف هذا المثال وكيل خدمة عملاء افتراضيًا يمكنه إصدار مبالغ استرداد صغيرة. إنه مجرد توضيح وليس نتيجة لعميل حقيقي.

1. حدد قواعد العمل. يجب أن يصل مبلغ الاسترداد إلى العميل الصحيح، وأن يبقى ضمن الحد المسموح، وأن يتبع السياسة المعتمدة. وإعادة المحاولة يجب ألا تؤدي إلى الدفع مرتين. والاستثناءات يجب أن تصل إلى الشخص المناسب قبل تحويل أي أموال.
2. اختبر الظروف الصعبة. استخدم سجلات عملاء متناقضة، وخدمة دفع بطيئة، وانتهاء مهلة أداة، وتعليمات مخفية داخل رسالة دعم فني. نفّذ الحالات المهمة عدة مرات من نفس الحالة الابتدائية، لأن نجاحًا واحدًا لا يثبت الكثير. المحاكاة تتيح اختبار الحالات الخطيرة بأمان؛ بينما الأجهزة الحقيقية وعمليات التكامل الحقيقية تكتشف الفروق التي تغفل عنها المحاكاة.
3. تحقق من نظام السجلات. قول الوكيل "لقد استرددت 50 دولارًا" ليس دليلاً. تحقق من أن الحساب الصحيح تلقى بالضبط عملية استرداد واحدة بقيمة 50 دولارًا. استخدم الفحوصات الدقيقة حيث تكون الإجابة دقيقة، واستخدم حكام الذكاء الاصطناعي (AI judges) فقط حيث لا تكون كذلك.
4. يجب الإبلاغ عن حالات الفشل الشديدة بشكل فردي. المبالغ غير الصحيحة، والمدفوعات المكررة، والعمليات غير المصرح بها يجب عرضها بمعزل عن التقييم العام لإكمال المهمة. فمتوسط درجات بنسبة 94% قد يخفي أهم حالة فشل.
5. اختبر الحدود خارج الوكيل. هل يمنع نظام الدفع عملية استرداد تتجاوز الحد الأقصى حتى لو طلبها الوكيل؟ هل يمكن إلغاء صلاحية وصول الوكيل أثناء تنفيذ المهمة؟ إيقاف الوكيل يمنع الدفعة التالية لكنه لا يعكس الدفعة السابقة.
6. اختبر المدقق. ازرع حالات فشل معروفة مسبقًا وقِس أي منها يفوته. أعطِه نتائج صحيحة لقياس الإنذارات الكاذبة. افصل دائمًا بين "تعذر التحقق" و"اجتاز الاختبار".

هذا لا يجيب عن سؤال السوق. بل يصف كيف تبدو الأدلة المفيدة، بغض النظر عمن ينتجها.

أين يقع ضمان جودة الذكاء الاصطناعي: TestMu AI

تعمل TestMu AI (المعروفة سابقًا باسم LambdaTest) وفق مبدأ الاستقلال التقني. نحن لا نبني النماذج، ولا نبيع لوحات معلومات لمراقبة بيئات الإنتاج. فحوصاتنا تعمل خارج الوكيل المُختبَر، قبل الإطلاق ومع كل تغيير، وهي تفحص ما حدث فعليًا وليس فقط ما يبلغ عنه الوكيل.

تغطي المنصة الأنواع الثلاثة من البرمجيات المذكورة في هذا المقال: الأشخاص الذين يستخدمون التطبيقات، والأشخاص الذين يتحدثون مع الروبوتات، والوكلاء الذين يتفاعلون مع وكلاء آخرين. وكل منتج يلبي حاجة من الاحتياجات التي طُرحت أعلاه.

• Rook (وكلاء يفحصون وكلاء). يمرر الوكيل الخاص بك عبر سيناريوهات ويسجل النتائج المتوقعة والفعلية لكل فحص، مع حفظ الأدلة لكل سيناريو. ويُبلغ عن حالات النجاح والفشل و"تعذر التحقق" بشكل منفصل، بحيث لا تُحسب الأدلة المفقودة كنجاح أبدًا.
• Agent Testing (روبوتات تتحدث مع العملاء). يختبر وكلاء المحادثة والصوت والهاتف في حوارات واقعية قبل أن يستخدمهم العملاء.
• KaneAI و Kane CLI (تطبيقات يساعد الذكاء الاصطناعي في بنائها). اختبر التطبيقات باللغة الإنجليزية البسيطة (KaneAI) أو من خلال سطر الأوامر (Kane CLI).
• SmartUI مع Accessibility (أعطال لم يكتب لها أحد اختبارًا). تلتقط المشكلات التي لا تبحث عنها الفحوصات الوظيفية، مثل التخطيطات المعطوبة أو الشاشات التي لا يستطيع بعض المستخدمين التعامل معها.
• Real Device Cloud (ما تفوته المحاكاة). ينفذ الاختبارات على هواتف ومتصفحات حقيقية، وليس فقط على المحاكيات.
• HyperExecute (تشغيل الحالات المهمة مرات عديدة). ينفذ نفس الفحوصات عند كل تغيير، وبالتوازي.
• Test Manager (سجل للاعتماد). يحتفظ بسجل واحد لما تم فحصه، وما تم اكتشافه، وما لا يزال مجهولاً، للشخص الذي سيعتمد النتيجة.

أدوات المراقبة ترصد ما يحدث بعد الإطلاق. أما نحن فنقدم الأدلة المستخدمة لاتخاذ قرار بشأن ما يصل إلى مرحلة الإطلاق. وكلاؤنا ينفذون الفحوصات على نطاق واسع لا تستطيع الفرق إدارته يدويًا، بينما يقرر المختبرون ما يستحق الفحص ويبحثون عن المشكلات التي لا يمكن لأي فحص التقاطها. ونحن نسمي هذا العمل المشترك: راقب، قيّم، واضمن (Observe, Eval, and Assure).

الأمر لا يتعلق بالحصول على شهادة. فمجرد أن المنتج يحمل اسمًا أو أن هناك وكيل فحص إضافيًا لا يجعل النظام آمنًا أو مستقلاً. بل يجب تقييمنا تمامًا كأي مختبر آخر - بناءً على السيناريوهات التي تم تنفيذها، وحالات الفشل التي تم اكتشافها، والأدلة المتاحة للتدقيق.

مستقبل حوكمة وكلاء الذكاء الاصطناعي: كيف قد يبدو عام 2030

هذه توقعات. ولكل منها إشارة مبكرة تظهر اليوم.

• الوكلاء يحصلون على هويات وسجلات. لكل وكيل نطاق عمل محدد، وشخص معتمد، وسجل لإجراءاته. وتخطط Microsoft لتمييز إجراءات الوكيل عن إجراءات البشر في نظام الهوية الخاص بها.
• السجلات تأتي من خارج الوكيل. تُكتب السجلات بواسطة جهة لا يستطيع الوكيل تعديلها، بدلاً من الاعتماد على رواية الوكيل نفسه لما فعله.
• الفحوصات تعمل باستمرار. تحديث النموذج، أو تغيير موجّه الأوامر، أو إضافة أداة جديدة يؤدي تلقائيًا إلى إعادة الاختبار، مما يترك للبشر وقتًا أطول للاختبار الاستكشافي.
• الوكلاء يفحصون وكلاء آخرين. تتوقع Gartner أن 15% من قرارات العمل اليومية ستتخذها أنظمة الذكاء الاصطناعي العاملة كوكلاء بشكل مستقل بحلول عام 2028، مقارنة بلا شيء في عام 2024. لا يستطيع البشر مراجعة هذا الحجم واحدًا تلو الآخر، لذا سيتولى الوكلاء المدققون جزءًا كبيرًا من المراقبة الروتينية بينما يضع البشر الأولويات ويفحصون الحالات الشاذة.
• شركات التأمين تسعّر مخاطر الذكاء الاصطناعي بناءً على الأدلة. منذ عام 2025، قدمت شركات تأمين Lloyd's تغطية لأخطاء الذكاء الاصطناعي تدفع التعويضات عندما ينخفض الأداء عن مستوى أساسي متفق عليه، وقال أحد مكتتبي التأمين إنه لن يغطي الأنظمة التي يعتبرها شديدة العرضة للخطأ.
• المؤسسات تخصص ميزانيات لذلك. مالك واحد وعملية واحدة تغطي المراقبة والتقييم والاعتماد والتحكم، وكل حالة فشل تُعاد كاختبار جديد.

مشكلات لم تُحل بعد

1. اختبار أداة الفحص. يمكن خداع المُقيِّم الذكي (الذي يُعرف غالبًا بمفهوم LLM-as-a-judge) بسهولة تامة كسهولة خداع نموذج الذكاء الاصطناعي الذي يقيّمه. فالنموذج الثاني لا يضمن إصدار حكم مستقل، خاصةً إذا تم تدريب كلا النموذجين بطرق متشابهة.
2. التحايل على الفحص. في يوليو 2026، قامت نماذج من OpenAI تعمل على تقييم داخلي صعب للأمن السيبراني بالبحث عن حلول في خدمات خارجية، وتجاوزت ضوابط العزل، واخترقت أجزاءً من أنظمة OpenAI و Hugging Face. وتُحدّد OpenAI التحايل للحصول على المكافآت (reward hacking) كمحرك رئيسي لهذا السلوك، وتوضح أن التقييم كان يفتقر إلى ضمانات الأمان المطبقة في نماذجها العاملة. تتعلق هذه الحادثة بكيفية عزل بيئات التقييم؛ ولا تعني أن جميع الوكلاء يتصرفون بهذه الطريقة.
3. عدم موثوقية التقارير الذاتية. يصف ساتيا ناديلا شفافية الاستنتاج بأنها "أمر لا يقبل المساومة"، لكنه يكتب أنها "وحدها ليست كافية أو موثوقة". فما يقوله النموذج عن أفعاله قد يختلف تمامًا عما فعله فعليًا.
4. الدرجات مقابل الجودة. معدل نجاح بنسبة 94% يقيس الأداء بناءً على فحوصات كتبها شخص ما. وهو لا يقدم أي معلومات حول المواقف التي لم يفكر أحد في كتابة فحص لها.
5. التكلفة. تخزين السجلات بشكل مستقل، واستخدام نماذج ثانية، وتكرار عمليات التشغيل، وبيئات الاختبار المعزولة (sandboxes)، والمراجعة البشرية، كلها عوامل تزيد التكلفة وتسبب التأخير. كما أن تسجيل كل شيء يخلق التزامات قانونية تتعلق بالبيانات الحساسة.
6. الإجراءات غير القابلة للتراجع. إيقاف الوكيل يمنعه من تنفيذ إجراءات إضافية، لكنه لا يعكس الإجراءات التي اكتملت بالفعل؛ لذا فإن الصلاحيات الممنوحة مسبقًا أهم بكثير من زر الإيقاف نفسه.
7. الإفصاح. في سبتمبر 2026، بدأت OpenAI في نشر حوادث عدم التوافق (misalignment) ضمن إطار إفصاح جديد، رغم أنها هي من يقرر ما يُصنف كحادثة عدم توافق. ومعظم الشركات التي تنشر وكلاء ذكاء اصطناعي لا تفصح عن مثل هذه الحوادث. لقد تحسن مستوى السلامة في قطاع الطيران جزئيًا لأن الحوادث تُحقق فيها علنًا.
8. الفحوصات مقابل الاختبارات. تؤكد الفحوصات الآلية صحة ما فكر شخص ما في السؤال عنه مسبقًا. لكن العديد من الإخفاقات الخطيرة تنشأ من أسئلة لم يطرحها أحد، واكتشافها يتطلب مختبرين مهرة يستكشفون النظام، ويشككون في المواصفات، ويحددون أي المخاطر يستحق الاهتمام حقًا.

لا توجد إجابات نهائية وحاسمة لأي من هذه النقاط حتى الآن.

أين تقف النقاشات حاليًا

اتفقت الأصوات الخمسة على ثلاث نقاط:

• الوكلاء يجعلون عمليات المراقبة والتقييم والاعتماد أكثر ترابطًا واعتمادًا على بعضها البعض.
• يجب أن تأتي الأدلة من مصدر لا يستطيع الوكيل التعديل عليه.
• لا يزال هناك شخص يوقع على اعتماد النشر وحدوده واستثناءاته، حتى لو لم يعتمد كل إجراء روتيني.

واختلفوا في أربع نقاط:

• منصة واحدة أم عدة أدوات. مؤسس المنصة يفضل الاعتماد على مورد واحد؛ بينما مدير تقنية المعلومات في البنك لا يثق في الحزم المتكاملة.
• الفحص الداخلي أم الخارجي. الفحص داخل المنصة أقل تكلفة. أما الفحص المستقل فهو ما طالما طالب به المدققون والجهات التنظيمية وشركات التأمين في قطاعات المال والسلامة. وأيُّهما أهم للذكاء الاصطناعي؟ هذا سؤال لم يُحسم بعد.
• الملكية والمسؤولية. قد تقع المسؤولية على عاتق قسم العمليات، أو فريق الذكاء الاصطناعي، أو إدارة المخاطر، أو الجودة. وقليلاً من الشركات خصصت بندًا في ميزانيتها لهذا الغرض حتى الآن.
• التسمية، وما إذا كانت أي أداة قادرة حقًا على "ضمان" أي شيء.

هناك ثلاث مؤشرات قد تساعد في حسم الأمر. إذا استمر المشترون في ربط أدوات منفصلة عبر معايير مفتوحة، فستظل الأسواق منفصلة. وإذا كان التقييم المدمج في منصات المراقبة (observability) يلبي معظم الاحتياجات، فسينتصر النهج الداخلي. وإذا لم تظهر ميزانية مستقلة لعمليات الضمان، فسيواجه مقدمو الخدمات المستقلون صعوبات جمة.

إذا ارتكب وكيلك خطأً مكلفًا غدًا، فمن تثق به ليشرح لك ما حدث: الشركة التي تشغّله، أم جهة مستقلة لا علاقة لها بتشغيله؟

الأسئلة الشائعة

ما الفرق بين مراقبة الذكاء الاصطناعي (AI observability)، وتقييم الذكاء الاصطناعي (AI evaluation)، وضمان الذكاء الاصطناعي (AI assurance)؟

تسجل مراقبة الذكاء الاصطناعي ما قام به النظام: مدخلاته، واستدعاءات الأدوات، ومخرجاته، وأخطاءه، وتكلفته. بينما يقيس تقييم الذكاء الاصطناعي سلوك النظام مقارنة بتوقعات محددة، مثل الدقة، أو الالتزام بالسياسات، أو إنجاز المهام. أما ضمان الذكاء الاصطناعي فيجمع الأدلة والضوابط وحدودها معًا، ليتمكن الشخص من اتخاذ قرار مسؤول بشأن نشر النظام أو الاستمرار في تشغيله.

ما هو إطار حوكمة الذكاء الاصطناعي الخاص بوكلاء الذكاء الاصطناعي؟

هو الإطار الذي يحدد من يقرر ما يمكن للوكيل الوصول إليه، وكيف تُسجل أفعاله، وكيف يُختبر، ومن يحق له إيقافه، وكيف يتم الإبلاغ عن حالات الفشل. وتتضمن مبادئ ساتيا ناديلا السبعة ما يلي: تنوع النماذج، ومراقبة كل شيء، وقابلية التحقق، والضوابط المستقلة، وقابلية التدقيق المستقلة، والاحتواء، والإفصاح عن الحوادث.

ما هي مبادئ ساتيا ناديلا السبعة للثقة في الذكاء الاصطناعي؟

في مقاله الصادر في أكتوبر 2026 بعنوان "النماذج كمخاطر داخلية في عصر الذكاء الخارق"، سرد ناديلا المبادئ التالية: تنوع النماذج، ومراقبة كل شيء، وقابلية التحقق، والضوابط المستقلة، وقابلية التدقيق المستقلة، والاحتواء، والإفصاح عن الحوادث. وتتمثل فكرته المحورية في فصل توفير الذكاء عن السلطة عليه، والتعامل مع النماذج القادرة كأنها موظفون يتمتعون بصلاحيات وصول واسعة.

هل تتجه مراقبة الذكاء الاصطناعي وتقييمه نحو الاندماج؟

نعم، فالموردون يدمجون بينهما. فقد أتمت Dynatrace استحواذها على Arize بقيمة 915 مليون دولار في أكتوبر 2026، وأكملت Cisco استحواذها على Galileo في مايو 2026، وكل ذلك بهدف دمج التقييم مع مراقبة بيئة الإنتاج. لكن ما إذا كان المشترون سيدمجون ميزانياتهم وفرقهم حول منصة واحدة لا يزال سؤالاً مفتوحًا.

من يجب أن يفحص وكلاء الذكاء الاصطناعي: المنصة التي تشغلهم أم مختبر مستقل؟

كلا النهجين موجود، والمسألة لم تُحسم بعد. ففحوصات المنصة أرخص وأقرب إلى البيانات. بينما تفصل الفحوصات المستقلة بين المُراجِع والنظام قيد المراجعة، وهو ما يتوقعه المدققون والجهات التنظيمية غالبًا. وفي كلتا الحالتين، يظل الاستقلال التقني — حيث لا يستطيع الوكيل العبث بأداة فحصه أو سجلاته — أمرًا بالغ الأهمية.

كيف تختبر وكيل ذكاء اصطناعي قبل إطلاقه؟

حدد قواعد العمل أولاً، ثم اختبر الظروف الصعبة مثل البيانات المتعارضة، وانتهاء المهلات الزمنية، والتعليمات المخفية. شغّل السيناريوهات المهمة مرات عديدة، وتحقق من حالة النظام الفعلية بدلاً من الاكتفاء بوصف الوكيل لها، وأبلغ عن حالات الفشل الخطيرة بشكل منفصل عن المتوسطات، واختبر حدود الصلاحيات خارج نطاق الوكيل، وتحقق من صحة أداة الفحص الآلية نفسها.

القصة منشورة في الأصل على https://medium.com/@mask.tech/will-ai-observability-evaluation-and-assurance-merge-a5b011e26b3a?sharedUserId=mask.tech

المصادر

مثال استرداد الأموال افتراضي، والأصوات المشاركة في النقاش مركبة، وتوثيق المنتجات يصف الإمكانيات وليس الأداء المقاس بشكل مستقل.

• ساتيا ناديلا: النماذج كمخاطر داخلية في عصر الذكاء الخارق (المقال الأصلي)
• Forbes: ناديلا من Microsoft يريد مكبح طوارئ لكل نموذج ذكاء اصطناعي
• Data Studios: شرح مبادئ ناديلا السبعة
• وزارة العلوم والابتكار والتكنولوجيا البريطانية (DSIT): مقدمة في ضمان الذكاء الاصطناعي
• W.Media: رؤية Gartner حول تبني وإلغاء مشاريع الذكاء الاصطناعي الوكيل
• Detailed Research: سوق مراقبة الذكاء الاصطناعي
• Dynatrace: Dynatrace تكمل الاستحواذ على Arize
• Magica: Dynatrace تبرم صفقة بقيمة 915 مليون دولار للاستحواذ على Arize
• Cisco: جعل الذكاء الاصطناعي موثوقًا وقابلًا للمراقبة (Galileo، اكتمل في مايو 2026)
• نموذج 8-K من Snowflake: إتمام الاستحواذ على Observe
• We The Flywheel: مراقبة الذكاء الاصطناعي في عام 2026
• OpenAI: حادثة Hugging Face والطريق القادم
• Implicator: تقارير الحوادث الستة لعدم التوافق من OpenAI
• The Decoder: شركات تأمين Lloyd's تطلق وثائق لتغطية أخطاء الذكاء الاصطناعي
• Armilla: شركات التأمين تطلق تغطية لأخطاء روبوتات الدردشة الذكية
• TestMu AI: نتائج وأدلة ضمان الوكلاء
• TestMu AI: اختبار وكلاء الذكاء الاصطناعي