OpenAI تكشف Control Room: نظام لإيقاف أحمال الذكاء الاصطناعي عند ظهور مخاطر

مركز عمليات شبكة مع شاشات مراقبة، صورة توضيحية لأنظمة إيقاف أحمال الذكاء الاصطناعي

كلما زادت قدرة النماذج على تنفيذ مهام طويلة، زادت أهمية وجود وسيلة توقفها عند الحاجة. في 9 نوفمبر 2026، قدمت OpenAI نظامًا داخليًا باسم Control Room لمراقبة أحمال الذكاء الاصطناعي في بنيتها البحثية والتدخل السريع عند ظهور مخاطر أمنية أو تتعلق بالسلامة.

ماذا يفعل النظام؟

وفق الشرح الرسمي، يجمع Control Room معلومات عن أحمال الاستدلال المستخدمة في البحث والتقييم وتوليد عينات الوكلاء ومعالجة البيانات، ويتكامل مع أنظمة رصد السلوك غير المنضبط. عند اتخاذ قرار بإيقاف مهمة أو تعليقها، تتحدث الشركة عن إمكانية وقف المخرجات خلال 35 ثانية كحد أقصى في التصميم الذي وصفته.

هذه المدة رقم أعلنته OpenAI عن نظامها، وليست نتيجة تحقق مستقل لكل حالة. كما أن وصف النظام لا يعني منح المستخدم العادي زرًا خاصًا لإيقاف أي نموذج على الإنترنت.

لماذا تحتاج المراكز البحثية إلى «غرفة تحكم»؟

المهام التي تعمل لساعات قد تتعامل مع كميات كبيرة من العمليات والملفات والأدوات. وإذا ظهرت مشكلة، فمن المهم ألا يحتاج الفريق إلى البحث يدويًا عن كل عملية وتوقيفها واحدة تلو الأخرى. وجود لوحة موحدة يسهّل معرفة موضع التشغيل وصلاحياته والاستجابة للحوادث.

ماذا يحدث لو تعطلت غرفة التحكم نفسها؟

تقول OpenAI إن النظام صُمم بحيث يستمر في أداء وظيفته أثناء بعض أنواع الأعطال، بل ويتوقف إخراج النماذج إذا تعطل Control Room نفسه. هذا النوع من التصميم يُسمى أحيانًا الإيقاف الآمن عند الفشل، ويحتاج اختبارات تشغيلية منتظمة للتأكد من عمله تحت الضغط.

الدرس للشركات الصغيرة

قد لا تحتاج شركتك نظامًا بهذا الحجم، لكن المبدأ ينطبق على أي وكيل AI يتعامل مع ملفات أو رسائل أو عمليات شراء: سجّل ما ينفذه، وحافظ على وسيلة لإيقافه، وحدد حدود الصلاحيات قبل السماح له بالعمل لفترات طويلة دون إشراف.

المصادر وحقوق الصورة

OpenAI: Introducing Control Room، نوفمبر 2026.

الصورة توضيحية لا تمثل لقطة من الخدمة أو المنشأة المذكورة: Alan Levine / Wikimedia Commons — CC BY 2.0.