وكيل الذكاء الاصطناعي اللي يقدر ينفّذ أوامر على جهازك لازم تتعامل معاه كبرنامج عنده صلاحيات، مش مجرد شات. لأن الفارق كبير بين أداة تقترح خطوة وبين أداة تستطيع فتح الملفات وحذفها وإرسال رسائل أو تشغيل سكربتات. إليك قائمة عملية لتقليل المخاطر قبل تشغيل وكيل محلي أو ربطه بأدوات MCP.
1. ابدأ بحساب محدود الصلاحيات
لا تستخدم حساب المدير إلا إذا كانت المهمة تتطلب ذلك فعلًا. خصص للوكيل مجلد عمل واضحًا، وامنع الوصول إلى الملفات الشخصية أو المالية أو النسخ الاحتياطية التي لا يحتاجها.
2. جرّب أولًا في بيئة معزولة
شغّل الوكيل في مشروع تجريبي أو حاوية أو جهاز افتراضي حسب طبيعة المهمة. احتفظ بنسخة احتياطية يمكن استعادتها قبل السماح بتعديلات على ملفات مهمة. لا تفترض أن مجرد استخدام حاوية يمنع كل أنواع الوصول.
3. تحقّق من مصدر النموذج والأدوات
نزّل النماذج والمكونات من جهات موثوقة، وراجع تاريخ الإصدار وملفات التحقق والتغييرات. بحث Microsoft المنشور عن Lazarus يوضح إمكانية العبث بأوزان بعض النماذج لتغيير سلوكها عند محفز معين؛ لذا فسلامة سلسلة التوريد جزء أساسي من الحماية.
4. لا تضع المفاتيح في المحادثة أو الشيفرة
استخدم وسائل تخزين أسرار مناسبة، وامنح كل مفتاح أضيق صلاحية ممكنة، وافصل حسابات التجربة عن الإنتاج. راجع سجلات الوصول ودور صلاحيات MCP أو الأدوات المتصلة، ولا تمنح أداة مجهولة وصولًا عامًا إلى البريد أو الملفات.
5. اجعل الأفعال الحساسة بموافقة بشرية
إرسال البريد، وحذف البيانات، والشراء، وتغيير إعدادات الخادم خطوات تستحق بوابة موافقة واضحة. يمكن أتمتة التحضير والتحليل، لكن تنفيذ الإجراء نفسه ينبغي أن يكون قابلًا للمراجعة والإلغاء عندما تسمح الأنظمة بذلك.
6. احتفظ بسجل واضح وقابل للبحث
سجّل اسم المهمة، والأداة المستخدمة، ووقت التنفيذ، والملفات التي تغيّرت، ونتيجة كل عملية. لا تُسجّل كلمات السر أو محتويات حساسة بلا حاجة. وجود السجل يساعدك في فهم الأخطاء والرجوع للنسخة السابقة بدل الاعتماد على ذاكرة المحادثة وحدها.
7. اختبر زر الإيقاف وخطة الاستعادة
اجعل من السهل إيقاف جلسة الوكيل وإبطال مفاتيحه ووقف اتصال الأدوات إذا ظهر سلوك غير متوقع. جرّب الاستعادة من النسخ الاحتياطية دوريًا؛ النسخة التي لم تُختبر قد لا تنقذك وقت الحاجة.
الخلاصة
لا يوجد إعداد يضمن أمان أي وكيل بنسبة 100%. المطلوب هو طبقات حماية تتعاون: مصدر موثوق، وصلاحيات محدودة، وعزل، ومراقبة، وموافقة بشرية على الإجراءات الحرجة. ده يجعل الأتمتة مفيدة من غير ما تتحول إلى مخاطرة غير محسوبة.
المصادر وحقوق الصورة
Microsoft Research: دراسة Lazarus، 10 نوفمبر 2026 · الإطار المرجعي NIST AI RMF لإدارة المخاطر.
الصورة توضيحية لا تمثل لقطة من الخدمة أو المنشأة المذكورة: Yuri Samoilov / Wikimedia Commons — CC BY 2.0.
