المشكلة مش دايمًا في السؤال اللي بنكتبه للنموذج. نشر باحثون في Microsoft يوم 10 نوفمبر 2026 تفاصيل أسلوب أطلقوا عليه Lazarus، يوضح كيف يمكن العبث بعدد صغير للغاية من الوحدات داخل نموذج لغوي بحيث يبدو طبيعيًا في الاختبارات، ثم ينفذ سلوكًا غير متوقع عندما يظهر محفز محدد.
ماذا أثبت البحث؟
في بيئة اختبار بحثية، أظهر الفريق إمكانية إعادة برمجة أقل من عشرة عصبونات خاملة في بعض النماذج، من دون إعادة تدريب كاملة، لتفعيل مخرجات محددة عند ظهور عبارة أو ظرف معين. الخطر يصبح أكبر إذا كان النموذج جزءًا من وكيل لديه صلاحية تشغيل أدوات أو أوامر على جهاز أو خادم.
وده لا يعني أن كل النماذج المفتوحة مصابة أو أن واقعة اختراق عامة حدثت بالفعل. الدراسة تتناول قدرة هجومية أُثبتت تجريبيًا، وتناقش وسائل الكشف وتقليل المخاطر.
لماذا لا تكفي الاختبارات العادية؟
بحسب الباحثين، قد يعمل النموذج بصورة طبيعية أغلب الوقت، ثم تتغير استجابته عند شرط نادر لا تظهره اختبارات الجودة التقليدية. لذلك لا يكفي السؤال: «هل النموذج ذكي وآمن في المحادثة؟»؛ بل يجب معرفة مصدر ملف الأوزان وهل جرى تعديله بعد تنزيله.
كيف نحمي وكلاء AI داخل الشركات؟
توصي Microsoft بالتأكد من مصدر النماذج، ومقارنة الأوزان بالإصدار الموثوق عند الإمكان، وحصر صلاحيات الوكيل في الحد الضروري، ومراقبة الإجراءات الحساسة، وفرض موافقة بشرية قبل العمليات عالية الأثر. كما تتحدث الشركة عن تطوير وسائل فحص وتوقيع تتيح اكتشاف التلاعب بالأوزان.
الفكرة الأهم هنا أن الوكيل الذي يستطيع قراءة ملفات أو تنفيذ أوامر يمثل سطح هجوم أكبر من روبوت محادثة لا يمتلك أي صلاحيات. تقليل الوصول إلى البيانات وبيئة التشغيل يحد من حجم الضرر المحتمل حتى لو أخطأ النموذج.
الخلاصة
بحث Lazarus تذكير بأن سلامة الذكاء الاصطناعي تشمل سلسلة توريد النموذج وملفات تشغيله وصلاحيات الوكيل، لا التعليمات النصية وحدها. النتائج البحثية لا تعني انتشار هجمات فعلية على جميع المستخدمين.
المصادر وحقوق الصورة
Microsoft Research، 10 نوفمبر 2026 · الورقة البحثية.
الصورة توضيحية وليست تصويرًا لإطلاق المنتج أو الواقعة. تصوير: Yuri Samoilov / Wikimedia Commons — CC BY 2.0.
