وكلاء الذكاء الاصطناعي (AI Agents): كيف تتحول البرامج من المحادثة إلى التنفيذ المستقل؟

قامت إحدى الشركات التجارية بتهيئة مساعد ذكي يعمل بالذكاء الاصطناعي لتولي مهام التواصل مع العملاء وإدارة الأعمال الإدارية اليومية بكفاءة عالية. يتولى هذا النظام قراءة رسائل البريد الإلكتروني الخاصة بالدعم الفني والرد عليها بشكل فوري، وتنسيق المواعيد عبر التقويم الرقمي لمختلف فرق العمل، وطلب مستلزمات المكاتب والمشتريات من الموردين مباشرة دون انتظار موافقة بشرية عند كل خطوة تنفيذية. في هذه المرحلة، لم يعد الذكاء الاصطناعي مجرد روبوت محادثة يقدم نصوصا ونصائح عبر الشاشة، بل تحول إلى وكيل مستقل يملك صلاحيات اتخاذ القرارات وتنفيذ الإجراءات الفعلية داخل الأنظمة الرقمية وبيئات العمل الحية.

حلقة التخطيط الذاتي واستدعاء الأدوات الخارجية

يعتمد الوكيل المستقل في عمله على الدمج بين النماذج اللغوية الكبيرة وما يعرف بـ «حلقة التخطيط» (planning loop). عندما يحدد المستخدم هدفا عاما وواسعا، مثل تنظيم رحلة عمل متكاملة وحجز الفنادق ضمن ميزانية محددة، لا يتعامل الوكيل مع المهمة كإجابة نصية واحدة ومباشرة. بدلا من ذلك، يقوم بتحليل الهدف وتفكيكه إلى سلسلة متتالية من المهام الفرعية: فحص تواريخ الرحلات المتاحة، والمقارنة بين أسعار الغرف الفندقية، والتحقق من شروط الإلغاء، وأخيرا ملء بيانات الدفع والفوترة وفق جدول زمني دقيق.

ولتحويل هذه الخطط النظرية إلى وقائع ملموسة، يستخدم الوكيل تقنية «استدعاء الأدوات» (tool calling). لا تملك النماذج اللغوية بمفردها القدرة على الشراء أو الحجز، لكن تزويدها بصلاحيات الاتصال بواجهات البرمجة (APIs) ومتصفحات الويب وملفات النظام يمنحها أدوات تنفيذية حقيقية تتفاعل مع الواقع الرقمي. بعد كل خطوة يقوم بها الوكيل—مثل إرسال طلب استعلام أو الضغط على زر في صفحة ويب—يقوم النظام بتقييم النتيجة وتدقيق الاستجابة. وإذا واجه الوكيل رسالة خطأ تقنية أو نفاد المقاعد، يعيد تقييم الموقف ويعدل مسار خطته ذاتيا حتى ينجز المهمة بنجاح أو يقرر التوقف في حال تعذر التوصل إلى حل آمن.

مخاطر الاستقلالية دون حواجز حماية

إن منح البرمجيات صلاحيات التنفيذ المباشر دون رقابة مستمرة يفتح الباب أمام تحديات تشغيلية وأمنية جسيمة تهدد استقرار المؤسسات. وتبرز الخطورة الكبرى في الإجراءات غير القابلة للإلغاء: فإرسال بريد إلكتروني رسمي بالخطأ إلى جهة خارجية، أو إتمام عملية شراء غير صحيحة لسلع غير قابلة للإرجاع، أو حذف سجلات مهمة من قاعدة البيانات، كلها أمور يصعب تصحيحها أو استرجاعها بمجرد تنفيذها عبر الشبكة، مما يسبب خسائر مادية ومعنوية بالغة.

• تفاقم الأخطاء المتسلسلة: إذا أخطأ الوكيل في فهم رقم أو تاريخ محدد في الخطوة الأولى، تبنى جميع القرارات اللاحقة على فرضية باطلة، مما يضاعف حجم الأضرار المالية والإدارية الناتجة عن المعاملات الخاطئة.
• هجمات حقن الأوامر غير المباشرة: عند تصفح الوكيل لمواقع خارجية أو قراءة رسائل واردة، قد يصادف تعليمات خبيثة مخفية تتلاعب بمسار تفكيره وتدفعه لتسريب بيانات سرية أو تحويل أموال دون إذن، وفق ما كشفته الأبحاث الأمنية الحديثة.
• منح صلاحيات تنفيذية واسعة ومفرطة: يؤدي ربط الوكيل بحسابات النظام دون عزل دقيق إلى منحه قدرة على تعديل بيانات تتجاوز بكثير نطاق المهمة المطلوبة منه، مما يوسع مساحة التهديد الرقمي داخل المؤسسة.

أطر السلامة والرقابة البشرية الإلزامية

للحد من هذه المخاطر الكارثية، يوصي إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن المعهد الوطني الأمريكي للمعايير والتقنية (NIST AI RMF 1.0, 2023) بضرورة إبقاء «العنصر البشري في حلقة القرار» (Human-in-the-Loop). وتقتضي هذه المنهجية أن يقتصر دور الوكيل في القرارات الحساسة وعالية التأثير—مثل المعاملات المالية الكبرى والاتصالات الرسمية—على البحث والتحضير، مع اشتراط مصادقة بشرية صريحة ونهائية قبل التنفيذ الفعلي.

كما ينبغي للمؤسسات تفعيل تدابير أمنية صارمة تشمل تطبيق مبدأ الامتيازات الأقل، وتحديد سقوف إنفاق مالية منخفضة للبطاقات الرقمية المستخدمة، وعزل بيئة عمل الوكيل في مساحة تجريبية آمنة لمنع التداخل مع الأنظمة الحيوية. بالإضافة إلى ذلك، يعد الاحتفاظ بسجلات تدقيق شاملة لجميع الأنشطة البرمجية أمرا جوهريا لتسهيل المراجعة الدورية ورصد أي سلوك مريب ومعالجته في الوقت المناسب.

يقدم وكلاء الذكاء الاصطناعي نقلة نوعية في أتمتة الأعمال ورفع مستويات الإنتاجية اليومية في مختلف القطاعات. ومع ذلك، فإن نجاح هذه الأدوات يعتمد كليا على وعي المستخدم بحدودها الفنية وفرض رقابة دقيقة تضمن بقاء زمام السيطرة والمسؤولية القانونية في أيدي البشر.