طلال أبوغزاله

عادةً ما تأتي التوجهات التكنولوجية على شكل موجات، والموجة الحالية تتمثل في أنظمة الذكاء الاصطناعي المستقلة التي تساعد الشركات على تنفيذ المهام. ويُعرف هذا بـ “الذكاء الاصطناعي الوكيلي” (Agentic AI)، حيث تُمنح أنظمة الذكاء الاصطناعي صلاحية تنفيذ المهام من خلال الوصول إلى الأنظمة المؤسسية التي تستخدمها الشركات، ضمن حدود وقواعد محددة. ورغم أن هذا التطور يُعد مثيراً للاهتمام، إلا أن التكنولوجيا الأساسية ما تزال في مراحلها الأولى، وتحمل معها مجموعة من التحديات الخاصة بها.
مؤخراً، ظهرت حالة لشركة برمجيات في الولايات المتحدة تخدم شركات تأجير السيارات الخاصة، ونوادي العضوية، ومندوبي المبيعات المستقلين، وكانت بصدد نشر مثل هذه الأنظمة، إلا أن ذلك تسبب بأضرار جسيمة. فقد قام وكيل ذكاء اصطناعي واحد بحذف قاعدة بيانات تشغيلية ونسخها الاحتياطية خلال تسع ثوانٍ فقط، وهو ما يُعد فشلاً واضحاً في الحوكمة.
لقد أصبحت هذه الأنظمة اليوم تشارك في تطوير البرمجيات، والعمليات المالية، والخدمات اللوجستية، وإجراءات الأمن، والوظائف الإدارية. فهي تتصرف، وتُقرر، وتُنفذ دون انتظار تأكيد بشري. وهذا يخلق فئة جديدة من المخاطر المؤسسية، إذ لم يعد تنظيم خصوصية البيانات أو عدالة الخوارزميات كافيا، بل أصبح السلوك المستقل لهذه الأنظمة بحد ذاته بحاجة إلى حوكمة، وإلا فإنها قد تعرض سنوات من رأس المال الفكري للخطر وتعطل الخدمات الأساسية خلال لحظات.
لقد أظهرت لي تجربتي مع الأمم المتحدة ومنظمة التجارة العالمية أن التقدم التكنولوجي يجب أن يترافق مع حوكمة مسؤولة. فالاقتصاد العالمي يعتمد على الثقة في الأنظمة، واستمرارية العمليات، وحماية الأصول. والذكاء الاصطناعي الوكيلي يتحدى هذه الركائز الثلاث جميعها، كونه يُدخل مستوى من الاستقلالية التشغيلية لم تُصمم الأطر الحالية للتعامل معه. ولهذا، نحن بحاجة إلى تحديد كيفية تصرف الأنظمة المستقلة، وما الذي يُسمح لها به، وما هي الحدود التي لا يمكنها تجاوزها.
ويجب أن تكون هذه المعايير واضحة وقابلة للتنفيذ، بما يشمل قواعد سلامة غير قابلة للتفاوض، ومسارات تدقيق شفافة، وضوابط أخلاقية لا يمكن للأنظمة نفسها تجاوزها. كما يجب أن تضمن احتفاظ المشرفين البشريين بسلطة التدخل في أي لحظة، حتى تتمكن الشركات من حماية أصولها من المخاطر التي يمكن تجنبها تلك المخاطر الناتجة عن الأتمتة الخارجة عن السيطرة، مع وجود تدابير وقائية داخل الأنظمة التي يتم الوصول إليها. وهنا، يُعد اعتماد نهج الحوكمة متعددة الطبقات منهجية مفيدة.
إن الانتقال إلى اقتصاد عالمي قائم على الذكاء الاصطناعي يحدث الآن بالفعل. والسؤال المطروح هو ما إذا كنا سندخل هذه المرحلة بقوة أم بهشاشة. فالابتكار دون حوكمة يخلق حالة من عدم الاستقرار، والحوكمة دون ابتكار تؤدي إلى الجمود. أما التقدم المستدام فيتطلب الاثنين معاً.
إن هذه الحادثة تُعد تحذيراً، لكنها أيضاً فرصة. فهي تُظهر لنا أين تكمن الثغرات، وما الذي يجب تصحيحه، وأنه يتعين علينا توخي الحذر الشديد عند نشر مثل هذه الأنظمة المستقلة. ونصيحتي لعالم الأعمال هي تبني أنظمة الذكاء الاصطناعي بحماس، ولكن أيضاً بعناية واستعداد تفصيلي دقيق.
كما أنني أحثّ التنفيذيين في قطاع الأعمال على التعامل مع حوكمة الذكاء الاصطناعي الوكيلي باعتبارها بنية تحتية أساسية، لا تقل أهمية عن الأمن السيبراني، والرقابة المالية، وأي نشاط تجاري آخر. فالذكاء الاصطناعي يمتلك القدرة على إحداث تحول جذري، ولكن فقط إذا تصرفت الشركات بانضباط وبعد نظر. وإذا تُرك هذا الأمر كفكرة لاحقة، فإننا نخاطر بالسماح لتكنولوجيا تحويلية بأن تُقوض الأنشطة التجارية ذاتها التي وُجدت أصلا من أجل تطويرها.