صورة توضيحية مولّدة بالذكاء الاصطناعي
أظهرت دراسة حديثة أن وكلاء الذكاء الاصطناعي تسببوا في تصرف ثلث الشركات بناءً على مخرجات وقرارات غير دقيقة أثناء أداء المهام الموكلة إليهم. وأصدرت شركة Optro المتخصصة في منصات الحوكمة وإدارة المخاطر تقريراً بعنوان السلطة دون رقابة لعام 2026، حيث أوضح البحث أن المؤسسات تمنح البرمجيات المستقلة صلاحيات اتخاذ قرارات مصيرية دون تطوير آليات المراجعة الموازية لها.
مخاطر يواجهها وكلاء الذكاء الاصطناعي
أفادت 34 في المائة من المؤسسات المشاركة في الاستطلاع بأنها نفذت إجراءات فعلية استناداً إلى قرارات خاطئة أنتجتها الأنظمة المستقلة. وشهدت 30 في المائة من الشركات قيام الأنظمة بتنفيذ إجراءات غير مقصودة، بينما واجهت 25 في المائة منها إخفاقاً صريحاً في الضوابط الرقابية المعتمدة داخل بيئات العمل المعقدة.
ترتبط هذه التحديات بشكل وثيق بملفات الأمن السيبراني وحماية البيانات المؤسسية الحساسة. كما أن التهديدات التشغيلية تتزايد نتيجة اعتماد الشركات على بنى تقليدية لإدارة المخاطر تعتمد على سجلات ثابتة تعود لأشهر ماضية، مما يمنع التدخل السريع لمعالجة الانحرافات في الوقت المناسب.
“أصبح وكلاء الذكاء الاصطناعي في المؤسسات مدمجين اليوم بشكل مباشر في سير العمل الذي تترتب عليه عواقب فعلية على صعيد الأعمال والامتثال والجوانب التنظيمية. يؤكد هذا التقرير الحاجة إلى نموذج تشغيلي منضبط تتوافق فيه صلاحيات الوكلاء مع قدرة المؤسسة على حوكمة هذه الصلاحيات.”
Guru Sethupathy، المدير العام لحوكمة الذكاء الاصطناعي في Optro
اتساع الصلاحيات دون رقابة كافية
كشف الاستطلاع أن المؤسسات باتت تمنح صلاحيات واسعة ومباشرة للأنظمة البرمجية المستقلة دون تدقيق كافٍ. وتسمح 38 في المائة من الشركات للأنظمة بالموافقة على المعاملات المالية أو رفضها، في حين تتيح 34 في المائة منها تعديل السياسات العامة للعمل. بالإضافة إلى ذلك، تجيز 27 في المائة من المؤسسات تعديل أذونات المستخدمين وحقوق الوصول بصورة آلية كاملة.
أوضح التقرير أن منح وكلاء الذكاء الاصطناعي صلاحيات موسعة يزيد من احتمالات الخطأ الإداري والمالي داخل الاقتصاد والأعمال الرقمية. ورغم اتفاق 96 في المائة من مسؤولي الحوكمة على ضرورة تكييف نماذج العمل مع التطور التقني، فإن 9 في المائة فقط أعادوا تصميم مسارات العمل التشغيلية لاستيعاب هذه الحلول بصورة آمنة ومدروسة.
أعباء إضافية على فرق العمل
أشارت البيانات إلى أن اعتماد وكلاء الذكاء الاصطناعي يتطلب تدقيقاً مكثفاً من الموظفين بدلاً من تقليص ساعات الدوام اليومية. وذكرت 46 في المائة من المؤسسات أن كوادرها البشرية تقضي وقتاً أطول في مراجعة مخرجات الأنظمة والتحقق من صحتها أو تصحيح أخطائها المتكررة.
تؤثر هذه المراجعات اليدوية المستمرة على كفاءة استخدام أدوات إدارة الحوكمة الحديثة ضمن قطاع التطبيقات والبرمجيات المتقدمة. وبالتالي، تجد الكوادر الإدارية نفسها منشغلة بمهام تصحيحية بدلاً من التركيز على المبادرات الاستراتيجية والتطويرية للشركة.
منهجية البحث والشركات المشاركة
اعتمد التقرير على استطلاع رأي شمل 417 مشاركاً من صنّاع القرار في مجالات التدقيق الداخلي وإدارة المخاطر والامتثال وأمن المعلومات. واقتصرت العينة البحثية على مؤسسات يعمل بها 250 موظفاً فأكثر داخل أسواق أمريكا الشمالية وأوروبا.
تضمن البحث مقابلات نوعية مع أعضاء المجلس الاستشاري للعملاء التابع لشركة Optro. وخلصت النتائج إلى أن معالجة هذه الفجوة تتطلب الجمع بين أنظمة السجلات الموثوقة وآليات التنفيذ الخاضعة للمساءلة المستمرة.
