أصدرت شركة كاسبرسكي إرشادات جديدة تركز على تأمين وكلاء الذكاء الاصطناعي ضمن البنية التحتية للمؤسسات باستخدام نهج المناعة السيبرانية. واستعرضت الشركة هذا التقرير الفني خلال مشاركتها في فعاليات معرض AI Everything Global في أبوظبي. وتتناول الوثيقة المخاطر التشغيلية والأمنية المرتبطة بالأنظمة المستقلة، مع تقديم خطوات عملية للحد من تداعيات الأخطاء وحوادث الاختراق.
مبادئ تأمين وكلاء الذكاء الاصطناعي في المؤسسات
تعتمد الشركات بشكل متزايد على الأنظمة الذكية لتنفيذ مهام أتمتة الأعمال وإدارة عمليات تقنية المعلومات. ويحلل التقرير، الصادر بعنوان «أمن وكلاء الذكاء الاصطناعي من منظور المناعة السيبرانية»، حالات الاستخدام الواقعية وأهمية وضع ضوابط واضحة لعمليات التطبيقات والبرمجيات في بيئات العمل المشتركة. وتحدد الوثيقة عدة قواعد تصميم رئيسية:
- تحديد الافتراضات الأمنية عبر معاملة النماذج اللغوية الكبيرة والبيانات الخارجية كعناصر غير موثوقة افتراضياً، مع اشتراط الموافقة البشرية قبل تنفيذ أي إجراء غير قابل للتراجع.
- تقليص قاعدة الحوسبة الموثوقة (TCB) إلى أدنى حد ممكن لتقليل المكونات التي تتطلب ثقة أمنية مطلقة.
- عزل المكونات التنفيذية عبر بيئات الاختبار والآلات الافتراضية، وفصل الوكلاء في الأنظمة المتعددة.
- تطبيق سياسة الرفض الافتراضي على طلبات الأدوات وحركة مرور الشبكة لمنع التعديلات غير المصرح بها.
توصيات عملية لمديري التقنية والأمن
يشمل التقرير توجيهات موجهة إلى مسؤولي أمن المعلومات والتقنية للمساعدة في إدارة التهديدات المرتبطة بمنح صلاحيات واسعة للوكلاء. ويوصي التقرير بإجراء حصر دقيق لكافة الوكلاء النشطين وتطبيق سياسات عزل مرنة لدعم برامج الأمن السيبراني وحماية البيانات المؤسسية من الحذف غير المقصود أو الاستغلال الخبيث.
«فعندما يتعامل المطورون مع مكونات تفتقر بطبيعتها إلى الحتمية والموثوقية، وهي الصفة الافتراضية الأساسية للنماذج اللغوية الكبيرة، فعليهم دمج الثقة في البنية التحتية للحل لتخفيف التداعيات المحتملة للأخطاء وحالات الاختراق.»
فلاديسلاف توشكانوف، رئيس مركز أبحاث تقنيات الذكاء الاصطناعي في كاسبرسكي
وأشار توشكانوف إلى أهمية دعم هذه البنى باستراتيجيات دفاع متعددة الطبقات تشمل جدران الحماية المخصصة وأنظمة إدارة معلومات الأمان.
عرض التقنيات الصناعية في معرض أبوظبي
استعرضت الشركة حلولاً متخصصة في جناحها خلال المعرض لدعم تطبيقات الذكاء الاصطناعي في المنشآت الصناعية. وشملت العروض نظام Kaspersky MLAD لاكتشاف الأنشطة غير الطبيعية، ومنصة Kaspersky Neuromorphic Platform للأنظمة السيبرانية الفيزيائية، بالإضافة إلى تقنية TIARA التي تزود النماذج اللغوية بمعرفة تخصصية دقيقة.
مستقبل الحماية للأنظمة الذكية المستقلة
تواصل فرق الأبحاث الأمنية دراسة التهديدات الرقمية الناشئة لمساعدة المؤسسات على تطبيق حلول متقدمة بثقة وأمان. وتساعد هذه الأطر الوقائية في بناء بيئة عمل تقنية مستقرة تقلل من احتمالات تعطل العمليات الحيوية وتضمن استمرارية الخدمات الرقمية بكفاءة.
