42 إرشادا لتحصين أنظمة الذكاء الاصطناعي من الهجمات السيبرانية
قدمت الهيئة الوطنية للأمن السيبراني 42 أرشادا لحماية أنظمة الذكاء الاصطناعي من الهجمات السيبرانية، تشمل عزل شبكات المكونات الداخلية للذكاء الاصطناعي، وإجراء تقييمات دورية، واختبارات اختراق مستمرة لاكتشاف السلوكيات غير الطبيعية.
ولفتت الهيئة، وفق الإرشادات المطروحة للاستطلاع، إلى أهمية إجراء مسح أمني للعاملين ذوي الصلاحيات الحساسة في بيئات الذكاء الاصطناعي، وتضمين متطلبات الحماية في برامج التوعية.
كما دعت إلى التعامل مع البيانات المسترجعة من الأدوات الخارجية باعتبارها غير موثوقة، وتطبيق عمليات تحقق وتطهير للبيانات قبل إدخالها لمنع تنفيذ الأوامر الخبيثة.
وتأتي الإرشادات استناداً إلى اختصاصات الهيئة الوطنية للأمن السيبراني بصفتها المرجع الوطني في شؤون الأمن السيبراني، بموجب تنظيمها الصادر بالأمر الملكي الكريم.
وأوضحت الهيئة أن الوثيقة تستهدف جميع الجهات في المملكة التي تتبنى أو تخطط لتبني أنظمة الذكاء الاصطناعي. وأكدت على أهمية تطبيق الحد الأدنى من أفضل الممارسات لتقليل المخاطر المرتبطة بالذكاء الاصطناعي التوليدي والتوكيلي.
وتتكون الإرشادات الجديدة من 4 مكونات أساسية تتفرع منها 15 مكوناً فرعياً، وتضم في مجملها 42 إرشاداً تنظيمياً.
وتغطي هذه المكونات إدارة مخاطر الأمن السيبراني، وتعزيز الحماية، وصمود الأنظمة، إضافة إلى إدارة المخاطر المتعلقة بالأطراف الخارجية.
وبينت الهيئة أن التطور المتسارع في تقنيات الذكاء الاصطناعي أفرز ثغرات وتهديدات غير تقليدية، تستوجب تعاملاً دقيقاً وحماية مستمرة.
وشملت التهديدات المرصودة هجمات التهرب، وتسميم البيانات، وحقن الأوامر، فضلاً عن تسريب بيانات التدريب أو المعلومات الحساسة للنموذج.
وشددت الوثيقة التنظيمية على ضرورة دمج متطلبات الأمن السيبراني في جميع مراحل دورة حياة أنظمة الذكاء الاصطناعي، بدءاً من التصميم والتطوير وصولاً إلى التشغيل والانتهاء بالتخلص الآمن.
