23 معيارًا لضبط وكلاء الذكاء الاصطناعي في التعليم.. والاستقلالية وفق المخاطر
أطلق المركز الوطني للتعليم الإلكتروني وثيقة ”معايير وكلاء الذكاء الاصطناعي في التعليم والتدريب“، لتوفير مرجع وطني ينظم تبنّي وكلاء الذكاء الاصطناعي واستخدامهم بصورة مسؤولة في المؤسسات التعليمية والتدريبية، بما يسهم في تحسين تجربة التعلم، ورفع كفاءة المخرجات التعليمية، وتعزيز حماية المتعلمين والبيانات، وضمان بقاء القرارات الجوهرية تحت الإشراف البشري.
وتتضمن الوثيقة 23 معيارًا موزعة على سبعة أبعاد رئيسة، تشمل القيمة والملاءمة للسياق، والدور البشري وحدود التفويض، والمسؤولية والشفافية، وحماية الأفراد والإنصاف، والبيانات والخصوصية والحقوق، والأمن والموثوقية والتكامل، والتحقق والتحسين المستمر. كما تحدد متطلبات استخدام الوكلاء وفق طبيعة المهام ومستوى الاستقلالية وحجم الأثر المترتب على استخدامها.
وتغطي المعايير قطاعات التعليم العام والتعليم العالي والتدريب المهني والتقني والتعلم مدى الحياة، في الجهات الحكومية والخاصة وغير الربحية، مع اعتبار استخدام الممارس لوكيل الذكاء الاصطناعي في أداء مهامه المؤسسية استخدامًا مؤسسيًا يخضع للمتطلبات ذات الصلة.
وتحدد الوثيقة ثلاث درجات لاستقلالية وكلاء الذكاء الاصطناعي، تتمثل في تقديم التوصيات، والتنفيذ بعد اعتماد بشري، والتنفيذ ضمن حدود محددة، إلى جانب تصنيف أثر الاستخدام إلى ثلاثة مستويات: محدود ومتوسط ومرتفع. ويسهم الجمع بين مستوى الاستقلالية وحجم الأثر في تحديد متطلبات الحماية والتحقق اللازمة لكل استخدام.
وفي حالات الأثر المرتفع، تؤكد الوثيقة عدم السماح بالتنفيذ الذاتي للمهام التي تمس القرارات الجوهرية، مثل القبول والدرجات النهائية والشهادات والجزاءات والحقوق والسلامة، مع قصر التنفيذ الذاتي على الإجراءات القابلة للتراجع، وإتاحة إمكانية إيقاف الوكيل فورًا عند الحاجة.
وتوضح الوثيقة الفرق بين وكلاء الذكاء الاصطناعي وأدوات الذكاء الاصطناعي التقليدية وسير العمل المؤتمت؛ إذ تستجيب الأداة لطلب محدد ويظل قرار الخطوة التالية بيد المستخدم، بينما ينفذ سير العمل المؤتمت مسارات محددة مسبقًا، في حين يُكلّف الوكيل بهدف ويختار الخطوات اللازمة لتحقيقه، وينفذها ويراجع نتائجها ويعدّل مساره وفقًا لها، ضمن الصلاحيات الممنوحة له. ولا يشترط أن يتسم الوكيل بالاستقلال الكامل أو التعلم الذاتي، أو أن يعمل ضمن منظومة متعددة الوكلاء.
وتشدد المعايير على ضرورة إثبات القيمة التعليمية لوكلاء الذكاء الاصطناعي بأدلة قابلة للتحقق، وعدم الاكتفاء بسرعة المخرجات أو جودتها الظاهرية للحكم على تحسن التعلم، كما لا تعد العروض التوضيحية أو التجارب المنفردة دليلًا كافيًا على جدوى الاستخدام.
تشترط الوثيقة فرض حدود الوكيل من خلال صلاحيات تقنية فعلية، وليس عبر التعليمات اللغوية وحدها، مع منحه صلاحيات وصول محدودة بالقدر اللازم ولأقصر مدة ممكنة، والتعامل مع مخرجاته بوصفها مدخلات غير موثوقة، وتنفيذ الشيفرات وتصفح المواقع في بيئات معزولة، إلى جانب اختبار الحماية من هجمات حقن الأوامر.
تلزم المتطلبات بتمكين المسؤولين من إيقاف الوكيل وسحب صلاحياته ومعالجة آثار الإجراءات التي نفذها، فضلًا عن إخطار الجهة بالتغييرات المؤثرة في النموذج قبل سريانها، ومراجعة ملاءمة الاستخدام بعد تلك التغييرات.
وتولي الوثيقة اهتمامًا خاصًا بحماية القاصرين، من خلال مراعاة سلامتهم واحتياجاتهم النمائية، وعدم استخدام بياناتهم للاستهداف التجاري، والتأكيد على أن موافقة ولي الأمر لا تغني عن التحقق من سلامة الاستخدام.
تتضمن المعايير متطلبات لتعزيز الإنصاف وإمكانية الوصول، تشمل فحص الفروق في أداء الأنظمة بين الفئات واللغات، وإتاحة بدائل عند وجود عوائق تحول دون الاستفادة من الخدمات، وعدم اشتراط شراء خدمة مدفوعة للحصول على فرصة تعليمية أساسية، إلى جانب حماية البيانات والخصوصية والحقوق ذات الصلة.
وتضيف الوثيقة متطلبات خاصة بثمانية مجالات لتوظيف وكلاء الذكاء الاصطناعي، تشمل التدريس، والتعلم والتخصيص، والتقويم والقياس، والإرشاد، والمحتوى، والبحث، والخدمات الإدارية، والحوكمة ودعم القرار.
وفي مجال التقويم والقياس، تؤكد المعايير عدم الاعتماد على أدوات الكشف المؤتمتة وحدها للحكم على مخالفة النزاهة الأكاديمية، وضرورة الاستناد إلى أدلة تثبت أداء المتعلم نفسه. أما في الخدمات الإدارية، فتشدد على الفصل بين إعداد الطلب وإرساله، واتخاذ التدابير اللازمة لمنع تكرار المعاملات عند حدوث الأخطاء.
وتحدد الوثيقة أربع خطوات لتطبيق متطلباتها، تبدأ بالتحقق من انطباق تعريف وكيل الذكاء الاصطناعي على النظام المستخدم، ثم تصنيف مجال توظيفه ودرجة استقلاليته ومستوى أثره، يلي ذلك مراجعة الأبعاد السبعة وتطبيق المتطلبات المناسبة وفق مستوى الأثر، مع توضيح أسباب عدم انطباق أي متطلب، ثم استكمال المتطلبات الخاصة بمجال الاستخدام المعني.
