دورة حوكمة الذكاء الاصطناعي والمساءلة والشفافية

نظرة عامة

دورة حوكمة الذكاء الاصطناعي والمساءلة والشفافية هي دورة تأسيسية لمدة خمسة أيام لقادة الحوكمة ومديري المخاطر وفرق الالتزام ومهنيي السياسات والمدققين الداخليين وملاك الأعمال، ويعود المشاركون منها بإطار حوكمة الذكاء الاصطناعي والمساءلة والشفافية. تحصر الدورة حالات الاستخدام وتصنف المخاطر وتعين الأدوار وتوثق القرارات وتضع الشفافية والإشراف وتراجع الآثار والحوادث والتغييرات والمتابعة والتقارير. تقدم أجايل للتدريب دورة في حوكمة الذكاء الاصطناعي والمساءلة والشفافية.

الفئة المستهدفة

• فرق الحوكمة المسؤولة عن السياسات والإشراف
• فرق المخاطر المسؤولة عن التصنيف والمعالجة
• فرق الالتزام المسؤولة عن المتطلبات والأدلة
• مهنيو السياسات المسؤولون عن المبادئ والضوابط
• المدققون الداخليون المسؤولون عن الضمان والتتبع
• ملاك الأعمال المسؤولون عن النتائج والقرارات

تفترض الدورة إشراف المشاركين على عمليات أو مخاطر الأعمال، ولا تتناول تطوير النماذج أو التحقق التقني منها أو المشورة القانونية أو الأنظمة المتخصصة أو هندسة أمن البرمجيات.

الإدارات والقطاعات المستهدفة

تدعم الدورة الإشراف المسؤول على الذكاء الاصطناعي في الجهات التجارية والعامة.

• وظائف الحوكمة والمخاطر والالتزام
• فرق التدقيق الداخلي والضمان
• وظائف الشؤون القانونية والسياسات وحوكمة البيانات
• جهات المالية والرعاية الصحية والخدمات المهنية
• جهات الطاقة والتصنيع والبنية التحتية
• جهات الحكومة والتعليم والقطاع غير الربحي

أهداف التعلم

بنهاية هذه الدورة سيكون المشاركون قادرين على:

• تطبيق حدود الحوكمة على حالات استخدام الذكاء الاصطناعي
• تحليل احتياجات المخاطر والأثر والتوثيق والشفافية
• بناء أدوار المساءلة وضوابط الإشراف البشري
• تقييم التفسيرات والحوادث وأدلة التغيير
• ترتيب إجراءات المتابعة والضمان والتقارير
• بناء إطار حوكمة الذكاء الاصطناعي والمساءلة والشفافية

جدول الدورة

اليوم 1: نطاق الحوكمة والحصر

• قائمة حالات استخدام الذكاء الاصطناعي وأنظمته
• خريطة نطاق الحوكمة والسياسات
• سجل مالك الأعمال والمساءلة
• ورقة سياق أصحاب المصلحة والأثر
• قائمة أدلة الحوكمة والوصول

اليوم 2: المخاطر والأثر

• مصفوفة تصنيف مخاطر الذكاء الاصطناعي
• مجموعة أسئلة تقييم الأثر
• سجل مخاطر البيانات والنماذج والمخرجات
• مراجعة حقوق الإنسان وآثار أصحاب المصلحة
• بوابة قبول المخاطر وتصعيدها

اليوم 3: الشفافية والإشراف

• سجل توثيق الذكاء الاصطناعي وقراراته
• خريطة جمهور الشفافية والإفصاح
• ورقة احتياجات التفسير وحدوده
• مصفوفة الإشراف البشري والتدخل
• بروتوكول الاعتراض والطعن والتصحيح

اليوم 4: الضوابط والضمان

• سجل حوادث الذكاء الاصطناعي والاستجابة
• ضبط تغييرات النماذج وحالات الاستخدام
• بطاقة متابعة الأداء والمخاطر
• خطة اختبار الضوابط والضمان
• حزمة تقارير المساءلة لمجلس الإدارة

اليوم 5: ممارسة حوكمة الذكاء الاصطناعي

• تمرين مقترح: بناء قائمة الأنظمة وخريطة المساءلة
• تمرين مقترح: تصنيف المخاطر ومراجعة الآثار
• تمرين مقترح: تصميم الشفافية والإشراف البشري
• تمرين مقترح: إنشاء ضوابط الحوادث والتغيير والمتابعة
• المشروع الختامي: إطار حوكمة الذكاء الاصطناعي والمساءلة والشفافية

التمارين التطبيقية

تستخدم الدورة أنشطة مقترحة تحول مبادئ الحوكمة إلى ضوابط ذكاء اصطناعي قابلة للمراجعة.

• نشاط مقترح: حصر حالات الاستخدام وتعريف النطاق وتعيين ملاك الأعمال ورسم أصحاب المصلحة والأدلة
• نشاط مقترح: تصنيف المخاطر وتقييم الآثار وتوثيق مخاطر البيانات والمخرجات ووضع حقوق القبول والتصعيد
• نشاط مقترح: تصميم التوثيق والإفصاحات والتفسيرات والتدخل البشري ومسارات الاعتراض والتصحيح
• نشاط مقترح: إنشاء استجابة الحوادث وضبط التغيير والمتابعة واختبار الضمان وتقارير المجلس

الأسئلة الشائعة

لمن تناسب دورة حوكمة الذكاء الاصطناعي والمساءلة والشفافية؟

تناسب الدورة فرق الحوكمة والمخاطر والالتزام والسياسات والتدقيق وملاك الأعمال. وتفترض مسؤولية عن الإشراف أو القرار ولا تتطلب البرمجة.

كيف تختلف حوكمة الذكاء الاصطناعي عن إدارة مخاطر النماذج التقنية؟

تشمل الحوكمة الحصر والأدوار والسياسات والآثار والشفافية والإشراف والحوادث والمتابعة والضمان والتقارير، بينما تركز إدارة مخاطر النماذج على المنهجية والاختبار والأداء والتحقق الكمي.

لماذا تتطلب مساءلة الذكاء الاصطناعي ملاك أعمال مسمين؟

يربط ملاك الأعمال حالات الاستخدام بالنتائج والقرارات والضوابط والموارد وآثار أصحاب المصلحة وقبول المخاطر والحوادث والإجراءات التصحيحية بدلا من ترك المسؤولية للتقنية وحدها.

ماذا تتطلب شفافية الذكاء الاصطناعي؟

تتطلب الشفافية توثيقا واتصالا ملائمين حول الغرض والبيانات والتشغيل والحدود وعدم اليقين والتدخل البشري وآثار القرار ومسارات الاعتراض والتصحيح.

ماذا يتضمن إطار حوكمة الذكاء الاصطناعي والمساءلة والشفافية؟

يتضمن الإطار الحصر والنطاق والسياسات والملاك وتصنيفات المخاطر ومراجعات الأثر والتوثيق والإفصاح والتفسير والإشراف والاعتراض والحوادث والتغييرات والمتابعة والضمان والتقارير.

الخاتمة

يعود المشاركون بإطار حوكمة الذكاء الاصطناعي والمساءلة والشفافية الذي يربط الحصر والمخاطر والآثار والتوثيق والإشراف والحوادث والمتابعة والضمان والتقارير. يجعل الإطار الملكية وحقوق المراجعة والأدلة ظاهرة. ويدعم قرارات حوكمة قابلة للتتبع واستخداما مسؤولا وضوابط خاضعة للمتابعة.