تمنح حوكمة الذكاء الاصطناعي المؤسسة نظامًا عمليًا لتحديد استخدامات الذكاء الاصطناعي المسموح بها، ومن يبقى مسؤولًا عنها، والأدلة المطلوبة، وكيفية متابعة الأداء والمخاطر. وتربط Marketways قرارات الحوكمة هذه بسلوك كل نموذج أو وكيل ذكي، وأدلته، والاستخدام المقصود منه، وأثره على الأعمال.
متى تحتاج إلى هذه الخدمة
قد تكون هذه الخدمة مفيدة عندما:
- تُستخدم أدوات أو نماذج أو وكلاء ذكاء اصطناعي بالفعل دون سجل موحد يحدد المسؤوليات أو مسار اعتماد متسق.
- تستعد المؤسسة لنشر الذكاء الاصطناعي في سير عمل قد تؤثر أخطاؤه في العملاء أو الموظفين أو الأموال أو العمليات أو القرارات المهمة.
- تحتاج القيادة إلى تحديد ما يُسمح للذكاء الاصطناعي بفعله، والاستخدامات التي تتطلب أدلة أقوى، والمواضع التي يجب أن تبقى فيها السلطة للبشر.
- يجري شراء منتج ذكاء اصطناعي من طرف ثالث أو دمجه أو تحديثه تحديثًا جوهريًا.
- تغيّر نموذج أو مصدر بيانات أو بيئة تشغيل، ما يثير تساؤلات حول ما إذا كانت الأدلة السابقة لا تزال صالحة.
- أثارت حوادث، أو مخرجات غير متسقة، أو مخاوف من التحيّز، أو توصيات بلا أساس واضح، قلقًا داخل المؤسسة.
- يحتاج مجلس الإدارة أو وظيفة المخاطر أو فريق الإدارة إلى تقارير تربط نشاط الذكاء الاصطناعي بالمسؤولية والأداء ومستوى التعرض للمخاطر والمعالجة.
ما الذي نقيّمه
يُتفق على النطاق بناءً على استخدام المؤسسة للذكاء الاصطناعي والسؤال الإداري المطروح. وقد تشمل المجالات ذات الصلة:
حوكمة الذكاء الاصطناعي ومخاطر النماذج
حوكمة الذكاء الاصطناعي هي الترتيب المؤسسي الذي تحدد من خلاله القيادة الاستخدامات المسموح بها، والمسؤوليات، ومتطلبات الأدلة، والضوابط، والمراجعة. أما تقييم مخاطر النماذج فيدرس ما إذا كان نموذج أو وكيل بعينه يتصرف بموثوقية كافية ضمن هذا الترتيب.
السياسة وحدها لا تحقق الضبط. فالمؤسسة تحتاج إلى معرفة الأنظمة الموجودة، وكيف تؤثر في العمل، وما البيانات والأدوات التي تستخدمها، ومن يستطيع تعديلها، وكيف ستدرك الإدارة أن ظروف التشغيل لم تعد تتوافق مع الأدلة التي اعتُمد النظام على أساسها.
تربط Marketways الحوكمة بواقع الأعمال الذي يعمل فيه النظام. ويحدد التقييم المواضع التي يكون فيها الاعتماد على النظام مدعومًا، والمواضع التي تتطلب شروطًا أو ضمانات، والمواضع التي لا ينبغي فيها المضي في الاستخدام المقترح. وتبقى المسؤولية على عاتق المؤسسة التي تستخدم النظام.
حدود نطاق الخدمة
تدعم Marketways تصميم حوكمة الذكاء الاصطناعي، وتقييم مخاطر النماذج، وقرارات الاعتماد المحدد النطاق. ولا تقدّم هذه الخدمة استشارات قانونية، أو شهادات تنظيمية، أو شهادات ISO، أو اختبارات اختراق، أو ضمانًا مستقلًا للأمن السيبراني. وتبقى المسؤوليات القانونية والتنظيمية والأمنية المتخصصة لدى مستشارين مؤهلين ووظائف مؤسسية مسؤولة.
القيمة للأعمال
- اجعل منظومة الذكاء الاصطناعي مرئية. اجمع الأنظمة المعتمدة، والخصائص المضمّنة في منتجات المورّدين، والاستخدامات غير الرسمية المؤثرة، في رؤية واحدة خاضعة للمساءلة ومنظمة حسب الغرض والعواقب.
- طبّق حوكمة متناسبة. ميّز بين المساعدة منخفضة العواقب والأنظمة التي تؤثر في العملاء أو الموظفين أو الأموال أو العمليات الجوهرية، ثم اطلب الأدلة والضوابط بما يتناسب مع ذلك.
- حدّد مستوى الاعتماد المناسب. قارن الأدلة المتعلقة بأداء النظام وحدوده بالاستخدام المقصود. ويستطيع القادة التمييز بين الاستخدامات المدعومة، وتلك التي تحتاج إلى ضمانات أو مزيد من الاختبار، وتلك التي ينبغي إيقافها.
- احمِ السلطة البشرية الفعلية. وضّح المواضع التي يؤثر فيها الذكاء الاصطناعي في القرار أو يمارس فيها صلاحية، والمواضع التي يجب أن تبقى فيها المراجعة والتصعيد والتجاوز وتولّي البشر للعمل ممكنةً عمليًا.
- اضبط المورّدين والتغييرات الجوهرية. تعامل مع أي مزوّد جديد أو إصدار نموذج أو مصدر بيانات أو تكامل أو سير عمل على أنه تغيير في منظومة التشغيل، لا تحديثًا تقنيًا روتينيًا.
- حوّل النتائج إلى إجراءات إدارية. اربط المخاطر وفجوات الضوابط بالمسؤولين والأولويات ونقاط المراجعة وقرارات صريحة بالاستمرار أو المعالجة.
خدمات الحوكمة والمخاطر والضمان
-
تقييم وضمان وكلاء الذكاء الاصطناعي
اختبر وكلاء ونماذج الذكاء الاصطناعي قبل التشغيل الفعلي، مع بطاقة تقييم واضحة لقرار الإطلاق.
-
ضمان القرارات
اجعل القرارات المهمة التي تعتمد على الذكاء الاصطناعي أو التحليلات قابلة للدفاع عنها.
-
نمذجة المخاطر وعدم اليقين
حدّد كميًا ما قد يسوء، ومدى أهميته.
خدمات ذات صلة
تُعد حوكمة الذكاء الاصطناعي ومخاطر النماذج جزءًا من مجموعة المخاطر التي تواجه الأعمال. وهي تعالج الظروف المرتبطة بالتقنية والنماذج التي قد تضر بالأعمال، أو تُضعف موقعها، أو تعرّض مستقبلها للخطر.
ضمان القرارات قد تكون مناسبة عندما يعتمد قرار أعمال مهم اعتمادًا جوهريًا على نظام ذكاء اصطناعي أو نظام تحليلي. تحليل العمليات وسير العمل وإعادة تصميمها تكون مناسبة عندما تكمن المشكلة في طريقة عمل الأفراد والمعلومات والتقنية معًا. دراسة جدوى الأعمال قد تكون مفيدة عندما تقرر الإدارة ما إذا كان استثمار مقترح في الذكاء الاصطناعي قابلًا للتنفيذ ومجديًا.
تعتمد الخدمات المطلوبة بعد تقييم مخاطر الذكاء الاصطناعي على نتائجه، ولا تشكّل تسلسلًا إلزاميًا.
كيف تربط Marketways الحوكمة بالأدلة
نبدأ بأغراض المؤسسة واستخداماتها للذكاء الاصطناعي والقرارات الخاضعة للمساءلة. ثم يحدد تصميم الحوكمة السجل، وصلاحيات القرار، وفئات المخاطر، والسياسات، ومسارات المراجعة، والتقارير التي تحتاجها المؤسسة.
وبالنسبة إلى الأنظمة الجوهرية، يدرس التقييم أداء المهام، وعدم اليقين، وسلوك المجموعات الفرعية، والمتانة، والانحراف بمرور الوقت، واستخدام الأدوات، وأنماط الإخفاق، باستخدام أدلة تعكس سير العمل المقصود. كما ندرس كيف تدخل المخرجات في الحكم البشري، ومتى يحدث التصعيد، ومن يستطيع تقييد النظام أو إيقافه. والنتيجة ترتيب حوكمة مبني على أدلة من النظام نفسه، لا على صياغة السياسات وحدها.
الأساليب والتقنيات الداعمة لهذه الخدمة
تختار Marketways مزيج الأساليب وتجمع بينها وتكيّفها بما يناسب سؤال العمل والأدلة المتاحة والقرار الذي يجب أن يدعمه التحليل.
الاستعداد
أحضِر النظام، والاستخدام المقصود منه، والقرارات أو الإجراءات التي يؤثر فيها، وأمثلة على مخرجاته أو المخاوف المعروفة. وستحدد Marketways حدود التقييم، وأنماط الإخفاق الجوهرية، وتقسيمات الأدلة، واختبارات الأداء، وقواعد التصعيد اللازمة للحكم على ما إذا كان النظام موثوقًا بما يكفي للاستخدام.
مسار الذكاء الاصطناعي ذو الصلة
تقييم وضمان وكلاء الذكاء الاصطناعي يوفّر المسار المركّز عندما تحتاج الإدارة إلى أدلة تجريبية حول نظام محدد، وقرار صريح بالإطلاق أو التقييد أو الاستمرار.
ناقش معنا نطاق العمل
ناقش معنا أنظمة الذكاء الاصطناعي واستخداماتها القائمة لديكم، والصلاحيات الممنوحة لها، والقرارات التي تؤثر فيها، والمخاوف التي تحتاج الإدارة إلى معالجتها. ويمكننا الاتفاق على نطاق عمل يناسب أولويات المؤسسة وأدلتها ومواردها ومستوى الاعتماد قيد الدراسة.
