الخدمات

حوكمة الذكاء الاصطناعي والبيانات

تواصل معنا

تحدّث مع أحد مستشارينا الأقدم.

البريد الإلكتروني: info@marketwaysarabia.com
الهاتف: +971 4 442 5320
واتساب: +971 50 384 0505

اطّلع على أعمالنا

مشاريع حقيقية في الإمارات العربية المتحدة والمملكة العربية السعودية وقطر.

دراسات الحالة (بالإنجليزية)

Read this page in English

تمنح حوكمة الذكاء الاصطناعي المؤسسة نظامًا عمليًا لتحديد استخدامات الذكاء الاصطناعي المسموح بها، ومن يبقى مسؤولًا عنها، والأدلة المطلوبة، وكيفية متابعة الأداء والمخاطر. وتربط Marketways قرارات الحوكمة هذه بسلوك كل نموذج أو وكيل ذكي، وأدلته، والاستخدام المقصود منه، وأثره على الأعمال.

متى تحتاج إلى هذه الخدمة

قد تكون هذه الخدمة مفيدة عندما:

  • تُستخدم أدوات أو نماذج أو وكلاء ذكاء اصطناعي بالفعل دون سجل موحد يحدد المسؤوليات أو مسار اعتماد متسق.
  • تستعد المؤسسة لنشر الذكاء الاصطناعي في سير عمل قد تؤثر أخطاؤه في العملاء أو الموظفين أو الأموال أو العمليات أو القرارات المهمة.
  • تحتاج القيادة إلى تحديد ما يُسمح للذكاء الاصطناعي بفعله، والاستخدامات التي تتطلب أدلة أقوى، والمواضع التي يجب أن تبقى فيها السلطة للبشر.
  • يجري شراء منتج ذكاء اصطناعي من طرف ثالث أو دمجه أو تحديثه تحديثًا جوهريًا.
  • تغيّر نموذج أو مصدر بيانات أو بيئة تشغيل، ما يثير تساؤلات حول ما إذا كانت الأدلة السابقة لا تزال صالحة.
  • أثارت حوادث، أو مخرجات غير متسقة، أو مخاوف من التحيّز، أو توصيات بلا أساس واضح، قلقًا داخل المؤسسة.
  • يحتاج مجلس الإدارة أو وظيفة المخاطر أو فريق الإدارة إلى تقارير تربط نشاط الذكاء الاصطناعي بالمسؤولية والأداء ومستوى التعرض للمخاطر والمعالجة.

ما الذي نقيّمه

يُتفق على النطاق بناءً على استخدام المؤسسة للذكاء الاصطناعي والسؤال الإداري المطروح. وقد تشمل المجالات ذات الصلة:

الغرض والسجل والمسؤولية: الغرض من استخدام كل نظام، والأشخاص والقرارات التي يؤثر فيها، ومن يتولى مسؤولية الاستخدام، وما إذا كانت هناك أدوات غير رسمية أو متداخلة لا تزال خارج نطاق الرؤية الحالية.
الأهمية النسبية والصلاحيات: عواقب الخطأ، والدور الذي يؤديه الذكاء الاصطناعي في القرار، والفرق بين القراءة والتوصية والاعتماد والتنفيذ.
الأداء والحدود: ما إذا كانت الأدلة المتاحة تدعم الاستخدام المقصود عبر الحالات والمجموعات وظروف التشغيل ذات الصلة. فالمتوسط القوي قد يخفي حالات فائتة أو تدخلات غير ضرورية تهم الأعمال.
الأدلة والتفسير وإمكانية التتبع: ما إذا كانت الادعاءات والتوصيات تستخدم معلومات مناسبة، وتبقى أمينة للمصدر، وتترك أدلة كافية للمراجعة والتحقيق.
الإشراف البشري والتصعيد: ما إذا كان الأفراد يحتفظون بالمعلومات والوقت والسلطة العملية للتشكيك في النظام أو تجاوزه أو إيقافه أو تولّي العمل بدلًا منه.
الأطراف الثالثة والتغيير: كيف تؤثر الجهات المورّدة وتحديثات النماذج وتغيرات البيانات وعمليات التكامل الجديدة وتعديلات سير العمل في الأدلة والضوابط التي يقوم عليها الاعتماد على النظام.
المتابعة والاستجابة للحوادث وإيقاف الأنظمة: ما إذا كانت المؤسسة قادرة على رصد التراجع، والتحقيق في الحالات المتأثرة، وتقييد الاستخدام، والتعافي بأمان، وإيقاف النظام نهائيًا عندما لا يعود الاعتماد عليه مبررًا.

حوكمة الذكاء الاصطناعي ومخاطر النماذج

حوكمة الذكاء الاصطناعي هي الترتيب المؤسسي الذي تحدد من خلاله القيادة الاستخدامات المسموح بها، والمسؤوليات، ومتطلبات الأدلة، والضوابط، والمراجعة. أما تقييم مخاطر النماذج فيدرس ما إذا كان نموذج أو وكيل بعينه يتصرف بموثوقية كافية ضمن هذا الترتيب.

السياسة وحدها لا تحقق الضبط. فالمؤسسة تحتاج إلى معرفة الأنظمة الموجودة، وكيف تؤثر في العمل، وما البيانات والأدوات التي تستخدمها، ومن يستطيع تعديلها، وكيف ستدرك الإدارة أن ظروف التشغيل لم تعد تتوافق مع الأدلة التي اعتُمد النظام على أساسها.

تربط Marketways الحوكمة بواقع الأعمال الذي يعمل فيه النظام. ويحدد التقييم المواضع التي يكون فيها الاعتماد على النظام مدعومًا، والمواضع التي تتطلب شروطًا أو ضمانات، والمواضع التي لا ينبغي فيها المضي في الاستخدام المقترح. وتبقى المسؤولية على عاتق المؤسسة التي تستخدم النظام.

حدود نطاق الخدمة

تدعم Marketways تصميم حوكمة الذكاء الاصطناعي، وتقييم مخاطر النماذج، وقرارات الاعتماد المحدد النطاق. ولا تقدّم هذه الخدمة استشارات قانونية، أو شهادات تنظيمية، أو شهادات ISO، أو اختبارات اختراق، أو ضمانًا مستقلًا للأمن السيبراني. وتبقى المسؤوليات القانونية والتنظيمية والأمنية المتخصصة لدى مستشارين مؤهلين ووظائف مؤسسية مسؤولة.

القيمة للأعمال

  • اجعل منظومة الذكاء الاصطناعي مرئية. اجمع الأنظمة المعتمدة، والخصائص المضمّنة في منتجات المورّدين، والاستخدامات غير الرسمية المؤثرة، في رؤية واحدة خاضعة للمساءلة ومنظمة حسب الغرض والعواقب.
  • طبّق حوكمة متناسبة. ميّز بين المساعدة منخفضة العواقب والأنظمة التي تؤثر في العملاء أو الموظفين أو الأموال أو العمليات الجوهرية، ثم اطلب الأدلة والضوابط بما يتناسب مع ذلك.
  • حدّد مستوى الاعتماد المناسب. قارن الأدلة المتعلقة بأداء النظام وحدوده بالاستخدام المقصود. ويستطيع القادة التمييز بين الاستخدامات المدعومة، وتلك التي تحتاج إلى ضمانات أو مزيد من الاختبار، وتلك التي ينبغي إيقافها.
  • احمِ السلطة البشرية الفعلية. وضّح المواضع التي يؤثر فيها الذكاء الاصطناعي في القرار أو يمارس فيها صلاحية، والمواضع التي يجب أن تبقى فيها المراجعة والتصعيد والتجاوز وتولّي البشر للعمل ممكنةً عمليًا.
  • اضبط المورّدين والتغييرات الجوهرية. تعامل مع أي مزوّد جديد أو إصدار نموذج أو مصدر بيانات أو تكامل أو سير عمل على أنه تغيير في منظومة التشغيل، لا تحديثًا تقنيًا روتينيًا.
  • حوّل النتائج إلى إجراءات إدارية. اربط المخاطر وفجوات الضوابط بالمسؤولين والأولويات ونقاط المراجعة وقرارات صريحة بالاستمرار أو المعالجة.

خدمات الحوكمة والمخاطر والضمان

خدمات ذات صلة

تُعد حوكمة الذكاء الاصطناعي ومخاطر النماذج جزءًا من مجموعة المخاطر التي تواجه الأعمال. وهي تعالج الظروف المرتبطة بالتقنية والنماذج التي قد تضر بالأعمال، أو تُضعف موقعها، أو تعرّض مستقبلها للخطر.

ضمان القرارات قد تكون مناسبة عندما يعتمد قرار أعمال مهم اعتمادًا جوهريًا على نظام ذكاء اصطناعي أو نظام تحليلي. تحليل العمليات وسير العمل وإعادة تصميمها تكون مناسبة عندما تكمن المشكلة في طريقة عمل الأفراد والمعلومات والتقنية معًا. دراسة جدوى الأعمال قد تكون مفيدة عندما تقرر الإدارة ما إذا كان استثمار مقترح في الذكاء الاصطناعي قابلًا للتنفيذ ومجديًا.

تعتمد الخدمات المطلوبة بعد تقييم مخاطر الذكاء الاصطناعي على نتائجه، ولا تشكّل تسلسلًا إلزاميًا.

كيف تربط Marketways الحوكمة بالأدلة

نبدأ بأغراض المؤسسة واستخداماتها للذكاء الاصطناعي والقرارات الخاضعة للمساءلة. ثم يحدد تصميم الحوكمة السجل، وصلاحيات القرار، وفئات المخاطر، والسياسات، ومسارات المراجعة، والتقارير التي تحتاجها المؤسسة.

وبالنسبة إلى الأنظمة الجوهرية، يدرس التقييم أداء المهام، وعدم اليقين، وسلوك المجموعات الفرعية، والمتانة، والانحراف بمرور الوقت، واستخدام الأدوات، وأنماط الإخفاق، باستخدام أدلة تعكس سير العمل المقصود. كما ندرس كيف تدخل المخرجات في الحكم البشري، ومتى يحدث التصعيد، ومن يستطيع تقييد النظام أو إيقافه. والنتيجة ترتيب حوكمة مبني على أدلة من النظام نفسه، لا على صياغة السياسات وحدها.

الأساليب والتقنيات الداعمة لهذه الخدمة

تعلّم الآلة والتحليلات التنبؤية: نقيّم الأداء التنبؤي، والقدرة على التعميم، وسلوك المجموعات الفرعية، والانحراف، وأنماط الإخفاق، مقارنةً بالاستخدام المحدد للنموذج وعواقب الخطأ.
الإحصاء والاقتصاد القياسي: نختبر المعايرة، وعدم اليقين، والمقارنات المرجعية، والادعاءات المتعلقة بالعلاقات، حتى لا تُعامل المخرجات المبهرة تقنيًا على أنها أدلة يمكن الاعتماد عليها.
حلول الذكاء الاصطناعي: نربط تقييم النماذج باستراتيجية الذكاء الاصطناعي الأوسع، وسير العمل، والسلطة البشرية، والضوابط، والمتابعة اللازمة للاستخدام التشغيلي المسؤول.

تختار Marketways مزيج الأساليب وتجمع بينها وتكيّفها بما يناسب سؤال العمل والأدلة المتاحة والقرار الذي يجب أن يدعمه التحليل.

الاستعداد

أحضِر النظام، والاستخدام المقصود منه، والقرارات أو الإجراءات التي يؤثر فيها، وأمثلة على مخرجاته أو المخاوف المعروفة. وستحدد Marketways حدود التقييم، وأنماط الإخفاق الجوهرية، وتقسيمات الأدلة، واختبارات الأداء، وقواعد التصعيد اللازمة للحكم على ما إذا كان النظام موثوقًا بما يكفي للاستخدام.

مسار الذكاء الاصطناعي ذو الصلة

تقييم وضمان وكلاء الذكاء الاصطناعي يوفّر المسار المركّز عندما تحتاج الإدارة إلى أدلة تجريبية حول نظام محدد، وقرار صريح بالإطلاق أو التقييد أو الاستمرار.

ناقش معنا نطاق العمل

ناقش معنا أنظمة الذكاء الاصطناعي واستخداماتها القائمة لديكم، والصلاحيات الممنوحة لها، والقرارات التي تؤثر فيها، والمخاوف التي تحتاج الإدارة إلى معالجتها. ويمكننا الاتفاق على نطاق عمل يناسب أولويات المؤسسة وأدلتها ومواردها ومستوى الاعتماد قيد الدراسة.

ناقش معنا حوكمة الذكاء الاصطناعي ومخاطر النماذج

تواصل معنا

تحدّث مع أحد مستشارينا الأقدم حول سؤالك في الذكاء الاصطناعي أو البيانات أو الأبحاث.

البريد الإلكتروني: info@marketwaysarabia.com
الهاتف: +971 4 442 5320
واتساب: +971 50 384 0505

نعمل مع مؤسسات في الإمارات العربية المتحدة والمملكة العربية السعودية وقطر والكويت والبحرين وعُمان، ومع عملاء في الهند وأفريقيا.

Marketways.ai – طريقك السريع إلى معلومات سوقك!