القياس قبل الإطلاق

٠١ما هو

ممارسة ضمان: تصميم مجموعات التقييم، وتحديد معايير التقدير، وقياس خط الأساس، وتتبّع التراجع بين الإصدارات، وتقارير صالحة لمراجعة المخاطر والحوكمة. وتنطبق على الأنظمة التي نبنيها وعلى الأنظمة التي اشتريتموها.

٠٢لمن هو

• الجهات التي تنقل تجربة ذكاء اصطناعي نحو الإنتاج
• إدارات المخاطر والتدقيق الداخلي وحوكمة النماذج
• الفرق التي ورثت نظام ذكاء اصطناعي بلا تاريخ قياس

٠٣المشكلة

تُعتمد أنظمة الذكاء الاصطناعي بناءً على عروض تجريبية. وبلا خط أساس مقيس، لا يعرف أحد إن كان تغيير التوجيه أو النموذج أو الفهرس قد حسّن النظام أم أفسده بصمت، ولا تجد لجان الحوكمة ما تراجعه سوى كلام المورّد.

٠٥أين يعمل

• تُنشر أداة التقييم داخل بيئة العميل بجوار النظام الذي يقيّمه
• يعمل آلياً مع كل تغيير عبر مسار الإطلاق
• تقارير تُصدَّر للجان التدقيق ومجالس الإدارة

٠٦الأمن والبيانات

• تبقى بيانات التقييم، بما فيها أي بيانات شخصية، داخل بيئة العميل
• تُبنى مجموعات الاختبار بأقل قدر من البيانات الشخصية، أو ببيانات مُصطنعة حيثما أمكن
• سجلّ الجولات مُرقَّم الإصدارات وغير قابل للتعديل، لإعادة البناء عند التدقيق