مبادئ أخلاقيات الذكاء الاصطناعي الصادرة عن سدايا قصيرة وسهلة القبول. الصعب هو تحويلها إلى قرارات في مشروع حقيقي، وهذا ما نفعله حين نبني لمنشآت سعودية.
الجواب المختصر: تطلب المبادئ أن تعرفوا ماذا يفعل نظامكم، ومن المسؤول عنه، وما البيانات التي يستخدمها، وكيف يتدخل الإنسان. كل واحد من هذه يصبح قرار تصميم أو وثيقة أو اختبارًا.
المبادئ السبعة كقرارات بناء
- النزاهة والإنصاف. اختبروا الإجابات عبر فئات المستخدمين، ومنهم متحدثو العربية والإنجليزية واللهجات المختلفة، ووثّقوا ما اختبرتم.
- الخصوصية والأمن. حدّدوا كل موضع تدخل فيه البيانات الشخصية: الأسئلة والوثائق والسجلات، وطبّقوا نظام حماية البيانات الشخصية عليها كلها، وأبقوا البيانات في بيئة العميل متى أمكن.
- الإنسانية. قرّروا أي الخطوات تحتاج موافقة شخص. الوكيل يكتب المسودة، والإنسان يعتمد.
- المنافع الاجتماعية والبيئية. اكتبوا لماذا وُجد النظام ومن يخدم. إن لم تستطيعوا، فلا تبنوه.
- الموثوقية والسلامة. أرفقوا مجموعة تقييم بالنظام وشغّلوها قبل كل إصدار. اطلعوا على تقييم الذكاء الاصطناعي.
- الشفافية والقابلية للتفسير. أظهروا للمستخدم مصدر كل إجابة؛ الإجابة الموثّقة بمصدرها أبسط أشكال التفسير.
- المساءلة والمسؤولية. سمّوا مالكًا للنظام واحتفظوا بسجل تدقيق لما يفعله.
قائمة من صفحة واحدة لمشروعكم القادم
- الغرض: فقرة عمّا يفعله النظام وما لا يفعله.
- المالك: الشخص المسؤول، بصفته الوظيفية.
- خريطة البيانات: المصادر، والبيانات الشخصية، وأماكن التخزين.
- نقاط التدخل البشري: الإجراءات التي تحتاج موافقة.
- التقييم: مجموعة الاختبار، ومعيار النجاح، وتاريخ آخر تشغيل.
- التدقيق: ما الذي يُسجَّل ومن يطّلع عليه.
ما ليس هذا الدليل
هذه قراءتنا كفريق يبني الأنظمة، وليست استشارة نظامية. راجعوا نصوص سدايا الحالية ومستشاركم النظامي. وتوضح صفحة الأمن والامتثال ما نلتزم به في التصميم وما لسنا معتمدين فيه.