يتغيّر سؤال القيادة عندما ينتقل الذكاء الاصطناعي من إنتاج إجابة إلى تنفيذ إجراء. يمكن تصحيح ملخص ضعيف، لكن التزامًا مع مورّد، أو تعديلًا لسجل عميل، أو تعليمات مرسلة إلى نظام آخر، قد تنتج تبعات قبل أن ينتبه أحد.
الوصول التقني لا يساوي صلاحية اتخاذ القرار. أرى أن على القيادة تحديد ما يجوز للذكاء الاصطناعي فعله، ومتى يجب أن يتوقف، ومن يبقى مسؤولًا، بدلًا من ترك هذه الخيارات مخفية داخل موجّه.
بالنسبة إلى قادة المؤسسات السعودية، هذا سؤال إداري عملي، لا نقاش بعيد عن الذكاء الاصطناعي. توصيل نموذج بأنظمة الأعمال يعني ربطه بصلاحيات والتزامات وعلاقات قائمة.
تقدّم مبادئ سدايا لأخلاقيات الذكاء الاصطناعي، إصدار سبتمبر 2023 مرجعًا مفيدًا. فهي تتناول المساءلة عبر دورة حياة النظام، وتدخل المستخدمين المخوّلين، والإشراف البشري على القرارات التي يصعب التراجع عن آثارها. هذه قراءة لذلك الإصدار المؤرخ، وليست ادّعاءً بشأن أحدث القواعد أو الامتثال القانوني. يظل التحدي القيادي واضحًا: يجب أن تبقى المسؤولية قابلة للتحديد، حتى عندما يصبح التنفيذ مؤتمتًا.
حدّد الصلاحيات قبل الاستقلالية
قبل مناقشة قدرات الوكيل، سأدوّن صلاحيات اتخاذ القرار لديه.
ما الذي يجوز له قراءته؟ وما الذي يجوز له اقتراحه؟ وما الذي يستطيع تغييره من دون موافقة؟ وأي الإجراءات تحتاج إلى تفويض شخص محدد؟ وما الإجراءات المحظورة تمامًا؟
هذه صلاحيات مختلفة. جمعها تحت تعليمات عامة مثل «تولَّ المشتريات» يخفي القرارات المهمة.
ينبغي ألا يعكس حد الموافقة قيمة المعاملة وحدها. قد يستحق شراء صغير يتضمن معلومات حساسة أو مورّدًا غير مألوف تدقيقًا أكبر من طلب روتيني أعلى قيمة. السياق أهم من رقم مريح واحد.
اجعل الإشراف ذا معنى
قد تبدو عبارة «الإنسان ضمن الحلقة» مطمئنة، بينما تصف القليل جدًا.
يحتاج المراجع إلى معلومات كافية لفهم الإجراء المقترح، ووقت كافٍ لتحدّيه، وسلطة حقيقية لرفضه. ينبغي أن يرى الأدلة ذات الصلة، وعدم اليقين، والاستثناءات، لا توصية متقنة وزر موافقة فحسب.
ويجب أن يتوقف النظام عندما لا تتوافر الموافقة. وإلا أصبح الإشراف أمنية، لا ضابطًا.
لنتصور مؤسسة سعودية افتراضية تستخدم الذكاء الاصطناعي لدعم طلبات الشراء. قد يتحقق مسار العمل الأول من اكتمال الطلب، ويسترجع معلومات المورّدين المعتمدين، ويعدّ توصية. لكنه لا ينشئ مورّدين، ولا يعدّل البيانات المصرفية، ولا يصرف المدفوعات.
يراجع زميل مخوّل في المشتريات الاستثناءات ويوافق على الخطوة التالية. ويؤدي نقص الأدلة، أو تعارض السجلات، أو الطلب غير المتوقع، إلى التصعيد، لا الارتجال. هذا تصميم توضيحي، وليس وصفًا لنظام نفّذته سيادة تك.
ابدأ بأصغر مسار عمل مفيد
بالنسبة إليّ، ينبغي أن يعني نهج الاستوديو المتخصص في سيادة تك دقة فهم المشكلة وحدودها، لا حجة عامة حول حجم الفريق.
نقطة البداية هي أصغر مسار عمل يحقق قيمة مفيدة مع إبقاء الصلاحيات مفهومة. عملية واحدة، ومسؤول واضح، وصلاحيات صريحة، وطريقة لقياس الإخفاق، قد تعلّمنا أكثر من عرض مبهر يشمل عدة إدارات.
تقدّم إرشادات Anthropic لبناء الوكلاء الفعالين حجة هندسية مشابهة: ابدأ بأبسط حل، وأضف التعقيد عند الحاجة فقط. أحيانًا تكون الإجابة الصحيحة مسار عمل محددًا مسبقًا، وأحيانًا تكون مساعدة من دون تنفيذ مستقل. هذه إرشادات مزوّد، وليست دليلًا مستقلًا على نجاح أي تصميم.
أبقِ المساءلة بعد الإطلاق
لا تنتهي القيادة عند الموافقة على الإطلاق.
يجب أن يمتلك شخص مسؤولية نتائج مسار العمل، ويراجع الحوادث والاستثناءات، ويقرر هل تتوسع الصلاحيات، أو تتقلص، أو تُسحب. ينبغي أن تساعد السجلات على إعادة بناء ما حدث، لكن وجود سجل لا يعوّض وجود مسؤول.
ويؤكد إطار Anthropic الأولي للوكلاء الجديرين بالثقة التحكم البشري وإمكانية الاطلاع على السلوك. وأرى رابطًا عمليًا مع طموح بناء القدرات في رؤية السعودية 2030: ينبغي للأدوات الأقوى أن تعزز الحكم المؤسسي، لا أن تجعل المسؤولية تختفي.
سأطرح خمسة أسئلة قبل تفويض مسار عمل فعلي:
- من يمتلك مسؤولية نتيجة الأعمال؟
- ما الذي لا يجوز للنظام فعله مطلقًا؟
- متى يجب أن يتوقف ويسأل؟
- هل يستطيع المراجع الاعتراض فعليًا؟
- كيف سنكتشف الخطأ ونحتويه؟
لا تضمن هذه الأسئلة الامتثال القانوني ولا تزيل المخاطر، لكنها تجعل التفويض صريحًا.
أريد للذكاء الاصطناعي أن يوسّع قدرة المؤسسة، من دون أن يجعل العثور على المسؤولية أصعب. قد يكون أقوى قرار قيادي منح استقلالية أكبر، وقد يكون بالقدر نفسه رسم حد واضح.
في الحالتين، القرار لنا. إذا كنت تبحث هذا السؤال، ابدأ بسير عمل واحد، لا بوعد بالاستقلالية في كل مكان.