لماذا تفشل معظم أتمتة الذكاء الاصطناعي في العمليات الحقيقية

من أسهل الفخاخ في أتمتة الذكاء الاصطناعي الخلط بين العرض التوضيحي القوي وتصميم التشغيل القوي. في العرض، المدخلات مُختارة والتسلسل نظيف والحالات الاستثنائية محدودة. في العملية التجارية الحقيقية، لا شيء من هذا مضمون.

رأينا فرقاً تُقدِّم نموذجاً أولياً ممتازاً لفرز التذاكر أو معالجة المستندات أو صياغة ردود العملاء، ليكتشفوا لاحقاً أن سير العمل حول النموذج لم يُعرَّف قط. من يملك قائمة انتظار الاستثناءات؟ ماذا يحدث عند انخفاض الثقة؟ أي نظام هو مصدر الحقيقة؟ من يوافق على الإجراء عندما تكون المهمة عالية الأثر؟ هذه الأسئلة تظهر عادةً بعد الحماس، لا قبله.

• المدخلات النموذجية كانت أنظف من مدخلات الإنتاج.
• قواعد العمل كانت في أذهان الناس، لا في تصميم النظام.
• لم يكن للنظام مسار استثناء حقيقي عند انخفاض الثقة.
• لم يتفق الفريق على معنى النجاح تشغيلياً.

الواقع داخل العمليات عادةً أقل خطية من المخطط على السبورة. قد يمر طلب ما عبر فرق متعددة ويعتمد على سياق مفقود ويصطدم بقواعد متناقضة أو يتطلب حكماً من شخص غير مذكور في وثائق العملية لأنه لا توجد وثائق حقيقية.

هنا تبدأ الأتمتة في الانهيار. يُطلب من النظام أتمتة سير عمل لم تجعله المنظمة نفسها مرئياً. الذكاء الاصطناعي لا يخلق الفوضى. بل يكشفها بشكل أسرع وأكثر علنية مما كانت تفعله العملية اليدوية القديمة.

كثير من برامج الأتمتة الفاشلة تُوصَف على أنها مشكلات نماذج بينما هي في الواقع مشكلات عمليات. تصبح التعليمات محور الاهتمام لأنها أكثر الأجزاء التقنية وضوحاً، لكن المشكلة الأعمق عادةً أن لا أحد رسم مسار القرار بعناية كافية.

نطرح الأسئلة ذاتها في هذه الحالات: ما الذي يُطلق المهمة، وما السياق المطلوب، وأين يسترجع النظام ذلك السياق، وما الإجراء المسموح له باتخاذه، وماذا يحدث عندما تكون الإجابة غير مؤكدة؟ إذا كانت هذه الإجابات ضعيفة، يُطلب من النموذج تعويض ثغرات التصميم التي كان يجب حلها قبل النشر.

• ابدأ بالمسار الذي تسلكه العمل، لا بالنموذج الذي تريد استخدامه.
• وثِّق الاستثناءات قبل أن تصل إلى الإنتاج.
• قرر أي الخطوات مؤتمتة ومراجَعة أو مُصعَّدة.

نمط آخر نراه: نظام يعمل تقنياً، لكن لا أحد لديه رؤية واضحة لكيفية تصرفه. في البداية، تبدو المخرجات مقبولة. ثم ترتفع معدلات الفشل في فئة ما، ويبدأ طابور الانتظار في التراكم في فئة أخرى، أو تنمو تكلفة الرموز المميزة بشكل أسرع من المتوقع، أو تصبح التجاوزات اليدوية المسار السائد بهدوء. بحلول الوقت الذي تلاحظ فيه القيادة، كانت الثقة قد تراجعت بالفعل.

لهذا نعامل المراقبة وقابلية المراجعة ووضوح التكلفة كجزء من التنفيذ، لا كزينة ما بعد الإطلاق. يجب أن يجعل نظام الذكاء الاصطناعي الإنتاجي سلوكه مفهوماً. إذا لم يستطع الناس رؤية ما يفعله، لا يمكنهم تحسينه، وإذا لم يتمكنوا من تحسينه، سيتوقفون في النهاية عن الثقة به.

• تتبع الحجم ومعدل الإكمال ومعدل الاحتياط.
• اجعل قوائم انتظار الاستثناءات مرئية للفريق المسؤول.
• راقب التكلفة على مستوى سير العمل حيثما أمكن.
• احتفظ بقدر كافٍ من قابلية التتبع لتفسير سبب توصية النظام أو اتخاذه إجراءً.

رأينا أيضاً فرقاً تحاول إثبات القيمة بعد أن يكون النظام قيد التشغيل. هذا يتحول دائماً تقريباً إلى محادثة سياسية بدلاً من تشغيلية. يتجادل الناس بالحدس. مجموعة تشعر أن النظام يساعد. مجموعة أخرى تشعر أنه يخلق عملاً إضافياً. لا أحد لديه خط أساس، فلا أحد يستطيع تسوية الجدل بنظافة.

الحركة الأقوى هي تعريف حالة العمل قبل بدء التنفيذ. ما هو وقت المعالجة الحالي؟ أين الاختناق؟ كم من الجهد اليدوي متورط؟ ما المشكلة المتعلقة بالمخاطر أو الإيرادات التي تستحق الحل فعلاً؟ بدون هذا الخط الأساسي، حتى برنامج الأتمتة المتين تقنياً يمكن أن ينتهي به الأمر كتجربة مكلفة.

الفرق التي تُتقن هذا عادةً أقل انبهاراً بالجدة وأكثر انضباطاً في العمليات. تدرس سير العمل، وتختبر الحالات الاستثنائية تحت ضغط، وتُحدد الملكية، وتفكر بعناية في أين يجب أن يتصرف النظام وأين يجب أن يطلب المراجعة وأين يجب أن يتوقف.

قد يبدو هذا النهج أبطأ في البداية، لكنه يخلق النوع من النظام الذي يصمد أمام الأعمال. في تجربتنا، الفوز الحقيقي ليس جعل العرض الأول يعمل. الفوز الحقيقي هو جعل الشهر السادس يبدو أقوى من الشهر الأول.

• ارسم خريطة سير العمل قبل اختيار البنية.
• صمِّم للاستثناءات والإشراف والتعافي.
• اجعل الجودة والتكلفة مرئيتين منذ البداية.
• اربط النظام بنتائج الأعمال، لا بجودة مخرجات النموذج فقط.