من كارثة ناسا NASA إلى فلم نازا NAZA : لماذا نتخذ قرارات خاطئة في عصر الـ Ai؟
في مديح الاحتكاك الذي يُنقذ القرار


مِنْ دَفْتَرِ الأَنْظِمَة
فَــــرْمِــــلْ ® BRAKE
في مديح الاحتكاك الذي يُنقذ القرار
رُسُل الحَسَني
〔 ١ 〕 الحَلْقَةُ المَطّاطِيَّة
في مساء السابع والعشرين من كانون الثاني ١٩٨٦، اجتمع مهندسون ومسؤولون أمريكيون في مكالمة هاتفية لمناقشة قطعة لا تكاد تُرى في أحلام البشرية الكبيرة، حلقة مطاطية مهمتها إحكام الوصلات في أحد المحركات الدافعة لمكوك الفضاء (تشالنجر)، فقد كانت درجات الحرارة المتوقعة عند منصة الإطلاق منخفضة، وخشي مهندسو الشركة المصنّعة أن يؤثر البرد في قدرة الحلقة على أداء وظيفتها، وأوصت الشركة أولاً بعدم الإطلاق في تلك الظروف، ثم غيّرت إدارتها التوصية رغم استمرار اعتراض مهندسين فيها، وفي صباح اليوم التالي انطلق المكوك ووقعت الكارثة التي شاهدها العالم على التلفزيون.

لكنني أريد أن أترك الحلقة المطاطية جانباً قليلاً، وأفحص الحلقة الأخرى التي فشلت، حلقة انتقال المعلومة من صاحب الاختصاص إلى صاحب القرار، فقد خلصت لجنة التحقيق الرئاسية إلى أن المسؤولين الذين أجازوا الإطلاق لم يُحاطوا بتاريخ المشكلة ولا بالتوصية الأولى للشركة ولا باستمرار تحفظات مهندسيها، وبعبارة أحب أن يتأملها كل مدير : المهندس يعرف، والمؤسسة تعرف، وصاحب القرار لا يعرف ما تعرفه مؤسسته.
والأخطر ما تكشفه هذه الحكاية عن عبء الإثبات، ففي ظروف غير مألوفة، صار على المعترض أن يبرهن أن الإطلاق سيفشل، فيما كان السؤال الهندسي الأجدر هو ما الدليل الكافي على إمكان الإطلاق بأمان؟ …. هل تلمس الفرق؟ هذا انقلاب في التفكير، إذ أصبح الجهل بحجم الخطر سبباً للمضي في القرار عوضاً عن أن يكون سبباً لفحصه.
وهذه ليست حكاية عن مهندسين يخافون من المخاطرة، فالهندسة كلها قائمة على التعامل مع المخاطر والقيود، إنما عن مؤسسة سمحت للاعتراض أن يُقال، ولم تضمن وصوله إلى من يستطيع تغيير القرار.
ولعل من أعجب مفارقات تاريخ التكنولوجيا أن ننجح في إرسال البشر إلى الفضاء، ونعجز عن إيصال تحفظ مهندس إلى البرج العاجي الذي تُتخذ فيه القرارات.
The Commission has concluded that neither Thiokol nor NASA responded adequately to internal warnings about the faulty seal design. Furthermore, Thiokol and NASA did not make a timely attempt to develop and verify a new seal after the initial design was shown to be deficient. . Neither organization developed a solution to the unexpected occurrences of O-ring erosion and blow-by even though this problem was experienced frequently during the Shuttle flight history. Instead, Thiokol and NASA management came to accept erosion and blow-by as unavoidable and an acceptable flight risk.
https://www.nasa.gov/history/rogersrep/v1ch4.htm?
〔 ٢ 〕 المُشْكِلَةُ لَيْسَتِ السُّرْعَة
نحن أبناء عصر يكره الاحتكاك، نريد الأبواب بلا مفاتيح، والمدفوعات بلا نقود، والمراسلات بلا انتظار، والاجتماعات بلا مناقشات تطول أكثر مما تسمح به روزنامة ايلون ماسك الشركة، حتى صارت كلمة (Friction) في أدبيات الأعمال مرادفاً لكل عيب ينبغي إزالته، كأن الحركة وحدها فضيلة، مهما كانت وجهتها.
يُخبرنا قانون نيوتن الأول أن الجسم يستمر في حالته من السكون أو الحركة المنتظمة ما لم تؤثر فيه قوة محصّلة تغيّرها، والسيارة، مهما بلغت جودة مكابحها، تحتاج إلى احتكاك إطاراتها بالطريق كي تتباطأ، أما المؤسسات فلها قصورها الخاص، إذ يكتسب القرار زخماً من تتابع الموافقات وضغط المواعيد، حتى يصبح إيقاف القرار أصعب من تمريره، وهنا نفهم وظيفة الاعتراض، ليس تعطيل الحركة، وإنما تصحيح السرعة والمسار، وما نفعُ الفرامل في سيارة لا تصل دواستها إلى العجلات؟ وما نفعُ اعتراض المهندس إن لم يصل أثره إلى غرفة القرار؟
غير أن زميلي المهندس يعرف شيئاً آخر، الاحتكاك قد يبدد الطاقة، لكنه أيضاً يمنح الإطار تماسكه مع الطريق الزلق حين نحتاج إلى الكبح، والمشكلة في السيارة ليست وجود المقاومة أو غيابها، وإنما أن تعمل حيث نحتاجها وبالقدر المناسب.
لهذا أحببت أن أختار فكرة من عائلة (Decision Friction) اسماً يعرفه سائق التكسي وعضو مجلس الإدارة معاً،
فَــــرْمِــــلْ
لكن قبل تصنيع الفرامل في وجه التسرع، علينا أن نسأل سؤالاً اعتدنا طرحه في دراسة المشروعات، ما الوظيفة المطلوب تحقيقها أصلاً؟
إذا كانت وظيفة النظام إصدار أكبر عدد من الموافقات في الساعة، فسيصبح الإنسان المعترض مشكلة تشغيلية، عنق زجاجة يجب كسره، أما إذا كانت وظيفته إصدار قرارات صحيحة وقابلة للمساءلة ضمن زمن مناسب، فسوف يتغير التعريف كله.
دعنا نفكر بقرارٍ يومي كتجربة أولية، شركة تريد نشر إعلان، والخطأ فيه محدود ويمكن تصحيحه سريعاً، هنا قد يكون التأخير أكثر كلفة من منافع (التجربة والخطأ)، وعلى الجانب الآخر، قرار بتشغيل منشأة أو إطلاق خدمة تمس حقوق آلاف الأشخاص، ومعطيات السلامة أو المشروعية لم تُفحص بعد، هنا تصبح الدقيقة الإضافية التي تمنع خطأً جسيماً استثماراً في الجودة، لا هدراً للوقت.
إذن لا نحتاج إلى نظام بطيء، نحتاج إلى نظام يعرف أي القرارات يجوز تسريعها، وأيها ينبغي أن يرفض استعجالها.
〔 ٣ 〕 تِسْعَةَ عَشَرَ بَنْداً فِي مُوَاجَهَةِ الغُرُور
في سنة ٢٠٠٩ نشرت مجلة (New England Journal of Medicine) دراسة عن قائمة تحقق جراحية تضم ١٩ بنداً، جُرّبت في ثمانية مستشفيات حول العالم، بينها مستشفى الأمير حمزة في عمّان، وكان المطلوب أن يتوقف الفريق في مراحل محددة ليتحقق شفهياً من معلومات وإجراءات يعرفها في الأصل.


هبط معدل المضاعفات المسجلة من ١١٪ إلى ٧٪، وانخفض معدل الوفيات داخل المستشفى من ١٫٥٪ إلى ٠٫٨٪، وإذا فككنا الأرقام في دراسات الجدوى، فالتغير الأول يساوي أربع نقاط مئوية، أي انخفاضاً نسبياً يقارب ٣٦٪، أما الثاني فيساوي سبعة أعشار النقطة المئوية، أي انخفاضاً نسبياً يقارب ٤٧٪، وهذه نتائج ارتبطت بتطبيق القائمة في تلك الدراسة.
لم تدخل إلى غرفة العمليات آلة خارقة، دخلت إليها ورقة من النوع الذي نعلقه أحياناً على الثلاجة كي لا نعود من السوبرماركت وقد اشترينا كل شيء إلا الحليب.
التشبيه طريف، لكن المسألة أكبر من الذاكرة، فالقائمة أعادت تنظيم تبادل المعلومات بين أشخاص يملكون اختصاصات وصلاحيات مختلفة، حتى لا تبقى ملاحظة أحدهم حبيسة موقعه في الفريق، ولهذا لم تحقق قوائم التحقق التحسن نفسه في كل تجربة لاحقة، ففي دراسة واسعة في أونتاريو بكندا لم يظهر التحسن اللافت الذي سجلته الدراسة الأولى، وهو فرق مهم بين وجود الإجراء على الورق وتحوله إلى ممارسة حقيقية.
وبلغة المهندس، شراء سوفتوير حماية لا يثبت أنه يعمل، كما أن وجود قائمة تحقق لا يثبت أنها غيّرت سلوك الفريق، ينبغي فحص التنفيذ والالتزام والنتيجة، لا الاكتفاء بإحصاء الأوراق الموقّعة.
〔 ٤ 〕 مَاذا لَوْ فَشِلْنَا فِعْلاً؟
اقترح الباحث غاري كلاين تقنية (Pre-mortem) في مجلة هارفرد بزنس ريفيو ، ونشر شرحاً لها سنة ٢٠٠٧، تقوم على حيلة جميلة يحتال بها على الغرور البشري!
فحين نسأل الموظفين عمّا قد (عرقل) المشروع بأسلوب الـ Lessons Learned ، سيستطيع مدير المشروع أن يجيب نيابةً عنهم بكل سرور، سيقول أن المخاطر تحت السيطرة، وان القرارات هي بنت لحظتها والأجدر ان نحتفل بشهادة إكمال المشروع عوضاً عن نبش تقارير الماضي … وتنتهي المناقشة قبل أن تبدأ.
أما حين نقول لهم تخيلوا أن المشروع فشل بعد سنة، وأخبرونا لماذا، فقد منحنا المتحفظين إذناً نفسياً للاعتراض، وصار الحديث عن الفشل جزءاً من واجبهم، لا خروجاً عن الطاعة.
لكنني لا أريد أن يتوقف الأمر عند تشجيع الكلام، فهناك فرق بين مؤسسة تسمح للمهندس بأن يعترض، ومؤسسة تستطيع أن توقف التنفيذ إلى أن يُبتّ في اعتراضه، لهذا نجد في إجراءات ناسا اللاحقة مسارات لتوثيق الآراء الفنية المخالفة وتصعيد الخلافات التي لم تُحسم إلى مستويات أعلى، أي إن الاعتراض لم يعد متروكاً لحسن مزاج المدير الذي يستمع إليه ولا يمس كبريائه الإداري.
وهنا قانون صغير يصلح للاستخدام خارج ناسا أيضاً، إذا استطاع المدير تجاوز اعتراض الموظف من دون توثيق السبب أو مراجعة مستقلة عند الضرورة، فليس لدينا يمكن الاعتماد عليه، وإنما اجتماع بنظام الدردشة وقد يسمح للناس بالكلام وقد لا يُسمح.
〔 ٥ 〕 مِنَ الفَضَاءِ إِلَى دِجْلَة
في القرن الثالث الهجري، أراد الخليفة العباسي المتوكل أن يُنشئ مدينةً جديدة قرب سامرّاء، فأمر بحفر نهرٍ يصلها بمياه دجلة، وأُسند العمل إلى علماء ومهندسين من أهل الاختصاص، غير أن الحسابات أخطأت في موضع لا يغفر فيه الماء خطأً، منسوب فوهة النهر ومجراه، فكانت المياه تدخل حين يرتفع دجلة في موسم الفيضان، ثم تعجز عن الجريان كما ينبغي حين يعود إلى مستواه المعتاد.
والأدهى ما ترويه بعض المصادر التاريخية عن الذين اكتشفوا الخطأ، فقد استُدعي المهندس سند بن علي لفحص المشروع، وتذكر الرواية أنه عرف العيب، لكنه وافق على إخفائه خوفاً على القائمين بالعمل من عقاب الخليفة، مستفيداً من ارتفاع مياه دجلة الذي يستر الخلل مؤقتاً، واختلف المؤرخون في أسباب تعثر النهر ومدى اكتماله، لكن المؤكد أن هذا المشروع شغل المهندس العراقي أحمد سوسة بعد قرون، فأفرد له سنة ١٩٤٧ كتاباً بعنوان : (مأساة هندسية).

وبعد أكثر من قرن على تلك الحادثة، حمل الحسن بن الهيثم فكرةً أخرى إلى نهرٍ آخر، إذ تروي سيرة القفطي أن الحاكم بأمر الله استقدمه إلى مصر بعدما بلغه حديثه عن إمكان تنظيم مياه النيل في حالتي الزيادة والنقصان، فسار ابن الهيثم جنوباً حتى بلغ الجنادل قرب أسوان، وعاين الموضع واختبره، ثم عاد وقد تبدّل رأيه في المشروع الذي جاء من أجله، فالواقع لم يوافق ما تصوّره على الورق، واعتذر عن تنفيذه.
تأملوا المفارقة، في سامرّاء جرى الماء أياماً فاستُخدم جريانه ستاراً على العيب، وفي مصر لم ينفذ المشروع أصلاً بعدما تبيّن لصاحبه أن شروط تنفيذه غير متاحة، والفرق بين القصتين ليس أن أحد المهندسين أخطأ والآخر لم يخطئ، فكلاهما واجه المسافة بين التصور والواقع، إنما أن خطأً وجد طريقه إلى التنفيذ، وفكرةً وجدت من يوقفها قبل التنفيذ.
وهذا عندي من أنفع دروس (فَرْمِلْ)، أن اعتراف المهندس بخطأ تقديره قد يكون آخر فرصة لإنقاذ المشروع من فخ غروره، وأن معرفة العيب لا تحمي المؤسسة ما لم تملك هذه المعرفة طريقاً إلى القرار، فما قيمة مراجعة هندسية يخاف صاحبها أن يقول : الماء لن يجري!
〔٦ 〕 الإِنْسَانُ الَّذي يُوَقِّع لِلآلَة
نصل الآن إلى مشكلة أكثر حداثة، ففي سنة ٢٠٢٤ نشرت مجلة (PLOS ONE) تجربة أجرتها الباحثتان دانييلا سيلي ومارينا تشوغونوفا على ٢٩٢ مشاركاً، ووجدتا أن المشاركين فضّلوا تفويض القرار إلى الخوارزمية في ٦٦٪ من الحالات مقارنةً بتوصية بشرية مماثلة الدقة، وازداد هذا التفضيل بنحو سبع نقاط مئوية عندما أُتيح لهم مراقبة التوصيات وتعديلها، ومع ذلك لم تتحسن دقة القرارات في التجربة، وكان المشاركون أقل ميلاً إلى التدخل حين كانت التوصيات أشد خطأً.
انتبهوا إلى المفارقة، نضع الإنسان داخل النظام لزيادة الرقابة، فيزداد اطمئنانه إلى النظام، وقد يصبح أقل قدرة على اكتشاف الخطأ الذي وُضع هناك لاكتشافه.
وهذا يذكّرني بمشهد نعرفه في المكاتب، تقرير عليه ثلاث موافقات خضراء، والمدير العام واقف فوق رأس الموظف يسأل للمرة الثانية (خلصنا؟)، والموظف لم يقرأ من التقرير إلا الصفحة الأولى، لكنه مُتوتر، ويرى ثلاثة أشخاص وافقوا قبله، فيقول في نفسه (معقولة كلهم غلطانين وأنا الوحيد اللي راح أكتشف غلطة القرن؟)، ويضغط (Approve)، وهكذا تحصل المؤسسة على أربع موافقات، مع أن الأربعة ربما اعتمد بعضهم على بعض.
التوقيعات منحت موثوقية، واستعجال المدير يزيد الضغط فيبلع الموظف أي إعتراض، وتصميم واجهات التوقيع الالكترونية في برامج الـ. ERP و غيرها جعلت الموافقة أسهل من شرب الماء.
وفي النهاية صار عندنا أربعة مسؤولين عن القرار، ولا واحد منهم راجعه فعلاً! …. كارثة!
وعندما ينتقل هذا النمط إلى القرارات التي تمس حياة الناس، ترتفع الفداحة، فقد أثار الفيلم الوثائقي (NAZA) سنة ٢٠٢٦، من إخراج يوفال أبراهام وراشيل سزور، أسئلة ثقيلة من خلال شهادات أربعة وعشرين عسكرياً واستخباراتياً إسرائيلياً أخفيت هوياتهم، عن استخدام أنظمة المراقبة وتوصيات الذكاء الاصطناعي وآليات اعتماد القرارات العسكرية في غزة، وهي شهادات تتضمن اتهامات جسيمة رفضتها السلطات الإسرائيلية.
وقد تناولتُ في حلقة على قناتي تاريخ مصطلح (الأضرار الجانبية)، مروراً بملجأ العامرية في بغداد سنة ١٩٩١، وصولاً إلى الأنظمة الحديثة التي تساعد في إنتاج التوصيات وتقدير نتائج القرارات، والسؤال الذي يهمني هنا يتجاوز دقة الآلة، إلى سلطة الإنسان الذي يتلقى توصيتها، هل يملك البيانات اللازمة لتقييمها؟، وهل يفهم حدودها؟، وهل يستطيع رفضها؟، وهل يُحاسب النظام على مراجعة حقيقية أم على وجود توقيع بشري في نهاية الإجراء؟



ولا ينبغي مساواة قرار عسكري بقرار مصرفي أو طبي ، لكن Guess what ؟
في سنة ٢٠٢٦ بدأ النموذج الأمريكي (WISeR) عمله في ست ولايات، مستخدماً تقنيات تشمل الذكاء الاصطناعي إلى جانب المراجعة السريرية البشرية لبعض طلبات الخدمات الطبية، ووفق الجهة المشرفة عليه، فإن الغرض هو الحد من الخدمات غير الضرورية وتحسين ملاءمتها الطبية، وهو مثال معاصر نسأل فيه عن دقة المراجعة، ووقت الاستجابة، ووسائل الاعتراض والتصحيح، لا أن نقول النظام ظالم من مجرد وجود الذكاء الاصطناعي فيه.
والقاعدة التي أخرج بها من هذه الحالات أن المراجعة البشرية لا تُقاس بعدد البشر الموجودين في الدائرة، وإنما بمقدار الحكم المستقل الذي يستطيعون ممارسته، فإذا لم يعرف الإنسان لماذا جاءت التوصية، ولم يملك صلاحية مخالفتها، فقد نكون أمام آلة تتخذ القرار وإنسان (أنبوب) تمر منه القرارات دون تفكير.
〔 ٧ 〕 فَــــرْمِــــلْ ® BRAKE
لهذا صممتُ (فَرْمِلْ) بوصفه اختباراً عملياً من أربعة أسئلة، لا أدّعي أنه معيار هندسي معتمد أو قانون علمي جديد، وإنما أداة لجمع ما نعرفه عن المخاطر والمراجعة والمسؤولية في اللحظة التي نكون فيها أقرب ما نكون إلى الضغط على زر الموافقة.
ف | فداحة الخطأ
إذا كان هذا القرار خاطئاً، فما أسوأ نتيجة معقولة يمكن أن يسببها، ومن سيتحملها؟، لا تقيس الفداحة بقيمة المشروع وحدها، فقد تكون خسارة صغيرة غير قابلة للتراجع أكبر أثراً من خسارة مالية ضخمة يمكن تعويضها.
ر | رجوع عن القرار
هل يمكن عكس القرار فعلاً، وما كلفة التراجع وكم يستغرق؟، فشراء برنامج لتجربته شهر ليس كتغيير نظام تعتمد عليه مؤسسة كاملة، وتعديل منشور ليس كتطبيق سياسة تمتد آثارها إلى الناس.
م | موثوقية الدليل
ما مصدر المعلومة؟، هل لدينا قياس مستقل أو سجل سابق أو مقارنة بحالات شبيهة؟، وما الافتراض الذي لو ثبت خطؤه لانقلب القرار كله؟، وهنا أريد أن نستعير عادة المهندس الذي لا يكتفي برقم واحد، فيسأل مقارنةً بماذا، وبأي وحدة، وتحت أي ظروف؟ ليس دعوة لإن يصبح رأسك مزرعة لـ Worst case Scenario…
ل | لمن المسؤولية
من يجيز القرار، ومن يملك إيقافه، ومن يوثّق الاعتراض، وإلى أين يذهب الخلاف إذا أصرّ المدير على رأيه؟، فالمسؤولية ليست اسماً في آخر الصفحة وتوقيع بقلم سائل، إنها صلاحية فعلية قبل اتخاذ القرار، ومحاسبة واضحة بعده.
ثم نضيف سؤالاً يضبط الأسئلة الأربعة جميعاً، ما الزمن المتاح لاتخاذ القرار من دون أن يتحول الانتظار نفسه إلى مصدر خطر أو ضرر؟
إذا كانت فداحة الخطأ كبيرة، والرجوع صعباً، والدليل ضعيفاً، والمسؤولية غامضة، فلا أريد من المؤسسة مزيداً من الاجتماعات لمجرد الاجتماع، أريد قراراً بإيقاف الإجراء أو استكمال التحقق أو التصعيد إلى جهة مستقلة مؤهلة، وفق طبيعة الحالة ومتطلباتها. أما القرار منخفض الأثر، سهل التراجع، الواضح الأدلة والمسؤولية، فقد يستحق تجربة سريعة ومراقبة النتائج، لأن التردد الدائم ليس علامة على نضج القرار أيضاً.
مع الوقت سيصبح البروتوكوول هذا ممارسة تلقائية وثقافة مؤسسية.
〔 ٩ 〕 جَرِّبُوها غَداً
في صباح الغد، قبل أن توافقوا على شراء، أو توقّعوا عقداً، أو تتبنوا توصية من الذكاء الاصطناعي، جربوا شيئاً بسيطاً :
فَرْمِلْ : أربعة أسئلة فقط
ف | فداحة الخطأ
لو أخطأنا، من يتضرر؟ ☐ محدود ☐ كبير ☐ سلامة/حقوق أسوأ نتيجة: ______
ر | رجعة القرار
هل يمكن التراجع؟ ☐ سهل ☐ مكلف ☐ صعب/مستحيل كلفة/مدة الرجوع: _____
م | موثوقية الدليل
ما المصدر؟ مقارنةً بماذا؟ ☐ متحقق ☐ ناقص ☐ افتراض ما الذي قد يقلب الحكم؟ ____
ل | لمن المسؤولية
من يوافق؟ من يوقف؟ من يسمع الاعتراض؟ الاسم: __________ ☐ واضح ☐ غامض
هذه ليست أسئلة سنفور معترض على كل شيء، إنها طريقة لمنعنا من الإجابة عن السؤال الخطأ بكلفة عالية..

أعود إلى تشالنجر، فالمسألة التي كشفتها مألوفة بأشكال أصغر في حياتنا، تخيلوا عائلة قررت شراء ثلاجة جديدة، ونبّه الأخ الأوسط إلى أنها أعرض من باب المطبخ، لكن الجميع أعجبه الشكل، والعربون دُفع، والقرار اتُّخذ، وحين وصلت الثلاجة وقفوا جميعاً أمام الباب يتساءلون (هسه شلون ندخلها؟)، مع أن الجواب كان معروفاً قبل الشراء، لكن أحداً لم يسمع كلمة الأخ الأوسط ولم يسمحوا له بتغيير القرار!
⁂
قد تنجو المؤسسات حين تمنح الاعتراض طريقاً إلى القرار،
وقد تصنع أخطاءها حين تجعل الاعتراض عيباً في النظام،
فليست الحكمة أن نُبطئ كل شيء،
ولا أن نُسرع في كل شيء،
إنما أن نعرف متى
نُقدِم، ومتى
نقول،
لا.
وهسة ….

سِردَابُ الشَواهِد :
embedded URLS.
