تتلاشى القيم حين تتولى الخوارزميات السيطرة | من «MIT SMR»

ترجمة: وسن الجارالله

إن بناء أنظمة ذكاء اصطناعي مسؤولة يبدأ بالإقرار بأن الحلول التقنية تولي الأولوية للكفاءة بلا شك.

فلا يزال الاهتمام بالفرص التي توفرها الخوارزميات والبيانات الضخمة متزايدًا، خاصة مع استفادة المستخدمين الأوائل من أنظمة الذكاء الاصطناعي التي أتمتت مختلف القرارات، مثل توصيات العملاء، وفرز المتقدمين للوظائف، واكتشاف الاحتيال، وتحسين المسارات اللوجستية، ولكن إن فشلت تطبيقات الذكاء الاصطناعي فإن فشلها فشلٌ ذريع.

خذ على سبيل المثال فضيحة “روبوديت” الأخيرة في أستراليا. ففي عام 2015م، أطلقت الحكومة الأسترالية برنامج الامتثال للدخل بهدف استعادة إعانات البطالة والعجز التي صرفتها للمستفيدين صرفًا خاطئًا. فالهدف الأساسي من البرنامج هو تحديد المدفوعات الزائدة بتحليل الفجوات بين الدخل السنوي الذي أبلغ عنه الأفراد، والدخل الذي يُقيّمه مكتب الضرائب الأسترالي. فكانت الإدارة سابقًا تستعمل أسلوب مطابقة البيانات لتحديد أوجه التباين، وهو الأسلوب الذي تحقق به الموظفون الحكوميون فيما بعد من أهليّة الأفراد الذين حصلوا على الإعانات. وسعيًا لتوسيع نطاق هذه العملية لزيادة استرداد المدفوعات، وتقليلًا للتكاليف والصرفيات، قامت الحكومة بتطوير نظام جديد مؤتمت يفترض أن الاختلافات بين الدخل السنوي والدخل الذي يقيّمه مكتب الضرائب يعكس مبالغ زائدة، وتُصدر عند كل حالة رسالة إشعار مطالبة بسداد المبلغ. فعلى من يرغب بالاعتراض أن يتحمّل عبء هذا الإثبات، وإن لم يُجب الفرد على الرسالة، فسيُحال موضوعه تلقائيًّا إلى محصّل الديون الخارجية. تُشير التقديرات في عام 2019م إلى أن البرنامج حدد أكثر من 734000 دفعة زائدة بقيمة قدرها 2 مليار دولار أسترالي (1.3 مليار دولار أمريكي).

فتصميم النظام الجديد كان بالأصل لتعزيز الكفاءة، إلّا أنه لم يأخذ في الحسبان تفاصيل الحالات الفردية. ولنا القول بأن مفاد الفكرة هو أنه باستبعادنا للحكم البشري المتأثّر بالتحيّزات والقيم الشخصية، فإن البرنامج المؤتمت سيتخذ قرارات أفضل وأكثر عدالة وعقلانية بتكاليف أقل. أدت القرارات التي اتخذها مصممو النظام -لسوء الحظ- سواء فيما يتعلق بكيفية تصميم الخوارزمية، أو في كيفية سير العملية، إلى مطالبة الحكومة باسترداد المدفوعات من مئات الآلاف من الأشخاص المؤهلين بالفعل للإعانات التي حصلوا عليها، وأصبح بعضهم مُجبرًا على إثبات عدم مطالبتهم بهذه المبالغ بشكل غير قانوني قبل سبع سنوات، فكانت العواقب وخيمة للعديد من الأفراد.

أشارت المراجعات البرلمانية السابقة إلى “نقصٍ أساسي في العدالة الإجرائية”، ووصفت البرنامج بأنه “محبط للغاية لمن تأثروا وتعرضوا لضغوطٍ نفسية كبيرة وشعور بالخزي”، بل وتلقت اللجنة البرلمانية أدلة على حالتيْ انتحار على الأقل مرتبطتين بهذا البرنامج، كما وجدت أيضًا العديد من الصعوبات المالية، فألغى وزير الخدمات الحكومية في البلاد في عام 2020م هذا البرنامج وأعلن أن 470,000 من الديون التي أُصدرت بشكل خاطئ ستُرد، والتي بلغت قيمتها 721 مليون دولار أسترالي.

سنتطرق في هذا المقال إلى التحيّزات غير المدروسة والضمنية والنظامية التي قد تؤدي إلى حدوث مثل هذه الإخفاقات الكارثية، وسنناقش ما قد يفعله المديرون لتقليل خطر أنظمة الخوارزميات وأضرارها التنظيمية والاجتماعية. من الضروري أن يفهم المديرون أن حل هذه الإخفاقات التقنية لا في تعزيزها أو زيادتها، بل في فهم أفضل الخيارات الضمنية التي نتخذها حين نستعمل التقنية لحل مشكلة ما في بداية الأمر، خاصة التي تهتم بالحلول. فتسعى أبحاثنا المستندة إلى كتاب “المجتمع التقني” للفيلسوف الفرنسي جاك إيلول، والذي نُشر عام 1954م، إلى توضيح آلية عمل التقنية الحديثة، كما هو مفصّل أدناه.

طغيان التقنية

يرى إيلول في كتابه أن السمة المحورية للمنظمات الحديثة هي استخدام التقنية، والتي تُعرف بالسعي العقلاني لاستخدام أي وسائل أو ممارسات موحدة لتحقيق النتائج المطلوبة، وهكذا تصبح التقنية جُزءًا منا وتظهر للعيان عندما تفكر المؤسسات بطرق زيادة إنتاجية مصنع ما، أو استخدام خوارزميات التوصيات لتعزيز الخدمات ورفع بيع الخدمات والمُنتجات، أو حين تسعى الحكومات لتنظيم المنافع الاجتماعية عبر برامج تعتمد على الخوارزميات. فحين نُطبّق التقنية، فإننا نتفق ضمنيًّا على ضرورة قياس كل شيء وتحديد كميته وتوحيده وعقلنته ليصبح جاهزًا للحساب. إذًا تمثّل التقنية أيضًا وسيلة لتخيّل الشكل المثالي الذي يجب أن يبدو عليه العالم.

استنادًا إلى ما يراه إيلول، فإننا نقترح أن نصل إلى عملية نطلق عليها اسم “أتمتة القيم”؛ إذ تعزز هذه التقنية التوجّه العقلاني -وهي أفضل طريقة للتصرّف- وتولي اهتمامًا بالكفاءة لأنها تؤدي إلى نتائج مفضلة، وهذا بدوره يُعزز من تأثير التقنية في حياتنا، فتُركز العديد من أنشطتنا على الحلول المنطقية للمشكلات لزيادة كفاءة العمل. فلا تناسب مفاهيم الصداقة، والتماسك الاجتماعي، والعدالة، والرحمة، والسعادة هذا النموذج (على سبيل المثال الظواهر الإنسانية العميقة)، فلا يمكن للتقنية استيعاب جوهرها النوعي الكامل.

وبدلًا من ذلك تفرض التقنية كل شيء بلا هوادة في قالب كمي محدد. لنقل مثال الصداقة: إن الصديق في مواقع التواصل الاجتماعي المطبقة للتقنية في إدارة التواصل الاجتماعي هو الصديق الذي تتواصل معه، فتُقاس نسبة الصداقة بأدوات كمية، مثل أعداد “الإعجاب” أو “المتابعين”، إلا أن هذا النهج يُجرّد الظواهر الإنسانية من عمقها، فنفقد التفاصيل الدقيقة للقيم والتلقائية المتنوعة في مختلف أنواع الأصدقاء (على سبيل المثال، الأصدقاء المقربون، ورفقاء النادي الرياضي، وزملاء العمل الودودون، والأزواج المحتملون) وجميع مراحل الصداقة المتعددة. أصبحت “قيمة” الصداقة في وقتنا الحالي مجرّدة ومُسطحة لما يمكن قياسه أو أتمتته، فتُحسب بعدد الإعجابات على الصورة، أو بعدد رسائل تذكيرات تهاني عيد الميلاد التلقائية، وهكذا نفقد المعنى المتشارك للصور ومصداقية تهاني عيد الميلاد، والعديد من الجوانب العميقة التي تضفي على الصداقة إحساسًا عميقًا ومميّزًا.

بعبارة أخرى، حين نُطبّق التقنية على عملية معيّنة، خاصة مع أنظمة صنع القرار الآلية، فإننا نحد ضمنيًّا من القدرة على مراعاة جميع القيم الإنسانية في هذه العملية. وتعدّ هذه التداعيات عملية مهمة، وذلك لأن القيم المتعلقة بهذه السلوكيات والأهداف مفضلة شخصيًّا واجتماعيًّا، وهي عادةً متعددة ومعقدة اجتماعيًّا، بل ومتناقضة في بعض الأحيان.

عادةً ما تعمل المنظّمات على واجهة متعددة القيم، فعلى سبيل المثال، كان برنامج الامتثال الأسترالي قائمًا على مبدأ التقنية، ما أدى بالضرورة إلى قمع قيمٍ أخرى، مثل مفهوم التعاطف مع المواطنين، والعدالة، واحترام الآخرين، وهي القيم التي من الممكن مراعاتها في الماضي حين قيّم البشر حالات فردية واتخذوا قراراتٍ بشأنها، ولكن حين تغرس التقنية أنيابها في عمليات كانت تحتوي على قيم متعددة، فسينتهي الأمر لتُصبح هذه القيم قيمًا خاضعة للقيم العليا والعقلانية والكفاءة. وإن أهداف نموذج “روبوديت” العقلاني، بتوفيرها التكاليف الإدارية وزيادة تعويضات الحكومة، هي التي قادت أيضًا إلى استبعاد التدخّل البشري من العملية لتحقيق أكبر قدر من الكفاءة.

وخلاصة القول، فإنه كلما طبقنا التقنية لحل مشكلة ما، واجهتنا خطورة التسبب بنتائج غير مقصودة. فتُهيمن كلٌّ من العقلانية على الطريقة، والوسيلة على الهدف، على جميع القيم الأخرى، ليتحدوا ويكوّنوا القيم النهائية بحد ذاتها. يعد هذا بالتأكيد مشكلة بحد ذاتها، فقد يزداد الأمر خطورة حين لا يستطيع البشر تجاوز هذه الأنظمة الآلية وعواقب قراراتها.

بناء إجراءات حماية لبناء القرار الخوارزمي

كيف يمكن للمديرين والمنظّمات التي تحتاج أو ترغب في الاستفادة من هذه التقنيات حماية قيم قراراتهم المتعددة وروتينهم لتجنب سيطرة التقنية؟ فنقترح الالتزام بهذه المبادئ الثلاثة التالية للمساعدة في ذلك:

1. احذر من مؤشرات وتأثير المقياس.
2. أدخل التدخلات البشرية وأشركها مشاركة استراتيجية في عملية اتخاذ القرارات الخوارزمية.
3. أنشئ أنظمة تقييمية تمثّل قيمًا متعددة.

وسنتفحص كلًّا من هذه القيم الثلاثة لاحقًا.

عليك التعرّف إلى المشكلة المتعلقة بالمؤشرات، فمن الضروري تمثيل ظاهرة معيّنة باستخدام المؤشرات عند بناء النماذج الخوارزمية. فعلى سبيل المثال في حالة “روبوديت”، استعمل البرنامج “متوسط الدخل” مؤشرًا بديلًا للدخل الحقيقي، فكان متوسط الدخل خيارًا مناسبًا وسهلًا بالحساب، وأيضًا كان ظاهريًّا مؤشرًا بديلًا معقولًا، إلا أن المراجعات اللاحقة وجدت أن هناك العديد من نقاط الضعف فيه. فعلى سبيل المثال، كانت حسبة متوسط الدخل مبنية على أساسٍ سنوي، إلا أن الدخل الفعلي المتلقى من الأفراد كان على فترات دفع منتظمة. فلم يعكس متوسط دخل المؤشرات ما يسمى بالتوظيف المتقطع عند توزيعه على مدى السنة، فيتنقل الأفراد من أماكن عملهم ويتلقون إعانات خلال فترة بطالتهم. وإن استعمال مقياس متوسط الدخل يعطي انطباعًا بأن الأفراد يحققون دخلًا حتّى في فترات تعطلهم، بالإضافة إلى أن متوسط الدخل في الواقع لم يثبت عنه وجود دليل قانوني على الديْن. فتوجُّه التقنية وسعيها لإيجاد مقاييس عقلانية لتمثيل الواقع قد أوقع بالموظفين الحكوميين المسؤولين، ما دفعهم إلى استعمال مقياس خاطئٍ وافتراض الدين دون أي دليل قانوني.

وبهذا المثال نرى كيف يمكن للمؤشرات أن تختزل بسهولة ظاهرة ما إلى بُعدٍ واحد قابل للقياس يُفترض أنه ثابت بينما هو في الواقع متغيّر. ويتضمن استعمال المؤشرات أيضًا التعامل مع ظواهر مختلفة من الناحية المفاهيمية بأنها مؤشرات مكافئة (مثل اعتبار التصنيف الائتماني المنخفض مؤشرًا على ضعف الأداء الوظيفي)، فالمسافة والتباين بين أصل مفهوميْ ظاهرة ما (مثل الأداء الوظيفي) ومقاييسها الفعلية (التصنيفات الائتمانية) يدلان على وجود تباينٍ بين ما نعتقد أننا نقيسه وبين ما يُقاس بالفعل.

وثانيًا، فإننا بحاجة إلى الوعي بالمخاطر الناجمة عن تأثيرات القياس. ففي حين نقيس فاعلية خوارزميات معينة، فإنه من الصعب تقليص استعمالها بمجرد أن تصبح شائعة في قطاعٍ معيّن. لنفترض مثلًا نظام تصنيف الائتمان الذي أصبح معيارًا فعليًّا تستعمله جميع الشركات: فإن كانت هذه الخوارزمية تميّز بين الأشخاص ذوي صفات معينة، فلا مفر من تأثيرها حتى مع اختيار التعامل مع شركة قد تستعمل نظام تقييم يتميّز بالعدالة والمرونة. وبطريقة مماثلة، فإن تصنيفات الجامعة وترويج مجلة “يو أس نيوز آند وورلد ريبورت” لها سيدفع المؤسسات المعنية إلى السعي لتحقيق الأهداف نفسها (وهي تسجيل درجات عالية في الفئات ذات الصلة)، وذلك لرفع التصنيفات وتجنب التراجع. عادة ما تكون لهذه التأثيرات ردات فعل وخيمة، فستجد الجامعة التي تحتل تصنيفًا ضعيفًا صعوبة متزايدة في جذب أعضاء هيئة التدريس والطلاب ذوي المستويات العالية، ما قد يزيد من ضعف تصنيفها مستقبلًا. ومن الجدير بالانتباه أنّ الاستخدام المكثّف للمؤشرات قد يوسّع الفجوة بين المقصود قياسه وما يُقاس بالفعل. يجب علينا فهم المشكلات المحتملة عند استعمال المؤشرات استعمالًا صحيحًا، وذلك للحد من مخاطر سوء التوصيف في النموذج، إلا أن التخفيف من تأثيرات القياس بعد وقوعها أمرٌ صعبٌ للغاية، بل يكاد يكون مستحيلًا.

يجب أن يكون الناس على اطلاع تام بما يحدث. تتضمن وسيلة أخرى للحماية تضمين التدخلات البشرية في اتخاذ القرارات الخوارزمية تضمينًا استراتيجيًّا، فعلى سبيل المثال، كان يستعمل موظفو الضرائب سابقًا قبل تطبيق برنامج الامتثال الضريبي نظام “روبوديت” متوسط الدخل لتحديد التباينات، ومن ثمّ يتحققون من أكثر من 20000 حالة متطرفة. فكان بإمكان موظف الحكومة أن يتحقق من التوازن بين القيم المتضاربة الناشئة عن رغبة الحكومة في استرداد مدفوعات الإعانات مع معاملة المواطنين معاملة عادلة، فيراجع موظفو الخدمة المدنية البيانات يدويًّا، ويتأكدون من دقة متوسط الدخل، ومن ثم يحاولون التأكد من مقاييسها باستعمال نموذج مصادر المعلومات الأخرى قبل إشعار الأفراد بالديون التي يجب عليهم سدادها.

إلا أن تطبيق حالة “روبوديت” قد أزال هذه التدخلات البشرية، وحلت التقنية مكانها مع تطبيق آلية القيم دون مراقبة. انتقل عبء الإثبات من مسؤول الضرائب الذي كان عليه تبرير التواصل مع مستلم الإعانة إلى الشخص الذي كان عليه إثبات بطلان الاتهام الآلي. فلن تكون هناك طريقة لتفادي العواقب غير المتوقعة وغير المقصودة دون وجود حكم بشري يحكم بين هذه النقاط الحاسمة.

فنتائج الاختبارات هي للتحقق من توافقها مع القيم. في حين لاحظنا أن الحلول التقنية تولي اهتمامًا أكبر للعقلانية والكفاءة، إلّا أن المنظمات تضع عمليات لتقييم نتائج ومخرجات هذه الأنظمة لمعرفة مدى دعمها أو إهمالها للقيم الأخرى المتعددة. فتصميم البرنامج في حالة “روبوديت” كان مركزًا على تقليل التكاليف وزيادة عمليات التعويضات، ولكن إضافة عملية تقييم أكثر شمولية كان قد يخفف من طغيان وسيطرة التقنية. وأصبح من الممكن أن يكشف تدقيق النموذج والعينات العشوائية للمخرجات عن القرارات السيئة، كما أن تدقيق العملية من حيث الشفافية والعدالة وإجراءات العدالة كان سيكشف عن أوجه قصور خطيرة. اعتمد النظام -الذي لم يعد قيد الاستخدام- على نهج قياس واحد يناسب الجميع، وكان أيضًا يسمح بوجود فجوات بين الحالات الفردية والنماذج.

يعد إغلاق تلك الفجوات وسدها سبيلًا لتحقيق وتعزيز العدالة. في الواقع كان سيتطلب ذلك نموذجًا أكثر تعقيدًا يأخذ بالحسبان ظروف الأفراد الشخصية المختلفة مع ضمان عدم التفرقة بين جميع طبقات الأفراد السكانية والاجتماعية والاقتصادية.

فيُشير هذا النهج إلى ضرورة تطوير واختبار البرنامج قبل تطبيقه في الواقع. وغالبًا ما يقتصر هذا الاختبار على التأكد من سلاسة عمل البرنامج، وبالتالي يفشل في فحص نتائجه لتحديد ما يتضمن من تحيّزات. لذا يجب اختبار أي برنامج يعتمد على إجراءات خوارزمية بدورات متعددة تحاكي الحياة الحقيقة التي سيُطبق بها البرنامج. فكان من الممكن على سبيل المثال أن يساعد تشغيل برنامج تطبيقي قبل التفعيل الكامل للخوارزميات في تحديد المؤشرات الضارة والإجراءات المبسطة التي قد تؤدي إلى اتهامات باطلة. وإن مراجعة موظفي الخدمة المدنية لنسبة معينة من المطالبات الآلية بالسداد مراجعة منتظمة كانت ستُساعد أيضًا في الكشف عن عيوب نظام الحكومة الأسترالية وعملياتها، واختبار البرامج قبل تطبيق النظام قد يعني أن بعض الأنظمة لن تُطبَّق على الإطلاق وذلك بسبب كِبر مخاطر الأضرار.

وأخيرًا عند تطبيق مثل هذه العمليات الآلية يجب أن تكون هناك سياسات وإجراءات تتيح للمتضررين التعبير عن مخاوفهم لبشر لا لآلة، وسيتيح لنا هذا تحديد العواقب غير المقصودة، والأخطاء المحتملة، والتحيّزات، بل وأيضًا تصحيحها بالتدخل البشري لضمان عملية آمنة ومُنصفة. ومن البيّن أن مثل هذا الاختبار والتكيّف يتطلب حساسية أكبر للعدالة الإجرائية، وهي قيمة يجب أخذها في الحسبان مع جانب الرغبة في تحقيق ادخارات فاعلة إن كنا جادين في معالجة طغيان التقنية وسيطرتها وقوتها قبل انتشارها.

يؤكد تحليلنا على الحاجة إلى مزيد من الحساسية حول كيفية تأثير التقنية وأتمتة القيم على تطبيق التقنية في المنظمات والمجتمع، فيجب على المديرين مقاومة رغبتهم بالبحث عن حلول تقنية أخرى حين تظهر حالات تُخطئ بها التقنية، وبدلًا من ذلك عليهم فحص القيم التي يستندون إليها في عمليات اتخاذ القرارات لضمان ألا تكون الكفاءة دونًا عن غيرها هي الأولوية التلقائية. كما لوحظ أيضًا أن هناك نزعة للوصول إلى حلٍّ تقني في حالة “روبوديت”، كما هو واضح في هذه الثلاث نسخ من الأداة، والتي لم يُعالج أيٌّ منها المشكلات الأساسية الخطرة في النظام والعمليات الشاملة.

فهل كانت ستمنع وسائل الحماية هذه التي اقترحناها وجميع القيم المختلفة المؤثرة في عملية اتخاذ القرارات البشرية الفضيحة المصاحبة لحالة “روبوديت”؟ كان ذلك سيحدث على الأغلب؛ وذلك لأن الاعتراف بالقيم وتقديرها بدلًا من التركيز على القيم العقلانية والكفاءة سيؤديان إلى تطبيق مختلف للقوانين واللوائح.

وبوضع ذلك في الحسبان، نأمل أن يتبنى المديرون والممارسون استعدادًا أكبر لإجراء تحقيق نقدي وتأمليّ بشأن القيم التي يستعملونها في اتخاذ قراراتهم الإدارية، بالإضافة إلى تطوير حساسية أكبر تجاه العواقب المحتملة لاختياراتهم.

—————————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.