الإدارة الخوارزمية: دور الذكاء الاصطناعي في إدارة القوى العاملة | من «MIT SMR»

ترجمة: لولوة العيدان

يتطلب التنفيذ الناجح كفاءات جديدة واعتبارات أخلاقية

أصبح من الممكن للآلات بمساعدة التقنية تولّي مهام إدارية معقدة مثل الإشراف على الموظفين وتقييم المرشحين للوظائف، ورغم أن الإدارة الخوارزمية (تفويض الوظائف الإدارية إلى الخوارزميات في أي منظمة) لا تزال في مراحلها الأولى، فإنها أصبحت تشكل جزءًا رئيسًا من التحول الرقمي القائم على الذكاء الاصطناعي في الشركات.

تَعِد الإدارة الخوارزمية بجعل عمليات العمل أكثر فاعلية وكفاءة؛ فعلى سبيل المثال، يمكن للخوارزميات تسريع عملية التوظيف من خلال تصفية أعداد كبيرة من المتقدمين بتكاليف منخفضة نسبيًّا، كما يمكن لأنظمة الإدارة الخوارزمية أن تسمح للشركات بفهم أو مراقبة إنتاجية وأداء الموظفين. ومع ذلك يجب أن تؤخذ التحديات الأخلاقية والسلبيات المحتملة التي قد تلحق بالموظفين في الحسبان عند تنفيذ الإدارة الخوارزمية. وفي حالة التوظيف، واجهت الأدوات التي تعمل بالذكاء الاصطناعي انتقادات شديدة بسبب التحيزات الضارة التي قد تضر بمجموعات مختلفة من الناس، ما أدى إلى بذل الجهود لوضع إرشادات ولوائح لتصميم أخلاقي للذكاء الاصطناعي.

في هذه المقالة، نبني على سنوات من البحث في الإدارة الخوارزمية، ونركز على كيفية تحويل ممارسات الإدارة من خلال أتمتة المهام المتكررة وتعزيز دور المديرين بصفتهم منسقين وصناع قرار، ولكن إدخال الخوارزميات في وظائف الإدارة، لديه القدرة على تغيير ديناميكيات السلطة داخل المنظمات، ويجب التصدي للتحديات الأخلاقية. هنا نقدم توصيات حول كيفية تعامل المديرين مع التنفيذ باستخدام مجموعة مهارات جديدة.

الاستفادة من الحجم والكفاءة مع تحسين رفاهة القوى العاملة

يمكن للخوارزميات تعزيز حجم وكفاءة عمليات الإدارة؛ إذ تنسق الأنظمة الخوارزمية في اقتصاد العربة العمل وتنظمه على نطاق غير مسبوق -فكر في عدد الركاب والسائقين المطابقين الذين يستخدمون أوبر أو ليفت في أي وقت في جميع أنحاء العالم-. واستفادت منظمات المعايير بالفعل من الدقة المتزايدة للمعالجة الخوارزمية لإدارة المهام والعمال، حيث تزود شركة UPS الشاحنات بأجهزة استشعار تراقب كل حركة يقوم بها السائقون لزيادة الكفاءة، وبالمثل تعتمد شركة أمازون بشكل كبير على الخوارزميات لتتبع إنتاجية العمال وحتى في إنشاء المستندات اللازمة لإنهاء التوظيف إذا فشلوا في تلبية الأهداف.

ولكن أبحاثنا تشير إلى أن التركيز على الكفاءة فقط قد يؤدي إلى خفض رضا الموظفين وأدائهم على المدى الطويل، من خلال التعامل مع العمال بوصفهم مجرد “تروس في مكينة” قابلة للبرمجة. وتُظهِر لنا الأدلة المستمدة من حدود الذكاء الاصطناعي أن العمليات الخوارزمية النفعية قد تعمل على تعظيم أهداف معينة على حساب تقليص أهداف أخرى. وقد أشارت العديد من الأبحاث إلى كيف يمكن للإدارة الخوارزمية التي تركز على الكفاءة أن تقوض بشكل كبير رفاهة العمال ورضاهم، مثل حث الموظفين على الاستمرار في العمل إلى حد الإنهاك.

وقد لجأت الإدارة الخوارزمية -التي تعطي الأولوية للمراقبة والتحكم- إلى تبني أنظمة مماثلة لمراقبة إنتاجية القوى العاملة عن بعد، وخاصة بعد ظهور الجائحة مع ارتفاع العمل الافتراضي. والمراقبة مشكوك فيها أخلاقيًّا وغالبًا ما تؤدي إلى ردود فعل سلبية من جانب العمال. على سبيل المثال، أعرب موظفو مركز الاتصال التابع لشركة آبل عن خوفهم من كاميرات المراقبة في منازلهم. وكذلك تعمل الأنظمة الخوارزمية في المستودعات والتي تستخدم أجهزة استشعار ومعايير مختلفة لقياس مخرجات العمال، على فرض كفاءة العمل تلقائيًّا، ولكن في بعض الحالات، أفادت التقارير أنها أدت إلى إحباط العمال أو حتى إصابات جسدية. وفي العديد من التطبيقات الحالية للإدارة الخوارزمية، يعجز العمال على التأثير في القرارات التي تتخذها الخوارزمية.

إننا ندعو إلى منظور يركز على أصحاب المصلحة في تبني الإدارة الخوارزمية التي توازن بين تبسيط العمليات وتلبية احتياجات ومصالح مجموعات أصحاب المصلحة المختلفة، مثل المديرين والعمال والمساهمين. وإن المراقبة المفرطة والسيطرة والضغوط من الإدارة الخوارزمية لا تضر برفاهية العمال فحسب، بل إنها قد تؤثر سلبًا على الشركات من خلال تشويه السمعة وهروب الموظفين.

وبالإضافة إلى الحماية من تجاوزات الإدارة، ينبغي تصميم أنظمة الإدارة الخوارزمية بحيث تعود بالنفع على العمال، مثل تنبيههم تلقائيًّا عندما تكون المواقف على الأرجح خطيرة، وتساعد وجهة نظرنا في إيجاد التوازن بين العمليات المبسطة التي تعزز الكفاءة والربح، ورفاهة العمال.

إنشاء تقسيم تكافلي للعمل بين المديرين البشريين والخوارزميين

في حين تتصور بعض الشركات مستقبلًا حيث يمكن للخوارزميات اتخاذ القرارات بفاعلية من تلقاء نفسها مع الحد الأدنى من التدخل البشري، فإن الواقع هو أن الذكاء الاصطناعي لديه قيود في أتمتة الأدوار الإدارية التي تتضمن مهام معرفية معقدة واتخاذ قرارات بدهية. ويجب على المنظمات التأكد من أنها تخلق تقسيمًا تكافليًّا للعمل بين المديرين البشريين والخوارزميين. وتشير أبحاثنا إلى أن الأنظمة الخوارزمية يمكنها التعامل بشكل أفضل مع مساحات القرار ذات النطاق الضيق (مثل مهام التنسيق كبيرة الحجم ولكن المتكررة)، بينما سيستمر المديرون البشريون في التفوق في التعامل مع مساحات القرار غير المحددة (مثل اتخاذ القرارات الضمنية والاستراتيجيات مع “المجاهيل المعروفة”).

وهنا فإن السياق المحيط بالتنفيذ له أهمية كبيرة؛ فقد قامت شركتا أوبر وليفت بأتمتة جميع وظائف المديرين التقليديين تقريبًا (لا تزال بعض المهام مثل حل النزاعات أو الشكاوى تتم من خلال البشر). ومن غير المرجح أن يكون هذا هو الحال في معظم منظمات المعايير، بسبب تعقيد وتنوع مهام العمل. وفي المنظمات التقليدية، نتوقع شراكة بوساطة التقنية بين البشر والذكاء الاصطناعي في أداء وظائف الإدارة. ولنتأمل هنا برامج التدريب المؤسسية؛ فالذكاء الاصطناعي قادر على تقديم تدريب شخصي قائم على الويب للموظف وقياس مكاسب الإنتاجية بشكل فاعل. ومع ذلك، بالنسبة للمهام الأخرى، وخاصة تلك الأكثر إبداعًا وتكتيكية مثل العصف الذهني والتفكير الاستراتيجي أو تلك التي تتطلب مهارات اجتماعية مثل التعاطف، فقد يكون المدرب البشري ضروريًّا.

يوضح الشكل أدناه نموذجًا أوليًّا لهذه العلاقة التكافلية على مستويات مختلفة من الإدارة، فعلى المستويات الدنيا، من المرجح أن توفر أنظمة الذكاء الاصطناعي إمكانيات لتنسيق المهام بشكل أفضل (تفكيك المهام وتوزيعها وتجميعها وتقييمها)، في حين يكون المديرون البشريون في وضع أفضل لتولي أدوار إشرافية وتفاعلية أكثر (مثل توفير المرونة للعمال لتنفيذ المهام). ويمكن لأنظمة الذكاء الاصطناعي في مستويات الإدارة العليا مسح وتقديم معلومات حول البيئات الداخلية والخارجية للمنظمة بينما يجلب المديرون منظورًا استراتيجيًّا شاملًا لاتخاذ القرار. على سبيل المثال، يمكن لأنظمة الذكاء الاصطناعي مساعدة المنظمات في دمج ومراقبة وتحليل مئات نقاط البيانات حول سلوك العملاء في الوقت الفعلي، في حين يمكن للمديرين البشريين التعبير عن آثارهم على المطالب المتطورة.

الشراكة بين الإنسان والذكاء الاصطناعي على مستويات إدارية مختلفة

في المستويات الإدارية الدنيا في المنظمة يمكن لأنظمة الذكاء الاصطناعي توفير إمكانيات تنسيق المهام، بينما يشرف المديرون البشريون ويتفاعلون. وفي المستويات الإدارية العليا يقوم الذكاء الاصطناعي بمسح البيئة لتقديم المعلومات ودعم القرار، بينما يجلب المديرون البشريون منظورًا استراتيجيًّا وشاملًا لاتخاذ القرار.

يتعين على المنظمات أن تعترف بالقدرات الفريدة لكل من الذكاء الاصطناعي والمديرين البشريين وتعززها، وأن تسعى إلى العثور على طرق يمكنهم من خلالها العمل معًا في شراكة، وهو ما يطلق عليه بول دوجيرتي وهـ. جيمس ويلسون، قادة تكنولوجيا أكسنتشر، “الوسط المفقود”. استخدمت شركات مثل مايكروسوفت “درجات الإنتاجية” التي يتم إنشاؤها تلقائيًّا والتي توفر للمديرين معلومات مجمعة حول عدد المرات التي يرسل فيها موظفوهم رسائل البريد الإلكتروني، ويحضرون اجتماعات الفيديو. هذه المعلومات قيمة فقط بمجرد وضعها في سياقها من قبل مدير بشري يمكنه إجراء تقييمات حول جودة العمل (بينما تمثل الدرجات مقياسًا يركز على الكمية فقط) أو ما إذا كانت الأدوار الوظيفية متشابهة بما يكفي للمقارنة بناءً على درجاتها الخاصة.

إن التآزر الناجح بين الإنسان والذكاء الاصطناعي ليس بالأمر المؤكد، وعادةً ما تحتاج العمليات التجارية إلى إعادة تصميم عندما ترغب المؤسسات في تنفيذ أدوات خوارزمية تناسب المهمة الإدارية التي تريد أتمتتها بالكامل أو جزئيًّا.

تجنب التحيز الخوارزمي من خلال تعزيز العدالة والشفافية والمساءلة

يتعين على الشركات التي تقرر التعامل مع الإدارة الخوارزمية أن تعترف بأن الخوارزميات ليست صناع قرار محايدين أو تكنوقراطيين، ويمكنها إدخال وتضخيم التحيزات القائمة على العرق أو الجنس، ما قد يؤدي إلى الظلم وعدم العدالة. وقد تم تحديد التحيز الخوارزمي في وظائف تنظيمية مختلفة بما في ذلك إدارة الموارد البشرية، وخاصة في فحص السير الذاتية لمقدمي الطلبات للوظائف، حيث يتم تدريب الخوارزميات غالبًا على البيانات التاريخية التي تعكس قرارات التوظيف البشرية المتحيّزة.

كما يتجلى التحيز الخوارزمي في نظام العدالة الجنائية، حيث استخدم القضاة أنظمة تنبؤية لتحديد احتمالات معاودة الإجرام بالنسبة للمتهمين. وقد واجهت هذه الأنظمة انتقادات بسبب توقعها لاحتمالات أعلى في معاودة الإجرام بالنسبة للمتهمين السود؛ ربما بسبب التحيزات في البيانات المستخدمة لتدريب الخوارزميات. كما يمكن أن تؤدي حلقات التغذية الراجعة التأكيدية في الأنظمة التنبؤية إلى تكرار وجود الشرطة في مناطق معينة، ما يؤدي إلى التدقيق غير العادل لأفراد معينين.

قد يكون من الصعب اكتشاف التحيز الخوارزمي أو عدم الإنصاف في أنظمة الإدارة الخوارزمية؛ لأن العمليات الداخلية للخوارزميات المستخدمة في هذه الأنظمة غالبًا ما تكون معقدة وغير واضحة للمستخدمين. هذا الافتقار إلى الشفافية والمعروف أيضًا باسم التعتيم الخوارزمي يجعل من الصعب تحديد أي تحيزات أو عدم مساواة مشفرة في النظام.

ولمعالجة هذه المشكلة نشجع المؤسسات على التفكير في استخدام حلول تقنية مثل الذكاء الاصطناعي القابل للتفسير (XAI) والذي يمكنه تقديم تفسيرات لتوقعات محددة للمدخلات/ المخرجات. وعند دمج الخوارزميات في العمليات الإدارية، تحتاج المؤسسات أيضًا إلى النظر في كيفية توافق صنع القرار الخوارزمي وتحديات القدرة على التفسير مع الأطر التنظيمية مثل اللائحة العامة لحماية البيانات في الاتحاد الأوروبي.

في حين أن القوانين والسياسات التي تحكم الإدارة الخوارزمية منها الحماية ضد التحيز الخوارزمي لا تزال في مهدها، فقد تحتاج المنظمات إلى تبني ممارسات التنظيم الذاتي. ويمكن أن يكون التدقيق الخوارزمي نهجًا مفيدًا لفحص نتائج اتخاذ القرار الخوارزمي والعواقب التمييزية المحتملة بشكل منهجي. ويمكن أن تحدد عمليات التدقيق الخوارزمي التي تجريها جهات خارجية التحيزات في الخوارزميات، فضلًا عن تقييم التأثيرات السلبية الأخرى، مثل: الضرر البيئي، ومخاطر السلامة، وانتهاكات الخصوصية، والافتقار إلى الشفافية، والقدرة على التفسير والمساءلة. وقد تصبح عمليات التدقيق الخوارزمي مطلوبة قانونيًّا في سياقات مختلفة، مثل قانون نيويورك الأخير الذي ينظم ممارسات التوظيف القائمة على الذكاء الاصطناعي.

نحن نشجع الشركات على تحمل المسؤولية والتفكير في أخلاقيات ممارساتها الحالية، وهناك حاجة ماسة إلى نهج أخلاقي يؤكد على الوصول إلى المعلومات حول الخوارزميات المستخدمة لإدارة العمليات، وكيفية استخدامها، وكيف تؤثر على مجموعات مختلفة، بما في ذلك العمال والعملاء، وتساعد الاستفسارات الداخلية المستمرة المؤسسات على تحديد كيفية تنظيم الخوارزميات للعمليات المتعلقة بالعمل، وهذا يتطلب مرة أخرى جهود الشفافية الرامية إلى الكشف عن معلومات كافية حول الإدارة الخوارزمية لأصحاب المصلحة المختلفين؛ لفهم قوة الخوارزمية وكذلك محاسبة المديرين البشريين والخوارزميين.

وأخيرًا، نحث المنظمات على التفكير فيما هو أبعد من قدرات الخوارزميات (ما يمكنها تحقيقه بشكل واقعي) واتخاذ قرارات دقيقة بشأن الواجبات الإدارية التي ينبغي تفويضها إلى الخوارزميات، أو التي لا ينبغي تفويضها إليها. وتثير هذه الأسئلة قضايا أخلاقية معقدة تتعلق بظروف العمل والأخلاق والمساءلة التنظيمية. ومن الممكن أن يساعد إجراء تحليل لأصحاب المصلحة المنظمات على النظر بشفافية في العواقب المحتملة لأنظمة الإدارة الخوارزمية على أصحاب المصلحة ومعالجة قضايا مثل التحيز في اتخاذ القرار والمساءلة وحقوق وكرامة أصحاب المصلحة.

تحمل الإدارة الخوارزمية العديد من الوعود للمنظمات، ويمكنها تحويل أدوار وواجبات المديرين، ويتطلب استخدامها بنجاح مجموعة جديدة من الكفاءات والمواقف الخوارزمية للتعامل مع المخاطر، ويحتاج المديرون في المستقبل إلى مهارات للتعامل بفاعلية مع الخوارزميات وفهمها ونشرها وحتى التعاون معها في سير العمل، وتتطلب الإدارة في مستقبل المنظمات تنظيم شبكة معقدة من الأشخاص والبيانات والأنظمة الآلية، وينبغي للمنظمات أن تبحث في كيفية الاستفادة من الإدارة الخوارزمية وكيف يمكنها رعاية الكفاءات الخوارزمية لبناء تكافل بين القدرات البشرية والآلية.

—————————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.