هل يمكن للذكاء الاصطناعي أن يشوه إحساسنا بالمسؤولية؟ | من «MIT SMR»

ترجمة: أمل الرشيدي

تظهر الأبحاث مدى تأثير استخدام الأنظمة المدعمة بالذكاء الاصطناعي في إدراكنا لقدرتنا على التحكم، والاستقلالية، والمسؤولية وتحمل المسؤولية الذاتية.

في ظل التوسع المتسارع في استخدام الذكاء الاصطناعي في الأنظمة الآلية وعمليات صنع القرار، أصبح السؤال عن مدى تأثيره في إحساس البشر وقدرتهم على التحكم، والاستقلالية، والمسؤولية سببًا في ازدياد أهميته، ولم يعد مجرد تساؤل نظري. لذلك ليس من المفاجئ أن أغلب الناس تعتمد في اتخاذ قراراتها على الذكاء الاصطناعي، مع التشجيع المستمر على (الثقة في استخدام الذكاء الاصطناعي) وتحفيز المستخدمين في بيئات الشركات على الاعتماد عليه. مع ذلك، توجد أدلة مستمرة تثبت أن الذكاء الاصطناعي يؤدي إلى إضعاف الحس بالمسؤولية عند المستخدمين، ما ينتج عنه عدم تحمل عواقب قراراتهم.

تم تجاهل السؤال المتعلق بكيفية تأثير الذكاء الاصطناعي في الإحساس بالمسؤولية بشكل مستمر في المناقشات الحالية حول مسؤولية الذكاء الاصطناعي؛ إذْ تهدف هذه الممارسات إلى إدارة المخاطر القانونية والسمعة، وإذا اعتمدنا على التصور المفيد الذي قدمه الفيلسوف الألماني هانس يونس فسيكون مفهومًا ذا مسؤولية محدودة؛ فقد قسَّم المسؤولية على ثلاثة أنواع، لكن ممارسات الذكاء الاصطناعي تبدو مقتصرة على نوعين فقط. الأول هو المسؤولية القانونية، حيث يعد الفرد أو الكيان المؤسسي مسؤولًا عن إصلاح الأضرار أو تعويض الخسائر، عادة عبر القانون المدني. أما الثاني فهو المسؤولية الأخلاقية، حيث يُحاسب الأفراد من خلال العقوبة، كما في القانون الجنائي.

أكثر ما يثير اهتمامنا هو النوع الثالث الذي عرفه هانس يونس باسم (الإحساس بالمسؤولية). يعرف الإحساس بالمسؤولية بكيفية تقدير تصرفات الشخص عندما يُظهر سلوكًا يعكس “الوعي بالمسؤولية تجاه قراراته”. يتطلب هذا النوع تفكيرًا ناقدًا والتأمل في التصرفات الناتجة عن اتخاذ القرار، وعواقبها المحتملة، ومدى تأثيرها في الآخرين. يمكن للذكاء الاصطناعي والأنظمة الآلية أن تؤثر في إحساسنا بالمسؤولية أو تغيره.

للخوض بعمق التفاصيل، أجرينا كثيرًا من الدراسات على كيفية تأثير الذكاء الاصطناعي في إدراك المستخدم لمسؤولياته، وقدرته على اتخاذ القرار. أُجريت دراستان حول العوامل التي تؤثر في قرار السائق في استعادة السيطرة على مركبة ذاتية القيادة عندما يكون نظام القيادة الذاتية مفعّلًا. أظهرت الدراسة الأولى أنه كلما زادت ثقة السائقين في النظام الذاتي، قل احتمال حفاظهم على الوعي بالموقف، ما يضعف قدرتهم على استعادة السيطرة عند حدوث مشكلة أو حادث. بالرغم من أن معظم الردود كانت قبولهم لتحمل المسؤولية عند استخدام نظام التشغيل الذاتي، فإن قدرتهم على التحكم، والاستقلالية، والمسؤولية لم تؤثر في نيتهم باستعادة السيطرة على المركبة عند حدوث مشكلة أو حادث. بناءً على هذه النتائج، قد نتوقع أن يعتمد السائقون اعتمادًا كبيرًا على وجود النظام الذاتي للقيادة، ويدفعهم ذلك بعدم تحمل المسؤولية.

أما بالنسبة للدراسة الثانية، التي أجريت بالتعاون مع ” شركة التأمين على السيارات في كيبيك “، وهي وكالة حكومية تدير برنامج التأمين العام للسيارات في المقاطعة، تمكنا من إجراء تحليلات أكثر دقة. من خلال استطلاع آراء 1897 سائقًا (معظمهم من سائقي سيارات تسلا ومرسيدس المزودة بمستويات مختلفة من قدرات القيادة الذاتية) لدراسة التأثير المنفصل لكل نوع من أنواع المسؤولية في نية السائق لاستعادة السيطرة على السيارة، وجدنا أن الشعور بالمسؤولية فقط له تأثير كبير. كما في الدراسة الأولى، كلما زادت ثقة المستجيبين في النظام الآلي، انخفضت نيتهم في استعادة السيطرة خلف عجلة القيادة. ومن الجدير بالذكر بشكل خاص أن الشعور الفردي الاستباقي بالمسؤولية فقط هو ما حفز المستجيبين على التصرف، ما يشير إلى أن التهديد بالمسؤولية القانونية لن يكون كافيًا لمنع الضرر الناتج عن الذكاء الاصطناعي.

أظهرت دراسة استقصائية أجريت على 32 متخذًا للقرارات في مجال العدالة الجنائية بالولايات المتحدة أن نسبة كبيرة منهم يعتمدون اعتمادًا مفرطًا على خوارزميات تقييم المخاطر في اتخاذ قراراتهم. وُجِد أن هؤلاء المشاركين يستخدمون هذه الأدوات لتحديد طول وشدّة العقوبة بشكل آلي، متجاهلين أي عوامل أخرى، وواثقين تمامًا بدقة نتائجها. هذا الاعتماد المفرط يثير تساؤلات جدية حول مدى إنصاف وشفافية هذه الأنظمة الآلية في إصدار الأحكام القضائية، كما يشير إلى تراجع دور الفرد في اتخاذ القرارات لصالح الخوارزميات.

 بشكل عام، تؤكد نتائج الدراسات الأولية ما لوحظ في بعض السياقات المتشابهة تحديدًا عند غياب القدرة على التحكم، والاستقلالية، والمسؤولية لدى الناس في حضور الأنظمة الذكية. اللحظة التي يفقد فيها الناس قدرتهم على اتخاذ القرار أو يُتَحكَّم التحكم في قراراتهم، يبدأ انعدام حس المسؤولية عندهم.

في ضوء ما ذُكِر، علينا أن نتساءل عما إذا كان “إشراك الإنسان في عملية اتخاذ القرار”، الذي يُنظر إليه بشكل متزايد كأفضل ممارسة للاستخدام المسؤول للذكاء الاصطناعي، يشكل ضمانًا كافيًا. لكن السؤال الأساسي يصبح: كيف يمكننا تحفيز البشر على قبول مسؤوليتهم الاستباقية وتفعيلها؟

غياب اتخاذ القرارات لدى الناس في حضور الأنظمة الذكية

كما لوحظ في بداية هذه المقالة، يزيد المديرون الطين بلة من خلال تعزيز ثقة الناس بالذكاء الاصطناعي بهدف زيادة الاعتماد عليه. غالبًا ما تُصاغ الرسالة بطريقة تقلل من قيمة الإدراك البشري واتخاذ القرارات، عادَّة إياهما محدودين ومتحيزين مقارنة بتوصيات الذكاء الاصطناعي، رغم أن جميع أنظمة الذكاء الاصطناعي تعكس في الواقع التحيزات البشرية في اختيار البيانات وتحديدها وغيرها من العمليات. يفترض هذا الموقف أن كل قرار من قرارات الذكاء الاصطناعي صحيح ومتفوق على القرار البشري، ويشجع البشر على التراجع لصالح الذكاء الاصطناعي.

للحد من هذا التوجه، عندما نتواصل مع الموظفين ننصح بنقل التركيز من التشديد على الثقة بالذكاء الاصطناعي إلى فهم الذكاء الاصطناعي، وذلك لتعزيز ثقة مبنية على وعي وشروط في مخرجات أنظمة وعمليات الذكاء الاصطناعي. يحتاج المديرون إلى تعليم المستخدمين فهم العمليات الآلية، ونقاط اتخاذ القرار، وإمكانية حدوث أخطاء أو أضرار بسبب الذكاء الاصطناعي. من المهم أيضًا أن يكون المستخدمون واعين وملمين بالفروق الدقيقة في الحالات الاستثنائية التي قد تتعثر فيها أنظمة الذكاء الاصطناعي، حيث يكون احتمال صدور قرار آلي خاطئ بنسبة عالية.

يحتاج المديرون أيضًا إلى تدريب الموظفين على امتلاك الحس بالمسؤولية ليتمكنوا من التصرف بمسؤولية عند مواجهة أي موقف. تشتهر شركة تويوتا بمبدئها الثابت بحيث إذا واجه أحد الموظفين مشكلة في خط الإنتاج فله صلاحية إيقاف سير العمل. سيشجع هذا الموظفين على طرح أسئلة منهجية عن أنظمة وعمليات الذكاء الاصطناعي، ومن ثم الحفاظ على شعورهم بالمسؤولية والقدرة على اتخاذ القرار لتجنب العواقب الضارة على مؤسساتهم.

في نهاية المطاف، فإن اعتماد ثقافة المسؤولية عوضًا عن ثقافة التنصل من المسؤولية؛ يضمن بشكل دائم منظمة أكثر صحة وأكثر رفعةً في الأخلاق، وسيزداد تعزيز هذه الثقافة أهمية في عصر الذكاء الاصطناعي من خلال خلق مساحات واضحة تتيح للذكاء البشري الفرصة للإسهام والإبداع.

وإلا فقد تتحقق تنبؤات رودريك سيدنبرغ بشأن تقنيات كانت ذات تأثير أقل بكثير مقارنة بالذكاء الاصطناعي الحالي:

يعتمد تشغيل النظام اعتمادًا متزايدًا على الأتمتة، ويعمل كوسيط للذكاء دون أي نية سيئة، حيث تتجمع الإسهامات الفردية الصغيرة نسبيًّا من المهندسين والمخترعين والعلماء لتشكل في النهاية خزانًا من المعرفة والإجراءات الراسخة التي يعجز أي فرد عن الإلمام بها بشكل كامل، ونتيجة لذلك يبدو أن الإنسان تجاوز قدراته في بعض الجوانب. لكن لا يستطيع النظام قراءة كل فرد على حدة، وبسبب ذلك يصبح مضطرًّا إلى أن يكون مستفيدًا غير واعٍ، ومتلقيًا سلبيًّا لبيئة اجتماعية أُنشِئت. ومن هنا يمكننا القول بحق إن “حضارة الأزرار” نظام أوجده الذكاء الاصطناعي بهدف الاختفاء التدريجي للذكاء عند البشر.

—————————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.