ماذا يفقد الإنسان عندما يترك اتخاذ القرارات للذكاء الاصطناعي؟ | من «MIT SMR»

ترجمة: شهد الراجحي

لماذا علينا أن نبدأ بالقلق بشأن الذكاء الاصطناعي؟

لا يزال معظم الناس يخشون من فكرة أن الذكاء الاصطناعي قد يكتسب قوى خارقة ويهدد البشر، كما صوره فيلم “أوديسا الفضاء” عام ٢٠٠١م، حيث كان الكمبيوتر “هال” يمثل تهديدًا للبشرية، ولكن، بدلًا من القلق بشأن كوابيس الخيال العلمي المستقبلية، هناك موضوع أكثر إلحاحًا وأقل وضوحًا، وهو أن الذكاء الاصطناعي لا يشكل تهديدًا بسبب “القوى الخارقة” فحسب، بل قد يتسبب في تغيير جذري في الطريقة التي نتخذ بها القرارات؛ أي أن القرارات التي كنا نتخذها بناءً على ما نعتقد أنه “صواب” أخلاقيًّا أو إنسانيًّا، قد تتحول إلى مجرد مسائل حسابية بحتة.

يتزايد دور الذكاء الاصطناعي في حياتنا اليومية، وتتخذ الحواسيب العديد من القرارات نيابة عنا، والنتائج المبدئية لهذه الأنظمة تبدو فعّالة. في الحياة المهنية، تنفذ أنظمة الذكاء الاصطناعي المعاملات المالية، وتساعد أقسام الموارد البشرية في تقييم المتقدمين للوظائف. وفي حياتنا اليومية، نعتمد على التوصيات الشخصية أثناء التسوق عبر الإنترنت، ونراقب صحتنا باستخدام الأجهزة التقنية، ونعيش في منازل ذكية تتحكم في الإضاءة، والمناخ، وأنظمة الترفيه، والأجهزة.

فالتركيز في كيفية استخدامنا لأنظمة الذكاء الاصطناعي اليوم، يشير للأسف إلى أن زيادة قوة الذكاء الاصطناعي لا تعني بالضرورة أنها مفيدة للبشرية. فالعديد من المخاوف المتعلقة بالذكاء الاصطناعي حتى الآن تأتي من الخيال العلمي، مثلما صورته الأفلام، لكن الطريقة التي نعمل بها الآن أصبحت أخطر. وهذا ليس بسبب أن (جوجل) و(أليكسا) قد “يتآمران ضدنا” كما في الأفلام، ولكن لأننا نعتمد على الآلات لاتخاذ القرارات نيابة عنا، واستبدلنا الحكم البشري بحسابات معتمدة على البيانات، مما يهدد قيمنا الأخلاقية ويغيرها تغييرًا لا يمكن التراجع عنه، كما طرحنا في مقالنا الأخير في مجلة “إدارة التعليم والتعلم” (التي استندنا إليها في هذا المقال).

عندما نتخذ قراراتنا بأنفسنا، فإننا نأخذ بالحسبان السياق الاجتماعي، والتاريخي، والنتائج المحتملة المختلفة. فالحكم البشري ليس مجرد عملية منطقية أو حسابية؛ إنه يتطلب تفاعلًا مع القيم الإنسانية، والتفكير العميق في الأبعاد الأخلاقية؛ لأنه يرتبط بالقيم والمعايير التي نؤمن بها. فأي قرار نتخذه لا يكون مجرد قرار عقلاني، بل يتضمن غالبًا الخيال، والتأمل، والفحص، والتقييم، والتعاطف.

تعالج الأنظمة الخوارزمية البيانات باستخدام مجموعات من العمليات الحسابية، والحوسبة، والعقلانية، التي تعتمد على القواعد، وهو ما يُسمى “بالتحليل”. والمشكلة هنا هي أن الأنظمة هذه، رغم قدرتها على معالجة كميات ضخمة من البيانات، لا تخرج بنتائج تتوافق بالضرورة مع القيم الأخلاقية والمبادئ الإنسانية مثل العدالة والمساواة، بل تقدم إجابات تعتمد فقط على الأهداف الضيقة التي صُممت من أجلها، دون اعتبار للعواقب السلبية التي قد تنتج عن هذه القرارات. على سبيل المثال، في الولايات المتحدة، استُخدِمت تحليلات تنبؤية مدعومة بالذكاء الاصطناعي في المحاكم الأمريكية خلال عمليات إصدار الأحكام، لكنها كانت مليئة بالأخطاء ومنحازة عرقيًّا، مما أدى إلى التمييز ضد بعض الأقليات.

في حالة أخرى، في هولندا، اعتمدت السلطات الضريبية على نظام ذكاء اصطناعي معيب لاكتشاف استخدامات احتيالية محتملة في برنامج إعانات ضريبية موجهة للأسرة، وكان النظام مليئًا بالأخطاء، وتم التحقيق مع أكثر من أربعمئة ألف عائلة بغير وجه حق، ما تسبب في أضرار مالية شديدة ودمار لحياة العديد من الأشخاص، وأدى هذا الفشل إلى فضيحة كبرى دفعت الحكومة الهولندية إلى الاستقالة في يناير ٢٠٢١م.

انتبه للفارق

من الطبيعي أن تحدث نتائج غير مرغوبة أو غير متوقعة عندما نعتمد على الأنظمة الخوارزمية، فالخوارزميات هي ببساطة مجموعة من التعليمات الدقيقة التي تحدد تسلسل الخطوات التي يجب اتباعها لحل مشكلة معينة. وتسهل دقة وسرعة حل المشكلة قبولنا إجابة الخوارزمية بوصفها موثوقة، خصوصًا مع تزايد تفاعلنا مع هذه الأنظمة التي صُممت لتتعلم ومن ثم تتصرف بشكل مستقل.

لكن، كما ذكرنا في الأمثلة السابقة، ما قد يكون خطيرًا هو الفجوة بين التوقعات المبالغ فيها لما يمكن أن تحققه الخوارزميات، وبين القدرات الفعلية لهذه الخوارزميات. على الرغم من أن الحواسيب يمكنها التعلم باستقلالية، واستخلاص الاستنتاجات مما حولها، ثم اتخاذ القرارات بناءً على ما تعلمته، إلا أن لها حدًّا لا يمكنها تجاوزه. والتفسير الشائع لهذه الحدود على أنها تتحيز لنتائج معينة هو تفسير مغلوط، لأن وصفها بالتحيز يعني أن هذه الحدود قابلة للتجاوز في المستقبل، وأن الذكاء الاصطناعي سيتمكن في النهاية من القضاء على التحيزات وعرض الواقع، لكن هذا ليس صحيحًا، فإن المشكلة أكثر تعقيدًا من ذلك.

تعتمد قرارات أنظمة الذكاء الاصطناعي على ما أسماه الفيلسوف فيليم فلوسر “الصور التقنية”؛ هذه الصور هي عبارة عن أنماط تجريدية من البكسلات أو البايتات؛ أي البيانات الرقمية التي تمثل العالم من منظور الكمبيوتر، والصورة التقنية هي التحويل المحسوب للبيانات الرقمية حول شيء أو فكرة معيّنة، وكما الحال مع أي تمثيل، فالصور التقنية التي يعتمد عليها الذكاء الاصطناعي في اتخاذ قراراته هي تمثيلات جزئية ومجردة للواقع، مثل الخريطة التي تبسط العالم ثلاثي الأبعاد إلى سطح مسطح، فإن الخوارزميات تأخذ بيانات معقدة وتحولها إلى تمثيلات رقمية بسيطة؛ هذه التمثيلات ليست كاملة أو دقيقة؛ لذا يجب أن نتعامل معها بوعي.

يعرف كثيرٌ منا استعمال الخريطة، لكن المشكلة مع أنظمة الذكاء الاصطناعي هي أننا لا يمكننا تمامًا فهم كيف تقوم الآلة بإنشاء هذه الصور التقنية، ما الذي تركز عليه؟ وما الذي تُهمله؟ وكيف تربط بين أجزاء المعلومات في الانتقالات نحو الصورة التقنية؟ كما أشار الإحصائي جورج بوكس إلى أن كل النماذج مغلوطة إلى حد ما، لكنها قد تكون مفيدة في بعض الأحيان. وأضاف أيضًا، أنه إذا لم نعرف كيف يكون النموذج خاطئًا، فإن استخدامه لا يصبح عديم الفائدة فحسب، بل قد يكون خطيرًا، وهذا بسبب أن العملية الحسابية التي تعتمد على الصور التقنية لا يمكنها كشف الحقيقة كاملة؛ لأنها ليست وظيفتها.

ومن خلال عملية الحساب، تتخذ الآلات التي تعتمد على الصور التقنية قرارات تبدو دقيقة، ولها مظهر من الصحة التي لا يمكن دحضها. فالخطر يكمن في أننا قد نُشكل أنفسنا ومجتمعنا كما شكلتنا التقنية نفسها، فإذا اعتمدنا على هذه الخوارزميات، فنحن نخاطر بخلط الخريطة مع الواقع، مثل السائقين في فرنسا الذين اعتمدوا على جهاز تحديد المواقع (GPS) وأضاعوا طريقهم، ومثل اعتماد الناس على الأجهزة الإلكترونية القابلة للارتداء التي تراقب وظائف الجسم كأدوات لتقييم الصحة، بما في ذلك معدل النبض، والخطوات، ودرجة الحرارة، وعدد ساعات النوم. فهم يعتمدون على الأجهزة بدلًا من الاعتماد على التقييم الشخصي أو الإحساس النفسي بالراحة. فقد يخبرك الجهاز أنه يجب عليك القلق لأنك لا تمشي كثيرًا مثل الآخرين، لكن قد تكون لا تحتاج أن تمشي كثيرًا إذا كانت لديك رئتان ضعيفتان، أو كان الجو عاصفًا مثلًا.

كيف يمكننا الاستفادة من الفوائد الواضحة لهذه الآلات الذكية دون أن نخطئ في اعتبار تبسيط الآلة هو الحقيقة الكاملة، ودون أن نسمح للذكاء الاصطناعي باتخاذ القرارات المعقدة التي ينبغي أن يتخذها البشر؟

المشكلة ليست في الآلات بحد ذاتها، بل في طريقة تعاملنا معها. فثقتنا في الذكاء الاصطناعي تدفعنا إلى الخلط بين القرار القائم على الحساب، الذي يعتمد على جمع أنواع مختلفة من البيانات والصور التقنية، وبين الحكم البشري، والثقة المفرطة في الآلة، وفي قدرتنا على برمجة هذه الآلة والتحكم فيها، يمكن أن تؤدي إلى مواقف خطيرة أو غير قابلة للإصلاح. ومن خلال الذكاء الاصطناعي، نريد أن نحصل على الإجابات اليقينية التي كان الناس في الماضي يبحثون عنها عبثًا في الخزعبلات مثل التنبؤ بحركة النجوم.

يتفق بعض المراقبين من الأكاديميين، والمديرين، والسياسيين، على أن اتباع المبادئ الأخلاقية في تطوير الذكاء الاصطناعي يعد نهجًا فعالًا لضمان أن تكون الأنظمة قائمة على قيم أخلاقية، ونتفق معهم بنقطة أن الذكاء الاصطناعي هو منتج ثقافي، يعكس آراء الأشخاص الذين طوروه، لكن الاهتمام بالتفاصيل التقنية وحده ليس كافيًا لضمان أن نتائج الذكاء الاصطناعي ستكون دائمًا إيجابية أو أخلاقية. ويزداد عدد النقاد حول قدرتنا على غرس الأخلاقيات في الذكاء الاصطناعي، ويتساءلون عن إمكانيتنا في تعليم الذكاء الاصطناعي الأخلاق. وبالعودة إلى أصل الذكاء الاصطناعي، يجب أن ندرك أن أسس “الحكم البشري” و”الحساب” مختلفة، ويستحيل التوفيق بينهما، وهذا يؤكد أن أنظمة الذكاء الاصطناعي لن تكون قادرة أبدًا على اتخاذ أحكام أخلاقية مثل البشر؛ لذا فإن أي محاولة لتضمين الأخلاقيات في الذكاء الاصطناعي، تعني أن هذه الأخلاقيات ستُقيد لتناسب خصائص الحساب في الذكاء الاصطناعي.

هناك من يؤمن بأن الذكاء الاصطناعي الأخلاقي يمكن أن يُعد مجرد أداة محايدة تعزز قدرات الإنسان، كما تفعل الأدوات الأخرى مثل النظارات أو المفكات، لكن الأمر ليس بسيطًا كما هو الحال مع الأجهزة القابلة للارتداء، فمن المهم أن نعد المستخدم جزءًا من الأداة: نحن بحاجة للتفكير بتعمق حول مدى تأثير الخوارزميات في البشر. فإذا كان استبدال الحساب المدفوع بالبيانات بالحكم البشري شيئًا علينا الحذر منه، فإن التركيز على تطوير الذكاء الاصطناعي “المسؤول” أو “الأخلاقي” لن يكون كافيًا لمعالجة القضايا الأساسية المتعلقة بتأثير الخوارزميات على الإنسان.

نداء للعمل (وللتوقف عن العمل)

هناك طريقتان للاستمرار:

أولًا، علينا أن نتوقف عن محاولة أتمتة كل شيء إذ يمكن أتمتته لمجرد أنه ممكن تقنيًّا. هذه الظاهرة هي ما أطلق عليها الكاتب يفغيني موروزوف “حلول التقنية”، وتعني إيجاد حلول لمشكلات ليست موجودة إطلاقًا. وتؤدي الحلول التقنية إلى إفقادنا قدرتنا على التفكير بعمق حول ما إذا كان الحل التقني مناسبًا أم لا، وعلينا أن نسأل أنفسنا متى، وكيف، ولماذا نستعمل الأداة التقنية.

ثانيًا، نحن بحاجة للتعلم على الذكاء الاصطناعي وكيف نعمل معه، نتعلم كيفية فهم واستخدام صور الذكاء الاصطناعي التقنية خصوصًا، مثل تعلمنا العمل على النماذج والخرائط، ليس فقط من منظور عام وتجريدي ومثالي، بل لكل مشروع محدد في سياقه.

في الممارسة العملية، على المديرين أن يقيّموا كل حالة على حدة ليقرروا ما إذا كان يجب استخدام الذكاء الاصطناعي، ويحددوا كيفية استخدامه، والغاية من استخدامه، وعليهم أيضًا تجنب التطبيق العام للتقنية واستخدام الذكاء الاصطناعي، دون النظر في القيود. فمثلًا، بينما تزداد دقة تنبؤ الخوارزميات عندما تزود بالبيانات، ستظل تفترض نموذجًا ثابتًا عن المجتمع، وهو ما لا يناسب الواقع المتغير.

فعندما يقرر المديرون أن الذكاء الاصطناعي أداة مفيدة لمشروع معين، فمن الضروري أن ينتبهوا ويشككوا في نتائج هذه الأداة. ففي غياب اليقظة والوعي، قد نغفل عن اللحظة التي ينتقل فيها القرار من الحكم الإنساني إلى التقييم الآلي، وهذا يعني أننا قد نسلم سلطتنا في اتخاذ القرارات الأخلاقية إلى تقييم الآلة.

في ظل التطور السريع للذكاء الاصطناعي، علينا جميعًا أن نتعلم من جديد كيفية اتخاذ القرارات استنادًا إلى حكمنا بدلًا من الاعتماد على تقييمات خوارزمية قد تبدو وكأنها موثوقة وهي ليست كذلك.

—————————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.