هل نبالغ في الثقة بالذكاء الاصطناعي؟ | من «MIT SMR»

ترجمة: لولوة العيدان

في ظلِّ الأخطاء الجسيمة التي لا يزال الذكاء الاصطناعي يرتكبها، يحتاج الأفراد إلى إشارات عن مواضع إعادة النظر في نتائج هذه الأدوات.

لقد فكرتُ في التقنية والثقة على مدار جزء كبير من مسيرتي المهنية، وإليكم مثالًا؛ ركَّز بحثي عام ٢٠١١م على تقاطُع الثقة بين الإنسان والروبوتات، وتحديدًا في المواقف الحرجة التي تتطلب الاستجابة الفورية. كان فريق البحث الذي كنتُ جزءًا منه يركِّز على عمليات الإخلاء في حالات الطوارئ، ومثَّل الفريق سيناريو حيث يكون الأشخاص موجودين في غرفةٍ ما عند تشغيل إنذار الحريق. وبينما كان الناس يتدافعون في الممرات المليئة بالدخان، كنا قد جهَّزنا روبوتًا ليرشدهم إلى مَخرج الطوارئ. لكن المفارقة أن هذا الروبوت نفسه كان قد قاد بعض المشاركين إلى غرفة خاطئة في وقت سابق.

لقد تعمَّدنا في هذا الاختبار توجيه الروبوت بعيدًا عن المخرج.

كان بإمكان الناس رؤية مَخارج الطوارئ؛ كانوا يشاهدون الدخان يتصاعد. ومع ذلك، اكتشفنا مرارًا وتكرارًا أن الناس تتبع الروبوت حتى عندما أظهر سلوكًا خاطئًا بإرشادهم بعيدًا عن المَخرج.

وجدنا أن الناس يميلون إلى الإفراط في الثقة بالتقنية، معتقدين أنها فعَّالة في معظم الحالات.

 مع ذلك، قد يحدث ردُّ فعل مبالغ فيه عندما تفشل التقنية؛ إذ ينقلب فيه الرأي نحو عدم الثقة المفرطة، ولكن هذا الأمر نادر الحدوث، فلا نجد أن الناس يقلِّلون من الثقة بالتقنية. فعلى سبيل المثال، بعد وقوع حادث تحطُّم طائرة، لا يطالب أحد بحظر الطيران تمامًا. إن التحدِّي الأكبر في علاقتنا بالتقنية يكمن في نزوع الناس إلى الإفراط في الثقة بها؛ ما يجعلنا عرضة لأخطائها.

أرى عدة احتياجات ملحَّة في هذه المرحلة من تطور التقنية. أولًا (وهذا ربما يتطلب تدخلًا تنظيميًّا): تحتاج شركات التقنية، وخاصةً تلك العاملة في مجال الذكاء الاصطناعي والذكاء الاصطناعي التوليدي، إلى إيجاد سُبل لدمج الذكاء العاطفي البشري مع التقنية، وذلك لتزويد المستخدمين بإشارات تحذيرية تدفعهم إلى إعادة النظر في نتائج هذه الأدوات. سيُسهم ذلك في بناء ثقة العملاء بالتقنية، وفي الوقت نفسه، يجب على مستخدمي هذه التقنيات أن يظلوا متيقِّظين باستمرار.

كشف المخاطر

سافرتُ في يناير الماضي إلى مدينة دافوس في سويسرا لحضور الاجتماع السنوي الرابع والخمسين للمنتدى الاقتصادي العالمي، وشاركتُ في جلستَي نقاش عن وظائف المستقبل؛ الأولى بعنوان “حول حلفاء الروبوتات” والثانية بعنوان “كيف نثق بالتقنية”. في أثناء الجلسة الثانية، التي عُقِدت على شكل جلسة حوار عام وأسئلة وأجوبة، سألتُ الجمهور عن عدد من استخدم “تشات جي بي تي” أو أيّ تقنية مماثلة للذكاء الاصطناعي التوليدي؛ وارتفعت جميع الأيدي.سألتُ عن عدد الأشخاص الذين استخدموه بالفعل لإنجاز عمل أو مهمة ما، وكانت النسبة تقارب ١٠٠٪.

بحلول الوقت الحالي، جرَّب الكثير من الأشخاص، وخاصةً في بيئة العمل، استخدام “تشات جي بي تي” منذ إطلاقه أواخر عام ٢٠٢٢م لتجربة إمكانياته في كتابة المحتوى التسويقي، والبحث عن مواضيع معيَّنة، أو حتى كتابة بعض رموز البرمجة.

يستخدم الناس هذه الأداة على الرغم من أخطائها الجسيمة، فقد تعرَّض محامٍ لانتقادات شديدة من قاضٍ بعد أن قدَّم مذكرة قانونية إلى المحكمة تحتوي على استشهادات قانونية ملفَّقة بالكامل بوساطة “تشات جي بي تي”، كما ضُبِط طلاب قدَّموا مقالات مولَّدة من “تشات جي بي تي”، لأن هذه المقالات “كُتبت كتابةً صحيحةً خاطئة”. نحن نعلم أن أدوات الذكاء الاصطناعي التوليدي ليست مثالية في تطبيقاتها الحالية، وبدأ المزيد من الناس إدراك مخاطرها.

لم نتمكن بعدُ من إيجاد حلول مجتمعية فعَّالة لهذه التحديات، فلدى الذكاء الاصطناعي التوليدي فائدة كبيرة وقيمة حقيقية؛ إذ إنه يُحسِّن حياة العمل عندما يكون صحيحًا، ولكن عندما يخطئ، فإن الأمور قد تسوء بسرعة إذا لم نستخدم ذكاءنا البشري لإصلاحه.

بناء الثقة باستخدام التنظيم والشكّ

تستند فلسفتي حول هذا الموضوع إلى السؤال التالي: كيف يمكننا دمج الذكاء العاطفي البشري بأفضل طريقة في أدوات الذكاء الاصطناعي؟ ويثيرني قلقًا بعض الشيء اندفاع الكثير من الجهات إلى مجال الذكاء الاصطناعي، فهو يشبه الأيام الأولى لاكتشاف الكهرباء؛ إذ كان الكثير من المخترعين يجرِّبون المصابيح المتوهِّجة، وقد انتهى بنا المطاف إلى حدوث انفجارات في مصابيح الكهرباء في منازل الناس. كانت لديهم إضاءة داخلية، لكن الخطر كان كامنًا، واستغرق الأمر زمنًا من الوقت قبل ظهور لوائح ومعايير مختبرات السلامة الأمريكية والمعايير الأوروبية. نصَّت هذه القواعد على أنه يجب على أيِّ مخترع في هذا المجال الالتزام ببعض الشروط قبل طرح اختراعاته للاستخدام العام، ويتعيَّن عليه الحصول على بعض الشهادات والمصادقات.

لا يُطبَّق هذا النهج في مجال الذكاء الاصطناعي، ويمكن لأيِّ شخص تقريبًا المشاركة وإنشاء منتج. لدينا مخترعون بلا خبرة يبيعون منتجاتهم للشركات والمستهلكين الذين يفرطون في الثقة. يرى الناس أن المنتج مدعوم من شركات رأس المال الاستثماري ويقولون: “نعم، دعونا نستخدمه”؛ هذا أمرٌ مقلق.

بصفتي باحثةً في مجال التقنية وعميدة كلية، أشارك أيضًا في وضع السياسات المتعلقة بالذكاء الاصطناعي واللوائح كوني عضوًا في اللجنة الاستشارية الوطنية للذكاء الاصطناعي. أعتقد أن السياسات ستكون مهمة لبناء الثقة (كتبتُ عن إمكانية وجود لوائح تنظيمية للذكاء الاصطناعي لمجلة “إم آي تي سلون مانجمنت ريفيو” في عام ٢٠١٩م). تتيح السياسات واللوائح فرصًا متكافئة بوضع توقعات وعواقب في حال خرق الشركات أو الحكومات الأخرى لهذه اللوائح.

ستتجاهل بعض الشركات الآن السياسات وتدفع الغرامات المالية بكلِّ بساطة، ولكن لا تزال ثمة تداعيات ما، يوجد نشاط مكثف حول اللوائح التنظيمية المتعلقة بالذكاء الاصطناعي، فثمة مسوَّدة قانون الاتحاد الأوروبي للذكاء الاصطناعي، ومبادئ توجيهية أولية للذكاء الاصطناعي أصدرتها الحكومة اليابانية، ومقترحات مختلفة قليلًا في الولايات المتحدة الأمريكية، بما في ذلك الأمر التنفيذي للرئيس بايدن بشأن الذكاء الاصطناعي، كما توجد أنشطة على مستوى الولايات أيضًا؛ ففي الخريف الماضي، دعا حاكم ولاية كاليفورنيا إلى إجراء دراسة حول تطوير الذكاء الاصطناعي داخل الولاية واستخدامه ومخاطره، بهدف وضع “عملية مدروسة ومسؤولة لتقييم ونشر الذكاء الاصطناعي داخل الحكومة”.

في الوقت نفسه، يتعيَّن على المستخدمين البشريين للذكاء الاصطناعي أن يحذروا من فرصة تقديمه لنتائج خاطئة جدًّا في أيِّ وقت. وفي جلسة حوار في المنتدى الاقتصادي العالمي في مدينة دافوس حول الثقة والتقنية، شاركت المنصة مع مصطفى سليمان، الذي كان الرئيس التنفيذي لشركة “إنفليكشن إيه آي”، وهي شركة برمجيات للمستهلكين، وأحد مؤسسي شركة “ديب مايند”، وهي شركة للذكاء الاصطناعي استحوذت عليها “غوغل” عام ٢٠١٤م (أصبح بعد ذلك الرئيس التنفيذي في “مايكروسوفت إيه آي”). وبصفته جزءًا من فريق “غوغل”، كان سليمان مسؤولًا عن دمج تقنية الشركة في مجموعة متنوعة من منتجاتها.

اعترف قائلًا: “نموذجنا الذهني السابق القائم على الثقة التلقائية بالتقنية لا ينطبق حقًّا مع النماذج اللغوية الكبيرة مثل تشات جي بي تي” وأضاف: “أعتقد أنه في هذه المرحلة، يجب أن نكون شديدي الانتقاد ومتشككين ومترددين، وأن نطرح أسئلة صعبة عن تقنياتنا”.

ناقشتُ مع سليمان بعض الأفكار المحددة لتعزيز الثقة بتطبيقات الذكاء الاصطناعي التي يتعامل معها المستخدمون، وكان أحد أهمها هو استخدام المطوِّرين لمعايير قياسية “لتقييم مدى حداثة ودقة النماذج” كما صرَّح سليمان. بمعنى آخر، لجعل النماذج أصدق. توقّع سليمان أن تتحسن النماذج اللغوية الكبيرة تحسنًا ملحوظًا في غضون السنوات الثلاث المقبلة؛ إذ سترتفع دقة المعلومات من المستوى الحالي الذي يتراوح بين ٨٠٪ و٨٥٪، إلى ما يقارب ٩٩٪ إلى ٩٩.٩٪.

على الرغم من إيماني بأن هذه النماذج ستزداد دقةً، فإنني أُدرك أن الحقيقة نفسها تتطور باستمرار، خاصةً عندما ندفع هذه التقنية إلى حدودها القصوى بتزويدها بكميات هائلة من البيانات.

من الأساليب الأخرى لبناء الثقة هو تشجيع نماذج الذكاء الاصطناعي على الاعتراف بعدم معرفتها وتوضيح ذلك للمستخدمين. على سبيل المثال، يمكن للنموذج أن يقول: “لست متأكدًا”، أو “لا يمكنني الإجابة عن هذا السؤال”. يتوقع سليمان أنه إذا كان النموذج “دقيقًا باستمرار فيما يتعلق بتوقع دقته الخاصة، فهذا يمثل طريقة مختلفة لحلِّ مشكلة هلوسة الذكاء الاصطناعي”. ويوضح قائلًا: “إذا قال النموذج: “لا، لا يمكنني كتابة هذا البريد الإلكتروني أو توليد هذه الصورة لأنني أستطيع فقط…” فإن ذلك يعزِّز ثقتك بأنه يعرف ما لا يعرفه”.

بل أقترح أيضًا فرض خفض مستوى خدمة الذكاء الاصطناعي في حال تجاهل المستخدم اعتراف الذكاء الاصطناعي بحدوده.

يجب علينا أن نتذكر تجربة إخلاء المبنى من الحريق عام ٢٠١١م. مثلما أننا لا نريد للأشخاص في ممرٍّ مليء بالدخان أن يتبعوا روبوتًا بعيدًا عن المخرج، لا نريد للمستخدمين أن يضعوا ثقة عمياء بما يقدِّمه لهم الذكاء الاصطناعي.

في بعض التقنيات؛ مثل أجهزة الشبكة، ونُظم البيانات، والخدمات السحابية، ثمة تحوُّل نحو منهجية “عدم الثقة المطلقة”؛ إذ يفترض الجميع حتمية وقوع الاختراقات الأمنية، مثل وجود جهات خبيثة، وتُصمَّم العمليات والأطر اللازمة للتعامل مع هذا التهديد المحتمل.

بل لا يوجد معيار موحَّد لتصميم تفاعلاتنا مع أنظمة الذكاء الاصطناعي بافتراض أن الذكاء الاصطناعي ضارّ. لذلك، يجب أن نفكر في كيفية تصميم أنظمتنا بحيث تُحدِّد الإجراءات التي يجب اتخاذها على مستوى الإنسان، أو على مستوى الأجهزة، لمواجهة ذلك حين نفترض وجود نية خبيثة.

التقنيون ليسوا مدرَّبين ليكونوا علماء اجتماعيين أو مؤرخين، فنحن في هذا المجال لأننا نُحبُّه، وعادةً ما ننظر إلى التقنية نظرة تفاؤل لأنها مجالنا، وهنا تكمن المشكلة، فنحن لسنا ماهرين في التواصل مع الآخرين، بمن في ذلك علماء الاجتماع والعلماء الإنسانيون، لإيصال ما نراه من إيجابيات للتقنية وما نعرفه من تحدِّيات محتملة.

لا يزال ثمة مجال واسع لتحسين فهم الناس للتقنية والفرص التي توفرها، إضافة إلى المخاطر التي تنطوي عليها. ويمكن تحقيق ذلك بوضع لوائح تنظيمية جديدة، وتطوير أنظمة دقيقة، وتعزيز الشفافية بشأن صحة الإجابات، وزيادة حرص المستخدمين.

—————————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.