محدودية عمل النماذج اللغوية الكبيرة | من «MIT SMR»

ترجمة: وسن الجارالله

قد تؤدي المبالغة في تقدير قدرات نماذج الذكاء الاصطناعي مثل تشات جي بي تي إلى استعمالات غير موثوقة.

تبدو النماذج اللغوية الكبيرة مهيأة لإحداث تحولات في العالم التجاري، فقدرتها على توليد ردود مفصلة وإبداعية للاستفسارات، سواءً بلغة طبيعية أو برمجية، قد أشعل موجة من الحماس، والذي مكّن تشات جي بي تي من الوصول إلى 100 مليون مُستخدم في وقتٍ قياسي، متفوقًا على أي تقنية أخرى بعد إطلاقها. وبهذا ضخ المستثمرون أكثر من 40 بليون دولار في الشركات الناشئة المتخصصة في الذكاء الاصطناعي خلال النصف الأول من عام 2023م، ما يُمثّل أكثر من 20% من إجمالي الاستثمارات العالمية في رأس المال الجريء. وأيضًا بدأت الشركات تتسارع في ابتكار تطبيقات تقنية جديدة، بدءًا من الشركات الناشئة إلى الشركات العملاقة في التكنولوجيا.

ومع أن للنماذج اللغوية الكبيرة قوة هائلة، إلا أن قدرتها على إنشاء نصوص شبيهة بأسلوب الإنسان قد يوهمنا بأن لها قدرات مشابهة له، ما قد يؤدي إلى سوء استعمال هذه التقنيات. ويستطيع المديرون اتخاذ قرارات أكثر ذكاءً بفهمهم لاستعمالات النماذج اللغوية الكبيرة فهمًا أعمق وتوظيفها في مؤسساتهم، ما يتيح لهم معالجة نقاط الضعف بدمج تقنيات مكملة وتعزيز الإشراف البشري.

آليات عمل النماذج اللغوية الكبيرة

تُعد النماذج اللغوية الكبيرة نموذجًا بالأساس لتعلم الآلة، وهو مصممٌ للتنبؤ بالعنصر التالي في تسلسل من الكلمات. كانت النماذج اللغوية البدائية في السابق تعمل عملًا تسلسليًّا يعتمد على توزيع احتمالي للكلمات داخل بيانات التدريب، وذلك للتنبؤ بالكلمات التالية في التسلسل (لتتفكر في لوحة مفاتيح هاتفك حين تتنبأ بالكلمة التالية في الرسائل النصية)، إلا أن هذه النماذج كانت محدودة، فلا تستطيع استيعاب السياق الأوسع للكلمات، أو التمييز بين معانيها المختلفة وارتباطاتها المتعددة.

لقد أحدث ظهور المحوّلات نقلة نوعية للنماذج اللغوية الكبيرة الحديثة، والتي تُعدّ أحدث بنية للشبكات العصبية، فتتيح هذه المحوّلات للشبكات العصبية معالجة أجزاء كبيرة من النص في وقتٍ واحد، ما يُمكّنها من بناء علاقات أعمق بين الكلمات والسياق التي تظهر به. يؤدي تدريب هذه المحوّلات وتعريضها لكميات ضخمة من النصوص إلى تحقيق قفزة هائلة في مستوى التعقيد، فتُمكّن النماذج اللغوية الكبيرة من توليد ردود مشابهة لأسلوب الإنسان عند تلقيها أسئلة أو أي توجيهات.

تعتمد قدرة النماذج اللغوية الكبيرة على عدة عوامل جوهرية، بما فيها: حجم النموذج، والذي يُقاس بعدد الأوزان القابلة للتدريب (والتي تُسمى “المُعاملات”)، وجودة وحجم البيانات التي يتم تدريب النماذج عليها (والمُقاسة بعدد الرموز أو الوحدات النصية)، وكذلك الحجم الأقصى للنص الذي يستطيع النموذج استقباله (والمعروف باسم “حجم بوابة النص”). تحمل كل معلّمة في النموذج في طياتها معلومة عن علاقة مستخلصة من البيانات المُدربة، ولهذا السبب فإن النماذج التي تحتوي على عدد أكبر من المعاملات عادة ما تكون أكثر معرفة ودقة في استجاباتها. (لنأخذ على سبيل المثال نموذج GPT-3 الذي طورته شركة “أوبن أي آي”، إذ يحتوي هذا النموذج على حوالي 175 مليار مُعلّمة)، وأيضًا يؤثر حجم البيانات المُدربة على قدرة النموذج على التعميم، فكلّما زاد حجم البيانات وتنوع محتوياتها، زادت قدرة النموذج على فهم العلاقات الدلالية والمعرفية فهمًا أعمق وأشمل (دُرّب نموذج GPT-3 على ما يقارب نصف تريليون رمزٍ نصي)، كما يؤدي أيضًا حجم المُدخلات التي يقبلها النموذج دورًا مهمًّا في تحديد دقته، (يملك نموذج GPT-3 نافذة سياق تصل إلى 2000 رمزٍ نصي) وكلما زادت تفاصيل السياق تحسّنت دقة التنبؤات التي يجيب عنها النموذج.

تعتمد النماذج اللغوية الكبيرة على العلاقات التي تعلمتها خلال فترة التدريب، وذلك لتولّد نصوصًا متتابعة حين تتلقى أي سؤالٍ أو توجيه، فتُخرج نصوصًا تلو الأخرى. تتضمن كل خطوة من هذه العملية التنبؤ باحتمالات الرمز النصي التالي بناءً على السياق المقدم، ومن ثم يختار النموذج الرمز النصي بناءً على هذه الاحتمالات، ويتعدّل مستوى العشوائية في الاختيار بتعديل خصائص حرارية النموذج، فكلما زادت حرارية النموذج ارتفعت خياراته الإبداعية أو الأقل تنوعًا، أما انخفاضها فيؤدي إلى استجابات أكثر وضوحًا وسهلة التنبؤ. ولكي تتحسن دقة استجابة النماذج اللغوية الكبيرة لمُدخلات معيّنة، والحد من قدراتها على توليد ردود غير ملائمة أو لا تمت للموضوع بصلة، يمكننا ضبط النماذج المُدربة مُسبقًا باستخدام تقنيات مثل “التعلم المعزز من ملاحظات الإنسان”، وهي التقنية التي استُخدمت لضبط نماذج شهيرة من “تشات جي بي تي”.

أربعة قيود رئيسة للنماذج اللغوية الكبيرة

يمكننا تسليط الضوء على المفاهيم الخاطئة التي قد تنتجها النماذج اللغوية الكبيرة بناءً على إدراكنا لطريقة عملها، وذلك حين نستعين بحواسنا البشرية في تقييم مخرجاتها التي تبدو صادرة من بشر مثلهم.

1. محدودية الاستدلال والمنطق

المُدخل: وفقًا لتقرير اتحاد مزارعي الملفوف لعام 2007م، فإن 80% من الملفوف كان ثقيل الحجم (أي أكثر من 0.5 كجم)، و10% منه كان أخضر اللون، و60% كان أحمر اللون، و50% منه كان كبيرًا. (يتجاوز قطره 10 سم) أي من العبارات التالية تعدّ خاطئة؟

1. لم تكن جميع حبات الملفوف الحمراء كبيرة.
2. 30% من الملفوف الأحمر كان كبيرًا.
3. لم يكن هناك أي ملفوف أخضر وكبير في الوقت نفسه.
4. كان نصف الملفوف صغير الحجم.

رد النموذج اللغوي الكبير: العبارة التي تلتزم الخطأ هي الرابعة: كان نصف الملفوف صغير الحجم.

الإجابة الصحيحة هي العبارة الأولى، إذ لا بد من وجود حبات ملفوف حمراء اللون وكبيرة بينهم.

وعلى عكس الانطباع الذي توحي إليه النماذج اللغوية الكبيرة، إلّا أنها ليست مُصممة لأداء المهام المنطقية والاستدلالية المعقدة. فعلى سبيل المثال، أظهرت الدراسات أن نموذج GPT-4، والذي يُعد أحدث نموذج لغوي كبير في شركة “أوبن إي آي”، قد تمكّن من التحقق فقط من 2.4% من الأعداد الأولية في عدد من الحالات، مع وجود ضعف مماثل في قدرته على التنبؤ بالأنماط البصرية. وأظهرت أيضًا أبحاث أخرى أن النماذج اللغوية الكبيرة فشلت في فهم العلاقات بين الكلمات في بيانات التدريب، فعلى سبيل المثال يستطيع نموذج GPT-4 الإجابة إجابة صحيحة عن سؤال: “من هي والدة توم كروز؟” (وهي ماري لي فايفر)، ولكنه يفشل في استنتاج الإجابة عن سؤال، “من هو ولد ماري لي فايفر؟”، إذ بلغت نسبة إجابة النموذج الصحيحة عن النوع الأول من الأسئلة 79%، مقارنة بـ33% من النوع الثاني.

بعبارة أخرى، تقتصر قدرة النماذج اللغوية الكبيرة على المحاكاة اللفظية للقواعد المنطقية، دون امتلاك المهارات اللازمة لربط هذه القواعد ببعضها لإنتاج استنتاجات أكثر تعقيدًا أو التحقق منها. علاوة على ذلك، فإن النماذج اللغوية الكبيرة معرضة لظاهرة “تراكم الأخطاء” أثناء عمليات الاستنتاج متعددة المراحل، وذلك نظرًا للطبيعة الاحتمالية الجوهرية والتي تعني أن كل خطوة تحمل في طياتها احتمالًا صغيرًا للخطأ. وأخيرًا، تعجز النماذج اللغوية الكبيرة في كثير من الأحيان عن استمرار “التسلسل المنطقي” والتي يقودها إلى استنتاجٍ معيّن، ما يُصعّب على المستخدمين البشر تحديد وجود خطأ ما.

سلّطت تجربة ميدانية حديثة شارك فيها أكثر من 750 مستشارًا من مجموعة بوسطن الاستشارية الضوء على التأثيرات العملية لهذه المحدودية، فأظهرت النتائج أن المشاركين الذين استخدموا نموذج GPT-4 في حل مشكلات تجارية بسيطة قد أخطؤوا بنسبة تزيد على 23%، مقارنة بالمجموعة الضابطة التي لم تستعِن بأي نموذج لغوي كبير، وذلك لأن نموذج GPT-4 لم يكتفِ فقط بتزويدهم بإجابات خاطئة، بل برر إجابته أيضًا تبريرًا مقنعًا، ما دفع المستخدمين للأخذ بكلامه دون تشكيك.

2. محدودية المعرفة أو الخبرة

طلبنا من النموذج اللغوي الكبير أن يزودنا بخمسة أبحاث منشورة في مجلات علمية مُحكّمة حول إمكانية الاندماج النووي، مع توفير عناوين لهذه الأبحاث، وتحديد سنة النشر، والإشارة إلى أسماء المؤلفين الرئيسيين، فرد النموذج اللغوي الكبير بخمس نتائج، منها مقالتان إخباريتان وليستا بحثين أكاديميين محكّمين، بالإضافة إلى اختلاق ورقة بحثية غير موجودة بالأساس.

إن معرفة النماذج اللغوية الكبيرة مُقيّدة بطبيعة البيانات التي تدربت عليها، فإن افتقرت بيانات التدريب إلى وجود معرفة متخصصة في مجالٍ ما، أو احتوت على عدد غير كافٍ من الأمثلة حول مفهوم معيّن، أو لم تكن محدّثة، فقد يفشل النموذج اللغوي الكبير في توفير معلومات ذات صلة ردًّا على التوجيه المطلوب. وبالمثل قد يعيد النموذج اللغوي الكبير إنتاج الأخطاء الموجودة في بيانات التدريب. وأخيرًا قد ينتج النموذج أخطاءً وذلك بـ”هلوسة” عبارات أو معلومات لم ترد في البيانات المُدربة. وجد الباحثون الذين استعملوا نموذج GPT-4 في توليد خطط علاجية لعدد من حالات السرطان أن ثُلث الإجابات التي أنتجها تحتوي على معلومات غير صحيحة، وعادة ما تكون ممزوجة بتوصيات صحيحة مصوغة صياغة مقنعة، ما جعل من الصعب على غير المختصين التمييز بين المعلومات الصحيحة والخاطئة. وفي واقعة أخرى، تعرّض محاميان وشركتهما لغرامة بعد تقديم مراجع قانونية وهمية أنتجها نموذج GPT-4 في مذكرة قضائية، فاختلق النموذج ست قضايا قانونية كاملة، بما فيها آراء قضائية واقتباسات لم تكن على أرض الواقع.

قد تؤدي المحدودية المعرفية إلى انعدام التناسق في الإجابات، حيث تستجيب النماذج اللغوية الكبيرة لذات المدخل بصيَغ متناقضة عند طرحه في أوقات مختلفة. فعلى سبيل المثال، استعان المعلمون في ولاية آيوا بنموذج تشات جي بي تي لتحديد مدى ملاءمة الكتب في مكتبتهم المدرسية، وذلك لضمان الامتثال لقانون الولاية الجديد، فزودوا النموذج اللغوي الكبير بقائمة تضم كافة كتب المكتبة، وطلبوا منه تحديد الكتب التي تحتوي على ما يخالف هذا القانون، ما أسفر عن إزالة 19 كتابًا من المكتبة. إلا أنه عندما استفسر الصحفيون لاحقًا من نموذج تشات جي بي تي عن التسعة عشر كتابًا المخالف لهذا النظام، أشار النموذج إلى 4 منها فقط.

3. محدودية الفهم

مُدخل: توجد تفاحة بداخل الصندوق الأزرق، وهناك أيضًا صندوق أحمر بجانب الصندوق الأزرق، يحتوي الصندوق الأحمر على غطاء، فكيف أصِل للتفاحة؟

رد النموذج اللغوي الكبير: اتّبع الخطوات التالية لاستعادة التفاحة من الصناديق:

1. افتح غطاء الصندوق الأحمر: فعليك أولًا فتح غطاء الصندوق الأحمر، ونظرًا لأن الصندوق الأحمر موجود بداخل الصندوق الأزرق وعليه غطاء.
2. أزل الصندوق الأحمر من داخل الصندوق الأزرق: تستطيع إخراج الصندوق الأحمر بالكامل من الصندوق الأزرق بمجرد فتح غطاء الصندوق الأحمر.
3. افتح الصندوق الأحمر: بعد إزالتك للصندوق الأحمر من الصندوق الأزرق، يمكنك فتح الصندوق الأحمر للوصول إلى ما بداخله.
4. احصل على التفاحة: وأخيرًا، تستطيع فتح الصندوق وأخذ التفاحة التي بداخله.

أخفق تشات جي بي تي في إدراك أن التفاحة ليست داخل الصندوق الأحمر، فقد لا يستطيع النموذج اللغوي الكبير فهم المُدخل المعطى له. وقد يخطئ النموذج في الاستنتاج عندما يفتقر للسياق الكافي، ما يؤدي إلى إجابات غير مترابطة أو غير منطقية. وفي هذا السياق حلل الباحثون ردود تشات جي بي تي على أكثر من 500 سؤال طرحها المستخدمون في منتدى “ستاك أوفرفلو” المتخصص في هندسة البرمجيات والذي أُقيم عن بعد، فوجدوا أن 52% من ردود النموذج كانت غير دقيقة، فنتجت نصف هذه الأخطاء من عدم فهم تشات جي بي تي لمفهوم السؤال أو تفاصيله، أو بسبب انشغاله بجانب ثانوي لا يعالج المشكلة. وهذا يدلنا على أن النموذج اللغوي الكبير قد لا يكون مجديًا حين يفتقر المستخدمون إلى المعرفة اللازمة لصياغة مطالبات واضحة وفاعلة.

5. محدودية التخطيط والتنفيذ

يستطيع النموذج اللغوي الكبير تقديم إرشادات واضحة لأي مهمة مطلوبة، ما قد يوحي بقدرتها على وضع خطط عملية لحل المشكلات، إلا أن محدودية قدرات النموذج اللغوية الكبير على الاستدلال وفهم المهام قد يجعل الإجراءات المقترحة غير واقعية أو سطحية. على سبيل المثال، قدم تشات جي بي تي نصائح مالية عامة ومفيدة إلى حدٍّ ما عندما طُلب منه وضع خطة ادخار لشراء منزل، إلا أنه لَهي عن العوامل المتغيرة، مثل التغيرات المحتملة في الدخل أو تقلبات أسعار الفائدة، فلا يأخذ العوامل البشرية في الحسبان، إذ لا يُشكك في واقعية الأهداف أو مدى إدراك المُستخدم لعاداته الإنفاقية الفعلية.

أما بالنسبة للشركات، فقد تؤدي هذه القيود إلى الشك في موثوقية النموذج، إذ لا يجزم الشخص بشمولية ودقة المعلومات التي يوفرها، أو حتى قابلية تطبيقها وصحتها. وبناءً على هذه القيود فلا يمكننا الاعتماد على النماذج اللغوية الكبيرة في اتخاذ قرارات حاسمة أو في تنفيذ خطط مستقلة. ومع ذلك، فقد يبدو تفويض المهام العادية أمرًا جذابًا، خاصة تلك التي تتضمن تفاعلات برمجية مع الأنظمة التقنية، مثل تصفح الويب واستخراج البيانات، أو مراقبة وسائل التواصل الاجتماعي والتفاعل عبر الرسائل. في الواقع، مكّن التطبيق المفتوح Auto-GPT والذي يعتمد على GPT-4، المهتمين وأتاح لهم استعراض إمكانيات أتمتة مثيرة للإعجاب، مثل إجراء أبحاث عن المنتجات، وتطوير صفحات الويب أو التطبيقات، بل وحتى طلب البيتزا، فيربط مخرجات النماذج اللغوية الكبيرة بغرض تنفيذ الأهداف المحددة تنفيذًا ذاتيًّا. ومع ذلك، أشار باحث الذكاء الاصطناعي جيم فان إلى أنه يتم اختيار العروض الترويجية بعناية ودقة، فتُظهر الأبحاث أن الوكلاء المستقلين يحققون معدلات نجاح لا تتجاوز 10% في البيئات الحقيقية.

تجاوز القيود

على الشركات دمج هذه النماذج اللغوية الكبيرة ضمن أنظمة أوسع تأخذ قيودها في الحسبان بدلًا من حصر استخدامها في المهام الروتينية التي لا تؤثر أخطاؤها تأثيرًا جوهريًّا، وذلك بإشراف بشري مع الاستفادة من تقنيات مكملة أخرى (مثل توليد أفكار لمنتجات جديدة للنظر فيها).

إن وجود الإشراف البشري أمرٌ أساسي عند دمج النماذج اللغوية الكبيرة في عمليات الشركة، وهذا يشمل التحقق من النواتج التي يولدها الذكاء الاصطناعي لتعزيز الثقة في توظيف التقنية. ويمكن تعزيز هذا النهج بإشراك الخبراء في صياغة التحديات التجارية وتحويلها إلى مُدخلات في الذكاء الاصطناعي، مع ضمان دقة وملاءمة المخرجات بضبط السياق والمُعطيات المقدمة للنموذج ضبطًا دقيقًا.

إلى جانب تصميم نظام متكامل يجمع بين الذكاء البشري والاصطناعي، يجب على الشركات استكشاف تقنيات قادرة على تعزيز محدودية النماذج اللغوية الكبيرة. وفي ظل التطور السريع في هذا المجال، تظهر لنا ابتكارات متجددة تُعزز من قدرات التقنية، ما يجعل مواكبة هذه المستجدات وتحديث المعرفة أمرًا حتميًّا لضمان الاستفادة القصوى.

فعلى سبيل المثال، يدرس الباحثون إمكانية دمج النماذج اللغوية الكبيرة مع محركات استدلال تعتمد على الرسوم البيانية المعرفية بغرض تعزيز قدراتها الاستدلالية، ما يُتيح ترميز المعلومات المخصصة وتمثيل العلاقات بين المفاهيم والحقائق تمثيلًا دقيقًا. وأيضًا يُدرّب الباحثون نماذج متخصصة لتقييم التناسق المنطقي بين الفرضيات الواردة في مُدخلات النموذج اللغوي الكبير ومخرجاته. بالإضافة إلى ذلك، تُدرَّب النماذج اللغوية الكبيرة على قواعد بيانات متخصصة في مجالات مُحددة وذلك لتعزيز المعرفة والخبرة، مثل نماذج “جوجل”، ونموذج “Med-PaLM” لمختبر أبحاث “ديب مايند”، والذي أثبت تفوقًا كبيرًا على النماذج اللغوية الكبيرة العامة في اجتياز اختبار الرخصة المهنية في الولايات المتحدة. بالإمكان تحسين موثوقية النماذج اللغوية الكبيرة بالتعلّم المعزز، إذ يتعرض لتقييم خبراء بشريين، وأيضًا يمكن للنماذج اللغوية الكبيرة تحسين فهمها لمُدخلات المستخدم الأولية وذلك ببرمجتها على طرح أسئلة توضيحية قبل تقديم الإجابة.

تدفع إمكانات النماذج اللغوية الكبيرة الهائلة الشركات لاستكشاف آفاق هذه التقنية الحديثة القوية والاستفادة منها. ومع ذلك فإن قدرة هذه النماذج المذهلة على توليد مخرجات نصية مشابهة للغة البشر قد يدفعنا بسهولة لافتراض امتلاكها لقدرات تتجاوز حدودها الفعلية. فيجب أن يكون فهم محدودية هذه النماذج هو البوصلة التي توجّه كيفية استخدامها والسياقات التي تُدمج فيها.

على الشركات الحذر من استخدام هذه النماذج في المجالات التي تتطلب استدلالًا منطقيًّا، فالدقة والتحقق أمران ضروريان، خاصة حينما تكون المخاطر عالية. فتحتاج الشركات في هذه الحالات إلى استكشاف تقنيات مكمّلة تعالج محدودية النماذج اللغوية الكبيرة، منها على سبيل المثال: الرسوم البيانية المعرفية، والمحركات الاستدلالية، والنماذج المتخصصة في المجالات المختلفة، مع ضمان وجود إشراف بشري فاعل للمُدخلات.

—————————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.