سلطة الخوارزميات | جيريمي بوارو

ترجمة: رجاء الرشيدي

ما هو المنطق الذي يؤدي إلى التوصية بالاستماع إلى موسيقا أو مشاهدة فيلم أو مقابلة شخص؟ بما أن الخوارزمية نظام ليست الشفرة فيه سوى مرآة، فمن الضروري فهم المهندسين والمنظمات التي ساهمت في تصميمه.

ما هي الخوارزمية؟

     الخوارزميات^[1] هي موضوع بحث متزايد في علم الاجتماع وعلوم المعلومات والاتصال. إن استخداماتها المتزايدة من قبل الشركات والإدارات العامة (لا سيما تحت مسمى “الذكاء الاصطناعي”) قد أثارت فضول الإعلام والأوساط الأكاديمية. لم تعد المسألة تقنية فقط (على سبيل المثال، كيف يمكن تحسين الأداء وتسريعه؟) ولكنها أصبحت أيضًا اجتماعية. فما هي آثار الخوارزميات؟ وماذا يترتب على أتمتة التوظيف، وتوزيع وتنظيم العمل، والتحقق من طلبات الائتمان أو التنبؤ بالعودة إلى ارتكاب الجريمة؟ وبالتالي، أحيانًا يُنظر إلى الخوارزميات كأشياء غامضة، تثير المخاوف والأوهام والآمال.

         لكن ما هي الخوارزمية؟ تعريف المصطلح من حيث علم الاجتماع يتطلب مقالًا في حد ذاته، وقد سبق أن تناول بعض الباحثين بالفعل هذه المسألة المعقدة^[2]. سنكتفي بالقول هنا إن الخوارزمية لا يمكن اختزالها إلى وصفة أو برنامج حاسوبي. بالإضافة إلى كونها تشفير بيانات وتعليمات، تتضمن نيات واستراتيجيات ريادية أو سياسية^[3]. في عام 2011م، طور إيلي باريسر في كتابه مفهوم “فقاعة الترشيح” ^[4]filter bubble)) الذي تم تبنيه على نطاق واسع في عام 2016م أثناء انسحاب المملكة المتحدة من الاتحاد الأوروبي والانتخابات الرئاسية الأمريكية. قد تؤدي خوارزميات جوجل أو فيسبوك (على سبيل المثال لا الحصر) إلى ظاهرة يُعزز فيها الموجود، وتحبس الأشخاص في منطقة راحتهم على المستوى المعلوماتي باعتمادها على معايير يُقال إنها مخصصة مثل سجل التصفح أو الموقع الجغرافي. يمكن اعتبار فقاعة المرشح تلك نتيجة غير مباشرة لأحد أهداف جوجل أو فيسبوك؛ أي أن تناسب النتائج الأشخاص وتحثهم على الاستمرار في استخدام الخدمة.

“هناك مثال آخر أثار الجدل في فرنسا في عام 2017م، حول قبول الطلاب بعد الثانوية العامة” (APB)، تم إطلاقها في عام 2008م، وهي منصة للتقديم على برامج تعليمية عليا، وقد تعرضت للانتقاد بسبب قلة شفافيتها. على الرغم من نشر الشفرة البرمجية، كان من المستحيل فهم توجيهات الحكومة وراء آلية القبول. يذكرنا هذا المثال الأخير بأن البرنامج الحاسوبي يمكن أن يُعتبر بمثابة “صندوق أسود” ^[5](إذا لم يكن مفتوح الوصول ومفسرًا)، يجب بالضرورة فك شفرته. الخوارزم هو نظام تعتبر الشفرة المصدرية مجرد انعكاس له، ومن الضروري فهم الفاعلين والمنظمات التي تقف وراء الخوارزميات. يسعى هذا المقال إلى المساهمة في أدبيات ما زالت في مراحلها الأولى: دراسة تصميم الخوارزميات والعمل الذي يقوم به المهندسون.

خوارزميات التوصية

     دقة تعبير “خوارزميات التوصية” تتيح لنا تناولها كموضوع بحث. يعتمد هذا المقال على دراسة استقصائية شملت ثلاثين مقابلة مع مهندسين أجريت بين مارس 2017م ويونيو 2018م. وقد قاموا بتطوير خوارزميات تُستخدم من أجل التعريف ببعض القطع الموسيقية، والفيديوهات والكتب، أو من أجل تحفيزنا لشراء منتجات مشابهة، أو لاستخدام معلومات ذات صلة وعالية الجودة، أو حتى لتسهيل اللقاءات مع أشخاص. وبفضل بيانات التصفح وتفضيلات المستخدمين، تقوم الخوارزميات بأتمتة التوصية. الهدف منها هو التنبؤ بذوقنا ورغباتنا لتتكيف معها بأفضل شكل ممكن. في هذا السياق، إحدى الإشكاليات الرئيسية هي -كما رأينا- صياغة توصيات تكون مقنعة للمستخدم دون الوقوع في فخ الانغلاق المعلوماتي (ما نستهلكه) أو التفاعلي (مع من نتبادل المعلومات)^[6]. قبل التطرق إلى أساليب الخوارزميات، دعونا نأخذ حالة توضح تعقيدات التوصية الموسيقية التي تشمل إما بائع أسطوانات أو خوارزمية. الفرق الملحوظ الوحيد هنا هو حجم السجل الذي يعرفه بائع الأسطوانات (الأسطوانات المعروضة في المتجر) مقابل الخوارزمية (قاعدة بيانات خدمة البث الموسيقي). على غرار بائع الأسطوانات، ستتمكن الخوارزمية بعد فترة من الاستماع من معرفة ذوقك الموسيقي وستأخذ بتوصيتك ببعض الألبومات والأغاني. فن التوصية في مجال الموسيقا، من بين أمور أخرى، يعتمد على اقتراح موسيقا نعرفها، سواء أكانت للفنان نفسه أو من الألبوم نفسه، أو حتى الأغاني نفسها مرة أخرى (وهذه التوصية لا تنطبق كثيرًا على توصية الأفلام)، ومن جهة أخرى، موسيقا لا نعرفها لكنها قد تعجبنا، دون الابتعاد كثيرًا عن ذوقنا الموسيقي. بعبارة أخرى، وبناءً على البرهان غير المباشر، فإن أفضل توصية هي بالضرورة أغنية نالت إعجابنا سابقًا.

التوصيات الداخلية والخارجية

     في إطار منصة عبر الإنترنت، يقترح نظام التوصية أشياء للمستخدمين بناءً على خصائص هذه الأشياء و/أو استهلاك المستخدمين لها. لنأخذ مثالًا على منصة بث موسيقي. من أجل الحفاظ على المستخدمين، أحد أهدافها هو تعريف المستخدمين بموسيقا جديدة، كما يذكر هذا المهندس: “يجب على الشركة التي تقدم خدمة البث التدفقي أن تتيح للناس اكتشاف الموسيقا. ليس فقط لأسباب أخلاقية، ولكن أيضًا لأنه إذا كان الناس يستمعون فقط إلى ألبوماتهم الأربعة المفضلة، فلن يكون لديهم سبب لدفع عشرة يوروهات شهريًّا. وكل ما عليهم فعله هو شراء ملفات الـ إم بي 3 الخاصة بهم”.

يمكن للمنصة أن توصي بألبومات أو أغاني من خلال طريقتين:

     التوصية الأولى هي التوصية الذاتية التي تعتمد على خصائص الأشياء. من المنطقي أن توصي بألبوم لفرقة “رولينغ ستونز” بعد الاستماع إلى فرقة “البيتلز”، لأن كلتا الفرقتين كانتا نشطتين في الستينيات ويمكن تصنيفهما ضمن موسيقا البوب/روك. وقد تقترح عليك المنصة الاستماع إلى أغنية “Dancing In The Street”، التي تجمع ميك جاجر وديفيد بوي (1985م). يمكن لهذه الطريقة التي تعتمد على المحتوى أن تذهب إلى أبعد من ذلك، وتجد أوجه تشابه (لأن هذا هو المطلوب) في الإيقاع، والآلات الموسيقية، أو حتى العواطف التي تنقلها الموسيقا. لهذا، يقوم المهندسون بتحليل الإشارة الصوتية من أجل تقدير وتصنيف الموسيقا. مع آخر التطورات في تعلم الآلة (وتحديدًا التقنيات التي تعتمد على الشبكات العصبية)، أصبحت معالجة الإشارة أكثر كفاءة ويمكنها الآن منافسة الطريقة الثانية، أي “التصفية التعاونية”، التي تسمح بالتوصيات الخارجية.

      كما يوحي اسمها، تتيح الفلترة التعاونية الاستفادة من المشاركات الصريحة (مثل تقييم الأغاني، والإعجاب بالموسيقا) وغير الصريحة (مثل الانتقال إلى المقطوعة التالية، وإجراء بحث في الكتالوج) بالإضافة إلى أنماط استهلاك المستخدمين لإجراء التوصيات. من خلال هذه الطريقة، يمكن التوصية بألبوم ليدي غاغا بعد الاستماع إلى رولينغ ستونز (من اختلاف خصائص النوعين موسيقيًّا)، لمجرد أن مجموعة معينة من المستخدمين يستمعون إلى ليدي غاغا ورولينغ ستونز في الجلسة نفسها (بغض النظر عن السبب). بعض عادات الاستماع مرتبطة أيضًا بأحداث أو أيام معينة ويمكن استخدامها لتقديم التوصيات للمستخدمين. على سبيل المثال، قام بول لامير، عالم البيانات في سبوتيفاي، بتحديد ما يسمى “خلل إيروسميث”^[7]، فقد اكتشف أن أشهر أغاني الفرقة: “I Don’t Want to Miss a Thing”، يستمع إليها بشكل ملحوظ في أيام معينة (على مدى فترة سنتين، انظر الصورة 1). بعد استبعاد فرضية “احتفالات عيد الحب” (التي كانت مجرد مصادفة في التواريخ)، تبين -انظر الصورة 2- أن حجم الاستماع الكبير كان يرتبط دائمًا بأخبار تتعلق بمذنب فلكي. لماذا؟ لأن الأغنية هي جزء من الموسيقا التصويرية لفيلم “أرماغيدون” الذي يلعب فيه بروس ويليس دور الرجل الذي يجب عليه إنقاذ الأرض من تأثير مذنب فلكي. للعودة إلى الفلترة التعاونية، من المحتمل جدًّا، أن الخوارزميات قد اكتشفت هذا النمط من الاستماع فأصبحت توصي بأغنية “I Don’t Want to Miss a Thing” في حال وجود أخبار “مذنب فلكي” (لم يحدد بول لامير ما إذا كان هذا يحدث فعلًا).

بالنسبة إلى الطريقة الأولى المعتمدة على المحتويات، تحتاج المنصة إلى أكبر قدر ممكن من المعلومات حول الموسيقا في سجل. أما بالنسبة إلى الطريقة الثانية المعتمدة على التصفية التعاونية، فيجب على المنصة أن تعرف أكبر قدر ممكن عن مستخدميها واستهلاكهم. إن السباق نحو الإشارات الضمنية (ما نطلبه من المستخدمين) وغير الواضحة (آثارها) يثير العديد من الإشكاليات التي سنطرحها فيما يلي.

لماذا نتحدث عن التمثيل؟

     كلما زاد ما يعرفه الخوارزم عن المستخدمين، كانت توصياته أفضل. يمكن اعتبار أن التوصية الجيدة تقود المستخدم إلى الاستهلاك. بناءً عليه، بالنسبة إلى منصتنا للبث الموسيقي، سيستمر المستخدم في اشتراكه. لذا، نادرًا ما تعتمد الخوارزميات فقط على الطريقة التي تستند إلى المحتوى (content-based)، إذ إن أحد أهداف المهندسين هو زيادة معرفتهم بالمستخدمين وتجويدها. ومن ثم، يحدث التمثيل الذي يغطي عدة أفعال. التمثيل^[8] يعني: (١) “أن تقدم صورة إيضاحية، وأن تعطي مثالًا، أو أن يكون للشيء صفة التمثيل” أو “التصرف أو الحديث نيابة عن شخص ما”. يمكن أن يكون أيضًا (٢) “جعل شيء ما أو شخص ما حاضرًا في شكل بديل أو باستخدام حيلة، فهو البديل”. وأخيرًا، هو (٣) “تصورنا لشيء ما، وكيفية هذا التصور”. في إطار صناعة خوارزميات التوصية، نتعامل مع التمثيلات التالية: تمثيل جميع المستخدمين من خلال مجموعة من المستخدمين (التمثيلية)^[9]، والتمثيل كصورة التي يصنعها المهندسون عن المستخدمين (التخمين)^[10]. أخيرًا، سنتطرق إلى ما يبدو الأكثر ابتكارًا في خوارزميات التوصية: تصنيف المستخدمين الضمني والحقيقي. في هذه الحالات الثلاث، من المهم أن نؤكد الآن أن مستخدمي منصات البث الموسيقي يفوضون بجزء من اكتشافهم الموسيقي إلى الخوارزميات. هنا تنشأ علاقة “تمثيل” للمستخدمين بوساطة الخوارزميات، من خلال إعادة النظر في مقتطف من “التمثيل السياسي” حيث تشرح هانا ف. بيتكين عن عملية التمثيل قائلة: “يجب أن تتطلب الخوارزمية الحكمة والبصيرة، ويجب أن يكون هو من يقوم بالفعل [بالتوصية]. كما يجب على المُمثلين [المستخدمين] أيضًا أن يكونوا […] قادرين على الفعل والحكم بشكل مستقل”^[11].

     للتوسع أكثر، دعونا نذكر ما يقوله مايكل سوارد^[12]، الذي يختلف رأيه عن رأي هانا ف. بيتكين: لا وجود لمستخدمي خدمة ما (هنا، خدمة بث الموسيقا) سوى لأن خوارزمية التوصية “تمثلهم”. فتصبح المقارنة مع الأنماط المثالية المختلفة للتمثيل السياسي التي اقترحها فيرجيني دوتويا وصامويل حياة^[13] منطقية تمامًا من خلال التباين بين “التمثيل كإجبار” و”التمثيل كاقتراح”. هذا يسمح لنا بتطوير الجزء الثاني من هذا المقال مع الأخذ في الاعتبار النقاط التالية: في إطار “التمثيل كإجبار”، وهو الوضع السائد في معظم الخدمات التي تستخدم خوارزمية التوصية، “المطالبات بالتمثيل تفرض على المُمَثَل [المستخدم] هويته [بياناته الشخصية التي تكونت من آثاره كمستخدم]”، في حين أن “التمثيل كاقتراح” يدعي تقديم “للمُمَثَل [المستخدم] تمثيلات لنفسه [بياناته الشخصية] يمكنه قبولها أو تعديلها أو معارضتها”، مما يثير تساؤلات حول التمييز والشفافية التي سنتناولها في الجزء الأخير.

تمثيلات مختلفة

التمثيل باعتباره تمثيلية

أوضح معنى للتمثيل في إطار تصميم خوارزميات التوصية هو التمثيلية، بمعنى أن التمثيل يعني أن تقدم صورة إيضاحية، وأن تكون مثالًا، أو أن يكون للشيء صفة التمثيل.

على غرار الطرق التقليدية لدراسة السوق والتسويق، يستخدم المهندسون مجموعات تتكون من عدد محدود من المستخدمين. هؤلاء المستخدمون يمثلون، بطرق مختلفة، جميع المستخدمين. الطريقة الأولى هي مجموعات التركيز (Focus Groups).، حيث يدعو المهندسون المستخدمين المختارين بشكل حضوري لاختبار المنتج و/أو الخوارزمية الخاصة بالتوصية، دون الحاجة للتنقل، ويمكن لهؤلاء أيضًا المساهمة كـ “مختبرين للإصدار التجريبي”، من خلال تعبئة الاستبانات أو –وفقًا لما يقوله أحد المهندسين– إرسال تعليقات عبر الدردشة على الواتس آب. يمكن أن توفر هذه الطرق نتائج كمية ونوعية واضحة ومتعمقة، ولكنها لا تُنفذ بشكل منتظم، حيث يذكرها فقط تسعة مهندسين من أصل ثلاثين.

     بجانب هذه الطرق التقليدية، يستخدم المهندسون نهجًا شائعًا جدًّا في مجال تطوير الويب: الاختبار. على عكس مجموعات التركيز والاستبانات، يمكن تنفيذ الاختبار في الوقت الفعلي^[14]. في الواقع، يُستخدم الاختبار بشكل رئيسي لتنفيذ الخاصيات أو التحسينات بشكل سريع أو للتحقق من الخيارات، في حين تساعد الطريقتان الأوليان في تطوير جوهر المنتج أو الخوارزمية. عندما يتحدث المهندسون عن “الاختبار”، فإنهم يشيرون غالبًا إلى اختبار A/B، الذي يهدف إلى التحقق من أي النسختين A أو B تحقق الأهداف المحددة (مؤشرات الأداء الرئيسية). على سبيل المثال، تسمح اختبارات A/B بمقارنة النسخة القديمة والنسخة الجديدة من نسخة الخوارزمية الجديدة بالقديمة (من خاصية جديدة).

     إذا كان الهدف من منصة بث الموسيقا -على سبيل المثال- هو زيادة متوسط مدة جلسة الاستماع، فيمكن لاختبار A/B تقييم نسختين جديدتين من خوارزمية التوصية من خلال مجموعتين مكونتين من مستخدمين مختلفين، أو حتى تقديم “قوائم تشغيل مختلفة تعد نسخًا مختلفة للخوارزمية نفسها”. بين الأساليب الصريحة والإحصائيات غير الصريحة المتعلقة باستخدامات المستخدمين (التي سنتناولها في الجزء الأخير)، يعتبر الاختبار العنصر الرئيسي في تطوير خوارزمية التوصية وتحسينها، حيث يجب على بعض المهندسين بالضرورة إجراء اختبار لخلق “تغيير يمس المستهلكين”. عمليًّا، قد يُنفذ ذلك من خلال “اختبار أولي على 1% من المستخدمين، ولا يُطلق إصدار دون اختباره على 10% من المستخدمين”. تكشف هذه الاستخدامات عن مكانة الاختبار في عملية التطوير مدهشة. في الواقع، يبدو أن المهندسين لا يعتمدون عليه فقط لمساعدتهم في اتخاذ القرارات الأكثر صعوبة أو لإطلاق التحسينات الأكثر أهمية، بل كجزء لا يتجزأ من هذه العملية. من جهة، يبدو أن الاختبار يلعب دور “صانع القرار” بالنسبة إلى المهندسين. ومن جهة أخرى، في بعض الحالات، يكون له “الكلمة الأخيرة” بشأن التعديلات المقترحة، ومن وجهة نظر المهندسين، إنه يطبق القرار النهائي الذي اختاره المستخدمون.

التمثيل باعتباره تنبؤًا

     على الرغم من أنه يتوفر لدى المهندسين سجل من الأساليب التي تحد من اللبس والأخطاء في التفسير (مثل مجموعات التركيز، ومجموعات واتساب، والاستبانات، والاختبارات بالإضافة إلى تحليل إحصائيات الاستخدام)، فإنهم يعتمدون أيضًا على أفكار مسبقة في تطويرهم. بعبارة أخرى، يتكهن المهندسون بسلوك ورغبات المستخدمين، ويقولون أيضًا إنهم “قادرون على تخيل ما أعجب الناس أو ما لم يعجبهم”.

     بخلاف اختبارات أ/ب التي تتميز بدقتها في المجال الرقمي (والتي تكاد تشبه الإجراء العلمي)، فإن هذه التنبؤات متوفرة في جميع المجالات وليست جديدة. قد نسميها أيضا نهجًا “تعاطفيًّا”، سواء أكان واعيًا أم لا، حيث يتصور المهندسون وفقًا لأنشطتهم. فيعتمد المهندسون على مدة جلسة الاستماع، على سبيل المثال، “لتقييم جودة التجربة الموسيقية”. هذا الموقف المبني على الحدس ليس له مرجعية. فيحجب أحيانًا التطور المعتمد على البيانات والطرق المذكورة أعلاه: “بينما نحن نسعى للقيام بأمور كثيرة باستخدام معايير كنا نجدها هنا وهناك، وجدنا أنفسنا في موقف يقول فيه الناس لنا: “إذا أردتم أن تناسبني التوصية، لماذا لا تسألوني عن رأيي؟””.

     في النهاية غالبًا ما يثق المهندسون في حدسهم الخاص بشأن رغبات وسلوكيات المستخدمين، لأن “المستخدمين لا يعرفون دائمًا ما هو مهم بالنسبة إليهم أو يظنون أنهم يعرفون، لكنهم في الواقع لا يعرفون”، فيجدون أنفسهم أحيانًا يعممون النتائج. إنهم يلعبون هنا دور الحبل المشدود؛ يجب عليهم تقييم أهمية النتائج المختلفة، باعتبارها إشارات ضعيفة أو قوية، وكذلك أهمية حدسهم: “إذا لاحظنا أن هذا العميل يجهز لرحلته وقد قام بحجزين في مكانين مختلفين، سنقترح له وجهة ثالثة في أعلى الصفحة. فبما أن الجميع يريد الشيء نفسه، فالعملية تنجح بنسبة 90%”.

     على الرغم من كمية البيانات المتاحة للمهندسين، فإن إنشاء خوارزمية التوصية يقف في كثير من الأحيان، تحت ذريعة رغبات واحتياجات المستخدمين، على استهلاك المهندسين أنفسهم. وذلك ينذر بخطر الوقوع في حلقة مفرغة حيث يختبر هؤلاء حدسهم بدلًا من تحسين الحلول لمشاكل محددة.

التمثيل كتصنيف ضمني

     بالإضافة إلى الطرق الصريحة والأفكار المسبقة المذكورة أعلاه، يجب على المهندسين التعامل مع إحصائيات الاستخدام. هذه الإحصائيات هي عبارة عن حساب للآثار التي توفر للمهندسين معلومات عن استخدام الخدمة. هذه الآثار هي إشارات ضمنية خامة يمكن أن تتطلب، هنا أيضًا، حدس المهندسين لتفسيرها. على سبيل المثال، كما هو الحال مع التعليقات التي يرسلها المستخدم عندما “لا يستمع إلى المقطوعة الموسيقية حتى النهاية”.

     بالنسبة إلى خدمة بث الموسيقا عبر الإنترنت، هناك فئتان من الإحصائيات تعتمدان على آثار الاستخدام، مما يجعل المستخدمين “حاضرين على شكل بديل”. الفئة الأولى تشمل إحصائيات التصفح وجمع البيانات، حول مدة اتصال المستخدم، والروابط التي ينقر عليها، وعمليات البحث، والألبومات، وقوائم التشغيل، والألبومات أو الفئات التي تصفحها على سبيل المثال. أما الفئة الثانية، فتتعلق بشكل أكبر بإحصائيات الاستماع، مثل الموسيقا والألبومات التي شغلها المستخدم، وأعاد تشغيلها، وأوقفها مؤقتًا، وتخطاها، وأضافها إلى المفضلة أو حتى قوائم التشغيل التي أنشأها. من المثير للاهتمام هنا أن جمع البيانات عملية مبدئية ومستمرة لا تسعى بالضرورة إلى هدف محدد، إذ إن إحدى مهام عالم البيانات الرئيسية هي إيجاد معنى للبيانات و”تكرير هذا النفط الخام”.

     إذا كانت الفئة الأولى تميل إلى تحسين الخدمة بشكل عام (تصميم الواجهة، وتجربة المستخدم، وسرعات التنفيذ، إلخ)، فإن الفئة الثانية تعتبر أساسية لخوارزميات التوصية التي يمكنها استخدام البيانات بشكل فوري، مثل اقتراح محتوى عن “أحدث عشر وجهات سياحية أو نيمار”، لأن هذه الخوارزميات “اكتشفت أنك غالبًا ما تنقر على المقالات المتعلقة بكرة القدم والسفر”.

     تتعامل الخوارزميات مع الآثار دون تدخل بشري كبير على عكس الطرق الأخرى، مما يسمح لها بإنشاء فئات جديدة ضمنية^[15] بعيدة عن الفئات الاجتماعية والديموغرافية والجغرافية التقليدية:^[16]

«كلما أضفت المزيد من البيانات، أضفت طابعًا شخصيًّا. كان هدفنا هو توصية الأماكن التي تناسب الأشخاص، لذا كانت خوارزمياتنا تصنف المستخدم بناءً على من هو، والحي، والأماكن التي يحبها، لتحديد الأماكن التي تظهر له».

     يعد التناقض الموجود في هذا المقتطف مثيرًا للاهتمام وسنعود إليه بعد قليل. من المفترض أن ضخامة البيانات التي جُمعت تعمل على تحسين التوصية ورفع مستوى دقة التخصيص، من خلال ما يُعرف بـ “الاستهداف الدقيق”^[17]، ولكن في الوقت نفسه تظل تصنيفات المستخدمين بسيطة (بناءً على أذواقهم وخصائصهم الاجتماعية والديموغرافية).

تاريخيًّا وقبل صعود الخوارزميات إلى التوصية القوية، كانت تقنيات البيع تعتمد في الغالب على الفئات الصريحة لزيادة الإيرادات. كانت الأهداف محددة بوضوح بناءً على المنتج المباع وتتقاطع لا سيما مع الفئات الديموغرافية الاجتماعية مثل: الجنس، والعمر، والمهنة، والفئة الاجتماعية والمهنية. وكانت تنقسم السوق استنادًا إلى هذه الفئات، تزودها الأفراد بالمعلومات عبر المعهد الوطني للإحصاء والدراسات الاقتصادية (INSEE) في فرنسا^[18].

     أما اليوم، تسمح أنظمة التوصية (وليس فقط للخدمات عبر الإنترنت) بعدم الاعتماد على هذه المعلومات الصريحة التي تقدم “رؤية ثابتة ومطمئنة”، بل بإنشاء حساب شخصي عابر بشكل مستمر^[19] وفقًا لآثار الاستهلاك، على غرار الفئات المفضلة في التسويق. فلن يوصي موقع بث موسيقي بـ “ليدي غاغا” لشخص ما “بناءً على صور نمطية”، لأن هذه امرأة شابة تعيش في مدينة كبيرة، ولكن لأن استهلاكها (أو فئة الاهتمام) يدل على احتمال قوي بأنها تحب ليدي غاغا. لم تعد الفئات النموذجية للمستهلكين ذات صلة، لأن البيانات التي تصف المستخدم (ما يستمع إليه وما يفضل) تتغير باستمرار.

    منذ استخدام الخوارزميات على نطاق واسع، أثارت مسألة تخصيص (أو فردنة) المحتويات المتاحة التي يستهلكها المستخدمون^[20]. ورغم أنها غالبًا ما تُشَاد بها في توصية السلع الاستهلاكية العادية، فإن دورها محل انتقاد بانتظام في سياق تخصيص الوصول إلى المعلومات والمحتويات الثقافية^[21]. بعيدًا عن الجدل، نريد أن نبين نسبية هذا التخصيص الوهمي الذي لا يمت للتخصيص سوى بالاسم الذي يحمله، فنحن نتعامل في الواقع مع درجات مختلفة من التصنيف، حيث يوجد من ناحية تصنيف دقيق صريح (الخصائص الديموغرافية والاجتماعية والجغرافية) ومن ناحية أخرى تصنيف دقيق ضمني على مستوى المستخدم (تفاعلاته مع الخدمة). فلا يكون التخصيص الذي نخشاه أحيانًا إلا تصنيفًا يستخدم معايير أخرى. لا يهم إن كنا نساء أم رجالًا، من المدينة أم من الأرياف، فاستهلاكنا للمحتوى هو الذي يصنفنا ومن خلاله تعتمد الخدمات على توصياتها وتسويقها.

    في إطار التوصية، الفئات الوحيدة الصريحة هي في النهاية تلك التي تصف الأشياء الموصى بها (مثل إيقاع الموسيقا، على سبيل المثال). تتجاهل خوارزميات التصفية التعاونية “مواصفات” المستخدمين وتهتم بـ”أفعالهم”: “لدينا نسب مئوية، ولدينا نسب النقرات، وبناءً عليها سوف نقوم بحساب ملاءمة أغنية ما”.

الأسئلة المطروحة

     على الرغم من أن المهندسين هم “صانعو” الخوارزميات، فإن تدخلهم، بل مسؤوليتهم، في التوصيات قد تكون محدودة في بعض الحالات. قد يذهب مهندس إلى القول إنه لا يمكنه ولا يجب عليه إجبار الخوارزمية على التصرف بطريقة أو بأخرى (مثل برمجة متغير بشكل ثابت)، إذ إن “الخوارزمية تقرر بمفردها بناءً على أهدافها”.

     دون التطرق إلى القضايا التي تثيرها الخوارزميات في التعلم العميق التي لا يفهم أحيانًا مهندسوها نتائجها، نلاحظ أن هؤلاء الأخيرين يتركون عن عمد للخوارزميات التوصية/الكلمة الأخيرة، معتبرين أن “الخوارزم هو بحد ذاته اختبار، وظيفته الرئيسية هي التعلم وتعديل معاييره بنفسه حتى يصبح أكثر كفاءة”.

    بالتخلي عن الفئات التقليدية الواضحة التي تتسم بالإنسانية المفرطة، تقدم الخوارزميات واقعها الاجتماعي والاقتصادي الخاص. ومع ذلك، تُظهر العديد من الدراسات أن الخوارزميات (هنا بشكل أوسع، تلك الخاصة بالتخصيص، واتخاذ القرارات، والتنبؤ) تمتلك قوة تمييزية على الفئات التقليدية^[22] الواضحة. ويشير فعلًا بوفيساج وآخرون في تحقيقهم إلى أن العاملين في الإعلانات البرمجية عبر الإنترنت يستخدمون فئات الاهتمام بشكل أقل (وبالأحرى أقل من السابق)، ويفضلون المعيار “الاجتماعي-الديموغرافي” الذي أثبت فعاليته على “الاستهدافات الدقيقة” التي يعتبرونها استثناءات.

     بعبارة أخرى، على الرغم من الحرية الممنوحة للخوارزميات لإنشاء فئات ضمنية (مثلًا، فئة محبي ليدي غاغا أو فئة الخبراء في برنامج محاسبة ما)، فإنها تعيد إنتاج المواصفات البشرية (مثل التوصية بليدي غاغا للشابات أو توظيف الرجال البيض).

      لتوسيع نطاق البحث في هذا الموضوع، نود أن نقترح مسارين للنقاش. الأول هو منح مستخدمي خدمة ما إمكانية معرفة “حسابهم الشخصي الخوارزمي”: في أي الفئات الضمنية، ومن ثم الفئات الصريحة، يصفهم الخوارزم؟ الثاني هو تمكين هؤلاء المستخدمين من جهة من عدم تغذية الخوارزم بتتبع آثارهم ومن جهة أخرى، تمكينهم من الاستفادة، على غرار الحق في النسيان الذي دخل حيز التنفيذ في أوروبا عام 2012م، من حق إعطاء موافقة مستنيرة وصريحة لاستغلال آثارهم^[23]“.

---

^[1] 1 Cet essai a été partiellement écrit dans le cadre du projet Algodiv (ANR-15-CE38-0001) financé par l’Agence Nationale pour la Recherche et mené par Camille Roth que je remercie pour ses conseils et relectures.

^[2]  Rob Kitchin, « Thinking critically about and researching algorithms », Information, Communication & Society, 2017, vol. 20, n° 1, p. 14-29.

^[3] 3 Jenna Burrell, « How the machine ‘thinks’: Understanding opacity in machine learning algorithms », Big Data & Society, 2016, vol. 3, n° 1.

^[4] Eli Pariser. The filter bubble: What the Internet is hiding from you, Penguin UK, 2011.

^[5] Frank Pasquale, The black box society. Harvard University Press, 2015.

^[6] Frederik Zuiderveen Borgesius, et al., « Should we worry about filter bubbles? », Internet Policy Review. Journal on Internet Regulation, 2016, vol. 5, n° 1.

^[7] RailsConf 2016 – Closing Keynote: Paul Lamere : https://www.youtube.com/watch?v=f7XN3RuDzmc 

^[8] Les définitions proviennent du dictionnaire en ligne Ortolang : ww.cnrtl.fr/definition/représentation

^[9] Hanna F. Pitkin, The concept of representation, University of California Press, 1967.

^[10] Pierre Mannoni. Les représentations sociales, Que sais-je? n° 3329, PUF, 2016.

^[11] Hanna F. Pitkin, trad. Samuel Hayat, « La représentation politique », Raisons politiques, 2013, n°2, p. 35-51.

^[12] Michael Saward, « The representative claim », Contemporary political theory, 2006, vol. 5, n°3, p. 297318.

^[13] Virginie Dutoya, Samuel Hayat, « Prétendre représenter », Revue française de science politique, 2016, vol. 66, n°1, p. 7-25.

^[14] Zeynep Tufekci, « Engineering the public: Big data, surveillance and computational politics », First Monday, 2014, vol. 19, n°7.

^[15] Cathy O’Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy, Crown, 2016.

^[16] T.B Beane, D.M. Ennis, « La segmentation des marchés : une revue de la littérature », Recherche et Applications en Marketing, 1989, vol 4, n° 3, p. 25-52.

^[17] Thomas Beauvisage et al., « Fabriquer des cibles dans la publicité programmatique. Enquête sur l’audience planning », 2019, Rapport de recherche, Orange Labs.

^[18] Olivier Sautory, « L’échantillon démographique permanent de l’INSEE », Courrier des Statistiques, 1987, n°41, p. 1-4.

^[19] Dominique Boullier, « Pour des sciences sociales de troisième génération (SS3G) », in Pierre-Michel Menger et Simon Paye (dir.), Big Data et Traçabilité Numérique : Les Sciences Sociales Face à La Quantification Massive Des Individus, Paris, Open Editions Press (Collège de France), 2017, p. 163-184.

^[20] Antoinette Rouvroy, Thomas Berns, « Gouvernementalité algorithmique et perspectives d’émancipation », Réseaux, 2013, n°1, p. 163-196.

^[21] Seth Flaxman, Sharad Goel, Justin M. Rao, « Filter bubbles, echo chambers, and online news consumption », Public opinion quarterly, 2016, vol. 80, n° 1, p. 298-320.

^[22] Joseph Turow, The daily you: how the new advertising industry is defining your identity and your worth, Yale University Press, 2012. Benjamin G. Edelman, Michael Luca, « Digital discrimination: the case of Airbnb.com », Harvard Business School NOM Unit Working Paper, 2014, n° 14-054. 

^[23] Lilian Edwards and Michael Veale, « Slave to the algorithm: why a right to an explanation is probably not the remedy you are looking for », Duke L. & Tech Rev., 2017, vol. 16, p. 18.

——————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.