الذكاء الاصطناعي المسؤول في خطر: فهم مخاطر الطرف الثالث في الذكاء الاصطناعي والتغلب عليها | من «MIT SMR»

ترجمة: شهد الراجحي

للسنة الثانية على التوالي، شكل كل من مجلة إم آي تي سلون (MIT Sloan Management Review) ومجموعة بوسطن الاستشارية (BCG) لجنة دولية من خبراء الذكاء الاصطناعي، بما في ذلك الأكاديميون والممارسون، لمساعدتنا في اكتساب رؤى حول كيفية تطبيق الذكاء الاصطناعي المسؤول (RAI) في المنظمات على مستوى العالم.

في العام الماضي، نشرنا تقريرًا عنوانه: “لكي تكون قائدًا في الذكاء الاصطناعي المسؤول، ركز على كونك مسؤولًا”. سنبحث في هذا العام عن مدى اهتمام المنظمات بالمخاطر الناجمة عن استخدام أدوات الذكاء الاصطناعي المطورة داخليًّا وخارجيًّا. ولبدء النقاش، طلبنا من المشاركين في الندوة الاستجابة لهذه الجملة التي باعتقادنا تعد مستفزة: “تعمل برامج الذكاء الاصطناعي المسؤول بكفاءة لمعالجة المخاطر الناجمة عن استخدام أو تضمين أدوات الذكاء الاصطناعي من طرف ثالث”. وعلى الرغم من أن نصف المشاركين اتفقوا مع هذه الجملة، فإن تفسيراتهم لها تفاوتت تمامًا؛ فقد ركز بعض المشاركين على ما تفعله المنظمات في الممارسة العملية، في حين ركز آخرون على ما ينبغي للمنظمات فعله من حيث المبدأ.

عمومًا، هناك اتفاق كبير بوجوب معالجة برامج الذكاء الاصطناعي المسؤول للمخاطر المترتبة على تلك الأدوات. ومع ذلك، فإن مدى معالجتها لتلك المخاطر في الممارسة العملية هو أمر آخر، وهو ما سنتعمق به خلال بحثنا هذا العام. سنشارككم رؤى من المشاركين في الندوة، ونستند إلى ملاحظاتنا وتجربتنا في العمل على مبادرات الذكاء الاصطناعي المسؤول لنقدم توصيات للمنظمات لمعالجة مخاطر أدوات الذكاء الاصطناعي من طرف ثالث من خلال برامجهم للذكاء الاصطناعي المسؤول.

الأخطار الناتجة عن الطرف الثالث في تزايد

يتفق خبراؤنا بحد كبير على أن برامج الذكاء الاصطناعي المسؤول يجب أن تعالج المخاطر المتزايدة الناتجة باستخدام أو دمج أدوات الذكاء الاصطناعي من طرف ثالث. تقول “ريانكا روي تشودري”، زميلة في مركز “كودكس” البحثي في جامعة ستانفورد، إن هذه المسألة تشكل عنصرًا مهمًّا في برنامج الذكاء الاصطناعي المسؤول الفعّال، وأضافت: “إن أحد المبادئ الرئيسية في برامج الذكاء الاصطناعي المسؤول هو تقليل المخاطر المرتبطة بدمج أدوات الذكاء الاصطناعي من طرف ثالث”.

أما “نيتزان ميكيل بوبروف”، وهو كبير مسؤولي الذكاء الاصطناعي في “إي باي”، يعدّ أدوات الذكاء الاصطناعي من طرف ثالث ضرورة، بالإضافة إلى النماذج مفتوحة المصدر، ومنصات البائعين، وواجهات برمجة التطبيقات التجارية، ويعتقد أنها جزءٌ أساسي من استراتيجية الذكاء الاصطناعي في كل منظمة تقريبًا، ما زاد من صعوبة فصل العناصر الداخلية عن الخارجية. وبالتالي، يجب أن يتضمن برنامج الذكاء الاصطناعي سياسات لاستخدام الأدوات من طرف ثالث، ومعايير لتقييمها، وأي ضوابط ضرورية.

إن تلك الضرورة العملية تتزايد، فعلى سبيل المثال، قال “ريتشارد بنجامينز”، كبير استراتيجيي الذكاء الاصطناعي والبيانات في شركة تليفونيكا: “إن الخدمة في الذكاء الاصطناعي هي ظاهرة سائدة، وبالتالي فإن المزيد من المنظمات ستستخدم أدوات الذكاء الاصطناعي في الشبكات التي طورها آخرون”، مستندًا إلى قانون الذكاء الاصطناعي للاتحاد الأوروبي ولوائح أخرى، وصرح قائلًا: “إنه من الأهمية القصوى أن تُعد برامج الذكاء الاصطناعي المسؤول السلسلة القيمة الكاملة للذكاء الاصطناعي، بالإضافة إلى تطويرات الذكاء الاصطناعي الداخلية”.

على الرغم من الإجماع المعياري على ضرورة أن تعالج برامج الذكاء الاصطناعي المسؤول هذه الأنواع من المخاطر، فإنّ هناك تعارضًا بشأن كيفية تطبيق ذلك. تقول “أورابيلي مودونغو”، المتخصصة في السياسات في مرصد الذكاء الاصطناعي في إفريقيا: للتعامل المثالي مع المخاطر الناتجة مع أدوات الذكاء الاصطناعي من الطرف الثالث، يجب أن تشمل برامج الذكاء الاصطناعي المسؤول مجموعة شاملة من السياسات والإجراءات، مثل إرشادات تطوير الذكاء الاصطناعي الأخلاقي، وهياكل تقييم المخاطر، وإجراءات الرصد والتدقيق. وتؤكد “راديكا ألا”، نائبة رئيس المنصات الرقمية في مجموعة مايو كلينك، أنه يجب تطبيق الصرامة نفسها التي تُستخدم في تطوير نماذج الذكاء الاصطناعي الداخلية عند تقييم منصات وخدمات الذكاء الاصطناعي من الطرف الثالث.

اختلفت عن رأيهم طالبة الدكتوراه في برنامج “إنسانية الذكاء الاجتماعي” من الجامعة الوطنية الأسترالية “بيلونا سونا”، إذ جادلتُ بأن برامج “الذكاء الاصطناعي المسؤول” وحدها لا تكفي لمعالجة المخاطر الناجمة عن استخدام أو دمج أدوات الذكاء الاصطناعي التابعة لأطراف ثالثة بفعالية، وبدلًا من ذلك، توصي بتطبيق نظام إدارة المخاطر المرتبط بالأدوات من الطرف الثالث، ما يضمن التوافق الكامل بين الكيانين وفقًا لمبادئ الذكاء الاصطناعي المسؤول. ومعها تتفق رئيسة الذكاء الاصطناعي المسؤول في “إتش آند إم” “ليندا ليوبولد”، على أن تقييم مخاطر أدوات الذكاء الاصطناعي الناجمة من الطرف الثالث يتطلب مجموعة مختلفة من الأساليب مقارنة بتلك المستخدمة في أنظمة الذكاء الاصطناعي الداخلية.

 التحديات العملية لإدارة المخاطر

قال “ستيفن فوسلو”، المتخصص في السياسة الرقمية في “اليونيسف”: يعتمد مدى قدرة برنامج الذكاء الاصطناعي المسؤول في المنظمة على معالجة مخاطر أدوات الذكاء الاصطناعي من الطرف الثالث في الممارسة العملية على مدى صرامة البرنامج، ويعترف بأنه قد يكون تحديًا تحديد كيفية تقييم المخاطر كاملة (سواء أكانت حقيقية أم محتملة) في أدوات الذكاء الاصطناعي من الطرف الثالث.

يقول كبير مسؤولي البيانات والذكاء الاصطناعي في “يونيون بنك” في الفلبين “دافيد هاردون”: يعتمد مدى قدرة برنامج الذكاء الاصطناعي المسؤول على معالجة مخاطر أدوات الذكاء الاصطناعي من الطرف الثالث على مدى شمولية البرنامج، كما يوضح قائلًا: “الاعتبارات في برنامج الذكاء الاصطناعي المسؤول الشامل لن تتحيز للمنصة المستخدمة في التطوير”، ولكنه يرى أن برامج الذكاء الاصطناعي المسؤول غالبًا ما تفشل في الممارسات العملية في تقييم المخاطر لتشمل المخاطر المتعلقة بالنظام، وبالتالي فإنها لن تشمل بالضرورة كل المخاطر التي قد توجد عند التعامل مع أدوات الذكاء الاصطناعي من الأطراف الثالثة.

 يقول “سايمون تشيسترمان”، المدير الأول لحوكمة الذكاء الاصطناعي في “أي آي سنغفورا”، إن من أكبر التحديات هي “أننا لا نعلم ما الذي لا نعلمه”. في الواقع، فإن الاعتماد السريع للذكاء الاصطناعي التوليدي وأدوات أخرى يزيد من المخاطر التي يسببها ما يُسمى “الذكاء الاصطناعي الخفي” (وهي الاستخدامات التي لا تعي بها المنظمة).

 ومن التحديات الأخرى، هي عدم وجود معايير صناعية للذكاء الاصطناعي. كما تشرح “أشلي كاسوفان”، المديرة التنفيذية لمعهد الذكاء الاصطناعي المسؤول، “نظرًا لعدم وجود مفهوم حقيقي لما تعنيه برامج الذكاء الاصطناعي المسؤول عبر المنظمات والصناعات، فإنه لا توجد بعد ممارسات أو معايير صناعية موحدة لتضمين أدوات الذكاء الاصطناعي من الطرف الثالث”. وذكر “تشيليدي ماروالا”، رئيس جامعة الأمم المتحدة: “تعد أدوات الذكاء الاصطناعي من طرف ثالث مسؤولة عن معايير دنيا غير موجودة حاليًّا”. ولذلك، تعد سياسات الشراء وما بعد الشراء أمرًا مهمًّا. كما تقول “ألكا باتيل”، الرئيسة السابقة للذكاء الاصطناعي المسؤول في وزارة الدفاع الأمريكية: “إن المنظمة بحاجة إلى بناء آليات تدعمها لتقييم الذكاء الاصطناعي وتحديثه وتضمينه من الطرف الثالث بعد عملية الشراء”.

 الانتباه للتغيرات

في الواقع، يتطلب الحد من المخاطر نهجًا مستمرًّا ومتكررًا في برامج الذكاء الاصطناعي المسؤول، كما شرحت “مودونغو”: قد يتضمن النهج الاستباقي لإدارة مخاطر أدوات الذكاء الاصطناعي من الطرف الثالث مراقبة مستمرة لحلول الذكاء الاصطناعي وتحديثات منتظمة لبرامج الذكاء الاصطناعي المسؤول. وبالمثل، تؤكد “ألا” على أن برامج وهياكل الذكاء الاصطناعي المسؤول بحاجة إلى إشراف وحوكمة مستمرين لضمان أن المبادئ الأساسية للذكاء الاصطناعي المسؤول قابلة للتطبيق ومرتبطة في تقييم أدوات الذكاء الاصطناعي من الطرف الثالث. واتفق “جيوسيبي ماناي”، المؤسس المشارك، والرئيس التنفيذي للعمليات، وكبير مسؤولي أمن البيانات في شركة ستيملي، على أن البرامج يجب أن تكون مرنة ومتغيرة لتواكب تطور أدوات الذكاء الاصطناعي.

 صرحت “بولا جولدمان”، كبيرة مسؤولي الاستخدام الأخلاقي والإنساني في شركة سيلز فورس، بأن أهمية هذا الأمر تكمن الآن خصوصًا، حيث تتسابق الشركات للإعلان عن شراكات جديدة والاستثمار في الشركات الناشئة لمساعدتها على طرح الذكاء الاصطناعي التوليدي في السوق.

 توصيات

للمنظمات التي تسعى لمعالجة مخاطر أدوات الذكاء الاصطناعي من الطرف الثالث من خلال جهودها في الذكاء الاصطناعي المسؤول، نوصي بالتالي:

تقليل الذكاء الاصطناعي الخفي (Shadow AI): من الأسهل التحكم في ما يمكنك قياسه، وللحد من مخاطر أدوات الذكاء الاصطناعي من الطرف الثالث، تحتاج المنظمات إلى رؤية واضحة، وجرد دقيق لاستخدامات الذكاء الاصطناعي ضمن عملياتها.

ضمان أن يكون الحد من مخاطر الطرف الثالث جزءًا من برنامجك للذكاء الاصطناعي المسؤول: فالوعي الكامل بالذكاء الاصطناعي ليس كافيًا، ومن أجل اكتشاف المخاطر المترتبة من الطرف الثالث والحد منها بفاعلية، يجب أن يشمل برنامج الذكاء الاصطناعي المسؤول جميع استخدامات الذكاء الاصطناعي عبر المنظمة، سواء أكانت أدوات مطورة داخليًّا أو خارجيًّا، بما في ذلك السياسات المتعلقة بالشراء وما بعد الشراء.

التحديث المستمر والتعديل الدوري للتعامل مع المخاطر الجديدة: كما هو الحال مع جميع عناصر الذكاء الاصطناعي المسؤول الأخرى، فلا يكون الحد من مخاطر الطرف الثالث مرة واحدة فقط. فبسبب التقدم في الذكاء الاصطناعي أو التطورات القانونية والتنظيمية، يجب التخطيط لمراجعة نهجك في الحد من المخاطر المرتبطة بالطرف الثالث دوريًّا ضمن برنامج الذكاء الاصطناعي المسؤول.

—————————-

تُرجمت هذه المقالة بدعم من مبادرة «ترجم»، إحدى مبادرات هيئة الأدب والنشر والترجمة.

الآراء والأفكار الواردة في المقالة تمثّل وِجهة نَظر المؤلف فقط.