شركة آي بي إم تطالب المطورين بإثبات حيادية خوارزمياتهم لتعزيز الثقة بالذكاء الاصطناعي

شركة آي بي إم تطالب المطورين بإثبات حيادية خوارزمياتهم لتعزيز الثقة بالذكاء الاصطناعي
شركة آي بي إم تطالب المطورين بإثبات حيادية خوارزمياتهم لتعزيز الثقة بالذكاء الاصطناعي

نثق في خوارزميات الذكاء الاصطناعي ونمنحها مهامًا عديدة. لكنها تخذلنا كثيرًا. فقد يؤدي تحيز الخوارزميات إلى زيادة الإجراءات الأمنية في مناطق معينة يغلب عليها عرق معين أو المراقبة التلقائية لنشطاء مواقع الإعلام الاجتماعي، دون أن يمنع ذلك مجموعات الكراهية حرية النشر.

وعندما ظهرت مشكلات تحيز الخوارزميات، عرض الخبراء جميع الحلول الممكنة كي يجعلوها أكثر عدالة وشفافية.

ومن أمثلة هذه الحلول، تدقيق خوارزميات مطوري الذكاء الاصطناعي من خبراء طرف ثالث يقيمون الشيفرة المصدرية للبرامج وبياناتها كي يضمنوا ألا يؤدي النظام الجديد إلى التحيز وعدم المساواة. ويجري أولئك أيضًا اختبارات تضمن عدم تمييز الذكاء الاصطناعي بين الناس بسبب العرق أو النوع أو المستوى الاقتصادي والاجتماعي.

وابتكر علماء شركة آي بي إم وسيلة جديدة تجعل الذكاء الاصطناعي أكثر أمانًا وشفافية وحيادية وفعالية، وهو الطلب من المطورين نشر وثيقة المورد للالتزام بالمواصفات  قبل أن يسمح لهم في بيع الخوارزميات. ويوضح هذا دليل مطابقة المواصفات أداء الخوارزميات خلال الاختبارات القياسية للأداء والعدالة وعوامل الخطورة ووسائل الأمان. وعليهم إتاحته لأي شخص يود الاطلاع عليه.

ونشر علماء شركة آي بي إم ورقة بحثية يوم الأربعاء الماضي قالوا فيها أن هذه الشفافية قد تساعد في بناء الثقة وطمأنة العملاء على أن الخوارزمية ستؤدي عملها بدون الإضرار بأي شخص بسبب بيانات مغرضة. إذ يستطيع العملاء وعامة الناس معرفة مشكلات أي خوارزمية من نتائج اختباراتها ما يساعدهم في تجنب استخدامها.



واعتمد الباحثون في ورقتهم البحثية على أدلة مطابقات المواصفات الخاصة بالقطاعات الأخرى، والتي نادرًا ما يشترطها القانون لكن يحرص المنتجون على إصداره كي لا يتجه العملاء إلى منافسين أكثر شفافية. فمثلًا يثق العملاء في مكابح السيارة أو الطيار الآلي في الطائرات ومتانة الجسور لأنها تختبر بناءً على معايير قياسية. لكن لا يوجد اختبار مشابه يضمن أداء أدوات الذكاء الاصطناعي لعملها بكفاءة.

ويرى الباحثون أن دليل مطابقة المواصفات الخاص بالذكاء الاصطناعي قد يجيب على أسئلة عديدة مثل «هل خضعت قواعد البيانات لاختبارات الانحياز؟ وهل اختبرت قوتها ضد هجمات الخصوم؟» وبصفةٍ عامة تقيّم هذه الأسئلة الخوارزمية اعتمادًا على أداءها بدلًا من فحص مكوناتها أو شيفرتها. وإليكم بعض من الأسئلة التي قد تتضمنها وثيقة مطابقة المواصفات، وفقًا لما ذكره العلماء في ورقتهم البحثية:

  • هل توفر قاعدة البيانات المستخدمة في تدريب نظام الذكاء الاصطناعي معلومات عن آلية جمعها؟
  • على خضعت قاعدة البيانات لاختبارات التحيز؟ وإن كانت الإجابة نعم، فيجب وصف سياسات التحيز التي خضعت للاختبار وآلية اختبارها ونتائج الاختبار.
  • هل خضعت قواعد البيانات لتخفيف التحيز؟ وإن كانت الإجابة نعم، فيجب وصفة طريقة لتخفيف.
  • هل نتائج الخوارزمية منطقية وقابلة للتفسير؟ إن كانت الإجابة نعم، فيجب إيضاح طريقة تفسيرها، مثل نموذج التفسير المباشر أو التفسير باستخدام الأمثلة.
  • ما نوع الحوكمة المستخدمة في تتبع تدفق البيانات إلى نظام الذكاء الاصطناعي؟

لكن مطالبة المطورين بنشر وثائق مطابقة المواصفات لن تحل جميع مشكلات الناتجة عن اعتمادنا على الذكاء الاصطناعي. فنحن نعرف كيف توقف المكابح السيارة المسرعة، لكن بعض الخوارزميات المعقدة مثل المستخدمة في تقنيات التعلم الآلي غامضة جدًا. بالإضافة إلى أن البعض قد يلجأ لتزوير تقارير الشفافية إن أظهرت تأثيرًا على عمليات البيع.

سيحرص المطورون على إصدار وثائق مطابقة المواصفات، إن أصدرها منافسوهم. ولكن النظام سيطبق فحسب إن أظهر الزبائن والحكومات والشركات التي تستخدم الذكاء الاصطناعي اهتمامها بما تحمله هذه التقارير. وهل ستهتم دوائر الشرطة، مثل شرطة لوس أنجلوس التي استخدمت خوارزميات حملت سياسات عنصرية في الماضي، بتفاصيل وثائق مطابقة المواصفات كي يجدوا نظامًا أفضل؟ لا نعرف الإجابة حتى الآن.

ولا يبدو أن هذه التقارير ستجبر أي شخص على استخدام خوارزميات أكثر أخلاقية أو حتى تطوريها. لكن إن أضفنا هذه التقارير إلى أدوات أخرى مثل التدقيق باستخدام طرف ثالث، يمكن للعامة أن يحصلوا على خوارزميات تعامل الجميع بعدالة.

اشترك فى النشرة البريدية لتحصل على اهم الاخبار بمجرد نشرها

تابعنا على مواقع التواصل الاجتماعى

التالى تلسكوبان يرصدان موجات غريبة.. هل هي من كائنات فضائية؟