ممارسة إشراف الدولة على الأنظمة الخوارزمية على سبيل المثال من كندا والاتحاد الأوروبي

صورة

الشفافية والمساءلة لقرارات الخوارزمية ، والوصول إلى مكونات هامة من الخوارزمية وتصحيحاتها هي أدوات لاتخاذ قرارات عادلة للمشاكل الاجتماعية والتقنية والتنظيمية التي تنشأ فيما يتعلق باستخدام النظم الخوارزمية. تتم دراسة قضية مراقبة هذه الأنظمة والإشراف عليها بنشاط في كندا والاتحاد الأوروبي.

تقدمت كندا أكثر في حل هذه المشكلة. لكنها ركزت فقط على الأنظمة الحكومية. وهكذا ، في أبريل 2019 ، وافقت حكومة الدولة على التوجيه بشأن اتخاذ القرار الآلي لضمان الإدارة والإشراف والتدقيق في أنظمة الخوارزميات الحكومية. يعد الامتثال للتوجيه إلزاميًا اعتبارًا من 1 أبريل 2020 ويفترض تواتر الفحص كل 6 أشهر. تتراوح عواقب عدم الامتثال للتوجيه من التدابير الوقائية إلى متطلبات "تجميد" النظام والقيود الكبيرة على عمل المنظمة.

كيف سيعمل تنظيم أنظمة الخوارزميات؟


وفقًا للتوجيه ، فإن المواقع والخدمات الحكومية التي تستخدم أنظمة خوارزمية لاتخاذ القرارات مطلوبة لإعلام المستخدمين بهذا "في مكان مرئي ولغة مفهومة" ونشر المعلومات بانتظام حول فعالية وكفاءة أنظمة اتخاذ القرار المؤتمتة. أيضًا ، يجب على مالك الخوارزمية ، عند الطلب ، تقديم تفسيرات لاعتماد هذا القرار الخاص من قبل الخوارزمية والخيارات المتاحة للانتصاف (في حالة الطعن في القرار).

لتحديد مستوى تأثير أنظمة الخوارزميات ، قامت الحكومة الكندية بتطوير ونشرهاأداة تقييم مفتوحة المصدر (تدعي أنها تستخدم من قبل دول أخرى). على وجه الخصوص ، لتقييم تأثير أنظمة الخوارزميات الحكومية في كندا ، تتم دعوة مالكي الخوارزميات للإجابة على 60 سؤالًا. استنادًا إلى نتائج تحليل الاستجابات ، يتم تعيين نظام الخوارزمية مستوى من 1 إلى 4. العوامل الرئيسية لتحديد المستوى هي التأثير الاجتماعي الاقتصادي ، وتقييم الأثر على العمليات الحكومية (الخدمات) ، وإدارة البيانات ، والشفافية (المنهجية) وتعقيد النظام (مرفق تقييم لتأثير المؤشرات).

لم يقم الاتحاد الأوروبي حتى الآن بتطوير خطوات عملية أو تدابير إلزامية ، ولكن ككل يتحرك في نفس الاتجاه مثل كندا. ومع ذلك ، على عكس أمريكا الشمالية ، يخطط الاتحاد الأوروبي لممارسة السيطرة على جميع الخوارزميات ، وليس فقط تلك المملوكة للدولة.
يتم التحقق من مشكلة تقييم تأثير النظم الخوارزمية من قبل مركز البحوث بالبرلمان الأوروبي.

على وجه الخصوص ، تم إعداد وثيقتين تحليليتين: "فهم اتخاذ القرار الخوارزمي: الفرص والتحديات" (مارس ، 2019) و "نظام إدارة المساءلة والشفافية الخوارزمية" (أبريل ، 2019).
وثائق أعدت كمواد مرجعية لأعضاء البرلمان الأوروبي.

وفقا للباحثين ، قد تكون التدابير التالية فعالة:

  • إنشاء هيئة تنظيمية للتحكم والإشراف على نشاط الأنظمة الخوارزمية ، وستشمل مهامها: تقييم مخاطر استخدام الخوارزميات وفقًا لدرجة التأثير على الشخص ، وتصنيف أنواع الخوارزميات ، والبحث عن الخوارزميات في حالة انتهاكات حقوق الإنسان ، وتقديم المشورة للسلطات التنظيمية بشأن الأنظمة الخوارزمية ، ووضع المعايير وأفضل الممارسات ، ومراجعة أنظمة الخوارزميات ، ومساعدة المستخدمين في حماية حقوقهم مع الاستخدام غير المناسب للخوارزميات ؛
  • , . , IEEE P7000 « » IEEE P7001 « ». , , ;
  • , . , , , , , ;
  • ( - ) ;
  • ( ) , ;
  • توفير "محو الأمية الخوارزمية" لزيادة الوعي العام بمبادئ أنظمة الخوارزمية وتأثير وتشكيل التقييم النقدي ؛
  • توفير إخطار إلزامي موحد للمستخدمين حول المعالجة الخوارزمية المستمرة (معلومات ذات طبيعة توضيحية يمكن أن تؤثر على عملية صنع القرار لمستخدم فردي أو فهم عام أوسع لسلوك النظام العام).

All Articles