Get best of the week

算法系统的国家监督实践，以加拿大和欧盟为例

图片

算法决策的透明度和问责制，对算法重要组成部分的访问及其更正是对因使用算法系统而产生的社会，技术和监管问题做出公正决策的工具。加拿大和欧洲联盟正在积极研究监测和监督此类系统的问题。

加拿大在解决这一问题方面取得了最大进展。但是她只专注于政府系统。因此，在2019年4月，该国政府批准了关于自动决策的指令，以确保对状态算法系统进行管理，监督和审计。从2020年4月1日起必须遵守该指令，并假定每6个月检查一次。不遵守该指令的后果包括预防措施，直至“冻结”系统的要求以及对组织工作的重大限制。

算法系统的调节将如何工作？


根据该指令，要求使用算法系统进行决策的政府网站和服务“以可见的位置和易于理解的语言”通知用户，并定期发布有关自动化决策系统的有效性和效率的信息。同样，算法的所有者有义务根据要求提供算法对这一特定决策的采用的解释以及可用的追索权选项（在决策竞争的情况下）。

为了确定算法系统的影响程度，加拿大政府已经制定并发布了开源评估工具（声称已被其他国家使用）。特别是，为了评估加拿大的州算法系统的影响，邀请算法所有者回答60个问题。根据对响应的分析结果，将算法系统的等级分配为1到4。确定等级的关键因素是社会经济影响，对政府流程（服务）的影响评估，数据管理，（方法论）透明度和系统复杂性（随附指标影响评估）。

欧洲联盟尚未制定实际步骤或强制性措施，但总体上正朝着与加拿大相同的方向发展。但是，与北美不同，欧盟计划控制所有算法，而不仅仅是国有算法。
欧洲议会研究中心正在研究评估算法系统影响的问题。

特别是，准备了两份分析文件：“理解算法决策：机遇与挑战”（2019年3月）和“确保算法问责制和透明度的管理系统”（2019年4月）。
准备作为欧洲议会议员参考资料的文件。

研究人员认为，以下措施可能有效：

  • 建立一个监管机构来控制和监督算法系统的活动，其任务将包括：根据对人的影响程度评估使用算法的风险，对算法类型进行分类，在侵犯人权的情况下研究算法，就算法系统向监管机构提供建议，制定标准最佳实践，算法系统审计，通过不当使用算法帮助用户保护其权利；
  • , . , IEEE P7000 « » IEEE P7001 « ». , , ;
  • , . , , , , , ;
  • ( - ) ;
  • ( ) , ;
  • 提供“算法素养”，以提高公众对算法系统原理，影响和形成批判性评估的认识；
  • 向用户提供正在进行的算法处理的标准化强制性通知（可能会影响单个用户的决策过程或对整个系统的行为有更广泛的公众了解的解释性信息）。

More articles:


All Articles