Get best of the week

カナダとEUの例に関するアルゴリズムシステムの国家監視の実践

画像

アルゴリズム決定の透明性と説明責任、アルゴリズムの重要なコンポーネントへのアクセスとその修正は、アルゴリズムシステムの使用に関連して発生する社会的、技術的および規制上の問題の公正な決定を行うためのツールです。このようなシステムの監視と監視の問題は、カナダとEUで活発に研究されています。

カナダはこの問題の解決において最も進んでいます。しかし、彼女は政府のシステムにのみ焦点を当てました。したがって、2019年4月、国の政府は、州のアルゴリズムシステムの管理、監督、監査を確実にするための自動意思決定に関する指令を承認しました。指令の遵守は2020年4月1日から必須であり、6か月ごとに検査の頻度を想定しています。指令に違反した場合の結果は、防止策からシステムの「凍結」の要件や組織の作業に対する重大な制限にまで及びます。

アルゴリズムシステムの規制はどのように機能しますか？


指令によると、意思決定にアルゴリズムシステムを使用する政府のWebサイトおよびサービスは、これを「目に見える場所で理解可能な言語で」ユーザーに通知し、自動意思決定システムの有効性と効率に関する情報を定期的に公開する必要があります。また、アルゴリズムの所有者は、要求に応じて、アルゴリズムによるこの特定の決定の採用と、（決定の争いが起こった場合の）償還の利用可能なオプションの説明を提供する義務があります。

アルゴリズム・システムの影響のレベルを決定するために、カナダ政府は、開発としている公表しますオープンソースの評価ツール（他の国での使用を主張）。特に、カナダの州のアルゴリズムシステムの影響を評価するために、アルゴリズムの所有者は60の質問に回答するよう求められています。応答の分析結果に基づいて、アルゴリズムシステムには1〜4のレベルが割り当てられます。レベルを決定するための重要な要素は、社会経済的影響、政府プロセス（サービス）への影響の評価、データ管理、（方法論）透明性、およびシステムの複雑さ（指標の影響の評価が添付されています）です。

欧州連合はまだ実用的な措置や強制措置を策定していませんが、全体としてカナダと同じ方向に向かっています。ただし、北米とは異なり、EUは国有のものだけでなく、すべてのアルゴリズムを統制することを計画しています。
アルゴリズムシステムの影響を評価する問題は、欧州議会の研究センターによって調査されています。

特に、「アルゴリズムによる意思決定の理解：機会と課題」（2019年3月）と「アルゴリズムの説明責任と透明性を確保するための管理システム」（2019年4月）の2つの分析文書が作成されました。
欧州議会のメンバーのための参考資料として準備された文書。

研究者によると、以下の対策が効果的である可能性があります：

  • アルゴリズムシステムの活動を制御および監督する規制機関の作成。そのタスクには、人への影響の程度に応じてアルゴリズムを使用するリスクの評価、アルゴリズムのタイプの分類、人権侵害の場合のアルゴリズムの調査、アルゴリズムシステムに関する規制当局への助言、標準の設定また、ベストプラクティス、アルゴリズムシステムの監査、ユーザーによるアルゴリズムの不適切な使用による権利保護の支援。
  • , . , IEEE P7000 « » IEEE P7001 « ». , , ;
  • , . , , , , , ;
  • ( - ) ;
  • ( ) , ;
  • アルゴリズムシステムの原則、影響、および重要な評価の形成に対する一般の認識を高めるための「アルゴリズムリテラシー」の提供。
  • 進行中のアルゴリズム処理のユーザーへの標準化された必須通知の提供（個々のユーザーの意思決定プロセスに影響を与える可能性のある説明的な性質の情報、またはシステム全体の動作に関するより広範な一般の理解）。

More articles:


All Articles