Get best of the week

Praktek pengawasan negara sistem algoritmik pada contoh Kanada dan Uni Eropa

gambar

Transparansi dan akuntabilitas keputusan algoritmik, akses ke komponen signifikan dari algoritma dan koreksinya adalah alat untuk membuat keputusan yang adil dari masalah sosial, teknis dan peraturan yang muncul sehubungan dengan penggunaan sistem algoritmik. Masalah pemantauan dan pengawasan sistem tersebut sedang dipelajari secara aktif di Kanada dan Uni Eropa.

Kanada paling maju dalam menyelesaikan masalah ini. Tetapi dia hanya berfokus pada sistem pemerintahan. Dengan demikian, pada bulan April 2019, pemerintah negara menyetujui Arahan tentang pengambilan keputusan otomatis untuk memastikan manajemen, pengawasan dan audit sistem algoritme negara. Kepatuhan terhadap arahan wajib mulai 1 April 2020 dan mengasumsikan frekuensi inspeksi setiap 6 bulan. Konsekuensi dari ketidakpatuhan terhadap arahan berkisar dari langkah-langkah pencegahan hingga persyaratan untuk "membekukan" sistem dan pembatasan signifikan pada pekerjaan organisasi.

Bagaimana pengaturan sistem algoritmik bekerja?


Menurut arahan, situs web dan layanan pemerintah yang menggunakan sistem algoritmik untuk membuat keputusan diperlukan untuk memberi tahu pengguna ini "di tempat yang terlihat dan bahasa yang dapat dimengerti" dan secara teratur menerbitkan informasi tentang efektivitas dan efisiensi sistem pengambilan keputusan otomatis. Juga, pemilik algoritma berkewajiban, atas permintaan, untuk memberikan penjelasan tentang adopsi keputusan khusus ini oleh algoritma dan opsi yang tersedia untuk meminta bantuan (dalam hal menentang keputusan).

Untuk menentukan tingkat dampak sistem algoritmik, Pemerintah Kanada telah mengembangkan dan menerbitkanalat penilaian sumber terbuka (diklaim digunakan oleh negara lain). Khususnya, untuk mengevaluasi dampak sistem algoritmik negara bagian Kanada, pemilik algoritme diundang untuk menjawab 60 pertanyaan. Berdasarkan hasil analisis tanggapan, sistem algoritmik diberikan level dari 1 hingga 4. Faktor kunci untuk menentukan level adalah dampak sosial-ekonomi, penilaian dampak pada proses (layanan) pemerintah, manajemen data, transparansi (metodologi) dan kompleksitas sistem (penilaian dampak indikator dilampirkan).

Uni Eropa belum mengembangkan langkah-langkah praktis atau langkah-langkah wajib, tetapi secara keseluruhan bergerak ke arah yang sama dengan Kanada. Namun, tidak seperti orang Amerika Utara, Uni Eropa berencana untuk melakukan kontrol atas semua algoritma, bukan hanya milik negara.
Masalah mengevaluasi dampak sistem algoritmik sedang diselidiki oleh Pusat Penelitian Parlemen Eropa.

Secara khusus, dua dokumen analitis disiapkan: "Memahami Pengambilan Keputusan Algoritma: Peluang dan Tantangan" (Maret, 2019) dan "Sistem Manajemen untuk Memastikan Pertanggungjawaban dan Transparansi Algoritma" (April, 2019).
Dokumen disiapkan sebagai bahan referensi untuk anggota Parlemen Eropa.

Menurut para peneliti, langkah-langkah berikut mungkin efektif:

  • Pembuatan badan pengawas untuk mengendalikan dan mengawasi aktivitas sistem algoritmik, tugas-tugasnya meliputi: menilai risiko penggunaan algoritme sesuai dengan tingkat dampak seseorang, mengklasifikasikan jenis algoritme, meneliti algoritme jika terjadi pelanggaran hak asasi manusia, memberi nasihat kepada pihak berwenang mengenai sistem algoritme, menetapkan standar dan praktik terbaik, audit sistem algoritmik, bantuan kepada pengguna dalam melindungi hak-hak mereka dengan penggunaan algoritma yang tidak sesuai;
  • , . , IEEE P7000 « » IEEE P7001 « ». , , ;
  • , . , , , , , ;
  • ( - ) ;
  • ( ) , ;
  • Memberikan "literasi algoritmik" untuk meningkatkan kesadaran publik tentang prinsip-prinsip sistem algoritmik, dampak dan pembentukan penilaian kritis;
  • Memberikan pemberitahuan wajib standar kepada pengguna tentang pemrosesan algoritmik yang sedang berlangsung (informasi yang bersifat jelas yang berpotensi dapat memengaruhi proses pengambilan keputusan pengguna individu atau pemahaman publik yang lebih luas tentang perilaku sistem keseluruhan).

More articles:


All Articles