Get best of the week

Die Praxis der staatlichen Überwachung algorithmischer Systeme am Beispiel Kanadas und der EU

Bild

Transparenz und Rechenschaftspflicht algorithmischer Entscheidungen, der Zugriff auf wichtige Komponenten des Algorithmus und seine Korrekturen sind Werkzeuge, um faire Entscheidungen über soziale, technische und regulatorische Probleme zu treffen, die im Zusammenhang mit der Verwendung algorithmischer Systeme auftreten. Das Thema Überwachung und Überwachung solcher Systeme wird in Kanada und der Europäischen Union aktiv untersucht.

Kanada hat bei der Lösung dieses Problems die größten Fortschritte erzielt. Sie konzentrierte sich jedoch ausschließlich auf Regierungssysteme. So genehmigte die Regierung des Landes im April 2019 die Richtlinie über automatisierte Entscheidungen, um die Verwaltung, Überwachung und Prüfung staatlicher algorithmischer Systeme sicherzustellen. Die Einhaltung der Richtlinie ist ab dem 1. April 2020 obligatorisch und setzt die Häufigkeit der Inspektion alle 6 Monate voraus. Die Folgen der Nichteinhaltung der Richtlinie reichen von vorbeugenden Maßnahmen bis hin zu den Anforderungen für das „Einfrieren“ des Systems und erheblichen Einschränkungen der Arbeit der Organisation.

Wie wird die Regulierung algorithmischer Systeme funktionieren?


Gemäß der Richtlinie müssen Regierungswebsites und -dienste, die algorithmische Systeme verwenden, um Entscheidungen zu treffen, die Benutzer „an einem sichtbaren Ort und in einer verständlichen Sprache“ darüber informieren und regelmäßig Informationen über die Wirksamkeit und Effizienz automatisierter Entscheidungsfindungssysteme veröffentlichen. Außerdem ist der Eigentümer des Algorithmus verpflichtet, auf Anfrage Erläuterungen zur Annahme dieser bestimmten Entscheidung durch den Algorithmus und zu den verfügbaren Rückgriffsmöglichkeiten (im Falle eines Wettbewerbs der Entscheidung) zu liefern.

Um das Ausmaß der Auswirkungen algorithmischer Systeme zu bestimmen, hat die kanadische Regierung entwickelt und veröffentlichtOpen-Source-Bewertungsinstrument (das angeblich von anderen Ländern verwendet wird). Um insbesondere die Auswirkungen der staatlichen algorithmischen Systeme Kanadas zu bewerten, werden die Eigentümer von Algorithmen aufgefordert, 60 Fragen zu beantworten. Basierend auf den Ergebnissen der Analyse der Antworten wird dem algorithmischen System eine Ebene von 1 bis 4 zugewiesen. Die Schlüsselfaktoren für die Bestimmung der Ebene sind sozioökonomische Auswirkungen, Bewertung der Auswirkungen auf Regierungsprozesse (Dienstleistungen), Datenmanagement, (methodische) Transparenz und Komplexität des Systems (eine Bewertung der Auswirkungen von Indikatoren ist beigefügt).

Die Europäische Union hat noch keine praktischen Schritte oder verbindlichen Maßnahmen entwickelt, bewegt sich jedoch insgesamt in die gleiche Richtung wie Kanada. Im Gegensatz zu Nordamerikanern plant die EU jedoch, die Kontrolle über alle Algorithmen auszuüben, nicht nur über staatliche.
Das Problem der Bewertung der Auswirkungen algorithmischer Systeme wird von der Forschungsstelle des Europäischen Parlaments untersucht.

Insbesondere wurden zwei analytische Dokumente erstellt: „Algorithmische Entscheidungsfindung verstehen: Chancen und Herausforderungen“ (März 2019) und „Ein Managementsystem zur Gewährleistung algorithmischer Rechenschaftspflicht und Transparenz“ (April 2019).
Dokumente, die als Referenzmaterial für Mitglieder des Europäischen Parlaments erstellt wurden.

Nach Angaben der Forscher können folgende Maßnahmen wirksam sein:

  • Schaffung einer Regulierungsbehörde zur Kontrolle und Überwachung der Aktivität algorithmischer Systeme, deren Aufgaben Folgendes umfassen: Bewertung der Risiken der Verwendung von Algorithmen nach dem Grad der Auswirkung auf eine Person, Klassifizierung von Algorithmusarten, Untersuchung von Algorithmen bei Menschenrechtsverletzungen, Beratung von Regulierungsbehörden in Bezug auf algorithmische Systeme, Festlegung von Standards und Best Practices, Prüfung algorithmischer Systeme, Unterstützung der Benutzer beim Schutz ihrer Rechte durch unangemessene Verwendung von Algorithmen;
  • , . , IEEE P7000 « » IEEE P7001 « ». , , ;
  • , . , , , , , ;
  • ( - ) ;
  • ( ) , ;
  • Bereitstellung von "algorithmischer Kompetenz", um die Öffentlichkeit für die Prinzipien algorithmischer Systeme, die Auswirkungen und die Bildung einer kritischen Bewertung zu sensibilisieren;
  • Bereitstellung einer standardisierten obligatorischen Benachrichtigung der Benutzer über die laufende algorithmische Verarbeitung (erklärende Informationen, die möglicherweise den Entscheidungsprozess eines einzelnen Benutzers oder ein breiteres öffentliches Verständnis des Verhaltens des Gesamtsystems beeinflussen können).

More articles:


All Articles