Der AMS-Algorithmus: Transparenz, Verantwortung und Diskriminierung im Kontext von digitalem staatlichem Handeln

Wie transparent muss staatliches Handeln im digitalen Bereich sein? Der vom AMS eingesetzte Algorithmus legt viele interessante Gedanken über das Verständnis von Transparenz, Verantwortung und Diskriminierung offen. Der folgende Artikel beleuchtet diese Frage durch eine interdisziplinär-wissenschaftliche Perspektive. So wird der AMS-Algorithmus sowohl unter dem Gesichtspunkt aktueller Forschung in der Informatik und statistischer Analyse als auch im Bereich Bias, Fairness, Accountability und Transparency (FAT) beleuchtet. Danach wird auf das Thema der Diskriminierung durch den AMS-Algorithmus eingegangen und untersucht, welche unterschiedlichen Biasbegriffe in diesem Kontext anzuwenden sind. Anschließend wird debattiert, unter welchen Bedingungen der Einsatz eines Algorithmus in diesem Fall überhaupt sinnvoll wäre sowie welche Akteure dafür zwingend beteiligt wären, wer beim AMS-Algorithmus eigentlich die Entscheidungen trifft und wie in diesem Kontext sozio-technische Entscheidungen zu bewerten sind. Der Artikel stellt ebenfalls die Verbindung zu internationalen Standards des Europarats, der EU-Kommission und der Kanadischen Regierung her und diskutiert, inwieweit der AMS-Algorithmus diese Standards erfüllt.