Victoria Guijarro Santos, Westfälische Wilhelms-Universität Münster

Zurück in die Zukunft? Eine Antidiskriminierungsrechtliche Analyse Algorithmischer Diskriminierungen

In immer sensibleren Lebensbereichen verlassen sich Staat und Unternehmen auf sogenannte algorithmische oder automatisierte Entscheidungssysteme (AlgorithmWatch). Dabei handelt es sich um Software, die Menschen in der Entscheidungsfindung ersetzen oder unterstützen. Ihr Einsatzgebiet ist vielfältig und reicht von der Kreditvergabe über die Kriminalitätsvorhersage bis hin zur Gewährung staatlicher Sozialleistungen. Diese Systeme sind algorithmenbasiert. Heruntergebrochen bedeutet dies, dass sie auf einer statistischen Auswertung historischer Daten beruhen.

Was soll hier schon schief gehen? Es sind nur Zahlen, nur Daten. Technologien werden (ebenso wie Recht) häufig als neutral dargestellt. Tatsächlich nehmen aber die Beispiele zu, die zeigen, dass Algorithmen entgegen des sie umgebenden Mythos diskriminierende Entscheidungen treffen. In Österreich zum Beispiel soll ein algorithmisches System genutzt werden, um zu entscheiden welche arbeitslose Person, welche Arbeitslosenförderungen erhält. Dabei bewertet der österreichische Algorithmus arbeitslose Frauen kategorisch schlechter als arbeitslose Männer (Holl et al. 2018: 11). Der Chef des österreichischen Jobcenters verteidigt den Algorithmus und argumentiert, dass er nur die Realität abbilden würde (Kopf 2019: Online).

Ich frage mich in meinem Promotionsvorhaben, ob und inwiefern solche algorithmischen Diskriminierungen gerechtfertigt sind.

Hierzu untersuche ich, warum Algorithmen diskriminieren (1). Anschließend analysiere ich – antidiskriminierungsrechtlich geprägt – welche deutschen und europäischen Grund- und Menschenrechte durch algorithmische Diskriminierungen betroffen werden (2). Hiervon ausgehend, beleuchte ich, ob und inwiefern diese Eingriffe gerechtfertigt werden können (3). Diese Erkenntnisse möchte ich als regulatorische Mindestvoraussetzungen für den staatlichen, wie unternehmerischen Einsatz algorithmischer Entscheidungssysteme zusammenfassen (4).

Für dieses Vorhaben verknüpfe ich Wissensbestände über Diskriminierungen und ihre Synergien mit Technologien aus den Computerwissenschaften, den sozialwissenschaftlichen Technikstudien und dem Antidiskriminierungsrecht in einem Werk.

Mit meiner Arbeit möchte ich das deutsche grund- und menschenrechtliche Antidiskriminierungsrecht weiterentwickeln und eine regulatorische Grundlage schaffen, die verhindert, dass es mit digitalen Technologien zurück in die Zukunft geht.