In den letzten Jahren ist eine intensive Debatte über den Einsatz von Algorithmen in der öffentlichen Verwaltung entbrannt.[1] Für die Einen versprechen die Algorithmen ein effizienteres Verwaltungsverfahren und ein neues Niveau der Objektivität. Andere stehen dem Einsatz kritisch gegenüber und befürchten eine Auslagerung wichtiger Entscheidungen vom Menschen an die Maschine. Experten verweisen auf die bisherigen durchwachsenen Erfahrungen im Umgang mit Algorithmen. Denn der Einsatz von Algorithmen, wie er bereits bei Unternehmen aus dem digitalen Sektor Standard ist, hat viele negative Nebeneffekte hervorgerufen.
Aber kann sich der Staat einer Entwicklung, die in der Privatwirtschaft unaufhaltbar erscheint, entziehen? Dabei sind verschiedene rechtliche Fragen im Zusammenhang mit dem Einsatz von Algorithmen, etwa unter welchen Bedingungen Mitarbeiter des öffentlichen Dienstes von Entscheidungen der Algorithmen abweichen können, bisher ungeklärt.[2] In Österreich sollen dagegen schon bald Algorithmen in der Verwaltung erprobt werden.
Risiken und Chancen beim Einsatz von Algorithmen
Der Einsatz von Algorithmen ist bei Facebook, Amazon und ähnlichen Unternehmen nicht mehr wegzudenken. Sie nutzen Algorithmen, um gezielte Werbung für ihre Kunden gezielt auszuspielen und die gewonnen Daten über ihre Nutzer zu verarbeiten.[3] In die Kritik geraten sind Algorithmen vor allem durch den intransparenten Umgang von Facebook im Hinblick auf das Ausmaß des Einsatzes von Algorithmen. So gewährt das Unternehmen unabhängigen Wissenschaftlern nur schleppend Zugang zu den gewonnen Daten, auf deren Basis die Algorithmen arbeiten.[4] Dabei hatte Facebook nach dem Bekanntwerden des Cambridge Analytica Skandals 2018 angekündigt, seinen Einsatz von Algorithmen in Zukunft transparenter zu gestalten. Die zögerliche Aufarbeitung wirft die Frage auf, inwiefern Facebook gewillt ist, über seine Nutzung von Algorithmen zu informieren. Die genaue Funktionsweise dieser Algorithmen bleibt damit unklar und wirft insgesamt kein gutes Licht auf Facebook.
Doch es gibt auch technische Bedenken gegen Algorithmen. Insbesondere die Annahme, Algorithmen würden stets neutrale Ergebnisse liefern, wird mehr und mehr in Zweifel gezogen.[5] Neue Erkenntnisse des Karlsruher Instituts für Technologie (KIT) legen nahe, dass der Einsatz von Algorithmen im Vergleich zum Einsatz von Sachbearbeitern, sogar zu einer Steigerung der Diskriminierungsgefahr führen kann.[6] So könnte ein Algorithmus, der Bewerber für Arbeitsstellen nach den geringsten Fehlzeiten sortiert, auf diese Weise mittelbar Frauen, die in Elternzeit gegangen sind, benachteiligen.
Ein weiteres Problem besteht darin, dass selbst Wissenschaftler nicht immer in der Lage sind, die innere Funktion von Algorithmen vollständig nachzuvollziehen.[7] Auf welchen Kriterien die Entscheidungen des Algorithmus basieren wird daher für den Laien und auch den Anwender von Algorithmen schwer nachvollziehbar.
Ein ernüchterndes Beispiel sind die jüngsten Erfahrungen, die mit einem Algorithmus, der Bilder aus einer Online-Datenbank sortierte, gemacht wurden. Im Rahmen eines Experiments sollte der Algorithmus Portraits von Menschen in bestimmte, vorgegebene Kategorien einteilen. Das Experiment endete damit, dass der Algorithmus von selbst einige Menschen auch in Kategorien wie Trinker, Rassist und abnormale Person einordnete.[8] Aus dem Experiment kann geschlossen werden, das Algorithmen Vorurteile aus der realen Welt in ihre Entscheidungen einfließen lassen.
Österreich: Algorithmen sollen Arbeitsmarktservice unterstützen
In Österreich hat man sich trotz dieser Umstände bereits für den Einsatz von Algorithmen im öffentlichen Dienst entschieden. Dort soll ab 2020 ein Algorithmus zur Unterstützung des Arbeitsmarktservice Österreich, der die in Deutschland von der Arbeitsagentur wahrgenommen Aufgaben erfüllt, eingesetzt werden.[9] Kritiker befürchten, dass der Einsatz des Algorithmus zu einer Benachteiligung von arbeitssuchenden Frauen führen könnte, da diese wegen ihres Geschlechts niedrigere Chancen dafür prognostiziert bekommen könnten, Arbeit zu finden.[10] Befürworter verweisen darauf, dass die wesentliche Entscheidung nach wie vor von einem Mitarbeiter und nicht vom Algorithmus getroffen würden.[11] Experten halten es jedoch für unwahrscheinlich, dass Mitarbeiter noch von einer Einschätzung die der Algorithmus getroffen hat, abweichen werden.
In den USA hat man bereits 2006 Erfahrungen mit Algorithmen in der Verwaltung gesammelt. In Indiana wurde ein Algorithmus zur Verwaltung der Sozialsysteme eingeführt, der nach objektiven Kriterien über den Zugang zu sozialen Leistungen entscheiden sollte. Nach der Einführung des Systems stieg der Anstieg der ablehnenden Bescheide um 54 % an. In einem Fall soll eine Frau aufgrund einer nicht gebilligten, aber notwendigen Krebsbehandlung ums Leben gekommen sein.[12] Diese Erfahrungen dürften die Vorbehalte über den Einsatz von Algorithmen noch verstärken.
Bisher sind Algorithmen in Deutschland innerhalb der Verwaltung nur selten eingesetzt worden.[13] Hauptursache hierfür dürfte der generelle Rückstand in der Digitalisierung der Verwaltung sein. Wissenschaftler betonen, dass die Debatte um den Einsatz von Algorithmen jedoch nicht allein technisch geführt werden darf, sondern grundsätzlich die Herausforderungen, vor die der Einsatz von Algorithmen den demokratischen Rechtsstaat stellt, beachtet werden sollten.[14] Denn der Einsatz von Algorithmen kann direkt Grundrechte der Bürger berühren.
Fazit
Der Einsatz von Algorithmen in der Verwaltung ist ein Trend, der vermutlich nicht aufzuhalten ist. Aufgrund der beschriebenen Probleme sollte der Einsatz wohlüberlegt sein. Der Gesetzgeber ist aufgerufen, in den bisher ungeregelten Fragen für Rechtssicherheit zu sorgen und die Einführung von Algorithmen aktiv zu begleiten. Schließlich ist die Debatte über den Einsatz von Algorithmen in der Verwaltung keine rein juristische, sondern auch eine ethische; die Frage nach dem Ob des Einsatzes von Algorithmen gehört damit eindeutig in die Mitte der Gesellschaft.
[1] Muth, Diskriminiert von der Black Box, Süddeutsche Zeitung, 17.10.2019, abrufbar unter: www.sz.de/1.4641557, zuletzt abgerufen am 12.11.2019
[2] Krüger, Wie der Mensch die Kontrolle über den Algorithmus behalten kann, netzpolitik.org, 19.01.2018, abrufbar unter: https://netzpolitik.org/2018/algorithmen-regulierung-im-kontext-aktueller-gesetzgebung/, zuletzt abgerufen am 12.11.2019
[3] Muth, SZ, (Fn. 1)
[4] Hoppenstedt, „Die Tech-Konzerne wissen viel über uns, aber wir wissen nur wenig über sie“, Süddeutsche Zeitung, 08.10.2019, abrufbar unter: www.sz.de/1.4630231, zuletzt abgerufen am 12.11.2019
[5] Muth, SZ, (Fn. 1)
[6] Muth, SZ, (Fn. 1)
[7] Muth, SZ, (Fn. 1)
[8] Kreye, Künstliche Intelligenz, menschliche Vorurteile, Süddeutsche Zeitung, 05.10.2019, abrufbar unter: www.sz.de/1.4618644, zuletzt abgerufen am 12.11.2019
[9] Köver, Streit um den AMS-Algorithmus geht in die nächste Runde, netzpolitik.org, 10.10.2019, abrufbar unter: https://netzpolitik.org/2019/streit-um-den-ams-algorithmus-geht-in-die-naechste-runde/, zuletzt abgerufen am 12.11.2019
[10] Köver, netzpolitig.org, (Fn. 9)
[11] Köver, netzpolitig.org, (Fn. 9)
[12] Muth, SZ, (Fn. 1)
[13] Rähm, Wenn künstliche Intelligenz Bürger verwaltet, Deutschlandfunk, 24.03.2019, abrufbar unter: https://www.deutschlandfunk.de/algorithmen-im-arbeitsamt-wenn-kuenstliche-intelligenz.724.de.html?dram:article_id=444465, zuletzt abgerufen am 12.11.2019
[14] Heldt, Algorithmen und künstliche Intelligenz in der Verwaltung, NVwZ 2019, S. 862 f.