Das Abschlussgutachten der Datenethikkommission: Durchbruch für die Digitalisierung oder Datenschutzfiasko?

Veröffentlicht am Veröffentlicht in Datenschutz, Netzpolitik

Am 23. Oktober 2019 war es so weit: die Datenethikkommission (DEK) überreichte der Bundesregierung ihr Abschlussgutachten, in welchem sie sich mit ethischen und rechtlichen Fragestellungen im Umgang mit Daten und algorithmischen Systemen befasst.[1]

Ziel der von der Bundesregierung aufgrund einer Vereinbarung im Koalitionsvertrag eingesetzten DEK war die Entwicklung ethischer Leitlinien für den Schutz des Einzelnen, die Wahrung des gesellschaftlichen Zusammenlebens und die Sicherung des Wohlstands im Informationszeitalter auf der Basis wissenschaftlicher und technischer Expertise sowie der Vorschlag von Handlungsempfehlungen und Regulierungsmöglichkeiten.[2] Dazu wurde dem interdisziplinären Expertinnen- und Expertengremium mittels entsprechender Leitfragen zu den Themen Algorithmenbasierte Prognose- und Entscheidungsprozesse (ADM), Künstliche Intelligenz (KI) sowie zum Umgang mit bzw. Zugang zu Daten und deren Nutzung ein Entwicklungsrahmen vorgegeben.[3]

Leitbild der menschenzentrierten Digitalisierung

Als allgemeine ethische und rechtliche Grundprinzipien nennt das Gutachten an erster Stelle die Würde des Menschen, die beispielsweise eine digitale Totalvermessung ebenso verbietet wie die Täuschung, Manipulation oder Ausgrenzung von Individuen. Die Technologie soll dem Menschen als selbstbestimmtem Akteur in der Datengesellschaft dienen; dabei muss dessen Freiheit und Integrität der persönlichen Identität gewahrt werden.[4] Auch für die Demokratie stellen neue technische Möglichkeiten eine Chance für mehr politische Beteiligung dar – sofern den Gefahren der Radikalisierung oder der Manipulation durch einflussreiche Medienintermediäre entgegengewirkt wird.[5] Hierbei spielt auch die Förderung der Bildung eine große Rolle, besonders im Zusammenhang mit Fragen der sozialen Gerechtigkeit und Solidarität. Die Digitalisierung soll nicht zu einer Machtanhäufung Einzelner beitragen, sondern die gesellschaftliche Teilhabe und den sozialen Zusammenhalt fördern.[6]

Schließlich soll die Digitalisierung auch ökonomische, ökologische und soziale Nachhaltigkeitsziele verfolgen, woran insbesondere Unternehmen erinnert werden (Corporate Digital Responsibility).[7] Bei all dem dürfen Sicherheitsaspekte nicht übersehen werden. Die körperliche und psychische Gesundheit und die Privatheit von Individuen, die öffentliche Sicherheit, die Freiheit und Gleichheit demokratischer Wahlen und ein friedliches Miteinander müssen geschützt und Systeme gegen Angriffe und Missbrauch besser gerüstet werden.[8] Ein Mittel, um insbesondere Kritische Infrastrukturen wie Versorgungsnetze zu schützen, kann ein horizontaler Rechtsakt auf EU-Ebene sein, eine Verordnung für Algorithmische Systeme (EUVAS), die allgemeine materielle Regelungen zur Zulässigkeit und Gestaltung sowie zu Transparenz, Betroffenenrechten und organisatorischen bzw. technischen Absicherungen vereint. Auch Institutionen und Aufsichtsbehörden sollen so europaweit einheitliche Rechtsbedingungen schaffen.[9]

Die DEK unterstreicht aber auch, dass das Recht nur eine von mehreren verschiedenen Möglichkeiten der Implementierung ethischer Prinzipien sei und sprich sich für das Konzept der Mehr-Ebenen-Governance aus, bei der verschiedene Governance-Instrumente auf unterschiedlichen Ebenen zusammenwirken, um so der Komplexität und Dynamik von Datenökosystemen gerecht werden zu können.[10]

Resonanz: Ethik als Wachstumshemmer?

Zahlreiche Stimmen reagierten positiv auf das Gutachten. Dachwitz/Köver von Netzpolitik.org loben das Gutachten dank verständlicher, mit praktischen Beispielen untermauerter Vorschläge für konkrete Gegenmaßnahmen für aktuelle Probleme als „durchaus wegweisend“ und empfehlen Wissenschaft und Zivilgesellschaft, das Gutachten als Maßstab für die zukünftige Digitalpolitik der Bundesregierung zu nutzen.[11] Der CDU-Digitalpolitiker Tankred Schipanski lobte den risikoadaptierten Ansatz vorsichtig und befürwortet im Extremfall auch Verbote. Dieter Janecek, Sprecher der Bundestagsfraktion der Grünen für Industriepolitik und digitale Wirtschaft schließt sich dem – wenn auch mit mehr Überzeugung – an.[12] Die SPD hält Verbote für praktisch unmöglich und warnt vor überzogenen Maßnahmen.

Kritik kam hingegen vornehmlich von Lobbyverbänden der IT-Branche: Achim Berg, Präsident des IT-Verbands Bitkom, warnte angesichts der den Empfehlungen – aus seiner Sicht – innewohnenden „Regulierungswut“ vor einem Rückbau Deutschlands „zu einem analogen Inselstaat“[13] – er fordert mehr Verständnis für die (bereits vielfach in unseren Alltag integrierten) Algorithmen und sieht das geltende Recht als ausreichend an. Angesichts des Umstands, dass von den allerwenigsten Algorithmen ein Diskriminierungsrisiko oder eine Gefahr für Leib und Leben ausgehe, schieße die DEK über das Ziel hinaus; fast alle Algorithmen werden unter Generalverdacht gestellt, anstatt eine enge Kategorie von Algorithmen zu identifizieren, die wegen ihres Gefährdungspotenzials einer besonderen Regulierung bedürfen.[14] Auch der Bundesverband Digitale Wirtschaft (BVDW) sowie der eco-Verband der deutschen Internetwirtschaft begrüßen zwar den Dialog an sich, gewichten jedoch die gesellschaftlichen und – ganz besonders – wirtschaftlichen Chancen der Digitalisierung höher als Verbraucherrechte.[15]

Eine europäische Lösung – wie von der DEK mit der Empfehlung für eine neue EU-Verordnung für Algorithmische Systeme (EUVAS) sowie eine Kontrollbehörde auf europäischer Ebene vorgeschlagen[16] – halten sowohl CDU/CSU als auch SPD und Grüne für sinnvoll. SPD-Digitalpolitiker Jens Zimmermann begrüßt ein Aufbrechen der Machtkonzentration und eine gemeinschaftliche, europäische Bestrebung, Kartellbildung und Diskriminierung in der digitalen Welt zu verhindern. Anders sehen dies die Lobbyverbände sowie die FDP. Die Empfehlungen der DEK werden als „Regulierungsphantasien“ und „Digitalisierungsbremse“ bezeichnet; eine neue europäische Kontrollbehörde als einerseits unnötig und andererseits „mit den Aufgaben überfordert“[17] abgewiegelt. Verbote sollen nur dann zulässig sein, wenn eindeutig festgestellt und nachgewiesen werden kann, dass der Algorithmus gezielt für destruktive Zwecke entworfen wurde, was in der Praxis (so war es wohl auch gedacht) faktisch unmöglich sein dürfte.

Verkannt wird – auch von der FDP, die Deutschland „kein Regulierungsdefizit, sondern ein Innovationsdefizit“ bescheinigt – dass die DEK gerade den Auftrag hatte, die ethischen und rechtlichen Probleme von Algorithmen, KI und Big Data zu beleuchten und nicht die verschiedenen wirtschaftlichen Vorteile einer digitalisierten Bundesrepublik herauszustellen. Letzteres fällt vielmehr in den Kompetenzbereich der Wirtschaftsvertreter, die ihrerseits allerdings auch kaum eine differenziertere Auseinandersetzung mit Dark Patterns, Diskriminierung und Bias als ernstzunehmende Problematik der Digitalisierung anbieten.

Ausblick

Zutreffend bemerkt die DEK, dass nicht alles, was ethisch relevant ist, rechtlich reguliert werden kann und sollte, wobei umgekehrt manche Aspekte rechtlicher Regulierung rein pragmatisch motiviert sind.[18] Dennoch ist eine präventive Regulierung in den genannten Bereichen wichtig und sinnvoll, um bei zukünftigen Entwicklungen größtmögliche Rechtssicherheit für Unternehmen und Verbraucher gewährleisten zu können. Im Bereich Big Data lassen aktuelle Entwicklungen und Vorfälle wie Doxing, Leaks, Identitätsdiebstähle[19] bereits erahnen, dass die unüberlegte Implementierung neuer Technologien, ohne deren Konsequenzen zumindest zu bedenken und Risiken möglichst zu minimieren, gravierende Folgen nach sich ziehen kann. Dem technologischen Fortschritt muss, auch um die digitale Souveränität Deutschlands und Europas sicherzustellen, ein hoher Stellenwert zukommen (oder anders ausgedrückt: nicht alles, was technisch möglich ist, sollte tatsächlich umgesetzt werden).

Technologischer Fortschritt ist jedoch, wie auch Justizministerin Lambrecht bemerkt, kein Wert an sich.[20] Vielmehr muss die rechtliche und politische Auseinandersetzung mit dem Thema zuvorderst die in dieser Konstellation benachteiligten Parteien – Verbraucherinnen und Verbraucher – schützen und nicht nur das Interesse der Wirtschaft an möglichst niedrigschwelliger Regulierung und nicht zu sehr störenden ethischen Einschränkungen berücksichtigen.

Die eher verhaltenen Stellungnahmen seitens der SPD und der CDU/CSU, die Regierung werde „die Empfehlungen nun sorgfältig prüfen und in diesem Rahmen über Ob und Wie einer Umsetzung der einzelnen Empfehlungen entscheiden“[21], lassen eine schnelle Umsetzung der Empfehlungen der DEK jedenfalls in dieser Legislaturperiode eher unwahrscheinlich erscheinen. Nicht zuletzt mahlen die Mühlen des Gesetzgebers langsam: sowohl auf nationaler als auch auf europäischer Ebene müssen entsprechende Änderungen und Neuregelungen angestoßen und in einem langwierigen Prozess die Interessen aller Beteiligten in einen Ausgleich gebracht werden[22], wobei Motivationsdefizite der Beteiligten die Umsetzung nicht beschleunigen dürften. Es wäre deshalb wünschenswert, wenn der Kreis der 16 Expertinnen und Experten der Datenethikkommission a.D. die Möglichkeit erhält, den Umsetzungsprozess konstruktiv zu begleiten. Der hierfür benötigte Sachverstand erschöpft sich nicht in dem vorgelegten Gutachten, sondern liegt auch in dem Dialog, der auf dieser Grundlage fruchtbar geführt werden kann.

 

 


[1] Gutachten der Datenethikkommission der Bundesregierung, Oktober 2019, abrufbar unter: https://www.bmjv.de/SharedDocs/Downloads/DE/Themen/Fokusthemen/Gutachten_DEK_DE.pdf?__blob=publicationFile&v=3, zuletzt abgerufen am 05.11.2019.

[2] Vgl. die Internetpräsenz der DEK auf https://www.bmjv.de/DE/Themen/FokusThemen/Datenethikkommission/Datenethikkommission_node.html, zuletzt abgerufen am 05.11.2019.

[3] Leitfragen der Bundesregierung an die Datenethikkommission, 05.06.2018, abrufbar unter: https://www.bmjv.de/SharedDocs/Downloads/DE/Ministerium/ForschungUndWissenschaft/DEK_Leitfragen.pdf?__blob=publicationFile&v=1, zuletzt abgerufen am 05.11.2019, S. 2 ff.

[4] Abschlussgutachten der DEK (Fn. 1), S. 43 ff.

[5] Abschlussgutachten der DEK (Fn. 1), S. 46.

[6] Abschlussgutachten der DEK (Fn. 1), S. 46 ff.

[7] Abschlussgutachten der DEK (Fn. 1), S. 47 f., 70 f.

[8] Abschlussgutachten der DEK (Fn. 1), S. 45.

[9] Abschlussgutachten der DEK (Fn. 1), S. 26, 180 ff.

[10] Abschlussgutachten der DEK (Fn. 1), S. 70 ff.

[11] Dachwitz/Köver, Kommentar zur Datenethikkommission. 200 Seiten Erwartungsdruck, Netzpolitik.org, 23.10.2019, abrufbar unter: https://netzpolitik.org/2019/200-seiten-erwartungsdruck/, zuletzt abgerufen am 05.11.2019.

[12] Neuerer, Bericht der Datenethikkommission: Regierungskommission löst Debatte über Algorithmen-Regulierung aus, Handelsblatt.com, 23.10.2019, abrufbar unter: https://www.handelsblatt.com/politik/deutschland/bericht-der-datenethikkommission-regierungskommission-loest-debatte-ueber-algorithmen-regulierung-aus/25146582.html, zuletzt abgerufen am 05.11.2019

[13] Vgl. Beckedahl/Dachwitz, Reaktionen auf die Datenethikkommission. Überfälliger Wegweiser für die einen, Innovationsbremse für die anderen, Netzpolitik.org, 25.10.2019, abrufbar unter: https://netzpolitik.org/2019/ueberfaelliger-wegweiser-fuer-die-einen-innovationsbremse-fuer-die-anderen/, zuletzt abgerufen am 05.11.2019.

[14] Vgl. Neuerer, Handelsblatt.com, 23.10.2019 (Fn. 12); Beckedahl/Dachwitz, Netzpolitik.org, 25.10.2019 (Fn. 13)

[15] Neuerer, Handelsblatt.com, 23.10.2019 (Fn. 12).

[16] Abschlussgutachten der DEK (Fn. 1), S. 26, 180 ff.

[17] So ohne weitere Begründung der FDP-Fraktionsvize Sitta, vgl. Neuerer, Handelsblatt.com, 23.10.2019 (Fn. 12)

[18] Abschlussgutachten der DEK (Fn. 1), S. 15.

[19] Ausführlich: Bundesamt für Sicherheit in der Informationstechnik (BSI), Die Lage der IT-Sicherheit in Deutschland 2019, abrufbar unter: https://www.bsi.bund.de/DE/Publikationen/Lageberichte/lageberichte_node.html (auch ältere Ausgaben), zuletzt abgerufen am 29.10.2019, S. 7 ff., 26, 74 ff.

[20] Neuerer, Handelsblatt.com, 23.10.2019 (Fn. 12); Beckedahl/Dachwitz, Netzpolitik.org, 25.10.2019 (Fn. 13).

[21] So die Staatsministerin für Digitalisierung Dorothee Bär (CSU), vgl. Neuerer, Handelsblatt.com, 23.10.2019 (Fn. 12)

[22] Zweifel an diesem Ausgleich äußert etwa Krempl, Digitaloffensive: CDU will das Prinzip Datensparsamkeit endgültig entsorgen, Heise Online, 30.09.2019, abrufbar unter: http://www.heise.de/-4543180, zuletzt abgerufen am 05.11.2019; vgl. auch Dachwitz/Köver, Netzpolitik.org, 23.10.2019 (Fn. 3).

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.

*