Der Social-News-Aggregator Reddit änderte jüngst seine Richtlinien und fügte das Gebot “Imitiere keine Person” hinzu.[1] Nicht nur will Reddit damit Fake News durch gefälschte Nutzerprofile verhindern, sondern vor allem gegen sogenannte “Deepfakes” vorgehen. Deepfakes sind im Allgemeinen Bilder und Videos von Personen, die mittels Computersoftware dahingehend manipuliert wurden, dass ein fremder Kopf auf den eigentlichen eingefügt wird, sodass eine täuschend echte Imitation einer fremden Person entsteht.[2] Die Deepfake-Technologie ist ein Open Source Code, der seit 2017 auf einen Reddit User namens u/deepfake zurückzuführen ist.[3] Der Name Deepfakes rührt daher, dass sie mit dem sogenannten “Deep Learning” funktionieren, das Programm lernt also von und mit sich selbst und entwickelt sich dadurch weiter. Dabei gilt: Mit je mehr Bildern der imitierten Person man das Programm füttert, desto realistischer wird das Ergebnis. Dies kann durch den aktuellen Stand der Technik soweit gehen, dass das bloße menschliche Auge einen Unterschied von Realität und Fälschung nicht mehr zu erkennen vermag. Das Missbrauchspotential liegt auf der Hand.
Reddit will mit seiner neuen Richtlinie nun verhindern, dass die Deepfake-Technologie zu Zwecken der Meinungsmanipulation missbraucht wird. Es soll Nutzern nicht mehr möglich sein, durch Verbreitung bestimmter Videos eine Meinung oder Stimmung illegitim zu beeinflussen. Ein Video von Mark Zuckerberg, der sich über den mangelnden Datenschutz bei Facebook auslässt[4], oder von Barack Obama, der Donald Trump einen Vollidioten nennt[5], soll nicht mehr das politische Klima beeinflussen können. Auch Facebook[6] und der US-Bundesstaat Kalifornien[7] wollen massiver gegen Deepfakes vorgehen.
Rechtliche Problematik
2017 entstand mit der Veröffentlichung des Source Codes auf Reddit der Subreddit “Deepfakes”. Dieser wurde jedoch schon Anfang 2018 gesperrt. Grund: In diesem Subreddit wurde die Technologie überwiegend dafür benutzt, berühmte Schauspieler/innen oder Sänger/innen in pornographische Filme zu projizieren. Solche Deepfake-Pornos sind auf Reddit mittlerweile gänzlich verboten.[8] Rechtlich gesehen sind diese Videos sehr heikel. An der öffentlichen Darstellung des sexuellen Aktes im Internet an sich ist natürlich nichts auszusetzen; professionelle Pornodarsteller/innen haben hierbei eine bewusste und freiwillige Entscheidung getroffen. Bei Deepfake-Pornos ist dies gerade nicht der Fall, die Videos werden gegen den Willen und ohne das Wissen der Opfer angefertigt und veröffentlicht, die sich plötzlich auf einer Plattform wie Pornhub (ca.42 Milliarden Besucher pro Jahr[9]) wiederfinden. Damit verstoßen besagte Videos in besonders hohem Maße gegen das allgemeine Persönlichkeitsrecht, besonders in Ausprägung der Selbstdarstellung und sexuellen Selbstbestimmung der Opfer.
Verletzung des höchstpersönlichen Lebensbereiches durch Bildaufnahmen, §201a StGB
Nicht zuletzt aufgrund dieses erheblichen und nicht zu rechtfertigenden Grundrechtseingriffs stellt das Verbreiten dieser Videos eine Straftat iSd. §201a Abs. 2 StGB dar. Geht nun eine Beschwerde bei einem entsprechenden Telemedienanbieter ein, muss er den i.S.d §1 Abs. 2 NetzDG rechtswidrigen Inhalt gemäß §3 Abs. 2 NetzDG sperren.
Bei Deepfakes, die zu politischen Zwecken genutzt werden, stellt sich die strafrechtliche Lage noch etwas anders dar. Bei politischen Imitationen muss es sich um Bildaufnahmen handeln, die i.S.d §201a StGB geeignet sind, dem Ansehen der abgebildeten Person erheblich zu schaden (sog. Eignungsbegriff). Ob eine Strafbarkeit aus §201a Abs. 2 StGB vorliegt, ist immer nach den Umständen des konkreten Einzelfalls zu beurteilen. Dabei ist besonders zu berücksichtigen, ob die abgebildete Person eine Person des öffentlichen Lebens ist und ob der Urheber sich auf Kunst- und/oder Meinungsfreiheit berufen kann.[10]
Bei politischen Deepfakes wird es wohl immer um Personen des öffentlichen Lebens gehen. Diese stehen schon Kraft ihrer (politischen) Existenz naturgemäß im öffentlichen Scheinwerferlicht und müssen sich etwaigen Anfeindungen und Shitstorms entgegensehen. Besonders wenn sie mit ihrer Einstimmung schon zuvor ähnliche Inhalte wie die manipulierten veröffentlicht haben, so müssen sie sich bezüglich der Eignung zur Ansehensschädigung mehr entgegenhalten lassen als Private.
Allgemeines Persönlichkeitsrecht vs. Meinungsfreiheit
Das größere Problem im politischen Diskurs und §201a Abs. 2 StGB liegt in der Rechtswidrigkeit. Für die Tatbestände des §201a StGB gilt die in §201a Abs. 4 verankerte Sozialadäquanzklausel als Tatbestandsausschluss.[11] Sie ist Ausfluss der Wechselwirkungslehre des BVerfG und soll gewährleisten, dass die Meinungsfreiheit, aber auch andere Grundrechte, wie zum Beispiel Kunst- und Wissenschaftsfreiheit hinreichend berücksichtigt werden.
Die Wechselwirkungslehre besagt, dass die Meinungsfreiheit zwar durch allgemeine Gesetze (wie §201a StGB) beschränkt werden kann, diese aber wiederum im Lichte der Meinungsfreiheit auszulegen sind und somit in ihrer die Grundrechte beschränkenden Wirkung selbst wieder eingeschränkt werden müssen.[12]
Das infrage stehende Verbreiten von Deepfakes müsste nun also der Meinungsfreiheit dienen und andere grundrechtlich geschützte Interessen nicht unzulässig beeinträchtigen. Es fragt sich allerdings schon, ob das Herstellen und Verbreiten politischer Deepfakes in den Schutzbereich der Meinungsfreiheit fällt. Die Unrichtigkeit der gezeigten Inhalte ist insoweit irrelevant, als die Meinungsfreiheit in dieser Hinsicht nur bei der Schmähkritik begrenzt wird, die explizit und ausschließlich darauf abzielt, einen anderen zu verunglimpfen, ohne dass die Meinungsbildung noch irgendeine Rolle spielt.[13] Manche Deepfakes (zum Beispiel Deepfake-Pornos, s.o.) mögen die Voraussetzungen der Schmähkritik erfüllen, in der Regel ist das aber bei politischen Deepfakes nicht der Fall. Die Zwecke der Meinungsfreiheit sind im Übrigen unbeachtlich. Vielmehr ergeben sich Probleme bei der Klassifizierung als Meinung, die ein Werturteil darstellen muss, das als subjektive Beziehung des Äußernden zum Inhalt zu charakterisieren ist.[14] Unproblematisch sind hier politische Deepfakes zu satirischen Zwecken, bei denen der Urheber erkennbar ist und ein erkennbarer satirischer Bezug zu Themen des öffentlichen Weltgeschehens aus ihnen hervorgeht. Ein entsprechendes Beispiel stellt der britische Künstler Bill Posters dar. Auf seiner Instagram Seite lassen sich noch zahlreiche Deepfake Videos finden.[15] Der Grund: die Videos sind in einen erkennbaren satirischen Kontext eingebettet, in den Videos wird zum Teil auch auf die Falschheit des Videos hingewiesen. Posters Videos, die seiner Meinung zu Deepfakes im Internet und seiner künstlerischen Tätigkeit Ausdruck verleihen, sind durch die Meinungs- und Kunstfreiheit gerechtfertigt und stellen keinen löschbaren rechtswidrigen Inhalt dar.
Problematischer ist der Meinungscharakter eines bewusst täuschenden Deepfake Videos. Eine Äußerung einer objektiv unrichtigen Information, die der Meinungsbildung nicht dienen kann, ist nach ständiger Rechtsprechung des BVerfG nicht schutzwürdig und ist daher nicht vom Schutzbereich des Art. 5 Abs. 1 S. 1 GG erfasst, da eine solche Äußerung nicht der verfassungsrechtlichen Aufgabe der freien Meinungsbildung dienen kann.[16] Der öffentliche Diskurs, der schon durch das Demokratieprinzip aus Art. 20 Abs. 2 GG gewollt und geboten ist, kann von einer objektiv unwahren Behauptung nicht profitieren, eine demokratische Gesellschaft kann sich nicht aufgrund einer verzerrten Wirklichkeit selbst begründen. Aus dem Video kann zwar ein Werturteil des Verfassers hervorgehen, dieses basiert dann aber auf der unrichtigen Tatsachenbehauptung, dass nicht der Verfasser, sondern die gezeigte Person hinter dem Werturteil steht. Sobald also aus einem Deepfake Video (und dessen Kontext) für einen objektiven Betrachter nicht dessen Falschheit hervorgehen kann, so kann dieses Video grundsätzlich nicht mehr von der Meinungsfreiheit geschützt werden. Eine (sehr schwer denkbare) Ausnahme hiervon kann sich nur daraus ergeben, dass das Video trotz fehlender Identifizierbarkeit einen gesellschaftlich sinnvollen Beitrag zu der öffentlichen Meinungsbildung leistet.
Nimmt man nun – weil der Deepfake als solcher identifizierbar ist – einen Schutz durch Art. 5 Abs. 1 S. 1 GG an, so kann dieser dennoch durch kollidierende Grundrechte eingegrenzt werden.
Bei politischen Deepfakes steht immer eine Verletzung des allgemeinen Persönlichkeitsrechtes der betroffenen Person im Raum. Jedermann hat das Recht darauf, selber zu bestimmen, wie er sich in der Öffentlichkeit zeigt. Dieses Recht wird durch §201a StGB geschützt und ist folglich insbesondere beeinträchtigt, wenn das Ansehen der Person in erheblicher Weise geschädigt wird (ein unscharfer Rechtsbegriff, der wiederum im Rahmen der Wechselwirkungslehre abgewogen werden muss). Es muss also eine Interessenabwägung erfolgen.
In diese Interessenabwägung fließen alle bereits genannten Kriterien mit ein: der Grad der Öffentlichkeit, die Erkennbarkeit der Fälschung, das Interesse des Erstellers am politischen Diskurs, die konkreten Inhalte und der Kontext. Da die Meinungsfreiheit schlechthin konstituierend für die freiheitlich demokratische Staatsordnung ist[17], ist sie im Zweifelsfall vorrangig, kann aber unter Berücksichtigung aller Umstände des konkreten Einzelfalles hinter einer besonders schweren Schädigung des Ansehens (z.B. auch täuschend echte Holocaustleugnung, Vortäuschen anderer Straftatbestände) zurücktreten. In solchen Fällen (und wenn schon der Schutzbereich von Art. 5
Abs. 1 S. 1 GG nicht eröffnet ist) ist eine Strafbarkeit wegen §201a Abs. 2 gegeben, das entsprechende Video stellt einen rechtswidrigen Inhalt i.S.d §1 Abs. 3 NetzDG dar und muss gesperrt werden.
Weitere Ansprüche
Verletzt ein Deepfake eine Person ungerechtfertigt in ihrem allgemeinen Persönlichkeitsrecht (hierzu gelten dieselben Ausführungen wie oben), dann steht dieser regelmäßig – soweit ein materieller Schaden überhaupt entsteht – ein Schadensersatzanspruch aus § 823 Abs. 1 BGB i.V.m. Art. 2 Abs. 1, Art. 1 Abs. 1 GG und § 823 Abs. 2 BGB i.V.m. §201a Abs. 2 StGB zu. Bei letzterem Anspruch kommen unter Umständen auch andere Schutzgesetze wie Betrug, Erpressung oder weitere Ehrdelikte in Betracht.
Eine privatrechtliche Beseitigung rechtswidriger Deepfake Videos kann durch einen quasinegatorischen Unterlassungsanspruch aus §1004 Abs. 1 S. 2 BGB analog i.V.m. Art. 2 Abs. 1, Art. 1 Abs. 1 GG erwirkt werden.
Die Speisung des Deepfake-Algorithmus stellt des Weiteren eine Verarbeitung personenbezogener Daten i.S.v. Art. 4 Nr. 2 DS-GVO dar, welche im Grundsatz rechtswidrig ist. Eine Einwilligung nach Art. 6 Abs. 1 S. 1 lit. a) DS-GVO ist bei manipulierenden Deepfakes schwer denkbar und eine Abwägung berechtigter Interessen (Art. 6 Abs. 1 S. 1 lit. f) DS-GVO) fällt wie auch schon oben gegen den Verarbeiter aus, weshalb die Verarbeitung auch nicht gerechtfertigt werden kann. Daraus ergibt sich insbesondere ein Löschanspruch aus Art. 17 Abs. 1 DS-GVO gegen den oder die Verantwortlichen. Bei dem Hochladen von personenbezogenen Daten auf Social Media Netzwerke sind Hersteller und Plattformbetreiber gemeinsam verantwortlich i.S.d. Art. 4 Nr. 7 DS-GVO.[18] Der Betreiber muss das entsprechende Deepfake Video löschen.
Durchsetzungsproblematiken
Rechtlich ergeben sich insbesondere insofern Probleme bei der Durchsetzung, als Intermediäre (wie z.B. Reddit) gemäß §§ 7, 10 TMG für fremde Inhalte nur dann verantwortlich sind, wenn sie diese bemerkt haben, dabei besteht keine grundsätzliche Pflicht seine Inhalte aktiv nach rechtswidrigen Inhalten zu durchsuchen (§ 7 Abs. 2 TMG). Eine Beseitigung kann zwar nach den oben genannten Grundsätzen immer verlangt werden, ein Schadensersatz kann aber (außer in selteneren Fällen der Störerhaftung) nur gegenüber dem Hersteller geltend gemacht werden. Dieser ist als Urheber zwar vollumfänglich verantwortlich, ist aber aufgrund der Anonymität im Internet nur selten auffindbar oder sieht sich einer anderen Jurisdiktion unterworfen.
In tatsächlicher Hinsicht ergeben sich dahingehend Probleme, dass Deepfakes als solche durch den Fortschritt der Technik immer schwerer identifizierbar werden. Das legt Anbietern die Bürde auf, dass sie nie mit Sicherheit sagen können, ob sie nun zur Löschung verpflichtet sind oder nicht. Auch Uploadfilter können nicht zielführend sein, da sie (momentan) nicht hinreichend differenzieren können, ob ein Video nun durch die Meinungsfreiheit gerechtfertigt ist und so zu ungewolltem Overblocking führen können.
Im Bereich der Forschung arbeitet zum Beispiel die Technische Universität in München unter anderem an dem Programm FaceForensics++, mit Hilfe dessen es mittels Deep-Learning-Technologie ermöglicht werden soll, anhand bestimmter biometrischer Daten Deepfakes gezielt zu identifizieren.[19] Eine solche Technologie könnte Intermediären helfen, rechtswidrige Inhalte ausfindig zu machen und die technische Manipulation, die für das bloße Auge nicht mehr sichtbar ist, zu erkennen. Da beide Technologien mittels Deep Learning funktionieren und sich der Stand der Technik (und somit die Qualität der Fälschungen) immer weiterentwickelt, kann der aktuelle Stand der Forschung nicht mit Sicherheit alle Deepfakes identifizieren, der sichere Einsatz solcher Technologien hängt also von zukünftiger Forschung und Technik ab.
Auch die Europäische Union hat dieses Problem erkannt und das Projekt InVID kofinanziert. Dieses Projekt soll Anbieter über technische Manipulationen im Netz aufklären und stellt ein Plug-In zur Verfügung, das helfen soll, Fälschungen zu identifizieren.
Fazit
Deepfakes spielen im politischen Meinungskampf eine kritische Rolle. Nicht nur können täuschend echt gefälschte Inhalte die demokratischen Grundsätze unterlaufen, alleine die Existenz von Deepfakes stellt die Kredibilität jedes online gestellten Beitrages in Frage. Deepfakes stellen sozusagen den bisherigen Gipfel der „Fake News“ dar. Zur Wahrung eines rechtsstaatlichen Meinungspluralismus dürfen solche Inhalte nicht zum Zwecke der Verfälschung von Meinungsbildung missbraucht werden. Gleichzeitig muss die der deutschen Staatsordnung zugrundeliegende Meinungsfreiheit des Bürgers gewahrt werden, indem ihm die vielfältigen Möglichkeiten grundsätzlich offenstehen sollen. Die Freiheit, lustige Videos zu erstellen oder nach Vorbild von Bill Posters auf Missstände aufmerksam zu machen, darf nicht beeinträchtigt werden.
Ein Verbot manipulierender – nicht aber satirischer – Deepfakes durch AGB wie es nun auch Reddit und Facebook vorgenommen haben, ist nach aktuellem Stand der Technik die sinnvollste Lösung.
[1] Reddit, Account and Community Restrictions (zuletzt abgerufen am 25.1.2019).
[2] Laaf, Hello, Adele – bist du’s wirklich? (zuletzt abgerufen am 25.1.2019).
[3] IONOS, Deepfakes: Fälschungen der nächsten Generation (zuletzt abgerufen am 25.1.2019).
[4] Beuth, Deepfake-Zuckerberg erklärt sich zum Weltherrscher (zuletzt abgerufen am 25.1.2019).
[5] Borel, Clicks, Lies and Videotape (zuletzt abgerufen am 25.1.2019).
[6] Bickert, Enforcing Against Manipulated Media (zuletzt abgerufen am 25.1.2019).
[7] MMR-Aktuell 2019, 421493.
[8] Mewes, Deepfakes: Auch Reddit verbannt Fake-Porn (zuletzt abgerufen am 25.1.2019).
[9] Pornhub, The 2019 Year in Review (zuletzt abgerufen am 25.1.2019).
[10] Graf, in: MüKo StGB, 3. Auflage 2017, §201a StGB, Rn. 72.
[11] Fischer, Strafgesetzbuch mit Nebengesetzen, 67. Auflage 2020, §201a StGB, Rn. 31.
[12] BVerfG, GRUR 1958, 254, 256.
[13] Schmidt, in: Erfurter Kommentare zum Arbeitsrecht, 20. Auflage 2020, GG, Art. 5 GG, Rn. 5.
[14] Grabenwarter, in: Maunz/Düring (Hrsg.), GG, 88. EL 2019, Art. 5, Rn. 47.
[15] @bill_posters_uk, Instagram (zuletzt abgerufen am 25.1.2019).
[16] BVerfG, NJW 2005, 3271, 3273; BVerfG, NJW 1980, 2072, 2073.
[17] BVerfG, GRUR 1958, 254, 256.
[18] Lantwin, Deep Fakes – Düstere Zeiten für den Persönlichkeitsschutz?, MMR 2019, 574, 576.
[19] Cozzolino/Nießner/Riess/Rössler/Thies/Verdoliva, FaceForensics++: Learning to Detect Manipulated Facial Images (zuletzt abgerufen am 25.1.2019).