Chatkontrolle
Der wohlmeinende Überwachungsstaat

Soziale Medien, Chat- und Kommunikationsanwendungen auf einem Mobiltelefon

Soziale Medien, Chat- und Kommunikationsanwendungen auf einem Mobiltelefon

© picture alliance / NurPhoto | Artur Widak

Eine Überwachungsmaßnahme kommt selten allein. So könnte man den von der EU-Kommission am 11.05.2022 vorgelegten Verordnungsvorschlag beschreiben. Eigentlich ist die Intention des Vorschlags laut der zuständigen EU-Kommissarin für den Bereich Inneres, Ylva Johannson, die Prävention und Bekämpfung der Verbreitung von Kindesmissbrauch im Internet. Sogenanntes "Child Sexual Abuse Material" (CSAM oder CSA-Material) und sogenanntes "Grooming" sollen von Anbietern im Internet aufgespürt und gemeldet werden. Das klingt zunächst nach einem legitimen Ziel. Hinter der wohlmeinenden Intention stecken jedoch so viele Überwachungsmaßnahmen auf einmal, wie man sie selten gesehen hat. Aber der Reihe nach. 

Chatkontrolle, Uploadfilter, Netzsperren und Altersverifikation

Der Entwurf einer Verordnung mit Regelungen zur Prävention und Bekämpfung von sexuellem Kindesmissbrauch („regulation laying down rules to prevent and combat child sexual abuse“, CSA-Verordnung) stellt für Anbieter von Kommunikationsdiensten, Hosting-Anbieter, App Store-Betreiber und Internetzugangsanbieter unterschiedliche neue Pflichten auf, um Bildmaterial mit Darstellungen von Kindesmissbrauch in verschiedenen Diensten und Grooming in der Kommunikation zwischen Kindern und Erwachsenen zu erkennen. Zunächst müssen die Diensteanbieter abschätzen, ob für ihre Dienste ein besonderes Risiko besteht, dass sie für die Verbreitung von CSAM oder Grooming missbräuchlich verwendet werden. Wenn ein erhöhtes Risiko besteht, schließen sich weitere Pflichten an.

Im Wesentlichen geht es darum, Strukturen aufzubauen, die das Überwachen und Durchleuchten jeglicher Kommunikation ermöglichen. Kommunikationsanbieter (z.B. Messenger wie WhatsApp, E-Mail-Anbieter, aber auch Chatmöglichkeiten in Videokonferenzen und Games) müssen auf Anordnung (sog. "detection order") in ihren Angeboten nach bereits bekannten und neuen Missbrauchsdarstellungen suchen oder Textnachrichten auswerten, um Verhalten zu erkennen, mit dem sich Erwachsene Kindern in sexueller Absicht nähern (sog. Grooming). Dieser Teil des Verordnungsvorschlags ist als "Chatkontrolle" bekannt.

Das wäre eigentlich schon zu viel des Guten. Aber der Entwurf enthält noch deutlich mehr Überwachungspflichten. Hosting-Anbieter, also insbesondere Anbieter von Cloud-Speichern, können ebenfalls dazu verpflichtet werden, nach Bildern mit Missbrauchsdarstellungen zu suchen. Sobald eine "detection order" für diesen Bereich und solche Anbieter besteht, werden demnach massenhaft Uploadfilter zum Einsatz kommen müssen, die jeden Inhalt, der in einen Cloud-Speicherort hochgeladen wird, überprüfen. Zusätzlich soll es sogenannte "blocking orders", in Deutschland bekannt als Netzsperren, für einzelne Websites oder Inhalte geben können. Internetzugangsanbieter können damit die Anordnung erhalten, Websites, auf denen regelmäßig CSAM gefunden wird, zu sperren. Diese Netzsperren können für bis zu 5 Jahre verhängt werden.

Ein weiterer Punkt, der in der Diskussion zu dem vorgelegten Entwurf bisher zu wenig Aufmerksamkeit erhält, ist die Verpflichtung zur Altersverifikation. App Store-Anbieter müssen bei Nutzerinnen und Nutzern künftig feststellen, wie alt sie sind. Das ist erforderlich, weil bestimmte Apps nur für Kinder unzugänglich gemacht werden sollen. Das sind all jene Apps, bei denen das Risiko besteht, dass Kinder Grooming-Versuchen ausgesetzt werden könnten. Aber auch Messenger-Anbieter müssen herausfinden, welches Alter ihre Nutzerinnen und Nutzer haben, um festzustellen, welcher Text durchleuchtet werden darf. Der Entwurf sieht ausdrücklich vor, dass nur der Text in Kommunikation, an der mindestens ein Kind und eine erwachsene Person beteiligt sind, auf Anzeichen von Grooming durchleuchtet werden darf. Wie das jedoch technisch bewerkstelligt werden soll, bleibt im Unklaren und ist mehr als fraglich.

Der Verordnungsentwurf der Kommission baut auf der sogenannten Interims-Verordnung (Interims-VO) vom 14. Juli 2021 auf, die es Kommunikationsanbietern ermöglichen soll, freiwillig ihre Dienste zu scannen und nach CSAM zu durchsuchen. Die Interims-VO läuft im Sommer 2024 aus. Die vorgeschlagene CSA-Verordnung soll ihr nachfolgen, hat jedoch einen viel weitreichenderen Anwendungsbereich. Der Anwendungsbereich der Interims-VO war limitiert auf interpersonelle Kommunikation, explizit nicht erlaubt sein sollte das Scannen von Audiokommunikation. Zudem enthält die Interims-VO in den Erwägungsgründen (also dem erklärenden Teil der Regelung) einen Abschnitt, der auf die Wichtigkeit von Ende-zu-Ende-Verschlüsselung hinweist. Keine Bestimmung der Interims-VO darf so ausgelegt werden, dass sie die Ende-zu-Ende-Verschlüsselung verbietet oder abschwächt.

Das Ende des digitalen Briefgeheimnisses und viele falsche Verdächtige

In Deutschland hat der Entwurf der CSA-Verordnung bei vielen zivilgesellschaftlichen Gruppen für Entsetzen gesorgt. Allein die Chatkontrolle würde bedeuten, dass die Vertraulichkeit der Kommunikation und letztlich das digitale Briefgeheimnis nicht mehr gewährleistet werden kann. Potenziell sollen alle Kommunikationsinhalte durchleuchtet werden können. Und selbst wenn beteuert wird, dass die Verschlüsselung von Nachrichten nicht verboten oder geschwächt werden soll, hilft das nicht. Denn Nachrichten werden spätestens auf dem Handy oder im E-Mail-Postfach gesichtet. Dass hierbei bei manchen kein Störgefühl entsteht, ist eigentlich schon ein riesen Skandal. Der Europäische Gerichtshof hat mehrfach betont, dass Inhalte von Kommunikation immer tabu sind und schon gar nicht massenhaft überwacht werden dürfen. Eine großflächige Überwachungsstruktur für Inhalte von Kommunikation aufbauen zu wollen, hat mehr mit autokratischen Regimen zu tun als mit der Europäischen Union, die sich auch als Union der Werte und des Rechts begreift. Der Angriff auf die Vertraulichkeit von Kommunikation beunruhigt auch bestimmte Berufsgruppen. Ärztinnen, Anwälte, Journalistinnen und Beratungsstellen sind darauf angewiesen, mit Patientinnen, Mandanten, Informantinnen und Betroffenen einen geschützten Kommunikationsraum zu haben, dem alle Seiten vertrauen können. Eine Ausnahme für solche Gruppen ist im Entwurf der CSA-Verordnung nicht vorgesehen. Auch ein Bekenntnis zur Bedeutung von Ende-zu-Ende-Verschlüsselung wie in der Interims-VO fehlt im Entwurf. 

Aber auch auf der technischen Seite gibt es große Fragezeichen. Zur Erreichung der verschiedenen Ziele des Entwurfs gilt es unterschiedliche technische Anforderungen zu erfüllen. Bereits bekannte Kindesmissbrauchsdarstellungen könnten durch Filtertechniken ermittelt werden, mit der alle Inhalte gegen eine Datenbank von bekannten Bildern abgeglichen werden. Schon bei leicht veränderten Bildern oder ganz neuem Material, das noch nicht in einer Datenbank zu finden ist, wird es allerdings schwierig. Ebenso bei der Erkennung von Sprachmustern in Texten. Hier müssen intelligente (Filter-)Systeme zum Einsatz kommen, die selbstlernend Veränderungen oder neue Muster entdecken können. Ob es hierzu schon ausreichend gute Systeme gibt, darf bezweifelt werden. Der Entwurf der Kommission selbst geht im besten Fall davon aus, dass knapp 90 % der Bilder und Texte richtig erkannt werden. Eine Fehlerrate von 10 % ist bei der Menge an Bildmaterial und Textnachrichten, die täglich hochgeladen und verschickt werden, eine unvorstellbar große Zahl von falsch-positiven ("false positive") Meldungen. Wenn jeder zehnte Inhalt fälschlicherweise verdächtigt wird, dann sind bald sehr viele Menschen verdächtig.

Auch die Altersverifikation muss sehr scharf kritisiert werden. Um sicherzugehen, dass Nutzerinnen und Nutzer das richtige Alter angeben, müssten solche Angaben von Anbietern mit einem offiziellen Personaldokument verifiziert werden. Am sichersten wäre es, wenn sich alle Internetnutzenden künftig mit einem verifizierten Konto unter ihrem Klarnamen online registrieren müssten. Die Idee, dass es auch weiterhin möglich sein muss, das Internet anonym zu nutzen, wäre damit dahin. Die vorgeschlagene Maßnahme der Netzsperren dürfte deutschen Nutzerinnen und Nutzern bekannt vorkommen. Schon einmal wurde versucht, das Instrument einzuführen. Interessanterweise war es damals Ursula von der Leyen, die heute Kommissionspräsidentin ist, die den Vorschlag in Deutschland einbrachte. Er war aber nicht von langer Dauer. Das "Zugangserschwerungsgesetz", in dem das Mittel der Netzsperren enthalten war, wurde nicht einmal zwei Jahre alt. Nach dem Beschluss Anfang 2010 wurde es schon Ende 2011 wieder aufgehoben, weil die Einsicht siegte, dass Netzsperren ein unwirksames Mittel sind.

Grund zur Hoffnung - Der Widerstand formiert sich!

Die Diskussion um den Entwurf einer CSA-Verordnung ist bereits in vollem Gange. Das ist besonders deshalb ungewöhnlich, weil der Gesetzgebungsprozess in der EU noch gar nicht richtig begonnen hat. Erst kürzlich wurden die deutsche und weitere Sprachfassungen des Entwurfs vorgelegt, vorher war lange Zeit nur die englische Fassung verfügbar. Das zeigt, wie ernst die Debatte um Bürgerrechte im Netz genommen wird. Auf der anderen Seite ist zu erkennen, dass sich die Fronten bereits in diesem frühen Stadium erhärten. Es wird gegenüber denjenigen, die für Bürgerrechte im Netz eintreten, sehr unfair und unsachlich argumentiert. Die EU-Kommission und die Verfechter der Idee einer CSA-Verordnung werfen ihren Gegnern vor, die massive Verbreitung von CSAM im Netz in Kauf zu nehmen, nur um das Internet als rechtsfreien Raum weiterhin nach Lust und Laune nutzen zu können. Das ist eine Kampagne, gegen die sich alle Demokratinnen und Demokraten mit größter Vehemenz wehren müssen!

Viele Beispiele der letzten Jahre deuten darauf hin, dass zum einen sehr gute Ermittlungserfolge im Bereich des Kindesmissbrauchs erzielt werden, wenn man die Kräfte bündelt und Polizei und Strafverfolgung richtig ausbildet und ausstattet. Zum anderen haben die kürzlich veröffentlichen Recherchen von Jan Böhmermann aufgezeigt, dass das Internet kein rechtsfreier Raum ist, sondern ein rechtsdurchsetzungsfreier Raum. Am Beispiel von Hasskommentaren hat Jan Böhmermann aufgezeigt, dass es mehr oder weniger vom Zufall abhängt, ob eine angezeigte Straftat im Netz ernst genommen, ermittelt und zur Anklage gebracht wird. Natürlich gilt im Internet, wie auch überall sonst, Recht und Gesetz. Aber es wird zu wenig angewendet und durchgesetzt. Ein weiteres Beispiel ist eine umfassende Recherche des NDR aus dem vergangenen Jahr, bei der festgestellt wurde, dass der Polizei bekanntes Missbrauchsmaterial sich auch Jahre nach seiner Entdeckung immer noch frei abrufbar im Netz befindet. Weil sich keiner so richtig dafür zuständig fühlt, das Material entfernen zu lassen. Bevor solche Missstände nicht behoben sind, ist der Verweis darauf, dass Bürgerrechtler den Entwurf deshalb kritisieren, weil ihnen die Verfolgung von Kindesmissbrauch nicht am Herzen läge, eine ziemliche Anmaßung.

In Deutschland hat sich die Bundesregierung glücklicherweise klar gegen die Chatkontrolle positioniert. Bundesinnenministerin Nancy Faeser, Bundesjustizminister Marco Buschmann und Digitalminister Volker Wissing haben sich sehr deutlich geäußert. "Digitale Bürgerrechte sind keine Bürgerrechte zweiter Klasse", sagte etwa Minister Buschmann. Noch nicht ganz klar ist allerdings die konkrete Meinung zu den übrigen Überwachungsmaßnahmen neben der Chatkontrolle, wie die Uploadfilter für Cloud-Anbieter und die Altersverifikation bei der Nutzung von Apps. Die Freien Demokraten haben sich mit einem Beschluss gegen den gesamten Entwurf gewendet und fordern die EU-Kommission auf, ihn zurückzuziehen. Auch das Bundesinnenministerium war bereits aktiv und hat eine lange Liste an Fragen an die EU-Kommission übermittelt, um auf die zahlreichen Probleme mit dem Entwurf hinzuweisen. Die Antworten der Kommission decken auf, dass viele Fragen ungeklärt bleiben und viele Befürchtungen gerechtfertigt sind.

In einer vernichtenden gemeinsamen Stellungnahme des Europäischen Datenschutzausschusses (EDSA) und des Europäischen Datenschutzbeauftragten kommen nun auch erste Signale aus Europa. Der EDSA, dem auch der deutsche Bundesdatenschutzbeauftragte (BfDI) Ulrich Kelber angehört, nimmt den Vorschlag einer CSA-Verordnung regelrecht auseinander. Nach Ansicht der Datenschützer verstößt der Verordnungsentwurf der EU-Kommission gegen die europäische Grundrechte-Charta, insbesondere das Recht auf Achtung des Privatlebens und das Datenschutzgrundrecht. An vielen Stellen wird die mangelnde Verhältnismäßigkeit des Vorschlags gerügt, insbesondere beim Einsatz von Technologien zur Aufdeckung von neuem CSAM oder zur Erkennung von Grooming. Die verfügbaren Technologien seien schlicht zu fehleranfällig. Der BfDI Ulrich Kelber findet in einer zusätzlichen Stellungnahme deutliche Worte und konstatiert: „So etwas kennen wir ansonsten nur aus autoritären Staaten.“

Das alles deutet darauf hin, dass der Verhandlungsprozess um den vorgelegten Entwurf nicht einfach und geräuschlos ablaufen wird. Genaue Zeitpläne sind noch nicht bekannt, aber viele zivilgesellschaftliche Organisationen finden sich bereits zusammen, um Bündnisse zu bilden. Beispielhaft kann das Bündnis "Chatkontrolle STOPPEN" genannt werden. Aber nicht nur Kritik an dem vorgelegten Entwurf, sondern auch eine Debatte darüber, wie wirklich wirksam gegen Kindesmissbrauch und die Verbreitung von Missbrauchsdarstellungen vorgegangen werden kann, sollten nun im Vordergrund stehen. Unter dem Berg an Überwachungsmaßnahmen sollte das eigentliche Ziel nicht verschüttgehen - Kinder effektiv vor Missbrauch im Netz und in der analogen Welt zu schützen.

Dieser Artikel erschien in einer gekürzten Version erstmalig als Gastbeitrag von Sabine Leutheusser-Schnarrenberger im Behörden Spiegel / August 2022. Hier können Sie den Beitrag lesen.

Bei Medienanfragen kontaktieren Sie bitte:

Helena von Hardenberg, Presse und Digitale Kommunikation
Helena von Hardenberg
Referatsleitung Presse & Digitale Kommunikation
Telefon: +49 30 288778-565