Eigentlich geht es darum, Kindesmissbrauch via Internet aufzudecken und zu bekämpfen: Die sozialdemokratische EU-Innenkommissarin Ylva Johansson hatte dazu im Mai einen Gesetzentwurf vorgestellt. Onlineplattformen sollen verpflichtet werden, pornografisches Material oder Kontaktversuche aufzuspüren, zu entfernen und in einem geplanten EU-Zentrum gegen Kindesmissbrauch in Den Haag zu melden. Dazu sollen sie die Möglichkeit bekommen, ganze Chatkommunikationen im Netz inklusive verschlüsselter Nachrichten zu scannen.

Eine mögliche Technologie dafür wäre das sogenannte "Client-Side-Scanning". Bereits auf dem Endgerät, also dem Handy, Tablet oder Computer, installiert, lassen sich damit Nachrichten und Dateien schon vor dem Verschicken per E-Mail oder Messenger durchsuchen. Johansson stellte ihren 130 Seiten starken Gesetzentwurf am Montag offiziell dem Ausschuss für bürgerliche Freiheiten, Justiz und Inneres des Europa-Parlaments vor.

Schon im Mai hatte der Plan bei Datenschützern und Bürgerrechtsorganisationen Alarm ausgelöst. Kritiker fürchten eine massive Verletzung der Privatsphäre Einzelner. Von "Massenüberwachung" und "EU-Chatkontrolle" ist seitdem die Rede. Das Kinderschutzpaket der EU-Kommission stelle über 440 Millionen EU-Bürgerinnen und Bürger unter Generalverdacht, erklärte beispielweise die Bürgerbewegung Campact gemeinsam mit den Organisationen Digital Courage, Digitale Freiheit und Digitale Gesellschaft.

"Der Schutz von Kindern vor sexueller Gewalt ist ein wichtiges Ziel, das Grundrechtseingriffe rechtfertigen kann", sagt Felix Reda von der "Gesellschaft für Freiheitsrechte". Die Verordnung sehe jedoch keine geeigneten Werkzeuge vor, dieses Ziel zu erreichen und stelle "alle bisherigen Überwachungsgesetze in den Schatten".

Aus einigen Bundesministerien kam ebenfalls Kritik. Digitalminister Volker Wissing (FDP) etwa sagte, allgemeine Chatkontrollen seien nicht hinnehmbar: "Wir brauchen einen geschützten Raum privater Kommunikation."

Der Europaabgeordnete der Piraten, Patrick Breyer, zog sogar einen Vergleicht mit China: "Die Kommission schlägt ein verpflichtendes, allgemeines Überwachungssystem vor, das so extrem ist, dass es nirgendwo sonst in der freien Welt existiert." Das einzige Land, in dem es derlei "wahllose" Durchsuchungen gebe, sei das autoritäre China.

In einem gemeinsamen Aufruf gegen das geplante Gesetz wiesen mehr als 20 zivilgesellschaftliche Organisationen darauf hin, dass die Chatkontrolle besonders Personen und Organisationen gefährde, die vorrangig auf vertrauliche Kommunikation angewiesen sind: wie bei Geschäftsgeheimnissen, ärztlicher Schweigepflicht, Anwaltsgeheimnis, journalistischem Quellenschutz, Seelsorge, gewerkschaftlichen Aktivitäten, Start-Ups oder politischem Protest.

Fast die Hälfte der sexuellen Darstellungen von Minderjährigen im Netz würden von den Minderjährigen selber verschickt, sagt Markus Reuter von Netzpolitik.org im Dlf-Interview: "17-Jährige zum Beispiel, die sich gegenseitig Nacktbilder schicken." Auch solche Bilder gerieten dann in den Fokus der Kontrolle - "dabei ist hier viel mehr Präventions- und Bildungsarbeit vonnöten".

Reuter kritisiert, dass bei der geplanten Technologie zum Gesetz auch Nachrichten, die verschlüsselt verschickt werden sollen, schon zuvor gescannt würden. "Damit ist die Verschlüsselung nichts mehr wert."

Besonders problematisch findet der Medienjournalist die Absicht der EU, mit dieser Technologie Cybergrooming - also die Annäherungen von Erwachsenen an Kinder im Netz - zu erkennen. Dabei seien viele "falsch positive" Meldungen unvermeidlich, die unschuldige Menschen verdächtigen und zu einer Überlastung der Ermittlungsbehörden führen würden.

Als erfahrener Bürgerrechtler sorge ihn außerdem: "Wenn eine solche Struktur einmal da ist, wird es immer Leute geben, die eine Ausweitung fordern." Etwa gegen Kriminalität, Terrorismus, zivilen Ungehorsam, gegen Klimaaktivisten. "Man schafft ein Instrument, das Begehrlichkeiten weckt - eine Art Büchse der Pandora."

Nach Angaben der Polizeilichen Kriminalstatistik 2021 hat sich die Zahl allein der gemeldeten Darstellungen sexuellen Missbrauchs in Deutschland 2021 im Jahresvergleich mehr als verdoppelt. Fast 40.000 Fällen gingen die Ermittler nach. "Europa ist zu einem Drehkreuz für den Handel mit Missbrauchsdarstellungen geworden", sagt die Missbrauchsbeauftragte der Bundesregierung, Kerstin Claus. Es stelle sich die Frage, ob man "den gigantischen Mengen, die im Internet angeboten werden, überhaupt noch etwas entgegensetzen" könne.

Rund 18 Prozent der von ihr gefundenen kinderpornografischen Missbrauchsdarstellungen zeigten Vergewaltigungen, meldet die britische Internet Watch Foundation (IWF) in ihrem Report für 2021. 40 Prozent der abgebildeten Kinder seien unter zehn Jahre alt gewesen, ein Prozent jünger als zwei Jahre. 97 Prozent der Opfer seien Mädchen.

Bis Dezember 2020 haben Facebook, Google und Co. Privatnachrichten ihrer Nutzer freiwillig nach Missbrauchsdarstellungen gescannt. Gesucht wurde dabei nach Bildern, die etwa durch frühere Ermittlungen bekannt und mit einer Art digitalem Fingerabdruck, einem sogenannten Hash, versehen worden waren. Treffer wurden an das US-Zentrum für vermisste und ausgebeutete Kinder NCMEC gegeben, wo sie geprüft und gegebenenfalls an Behörden wie dem Bundeskriminalamt (BKA) geschickt wurden.

Ab Ende 2020 fehlte dafür in der EU allerdings zeitweise die rechtliche Grundlage. Laut NCMEC gingen daraufhin nur noch weniger als halb so viele Hinweise ein. Deshalb einigten sich die EU-Staaten und das Europaparlament vor rund einem Jahr auf eine Übergangslösung, die nach spätestens drei Jahren ausläuft. Seitdem dürfen die Plattformen die Nachrichten ihrer Nutzer wieder auf Hashes scannen.

EU-Kommissarin Johansson verteidigt ihr Gesetz: Es gehe nicht um das Mitlesen von Online-Kommunikation, sondern um sexuellen Missbrauch von Kindern, um das Aufspüren von grundsätzlich in der EU illegalem Material. Die Suche danach finde in Abstimmung mit Datenschutzbehörden und "geringstmöglichen technologischen Eingriffen" statt. Internetfirmen würden bereits jetzt ähnlich zielgerichtete Suchprogramme benutzen, um Schad-Software und Spam aufzuspüren.

Den Vergleich will Reuter nicht gelten lassen. Diese Art der Kontrolle gehe bei weitem nicht so "tief hinein" wie die durch das neue Gesetz geplante. Sie sei bereits auf den Endgeräten der Nutzer installiert und gleiche, je nach Konfiguration, nicht nur vorhandene Bilder von sexueller Gewalt mit Chatinhalten ab, sondern auch solche etwa von Demonstrationen. "Eine Zensurmaschine", nennt Reuter das, "autoritäre Systeme werden sich über solch eine Technologie freuen".