"I have to say that for me the biggest challenge of the speech was pronouncing the name of the law. It’s Netzwerkdurchsetzungsgesetz. Yeah, okay?"
Es fängt schon an mit der Aussprache des Gesetzes zur Verbesserung der Rechtsdurchsetzung in sozialen Netzwerken, kurz Netzwerkdurchsetzungsgesetz; und noch kürzer: NetzDG.
Facebooks Kommunikationschef Elliot Schrage tut sich aber nicht nur mit der Aussprache schwer, bei seinem Auftritt auf der Digitalkonferenz DLD im Januar dieses Jahres in München.

Zu diesem Zeitpunkt ist das Gesetz gerade wenige Tage voll umfänglich in Kraft. Es soll dafür sorgen, dass strafbare Hetze möglichst schnell aus dem Internet verschwindet. Doch auch wenn Facebook-Manager Schrage diesen Grundgedanken unterstützt: Das Gesetz findet er problematisch.
"Das Gesetz zwingt uns die Verantwortung auf, zur selben Zeit Richter, Geschworene und Vollstrecker zu sein. Diese staatliche Aufgabe, was rechtlich angebracht ist oder nicht, wird also Privatunternehmen zugeschoben. Das ist meiner Meinung nach eine schlechte Idee."
Diese Meinung liest und hört man sehr häufig in den ersten Tagen des Netzwerkdurchsetzungsgesetzes, und zwar nicht nur aus den Unternehmenszentralen von Facebook, Twitter, Youtube, Instagram, Google+, Pinterest und Soundcloud - also den vom NetzDG betroffenen sozialen Netzwerken.

Besonders laut wird die Kritik am 3. Januar, wegen einer Entscheidung des Kurznachrichtendienstes Twitter.
"Das Satire-Magazin Titanic zitierte auf seinem Account einen mittlerweile gelöschten Tweet der AfD-Abgeordneten Beatrix von Storch und wird daraufhin von Twitter gesperrt. Damit ist klar: Es macht in Zeiten des NetzDG anscheinend keinen großen Unterschied, wie etwas gemeint war, oder ob es zum Beispiel Satire ist. Den Löschbrigaden in den Konzernen reicht anscheinend schon so was wie ein Schlagwort."

Der Fall, den heute+-Moderatorin Eva-Maria Lemke da ihren ZDF-Zuschauern schildert, bleibt nicht der einzige. Facebook und Instagram sperren etwa zwischenzeitlich die Zeichnung eines Karikaturisten; bei Twitter verschwinden mehrere Nachrichten, die satirisch gemeint waren. Darüber hinaus beklagen mehrere AfD-Politiker, dass bestimmte Facebook-Posts, Tweets und auch ein ganzer Account gesperrt wurden. Dabei sieht das NetzDG gar nicht vor, dass Accounts gesperrt werden können.

Die Aufregung ist groß - und es passiert alles in allem das, wovor Experten schon im vergangenen Sommer gewarnt hatten. Bei einer Anhörung im Bundestag war damals auch Christian Mihr, der Geschäftsführer der Nichtregierungsorganisation "Reporter ohne Grenzen" dabei.

"Die Befürchtungen, die wir bezüglich des Netzwerkdurchsetzungsgesetzes hatten, sind weitestgehend eingetreten. Die Löschungen, selbst wenn sie vielleicht populistisch motiviert waren, in der Folge von den Tweets von Beatrix von Storch und anderen, haben trotzdem offenbart, welche Probleme das Gesetz mit sich bringt. Und insofern sind Befürchtungen bezogen auf Deutschland weitestgehend eingetreten. Die schlimmste Befürchtung, die wir aber immer auch letztlich hatten, ist, dass sich autoritäre Länder, autoritäre Regime durch dieses Netzwerkdurchsetzungsgesetz inspiriert fühlen. Und da sind die Befürchtungen leider auch eingetreten."

In Russland etwa sei ein Gesetz in der Beratung, für dessen Text das NetzDG fast wortgleich übernommen worden sei; auch in Singapur und auf den Philippinen gebe es eine solche Initiative, erläutert Mihr. Eine absehbare Entwicklung mit möglicherweise verheerenden Folgen für die Meinungsfreiheit, meint der Menschenrechtsaktivist - gerade in Staaten, in denen es keine strenge Gewaltenteilung wie in Deutschland gibt.
"Das, was wir auf diese Kritik des Missbrauchspotentials immer als Gegenargument gehört haben, ist, dass doch das Missbrauchspotential eines Gesetzes nicht gegen ein Gesetz sprechen könnte. Und da würde ich sagen: Ja, das stimmt. Aber umso wichtiger ist es, dass ein Gesetz die möglichen Kollateralschäden gut genug abfedert und einfach handwerklich gut gemacht ist. Und da sagen ja nicht nur wir, sondern viele andere Kritiker ja auch, dass dieses Gesetz in dem Bedenken von Konsequenzen leider sehr schlecht gemacht ist."

Aber auch wenn viele Experten und Beobachter das innerhalb weniger Wochen beschlossene Gesetz aus dem Haus von SPD-Justizminister Heiko Maas scharf kritisieren: Dass Hass im Netz ein Problem ist; dass illegale Hetze nicht ausreichend gelöscht und verfolgt wird, bestreitet so gut wie niemand. Es bestand also Handlungsbedarf.

Das zeigt auch der Fall von Richard Gutjahr. Der Journalist ist Mitte Juli 2016 mit seiner Familie in Nizza und filmt zufällig vom Hotelbalkon mit, wie ein LKW in eine Menschenmenge rast. Über 80 Menschen sterben. Ein paar Tage danach ist Richard Gutjahr wieder in seiner Heimat München. Und zufälligerweise auch dort wieder nah dran, als es zu einem Amoklauf in einem Einkaufszentrum kommt.

Es gibt aber Menschen, die nicht an diese Zufälle glauben, die dahinter eine Verschwörung vermuten. Und so findet sich Richard Gutjahr in einem Shitstorm wider.
"Richard Gutjahr lügt. Seine Tochter lügt. Die Beiden hatten eindeutig Vorwissen. Und wenn sie Vorwissen gehabt haben, dann stimmt die komplette Story mit dem irren Einzeltäter nicht. Weder in Nizza noch in München."

Verschwörungsvideos wie dieses sind nach wie vor im Netz zu finden - auch wenn Gutjahr längst zwei Anwälte eingeschaltet und sich zur Wehr gesetzt hat. Die Hassbotschaften erreichen ihn aber nach wie vor. Was das für ihn persönlich bedeutet, erzählt er Anfang des Jahres im Deutschlandfunk.

"Sie müssen sich vorstellen, jeden Tag, wenn ich meinen Computer anmache, erwarten mich schon vier oder fünf Hasskommentare, die mich als Judensau beschimpfen oder meine Familie ins KZ wünschen. Das hat nach 18 Monaten vielleicht ein bisschen nachgelassen. Mit jedem Terrorangriff allerdings, egal, in welcher Stadt dieser Welt er stattfindet, geht das wieder von vorne los. Weil die Leute dann besonders emotional sind und wieder einfach anfangen, am Computer irgendwelche Theorien zu entwickeln."

Richard Gutjahrs Fall macht deutlich, dass die großen sozialen Netzwerke und Plattformen aus den USA bisher sehr wenig gegen illegalen Hass unternommen haben.

"Die haben also da so nette Buttons. Da kann man also dann auch ein Video melden, wenn Sie meinen, dass Sie da irgendwie diffamiert worden sind. Da geschieht aber nichts. Also im Gegenteil. Ich habe 60 Videos gemeldet. Davon ist keins entfernt worden. Im Gegenteil: Wenn Sie dann sogar versuchen, das Ganze mit Copyright oder so auszuhebeln, dann passiert Folgendes, das muss man sich echt vorstellen: Dann schickt Youtube sogar dem Hetzer Ihre private Anschrift und Ihre Telefonnummer, damit Sie sich doch bitte untereinander einigen. Und das ist in so einem Fall, wenn man bedroht wird, wenn man von Neonazis, wenn man von Antisemiten, wenn man von Reichsbürgern oder ähnlichen verblendeten Menschen dann plötzlich, also wenn die wissen, wo man wohnt, geradezu auch bei Minderjährigen, dann hört der Spaß echt auf."

Das neue Gesetz macht es Opfern von Hetze in manchen Punkten tatsächlich leichter: Es zwingt die großen Netzwerke etwa, einen Ansprechpartner in Deutschland zu benennen, der sich mit den gemeldeten Fällen auseinandersetzen muss. Das ist auch einer der Gründe, warum die Große Koalition an dem Gesetz festhalten will. Angela Merkel in ihrem Videopodcast "Die Kanzlerin direkt".

"Wir sind der festen Überzeugung, dass auch das Internet kein rechtsfreier Raum ist. Das heißt, dass, was in der Welt, die wir kennen, in der analogen Welt, geregelt ist, das muss in gewisser Weise auch in der Welt des Internets geregelt werden."
Die alte und möglicherweise auch neue Große Koalition will erst mal abwarten, was die ersten NetzDG-Erfahrungen der Plattformbetreiber zeigen. Die Unternehmen müssen zum ersten Mal spätestens Ende Juli entsprechende Berichte veröffentlichen.

Es ist aber nicht so, dass es nur die deutsche Regierung ist, die das Gesetz verteidigt. Obwohl die Kritik am NetzDG ein paar Tage lang sehr laut war, obwohl sich inzwischen FDP, Grüne, Linke und AfD dagegen positioniert haben, obwohl das Gesetz Datenschützer mit Datensammlern zu seltener Einigkeit gebracht hat: Die wenigsten wollen das Gesetz komplett abschaffen. Und es gibt auch einige wenige Experten, die sich offen für das Netzwerkdurchsetzungsgesetz aussprechen.
Alexander Roßnagel zum Beispiel. Er ist Professor für Öffentliches Recht an der Universität Kassel und Sprecher des wissenschaftlichen Expertengremiums "Forum Privatheit", das vor Kurzem ein Papier zum Thema veröffentlicht hat.
"Die sozialen Netzwerke haben seit 1997 die gesetzliche Pflicht, rechtswidrige und insbesondere strafbare Inhalte zu löschen, wenn sie darauf aufmerksam gemacht worden sind. Dieser Verpflichtung sind die großen Netzwerke, also ganz genau Facebook und Twitter, unzureichend nachgekommen. Und das Netzwerkdurchsetzungsgesetz ist jetzt das richtige Instrument, um diese großen Netzwerke tatsächlich dazu zu bringen, dass sie die deutschen Gesetze einhalten."

Denn das NetzDG sieht empfindliche Strafen vor: Das zuständige Bundesamt für Justiz kann Bußgeldverfahren gegen die Plattformbetreiber einleiten. Im Extremfall drohen Strafen von bis zu 50 Millionen Euro.
Das ist auch der Grund, warum viele Kritiker davon ausgehen, dass Facebook, Twitter & Co. seit Januar lieber im Zweifel zu viel löschen als zu wenig - dass sie sogenanntes Overblocking betreiben.

Alexander Roßnagel vom "Forum Privatheit" hält das aber für einen falschen Verdacht.

"Die Bußgeldandrohungen bestehen ausschließlich dann, wenn ein sogenanntes Beschwerdemanagement nicht eingerichtet ist. Also eine systemische Vorkehrung getroffen ist, dass man sich beschweren kann und dass der Betreiber des Netzwerks dann reagiert. Es gibt keinen Grund, Angst zu haben vor einer Fehlentscheidung im Einzelfall, weil die nicht sanktioniert wird. Das weiß auch jeder Anwalt in der Rechtsabteilung der Betreiber. Und deswegen hat Facebook und Twitter, die haben keine Angst. Sondern die gehen sehr systematisch und kalkuliert vor."

Dass gerade in den ersten Januartagen viele Inhalte gesperrt wurden, könne also auch durchaus Strategie der großen Netzwerke gewesen sein. In ihrem Aufsatz schreiben Roßnagel und Kollegen, Facebook oder Twitter reagierten vermutlich eher aus dem Interesse, die für sie aufwändige Regelung in Misskredit zu bringen. Die sozialen Netzwerke weisen diesen Vorwurf zurück; Facebook teilt auf Anfrage mit, es verfolge keine Strategie, besonders viele Inhalte zu löschen.
Zumindest aber steht fest, dass die großen Digital-Unternehmen mehr tun gegen den Hass; indem sie noch im vergangenen Jahr ihre eigenen Hausregeln verschärft und mehr Personal eingestellt haben, um diese Regeln zu kontrollieren. Facebooks Kommunikationschef Elliot Schrage auf der Digitalkonferenz DLD in München:

"Wir haben inzwischen investiert in deutlich mehr Menschen, die für uns Inhalte prüfen. Weil uns vorgeworfen wurde, dass wir unsere eigenen Regeln nicht effektiv genug anwenden. Deswegen beschäftigen wir jetzt zusätzlich Tausende Menschen - übrigens auch in Deutschland - die dafür zuständig sind, Beschwerden über geteilte Inhalte zu überprüfen."

In Deutschland arbeitet Facebook mit zwei externen Dienstleistern zusammen, die in Essen und Berlin zwei sogenannte Löschzentren betreiben; mit über 1000 Mitarbeitern. Laut Facebook wurden die für Deutschland zuständigen Mitarbeiter geschult, um gemeldete Inhalte so zu bearbeiten, wie es das NetzDG vorsieht.

Im Gesetz ist etwa von "offensichtlich rechtswidrigen" Inhalten die Rede. Sie müssen innerhalb von 24 Stunden gelöscht oder gesperrt werden. Noch so ein Punkt im NetzDG, der viele Kritiker stört. Denn selbst Juristen könnten in manchen Fällen lange darüber streiten, ob etwas rechtswidrig ist oder nicht - so die Argumentation. Der Rechtswissenschaftler Alexander Roßnagel vom "Forum Privatheit" aber wiegelt ab.

"Es gibt Fälle, in denen es eindeutig zu erkennen ist. Nehmen wir das Beispiel, eine Freundschaft geht zu Bruch und er bringt ein Nacktfoto von ihr ins Netz. Das ist offensichtlich rechtswidrig. Da muss ich nicht mehr groß nachdenken und groß prüfen. Ein anderer Fall ist, es wird eine Tatsachenbehauptung vorgebracht, die so sein könnte oder nicht so sein könnte. Dann ist es nicht so offensichtlich. Die amtliche Begründung zum Netzwerkdurchsetzungsgesetz sagt, dass im Zweifel davon auszugehen ist, dass es nicht offensichtlich ist."

In diesen Fällen müssen die Netzwerke dann nicht innerhalb von 24 Stunden löschen. Stattdessen haben sie eine Bearbeitungsfrist von einer Woche. Das Gesetz sieht aber noch eine weitere Option vor: Die Netzwerke können die nicht-offensichtlichen Fälle auch innerhalb einer Woche an eine unabhängige Einrichtung weiterleiten - die dann weitere sieben Tage lang Zeit hätte, sich mit den gemeldeten Texten, Bildern oder Videos zu befassen.

"Regulierte Selbstregulierung" ist hier das Stichwort - ein Modell, das an anderer Stelle schon seit langem angewendet wird; und zwar beim Jugendmedienschutz. Dort gibt es mehrere Einrichtungen der Freiwilligen Selbstkontrolle, wie zum Beispiel die Freiwillige Selbstkontrolle Multimedia-Anbieter, kurz FSM. Die wird von ihren Mitgliedern finanziert, ist aber trotzdem unabhängig. Wenn so etwas auch fürs NetzDG umgesetzt würde, wäre das ein richtiger Schritt, meint der Direktor der Landesanstalt für Medien Nordrhein-Westfalen, Tobias Schmid.

"Auch im klassischen Medienbereich ist es so, dass Unternehmen zunächst eine Selbstkontrolleinrichtung einrichten, mit der sie ihre Inhalte überprüfen können. Das tun sie aber selbst. So. Diese Selbstregulierungs-Einrichtung ist aber nicht freischwebend, sondern die geht nach Prinzipien vor, die vorher durch die Medienaufsicht, also zum Beispiel durch die Landesmedienanstalten, abgenickt werden müssen. Damit die Parameter, wonach eigentlich geprüft werden soll, nicht durch das Unternehmen selbst festgesetzt werden, sondern durch eine professionelle Medienaufsicht kontrolliert werden."

Auch wenn das NetzDG solche unabhängigen Prüfer zulässt: Bisher gibt es eine derartige Selbstkontrolle für das Thema illegaler Hass im Netz nicht. Die FSM ist aber nach eigener Auskunft mit Facebook, Google und Twitter im Gespräch. Vereinbart ist, dass sie das erste Quartal beobachtet - und, je nachdem zu welchen Schlüssen die FSM und die Unternehmen kommen, ab der zweiten Jahreshälfte unabhängige Prüfer eingesetzt werden könnten. Die sollten nach Ansicht der FSM Juristen sein - wodurch die größten Kritikpunkte am NetzDG wenigstens zum Teil hinfällig werden könnten.

Für Tobias Schmid von der nordrhein-westfälischen Landesmedienanstalt reicht das aber noch nicht, weshalb er ein Projekt ins Leben gerufen hat, um das NetzDG zu ergänzen.

"Derjenige, der einen Hasskommentar ins Netz stellt, versteht nicht, warum er gelöscht wird, wenn diesem Löschen nichts anders folgt. Das heißt, es entsteht kein Unrechtsbewusstsein. Und daraus entstand die Überlegung, dass wir das Löschen, das sowieso geschieht, und das jetzt durch das Netzwerkdurchsetzungsgesetz ja auch sehr forciert wird, um eine weitere Komponente ergänzen müssen. Nämlich den Vollzug von Recht, die Durchsetzung von Recht, um der Bevölkerung, um den Teilnehmern auch klar zu machen, dass die Freiheit im Netz nur funktionieren kann, wenn wir uns dort an Regeln halten und dass der Verstoß gegen solche Regeln auch eine Sanktion nach sich zieht."

Seit Anfang Februar läuft dafür in NRW das Projekt "Verfolgen statt nur Löschen". Dabei werden Redaktionen unter anderem von RTL, WDR und der Rheinischen Post im juristischen Umgang mit Facebook-Posts oder Leserkommentaren geschult. Für mögliche Anzeigen zu illegalem Hass im Netz bekommen die Redaktionen einen zentralen Ansprechpartner, und zwar die Staatsanwaltschaft in Köln. Die stellt für die Medienhäuser außerdem ein vereinfachtes Anzeige-Verfahren bereit. So soll sichergestellt werden, dass strafbares Verhalten im Netz auch wirklich bestraft wird.

Dabei, meint Tobias Schmid, darf aber genau wie beim NetzDG ein zentraler Grundsatz nicht aus dem Blick geraten: Die Achtung der Meinungsfreiheit; und zwar auch dann, wenn Populisten die juristischen Grenzen des Sagbaren bewusst ausreizen.

"Ich stehe ganz ausdrücklich dafür ein, dass wir die Menschenwürde im Netz schützen. Ich stehe aber auch dafür ein, dass wir sagen: Nicht alles, was wir unschön finden, wird jetzt mit dem Einsatz von Ordnungsbehörden verboten. Und das bedeutet in dieser Diskussion, in der wir jetzt drin sind, dass wir selbstbewusster werden darin, Dinge durchzusetzen, aber auch selbstbewusst genug sind zu sagen: Es gibt bestimmte Formen von Äußerungen, die finden wir unschön, aber sie sind kein Rechtsverstoß. Das gehört eben auch dazu."

Denn nur weil ein Kommentar im Netz gehässig und bösartig ist, muss er noch lange nicht strafbar sein. Und egal ob strafbar oder nicht, egal wie wir das Netzwerkdurchsetzungsgesetz oder das Vorgehen der Netzwerke beurteilen: Nicht nur die Behörden, die Unternehmen, die Kontrolleure sind am Zug, sondern auch alle anderen Beteiligten, die Zaungäste, also letztlich jeder einzelne Nutzer. Ein Schluss, den auch der Journalist Richard Gutjahr für sich gezogen hat - aus den vielen Monaten voller Hass, die er erleben musste.

"Das Schlimmste war für mich irgendwie das Schweigen der Unbeteiligten. Und da wünsche ich mir einfach, dass ich auch vielleicht so ein bisschen dazu beitragen kann, dass ich auch so ein bisschen sage: Leute, kümmert Euch ein bisschen für die anderen. Auch im Netz! Ich glaube, wenn wir alle so ein bisschen mehr Zivilcourage auch in der digitalen Welt zeigen, dann haben diese Trolle, diese Hetzer, dann haben die langfristig keine Chance."