Mai 2017: Heiko Maas, damals noch Bundesjustizminister, verteidigt sein Netzwerkdurchsetzungsgesetz, kurz NetzDG. Das Gesetz ist noch nicht Kraft, steht aber längst, seit Bekanntwerden, in der Kritik:

"Es gibt große Bedenken, dieses Gesetz könnte, so wird es immer wieder formuliert, zu einer Einschränkung der Meinungsfreiheit führen."

Grotesk, findet Maas, und hält an seinen Plänen fest. Es gehe darum, Äußerungen im Internet zu löschen, die gegen Strafgesetze verstoßen, betont der SPD-Politiker. Das Gesetz verpflichtet soziale Netzwerke, rechtswidrige Inhalte zügig zu löschen. Doch zwei Jahre später scheint das Problem mit dem Hass nicht geringer geworden zu sein.

"Das Internet schein eine Bühne der verbalen Entgleisungen geworden zu sein, nach dem Motto: Das wird man wohl noch mal sagen dürfen."

"Ist es so ein Phänomen, das wir beobachten können, dass solange im Netz gehetzt wird, bis dann was passiert?"

"Ich sehe den Herrn Lübcke als Volksverräter."

Noch immer hetzen Menschen im Internet, beleidigen oder rufen sogar zu Gewalt gegen andere auf. Und das hat Folgen: Mit dem hessischen CDU-Politiker Walter Lübcke wurde ein Regierungsverantwortlicher ermordet, der zuvor massiv im Netz angefeindet worden war. Immer mehr lokale Politiker geben auf, Hasskriminalität sei eine Gefahr für die Demokratie, warnt der Städte- und Gemeindebund.

Was hat das NetzDG bewirkt? Konnte es die Rechtsdurchsetzung in sozialen Netzwerken tatsächlich verbessern, so wie es sich Heiko Maas vorgestellt hat? Oder ist es das große Zensurinstrument geworden, vor dem Kritiker gewarnt haben?

Mai 2016: Der Autor Tom Hillenbrand spricht auf der re:publica, dem selbsternannten "Festival für die digitale Gesellschaft"

"Ja, guten Abend, vielen Dank. Ich erzähle Euch ein bisschen was über Überwachung und Überwachungsregime, aber vielleicht nicht die Dinge, die ihr in den letzten Jahren vielleicht auch infinitum gehört habt: NSA, Snowdon…"

Hillenbrand hat lange als Journalist gearbeitet, inzwischen schreibt er Romane. Auf der re:publica zeigt er die lange Geschichte im Spannungsverhältnis von Staat und Informationsgesellschaft auf, die er bis zur Barockzeit zurückverfolgt hat. Weil er Grenzen der Informationsgesellschaft im heutigen, digitalen Zeitalter ausgereizt hat, erzeugt Hillenbrand nun selbst Schlagzeilen.

"Während der Europawahl habe ich einige satirische Tweets abgesetzt, für jede Partei einen, wo es jeweils um die Wahl und die Wahlzettel ging. Und ich wollte damit testen, ob denn der Algorithmus oder die Redakteure, falls da welche sitzen, die Twitter einsetzt, denn in der Lage sind, Satire von tatsächlicher Wahlmanipulation zu unterscheiden."

Das Ergebnis: Sie können es nicht. Ein satirisch gemeinter Tweet von ihm sorgt dafür, dass Hillenbrand seit bald 150 Tagen auf Twitter gesperrt ist. Alle Versuche, das zu ändern, sind bislang gescheitert. Sogar die einstweilige Verfügung, die der Autor am Landgericht München erwirkt hat, stößt bei dem sozialen Netzwerk auf scheinbar taube Ohren.

Die Regeln der Social-Media-Giganten aus den USA seien zu undurchsichtig, findet Tom Hillenbrand. Er sieht die Meinungsfreiheit in Deutschland bedroht – und die Politik in der Pflicht. Seine Forderung: Facebook, Twitter oder Youtube müssen noch stärker reguliert werden.

"Wir müssen die ein bisschen zum Jagen tragen, denn wer wie Twitter bestehende einstweilige Verfügungen einfach ignoriert, wem deutsche Gerichte schnuppe sind, dem muss man, glaube ich, ein bisschen deutlicher auf die Füße treten."

Über die Regeln der Plattformen könne man durchaus diskutieren, meint auch Manuel Höferlin. Aber das NetzDG hält der FDP-Politiker für den falschen Ansatz. Im Gegenteil - sei es sogar mit für Fälle wie den von Tom Hillenbrand verantwortlich.

"Beim NetzDG ist es so, dass sehr viele Inhalte auch gar nicht zuerst von Menschen sondern von Mechanismen der künstlichen Intelligenz begutachtet werden, und: Die können das gar nicht. So eine KI kann nicht Satire von Meinungsäußerung, von legitimer oder illegitimer Meinungsäußerung, auseinanderhalten."

Höferlin geht gemeinsam mit einem Parteikollegen rechtlich gegen das NetzDG vor. Er hält das Gesetz für verfassungswidrig und will notfalls mit der Klage bis Karlsruhe ziehen. Besonders kritisch bewertet der digitalpolitische Sprecher der FDP das vorgesehene Recht auf Löschung.

"Wenn ich als Politiker beleidigt werde, kann es sein, dass ein soziales Netzwerk verpflichtet ist, das zu löschen, obwohl ich das vielleicht gar nicht möchte, weil ich vielleicht öffentlich dokumentieren möchte, dass mich jemand beleidigt hat oder ich mich zur Wehr setzen möchte. Diese Chance habe ich gar nicht. Das heißt, das NetzDG tut viel mehr, als nur Recht durchsetzen. Es setzt eigenes neues Recht."

…dass strafrechtlich relevante Äußerungen zur Anzeige gebracht werden und das Folgen hat. Für Höferlin eine Selbstverständlichkeit.

"Aber natürlich sollen Straftatbestände wie Volksverhetzung oder ähnliches verfolgt werden. Das war aber auch vor dem NetzDG möglich, und dazu brauchen wir diese Regelungen, dass das die Netzwerke selbst machen, nicht. Dafür haben wir einen Rechtsstaat, da geht das, glaube ich, ganz gut."

Er selbst habe bislang noch nicht juristisch gegen Äußerungen im Netz vorgehen müssen, sagt Höferlin. Anders als Renate Künast. Die Grünen-Politikerin hatte wegen Beleidigungen gegen ihre Person geklagt. Auf Facebook hatte jemand unter anderem geschrieben, man solle Künast als "Sondermüll entsorgen". Für das Berliner Landgericht war das allerdings keine Grenzüberschreitung. Das Urteil der Richter: Die Politikerin müsse sich auch "sehr weit überzogene Kritik gefallen lassen". Diese Entscheidung hat für breite Kritik gesorgt und die Frage befeuert: Reichen die Regeln des Rechtsstaats tatsächlich aus?

Unter dem Motto "Hate Speech und Fake News – Strafverfolgung gegen Hass im Netz" - hat in Düsseldorf das nordrhein-westfälische Justizministerium zur Diskussion geladen. Eine zentrale Frage dabei: Wie umgehen mit dem vergifteten Klima in Netzwerken, die für sich reklamieren, "sozial" zu sein?

"Ich würde gerne einen Punkt dazu ergänzen aus den Erfahrungen, die wir in den Beschwerdestellen machen. Was sich auch in den letzten Jahren verändert hat, ist, dass wir zunehmend sehen, dass Beschwerdeführer es bevorzugen, gerade im Bereich Rassismus auch anonym zu melden."

Alexandra Koch-Skiba hat am direktesten mit dem NetzDG zu tun von den Teilnehmern an diesem Abend. Sie leitet die Beschwerdestelle von eco, dem Verband der Internetwirtschaft. Hinweise, die hier ankommen, werden von Juristen geprüft, unterstreicht Koch-Skiba:

"Gerade im Bereich ‚Hate Speech‘, Rassismus, Volksverhetzung, wenn man dann zum Tatbestand kommt, sind das langwierige Prüfungen, weil die Inhalte eben nicht ein Bild sind, das man ganz schnell mit Daumen hoch, Daumen runter bewerten kann, sondern jeden einzelnen Fall auch mit der Meinungsfreiheit abwägen muss."

Geht der Daumen runter, müssen die entsprechenden Inhalte gelöscht werden; knapp 9.000 Fälle wurden so 2018 in Deutschland geprüft, also vergleichsweise wenige. Und nur gut jede dritte dieser gemeldeten Beschwerden wurde als berechtigt bewertet. Das NetzDG verpflichtet Online-Unternehmen, diesen speziellen Meldeweg bereitzustellen; die Stelle arbeitet dabei auch mit den großen Netzwerken aus den USA. zusammen. Das hat jedoch nichts mit den eigenen, zum Teil Künstliche-Intelligenz-basierten Löschungen dieser Konzerne zu tun. Die Zahlen dort – nach eigenen, selbstbestimmten Community-Standards – sind deutlich höher. Beispielsweise hat Facebook nach eigenen Angaben 2018 monatlich 15.000 Beiträge gelöscht – alleine in Deutschland. Die eco-Beschwerdestelle bekomme nur einen Ausschnitt mit, erklärt Koch-Skiba, und beobachte dabei:

"Wir nehmen ganz stark wahr, dass die Bevölkerung mehr bereit ist, Hinweise abzugeben; wir sehen einen Anstieg an Hinweisen aus dem so genannten Hate-Speech-Bereich, ohne das jetzt juristisch zuzuordnen. Wir sehen aber auch, dass die Anzahl der tatsächlich einschlägigen Hinweise umgekehrt zurückgeht. Das heißt, die Bevölkerung ist sensibler geworden, meldet mehr, was gut ist. Die tatsächliche Bewertung sagt dann aber doch, dass sehr viel von der Meinungsfreiheit gedeckt ist und dementsprechend auch online stehen bleiben darf und muss."

Doch was passiert mit den gelöschten Inhalten? Welche Konsequenzen erwarten die Verfasser dieser Einträge? "Verfolgen statt nur löschen", heißt es seit Kurzem in Nordrhein-Westfalen. Christoph Hebbecker ist einer von zwei Staatsanwälten, die sich ausschließlich mit dem Thema Hate-Speech im Netz beschäftigen. Der Ansatz: Medienpartner wie der WDR oder RTL leiten Anzeigen weiter und starten bei strafrechtlicher Relevanz Ermittlungen. Man verstehe sich als "flankierende Maßnahme zum NetzDG", sagt Staatsanwalt Hebbecker:

"Wir wollen, dass gelöscht wird. Wir wollen aber, dass parallel zum Löschen eben auch Strafverfolgung stattfindet. Wir wollen nicht, dass rechtswidrige – und damit auch strafbare Inhalte – einfach nur gelöscht werden. Wir wollen, dass diese Inhalte identifiziert werden. Wir wollen, dass die dahinterstehenden Verfasser identifiziert werden, und wir wollen, dass die dahinterstehenden Verfasser eben auch konsequent sanktioniert werden."

ZAC, so nennt das Justizministerium in Nordrhein-Westfalen seine - nach eigenen Angaben - "größte justizielle Cybercrime-Einheit bundesweit". Hebbecker räumt ein:

"Es ist sicherlich nicht zu bestreiten, dass in letzter Zeit der Eindruck entstanden ist, es fehle möglicherweise aufseiten der Justiz und auch aufseiten der Polizei an einer gewissen Sensibilität für das Thema Hate-Speech, und dass diesem Thema eben nicht die Aufmerksamkeit gewidmet wird, die es möglichweise verdient."

Mit der Ansprechstelle für Cyber-Kriminalität versuche man, diesem Eindruck entgegenzuwirken. Die Justiz wolle so zeigen, dass sie das Problem sehr wohl ernst nimmt:

"Und dass wir uns auch sehr wohl des Umstandes bewusst sind, dass sowas mittelfristig, auch für die Gesamtgesellschaft, erhebliches Konfliktpotenzial birgt und dass wir die Gesetze, die, ich weiß, der Spruch ist abgegriffen, aber er hat trotzdem Gültigkeit, online wie offline im gleichen Maße gelten, eben auch online wie offline mit gleichem Maß und gleich effektiv durchsetzen."

Die bisherige Bilanz von gut anderthalb Jahren Arbeit mit dem Projekt "Verfolgen statt nur Löschen": Rund 450 Strafanzeigen wurden untersucht, in etwas mehr als der Hälfte der Fälle sind auch Strafverfahren eingeleitet worden.

Aber reicht das aus? Ein Leuchtturmprojekt eines Bundeslandes mit hehren Absichtserklärungen? Thomas-Gabriel Rüdiger ist skeptisch. Rüdiger forscht seit Jahren am Institut für Polizeiwissenschaft in Brandenburg zu Kriminalität im Netz und sagt:

"Im Netz stoßen unsere analogen Gesetzkompetenzen, gerade im Polizeirecht, auf einen Raum, wo du gar nicht weißt, ob derjenige, der postet, zum Beispiel einen deutschen strafrechtlichen Kommentar, eben auf Twitter von mir aus, und da postet das jemand, vielleicht ist das ein deutschsprachiger Brasilianer, der in Brasilien sitzt, der Server für den Twitter-Account sitzt vielleicht auch nicht in Deutschland, fast nichts hat mit Deutschland zu tun. Aber wir sagen, unser deutsches Strafrecht gilt hier auf einmal. Das halte ich auch prinzipiell für richtig. Aber es zeigt doch eins: Wir haben uns noch gar nicht auf diesen Raum – als Polizeien, als Strafverfolgungsbehörden – eingelassen, weil wir diese Diskussion nicht führen."

Es fehlt in Deutschland an einer Grundsatzstrategie, findet der Cyber-Kriminologe:

"Wie soll eigentlich Normenkontrolle in 20 Jahren im deutschsprachigen Internet oder im deutschen Internet aussehen? Wie soll eine Polizeiarbeit in dem Raum aussehen? Und wie soll auch ein Justizsystem aussehen? Und dass wir diese Strategie nicht entwickeln, das ist ein großer Fehler."

Die Kriminalstatistiken der Bundesländer verzeichneten zwar immer weniger Anzeigen gegen Cyber-Vergehen, doch das sage nichts über die tatsächliche Entwicklung in dem Bereich aus, sondern über eine Bevölkerung, die das Vertrauen in den Rechtsstaat verliere, warnt Rüdiger. Und: Die Delikte hätten sich nur von der analogen Welt in die digitale verlagert – würden dort aber nicht ausreichend verfolgt.

"Ich glaube, wir stehen jetzt auch vor einer Schwelle. Irgendwann werden auch die Sicherheitsbehörden erkennen, dass es so nicht weitergeht. Aber mal ganz ehrlich: Das haben wir schon vor zwei, drei Jahren gesagt. Und warum hat man dann im NetzDG nicht die Strafverfolgung eingeschrieben?"

Ein weiterer Fehler sei gewesen, kritisiert der Cyber-Kriminologe, Onlinespiele nicht ins NetzDG mit einzubeziehen. Denn nicht auf Facebook oder Twitter, sondern in den Chats von Fortnite und anderen Onlinespielen kommunizierten Kinder und Jugendliche heutzutage. Dennoch erwartet der Gesetzgeber von der Spielebranche nicht, Verstöße direkt melden lassen zu müssen.

"Da, wo die Kinder unterwegs sind, da gilt auf einmal dieser Schutz vor Hass und Hetze im Netz nicht. Und das ist eigentlich überhaupt nicht nachvollziehbar."

Thomas-Gabriel Rüdiger fordert mehr staatliche Präsenz in allen Bereichen des Internets: Polizisten, die digital auf Streife gehen, mehr Ressourcen, mehr Geld für die Arbeit dort. Und wo der Staat und seine Vertreter fehlten, hätten sich längst andere aufgemacht.

"Macht mit, bei Reconquista Internet. Wir sind die Wichser, die den Wichsern, die uns den Spaß am Internet verderben, den Spaß am Internet verderben."

Vor anderthalb Jahren startete TV-Moderator Jan Böhmermann eine Initiative gegen Hasspostings im Netz; Zehntausende folgen ihm. Reconquista Internet ist bis heute aktiv.

Medienmacher wie Böhmermann sind für viele ein rotes Tuch. Aber sogar schon die Nachrichten etablierter Medien provozieren Beleidigungen. Das hat auch ARD-Sprecherin Linda Zervakis erlebt:

"Hin und wieder, also gerade so in Bezug auf AfD-Berichterstattung, bin ich dann mal angeprangert worden, aber gar nicht so sehr aufgrund meiner Herkunft, sondern aufgrund der Tagesschau als Institution an sich, die dann attackiert wurde."

In einem Fall seien die Beschimpfungen so arg gewesen, dass der Sender juristische Schritte eingeleitet habe. "Für was eine Institution ich da eigentlich arbeite und die sei ja eh bald am Ende und und und. Und ich könnte mich eigentlich ja auch begraben und so."

Ähnlich wie Reconquista Internet hat es sich der Verein "Ich bin hier" zum Ziel gesetzt, gegen Hass im Netz anzugehen. Dabei setze man auf konstruktiven Dialog im Kommentarbereich unter Medienberichten auf Facebook, erklärt Susanne Tannert, Sprecherin der Gruppe. Der Weg: So viele wie möglich äußern sich dort positiv.

"Wenn wir da gemeinsam hinschreiben und uns gegenseitig hochliken, dann belohnt der Facebook-Algorithmus das. Und dann sind die ersten Kommentare unter einem Medienbeitrag eben nicht: Bitte schickt sie zurück nach Libyen, sondern lasst uns versuchen, eine Lösung zu finden. Oder: Die Menschen haben ein Recht auf Asyl und sie dürfen das auch hier in Europa prüfen lassen. Lass uns gemeinsame europäische Lösungen finden."

Es gehe nicht darum, einen Diskurs, der ausgeglichen verläuft zu manipulieren, betont Tannert. Die rund 45.000 Mitglieder der Gruppe seien erst dann gefragt, wenn bereits unsachliche Meinungen einen falschen Eindruck erzeugten.

"Wenn da nur Hasskommentare stehen würden, würden die den Deutungsrahmen eines Beitrags, eines journalistischen Beitrages, auch einseitig beeinflussen, also wie Leser ihn empfinden oder wie Leser ihn verstehen."

Eine der Regeln bei "Ich bin hier" lautet: Bitte respektiere die Meinung anderer. Sich daran stets zu halten, sei allerdings nicht immer leicht. Vor allem Frauen erlebten als Antwort auf ihre Einträge in die Kommentarspalten von Facebook oftmals das Gegenteil von Respekt.

"Wir haben alle schon unsere persönlichen Hassnachrichten abgeholt, also wir haben Vergewaltigungsdrohungen bekommen, Sachen wie ‚Wir hassen Dich‘ in den Kommentarspalten, auch Beleidigungen, Verunglimpfungen, Diffamierungen."

Die Mitglieder von "Ich bin hier" versuchen, sich nach derartigen Angriffen gegenseitig zu unterstützen. Doch nicht alle wissen, an wen sie sich wenden können. Ihnen will HateAid helfen. Die Organisation sieht sich als Beratungs- und Anlaufstelle für Opfer digitaler Gewalt.

"Unser Ziel ist, dass wir Leute dabei unterstützen wollen, gegen Täterinnen vorzugehen, wenn es sich um strafrechtlich relevante Inhalte handelt," sagt Anna-Lena von Hodenberg, Geschäftsführerin von HateAid. Unterstützen bedeutet auch finanzielle Hilfe:

"Weil eben gerade bei Beleidigungen, bei Bedrohungen oder Verleumdungen im Netz, wenn sie eine Strafanzeige stellen, die oftmals fallen gelassen wird, und gesagt wird, sie können gerne den Privatklageweg gehen. Aber eine Zivilklage kostet eben."

Aber kann der Staat, kann die Justiz alleine die Probleme wirklich beheben? Ansgar Koreng hat Zweifel. Der Jurist arbeitet als Richter in Leipzig und beschäftigt sich schon lange mit dem "Hass im Netz". Sein Fazit: Das Thema lässt sich nicht nur rechtlich lösen.

"Im Grunde geht es ja um die Durchsetzung von Regeln des Anstands und nicht nur um die Durchsetzung von Rechtsvorschriften."

Bei der Durchsetzung von Rechtsvorschriften sei natürlich die Justiz gefragt, unterstreicht Koreng:

"Aber sie kann halt nicht dieses Problem als Ganzes lösen, weil dazu braucht es halt eine viel breitere Aktion sozusagen, eine viel breitere zivilgesellschaftliche Tätigkeit; das hat auch viel mit Bildung zu tun, das hat mit Schule zu tun. Und am Ende geht es um die Durchsetzung von Regeln des Anstands. Und die teilen manche Leute und manche tun es nicht."

Auch FDP-Politiker Manuel Höferlin ist überzeugt: Dadurch, dass Inhalte im Internet gelöscht werden, ändert sich nicht die Gesinnung des Verfassers.

"Das ist so, wie wenn man sagt: Wir verbieten rechte Ideologie. Die kann man nicht verbieten, sondern man muss sie bekämpfen, politisch, mit Argumenten, vielleicht auch entlarven. Und genau so ist es auch mit Straftatbeständen durch Äußerungen im Netz. Da muss auch jeder selbst eine Entscheidung treffen."