Mensch oder Maschine. Das ist oft nicht mehr festzustellen, wenn in Sozialen Netzwerken wie Twitter oder Facebook Beiträge erscheinen. Die IT-Unternehmen sind Motor der Entwicklung, treiben die Automatisierung im Netz voran - und scheitern zuweilen. Microsoft hatte im März eine selbstlernende Maschine entwickelt, den Chatbot Tay. Das Experiment missglückte. Aus dem symphatischen Helfer mit dem Profilbild einer jungen Frau entwickelte sich ein Albtraum. Auf Twitter wurde der Account von tausenden Nutzern mit Hetze und Propaganda überschüttet.

Angegriffen wurden unter anderem Juden, Frauen und US-Präsident Barack Obama. Weil das kleine Programm von den anderen Nutzern lernte - Stichwort künstliche Intelligenz - wurde aus dem Chatbot Tay ein Misanthop und Rassist. Microsoft musste die Maschine wieder abstellen, ein erneuter Versuch scheiterte. Wer hinter dieser konzertierten Aktion steckt, darüber lässt sich nur spekulieren.

In den Sozialen Netzwerken tummeln sich aber noch andere kleine Roboter. Wie viele es sind, kann keiner mit Gewissheit sagen. Sie sind aber da, agieren wie Menschen und sind nur schwer von diesen zu unterscheiden.

"Sie können zudem anderen Nutzern folgen und Beiträge kommentieren", sagt Simon Hegelich, Professor an der Hochschule für Politik in München. Er lehrt "Political Data Science". Es sei schwierig die Bots zu erkennen, sagte Hegelich dem Deutschlandfunk. In einem Projekt beobachtet der Forscher ein großes Botnetz im Ukraine-Konflikt. Dort gebe es mindestens 15.000 solche Programme, so Hegelich.

Oftmals würden Alltagsdinge kommentiert, wie Sport oder Witze. Aber zwischendurch gebe es dann auch Propaganda, um "den rechten Sektor in der Ukraine zu unterstützen".

"Die Anbieter der Social-Media-Plattformen versuchen mit viel Aufwand und statistischen Verfahren, die Bots zu entdecken", erklärt Hegelich. So schaue Twitter auf die Anzahl der Follower oder Metadaten. "Der normale Nutzer kann sich nur fragen, ob die Gegenseite glaubwürdig ist." Viele Bots benutzten "keine echten Fotos, sondern Comic-Bilder". Hegelich will deshalb ein Programm für Privatanwender entwickeln, um diese Bots zu überführen.

Was die Bots im Netz genau bewirken, ist nicht sicher. Es sei denkbar, dass sie nur noch untereinander kommunizieren. "Es gibt aber auch Hinweise, dass sie mit 'echten' Menschen verbunden sind. Hegelich warnt: Statt eine böse Nachricht könne man mit gleichem Aufwand eine Million Nachrichten schreiben, "die sozialen Medien komplett durch Bot-Nachrichten fluten".

In großen Medienhäusern, in der Werbewirtschaft aber auch in der Politik wird aufmerksam beobachtet, wie sich Themen und Trends im Netz entwickeln. Können Bots eine gesellschaftliche Debatte in der Offline-Welt beeinflussen? Hegelich ist sich sicher, dass solche Programme in der Flüchtlingsdebatte aktiv sind. Da gebe es dann Kennwörter - Hashtags - wie #refugeesnotwelcome - die sich im Netz verbreiteten und von Mulitplikatoren registriert würden. Oder mit anderen Worten: von Politikern und Journalisten.

Im Kampf gegen Bots habe Twitter zuletzt 125.000 Accounts gesperrt, so Hegelich. Ein aufwändiges Unterfangen. Denn die Programme passen sich an, damit sie nicht gelöscht werden. Inzwischen sind die Roboter auch in den USA bei den Vorwahlen für die Präsidentschaft aktiv. So verweist Prof. Hegelich auf ein Twitter-Profil, hinter dem eindeutig eine Maschine stehe.

Hinter der Beschreibung von "susan birchfield" verberge sich eine glückliche Mutter von zwei großartigen Jungs. Die Frau könne es gar nicht abwarten, den republikanischen Kandidaten Donald Trump zu wählen, heißt es. Im wesentlichen verschickt - retweetet - das Programm Beiträge von anderen Nutzern. Aber es gibt auch Bots, die gegen Trump Stimmung machen:

Besonders heikel wird es, wenn dieses Programm den Kandidaten Trump mit rassistisch motivierten Aussagen in Verbindung bringt. Sie werden als vermeintliche "Witze" kaschiert und überschreiten jegliche Grenze von Anstand und Moral. Das Ziel: Trump soll als Mensch und Politiker diskreditiert werden.

(rei/tj)