Hetze im Internet

Macht sie verantwortlich!

Von Stefan Herwig
Aktualisiert am 12.11.2019
 - 13:21
Der Hass im Internet ist ein Problem unserer Zeit. Wie wollen wir es unter Kontrolle bringen?
Die Bundesregierung will, dass Plattformen Hass und Hetze im Netz künftig selbst anzeigen. Das wird Staatsanwälte überlasten und greift zu kurz: Wir müssen an die Konzerne selbst heran. Ein Gastbeitrag.

Bundesjustizministerin Christine Lambrecht hat in der F.A.Z. vom 4. November erläutert, wie die Bundesregierung sich eine Reform des Netzwerkdurchsetzungsgesetzes vorstellt. Um Beleidigung, Hassrede und Volksverhetzung Einhalt zu gebieten, sollen soziale Netzwerke künftig Hass und Hetze an Staatsanwaltschaften und Polizei melden, auch wenn niemand anderes die Verfehlungen angezeigt hat. Soziale Netzwerke sollen also in ihren Plattformen selbst „auf Streife“ gehen, ihre Nutzer kontrollieren und Beiträge auf strafrechtliche Relevanz prüfen und anzeigen.

Was nach Ereignissen wie dem rechtsterroristisch motivierten Mord an Walter Lübcke und dem Angriff auf die Synagoge in Halle verständlich erscheint, ist bei genauerem Hinsehen leider wenig praktikabel und greift zu kurz. Staatsanwälte und Polizei sind mit dem Phänomen von Hass und Hetze im Netz zurzeit so überlastet, dass in einzelnen Bundesländern kaum noch Ermittlungen gegen Persönlichkeitsrechtsverletzungen aufgenommen werden. Nun sollen vierhundert neue Stellen beim Bundeskriminalamt Abhilfe schaffen. Viele Ermittlungen zu Beleidigungen und Hassrede im Netz werden halbherzig geführt oder verlaufen im Sande, was ein Grund für niedrige Anzeigeraten ist. Es ist zu bezweifeln, dass soziale Netzwerke große Anstrengungen unternehmen, Hass und Hetze zu melden, wenn das nicht einmal die eigenen Nutzer tun, zumal die Prüfung juristisch Sachkundige leisten müssen.

Wichtig wäre es jetzt, zu fragen, welche Regulierung der Plattformen effizienter sein könnte und warum sich Hass und Hetze gerade online so deutlich manifestieren.

Die Justizministerin meint, soziale Netze seien nicht das Problem, aber das Internet diene als Brandbeschleuniger für Hass, der zu Gewalttaten führe. Genau das Gegenteil ist der Fall: Das Internet selbst ist nicht das Problem, es sind Netzwerke wie Instagram, Twitter oder Facebook, deren Empfehlungsalgorithmen als Brandbeschleuniger für Hass und Hetze wirken. Sie belohnen Beiträge mit großer Reichweite, also auch solche, die populistisch oder provozierend sind. Das sorgt auf der Plattform für Bewegung und motiviert andere, es den laut Tönenden gleichzutun, um den nächsten Zustimmungs- oder Provokationstsunami zu erzeugen. Beiträge, die viel Zustimmung oder Reaktion erzeugen, sind für die Plattformen bares Geld wert. Sie übertönen Beiträge, die ambivalent sind, moderat geschrieben oder viel Zeit zum Lesen benötigen. Einen Dislike-Button gibt es nach wie vor nicht, auf keinen Fall soll sich ein Nutzer wegen eines Posts zurückgesetzt fühlen. Das Schlimmste, was einem Nutzer passieren kann, ist, nicht beachtet zu werden. Dann muss halt beim nächsten Mal ein Beitrag mehr zugespitzt werden. Es entsteht eine Rückkopplungsschleife aus populistischen oder provokanten Beiträgen, die dann auch individuell mit noch mehr Reichweite belohnt werden, wenn sie ohnehin erfolgreich sind. Nutzer, die dieses Prinzip beherrschen, werden erfolgreiche Kanäle haben. Die Meister dieser Disziplin werden oft professionelle Youtube-Stars.

Netzwerkdurchsetzungsgesetz greift zu kurz

Das Empfehlungsprinzip funktioniert bei 98 Prozent aller Inhalte hervorragend. Es ist der Grund, weswegen Katzenbilder oder simple Entertainmentinhalte unsere Newsfeeds und Timelines dominieren. Für politische Meinungsäußerungen lässt es sich selbstverständlich ebenfalls einsetzen. Dieser Effekt der Algorithmen hat dazu geführt, dass der Hass im Netz allgegenwärtig geworden ist und vielfach als „normal“ hingenommen wird. Dass der politische Rechtsruck in vielen Staaten der Welt von Parteien ausgeht, die vor allem im Internet ihren Wahlkampf betreiben, ist kein Zufall. Der Rechtsruck ist auch internetgemacht.

Aber können diese Algorithmen tatsächlich so wirkmächtig sein, dass sie andere Medien derart überlagern? Im „Medienvielfaltsmonitor“, einer Langzeitstudie der deutschen Landesmedienanstalten, hat das Internet bereits 2018 alle anderen Mediengattungen in Sachen Meinungsbildungsrelevanz überholt, zuletzt sogar das Fernsehen. Anstelle neutraler Medien, die eine Gesamtgesellschaft ansprechen, tritt die individualisierte Ansprache auf Kanälen, die genau auf unsere Bedürfnisse zugeschnitten ist. Populismus schlägt so Objektivität, die Sensation schlägt die Gelassenheit. Und in den dunklen Ecken der sozialen Medien finden Abgehängte und Unzufriedene zusammen und geben sich dem Trugschluss hin, sie seien die demokratische Mehrheit. Das verschafft auch den Rändern den Eindruck, repräsentativ zu sein. Diese gesellschaftliche Spaltung lässt sich nicht durch mehr Strafanzeigen und mehr Ermittlungen auflösen.

Das Netzwerkdurchsetzungsgesetz, das 2017 entstand, um Hass im Netz zu bekämpfen, verfolgt ein wichtiges Ziel, aber es greift zu kurz. Zwar ist es tendenziell richtig, die Unterregulation der großen Plattformen aufzugreifen. Seit 2017 muss Facebook zum Beispiel persönlichkeitsrechtsverletzende Kommentare prüfen und die strafbaren schnell löschen, eine Prüfung, die nur Menschen vornehmen können und die für die Plattform mit moderaten Kosten verbunden ist. Das ist ein Schritt in die richtige Richtung, aber es wird übersehen, dass mit dem Löschen von Postings keine Selbstregulation der Nutzer erfolgt. Gesetze sollen jedoch Normen transportieren. Die zu lernende Norm des Netzwerkdurchsetzungsgesetzes ist leider: Hetzer kommen im Netz in der Regel ungeschoren davon, üble Kommentare können, sprachlich leicht verändert, abermals gepostet werden. In den wenigsten Fällen kommt es zu einer Ermittlung, die einen hohen behördlichen Aufwand nach sich zieht.

Wie lange wollen wir noch warten?

Sinnvoller wäre ein Gesetz, das sowohl die Selbstregulierung der Plattformen als auch die der Nutzer verbessert. Dazu müssen Plattformen und rechtsverletzende Nutzer eine verstärkte Mitverantwortung für von ihnen verursachten Hass und Hetze in sozialen Medien zugewiesen bekommen. Und dazu wiederum muss man die weitgehende Anonymität der Nutzer auf solchen Plattformen kritisch hinterfragen. Die Beiträge eines Nutzers reichen in den öffentlichen Raum hinein, sie können die Freiheit und die Rechte anderer tangieren. Die Handlungen von Nutzern auf Streamingplattformen und sozialen Medien lassen sich mit einem Straßenverkehr vergleichen, in dem nicht nur Fußgänger und Radfahrer, sondern alle Teilnehmer ohne Kennzeichen unterwegs sind und in dem sich keine Verkehrssicherheit einstellt, weil Verstöße kaum geahndet werden. Folgen wir der Justizministerin Christine Lambrecht, sollen nun die Autohersteller die Verstöße ihrer Fahrer an die Behörden melden (was übrigens in einigen chinesischen Smart Cars bittere Realität ist).

Besser wäre eine Regulierung, bei der im Normalfall eine „Pseudonymität“ der Nutzer gewährleistet sein muss, so dass sie nicht auf den ersten Blick erkennbar sind, eventuelle Persönlichkeitsverletzungen aber auch zivilrechtlich verfolgt werden können. Hierzu sollten Nutzer auf sozialen Plattformen wirksam verifiziert sein. Der Klarname ist nicht erforderlich, wohl aber eine Pseudonymität, bei der nur die Plattform oder eine andere dritte Stelle sicher weiß, wer sich dahinter verbirgt. Kann oder will die Plattform eine solche Verifizierbarkeit nicht leisten, was auch weiterhin eine Option bleiben muss, so haftet sie selbst gegen weitergehende Ansprüche für die Kommunikation ihrer Nutzer. Darüber hinaus muss die Plattform eine Beschwerde schnell und durch einen Menschen prüfen lassen, um festzustellen, ob diese begründet ist. Wenn ja, kann die Plattform oder eine dritte Stelle die Identität des Rechtsverletzers enthüllen, aber nur dem Beschwerdeführer oder der Ermittlungsbehörde gegenüber. So trügen die Plattformen die Kosten für den gesellschaftlichen Schaden, den ihre Empfehlungsalgorithmen anrichten. Das ist der bessere Anreiz für die sozialen Medien, ihre Algorithmen so zu überarbeiten, dass weniger Beschwerden anfallen und weniger Hassrede entsteht. Die sozialen Medien haben es selbst in der Hand, den Trend zu Hetze und Gereiztheit umzukehren.

Gleichzeitig wüssten verifizierte Nutzer, dass sie für rechtsverletzende öffentliche Postings belangt werden können, eine Voraussetzung für Selbstkontrolle. Hier könnte eine zivilrechtliche Verfolgungsoption Staatsanwaltschaften und Polizeibehörden empfindlich entlasten und Rechtsverletzer treffen, wo es ihnen am ehesten weh tun dürfte: in ihrem Portemonnaie. Über eine Persönlichkeitsrechtsverletzung hinausgehende Delikte, wie etwa Volksverhetzung, würden weiterhin von der Staatsanwaltschaft verfolgt.

Die Art und Weise, wie wir im Internet Haftungslücken zugelassen haben, erlaubte es nicht nur großen Plattformen wie Facebook und Youtube, ins Unermessliche zu wachsen, sie unterscheidet sich auch erheblich von unserer realen Welt. Dort haben wir zum Beispiel das Presserecht, das die Verantwortung für Publiziertes Redakteuren oder den im Impressum genannten Verantwortlichen zuweist.

Wir müssen uns allmählich der Erkenntnis stellen, dass das Experiment einer flächendeckenden Anonymität im Netz als gescheitert zu betrachten ist, wenn es den öffentlichen Raum so tangiert, wie es soziale Medien und Streaming-Plattformen tun. Das zeigen auch die Auswüchse anonymer Foren wie „4chan“ und „8chan“, die zu einem Schmelztiegel für rassistische, frauenfeindliche und pornographische Aktivitäten wurden, und in dem sich spätere Gewalttäter radikalisierten. Diese Entwicklung ließe sich durch eine verbindlich vorgeschriebene, gesicherte Pseudonymität sehr wahrscheinlich eindämmen. Wie lange wollen wir noch warten?

Der Netzpolitik-Experte Stefan Herwig hat in Essen Kommunikationswissenschaft studiert. Er berät Unternehmen und Politik zu Themen wie Digitalisierung und Datenschutz.

Quelle: F.A.Z.
  Zur Startseite
Verlagsangebot
Verlagsangebot