Endloser Hass: Facebooks private Gruppen
"Schwangere echte Mamas", "Abenteuer auf Bikes" oder "Hamburger Hundehalter" - für jeden gibt es eine Facebook-Gruppe. Mit dieser Botschaft bewarb Facebook im vergangenen Herbst hierzulande seine Gruppen-Funktion. Laut Konzernangaben sind mehr als 400 Millionen Menschen in einer Facebook-Gruppe, die ihnen persönlich "etwas bedeutet" und einen Sinn für Gemeinschaft stiftet. Aber die Welt der rechten Facebook-Gruppen ist oftmals nicht so harmonisch, friedlich und divers, wie es die Werbekampagne suggeriert.
VIDEO: Endloser Hass: Facebooks private Gruppen (6 Min)
Hetze, Hassrede, Holocaust-Leugnung
Reporterinnen und Reporter des BR, NDR und WDR haben nun 138 überwiegend geschlossene rechte Facebook-Gruppen ausgewertet. Darin: 2,6 Millionen Posts und Kommentare aus den Jahren 2010 bis Ende 2019. Im Datensatz finden sich rechtsextreme Hetze und Hassrede. Beiträge, die den Holocaust leugnen, stehen neben Hakenkreuzen und anderen Nazi-Symbolen:
"Hitler hat leider die Moslems und die Zigeuner vergessen! !", schreibt ein Nutzer in der Gruppe "Deutschland sagt Nein zu Islamisierung und Massenzuwanderung".
"Wird noch Zyklon B benötigt?", fragt ein Nutzer in einer anderen Gruppe.
"Sieg Heil Kameradinnen & Kameraden", postet ein Nutzer in der Gruppe "Nationales Bündnis für Deutschland".
Von solchen mutmaßlich strafbaren Äußerungen haben die Reporter mehr als 1.000 in dem Datensatz gefunden - und das ist nur die Spitze des Eisberges. Insgesamt haben sich in den untersuchten Gruppen 186.000 Nutzerinnen und Nutzer an den Diskussionen beteiligt. Immer wieder finden sich auch populäre Begriffe wie: "Lügenpresse", "Messermigration" oder "Merkel-Diktatur" in den Postings.
Hinweis über Informanten
Der Datensatz erhebt keinen Anspruch auf Vollständigkeit, ist allerdings in seinem Umfang einzigartig. Den Hinweis auf die extremen Inhalte haben die Reporter von einem Informanten erhalten, der seit Jahren als Beobachter anonym in den Gruppen unterwegs ist. Im Interview schildert er, wie er die Gruppen gefunden hat: "Die Entscheidung, welche Gruppen oder in welche Gruppen ich reingehe, hat Facebook mir im Prinzip schon abgenommen. Wenn ich in meine Timeline geguckt habe, gab es zwischendurch immer Vorschläge, vorgeschlagene Gruppen und dann konnte man nach rechts oder links wischen und irgendwann waren auf einmal zwanzig Gruppen aufgeführt", so der Informant.
Algorithmus für Wachstum rechtsextremer Facebook-Gruppen mitverantwortlich
Dass dieser Algorithmus für das Wachstum von rechtsextremen Facebook-Gruppen mitverantwortlich ist, ist Facebook seit Jahren bekannt: Wie das "Wall Street Journal" Ende Mai berichtete, warnte eine Facebook-Mitarbeiterin in einer internen Präsentation bereits 2016 davor, dass mehr als ein Drittel aller größeren deutschsprachigen, geschlossenen Politik-Gruppen extremistische Postings beinhalteten. Der Algorithmus spiele dabei eine entscheidende Rolle: "64 Prozent aller Beitritte in extremistischen Gruppen gehen auf unsere Empfehlungswerkzeuge zurück."
Das Problem der rechten Hassrede auf Facebook ist alles andere als neu, seit Jahren steht das Unternehmen deswegen in der Kritik. Im Interview mit BR, NDR und WDR beteuert Facebooks Sprecher Klaus Gorny: "Wir haben im Kampf gegen Hassrede in den letzten Jahren auch sehr große Fortschritte gemacht. Wir haben im ersten Quartal dieses Jahres rund zehn Millionen Hassrede-Inhalte entfernt."
Maßnahmen unzureichend
Doch Facebooks Maßnahmen reichen offenbar nicht aus. Auch die Gesetzesverschärfungen der vergangenen Jahre lassen noch immer Spielräume. Denn laut Netzwerkdurchsetzungsgesetz muss das Unternehmen Inhalte nur löschen, wenn es Kenntnis davon erlangt, also wenn sie gemeldet werden. Selbst danach zu suchen, ist das Unternehmen nicht verpflichtet. In Gruppen voller Gleichgesinnter ist das offenbar selten der Fall.
Facebook setzt in den Gruppen auf die Rolle der Admins. Also Nutzerinnen und Nutzer, die selbst Mitglied der Gruppen sind. Und dort für eine konstruktive Diskussionskultur sorgen sollen, problematische Kommentare löschen können. Laut Facebook-Sprecher Gorny müssen sich die Administratoren wie alle anderen Nutzer an die Gemeinschaftsstandards halten. Doch die Auswertung zeigt: Einige dieser Gruppenadministratoren beteiligen sich sogar an der Hetze.
Im Kampf gegen Hassrede setzt Facebook neben eigenen Moderationsteams auch auf künstliche Intelligenz. Doch an dieser Stelle hakt es oft, wie Gorny erklärt: "Das ist ein extrem komplexes Feld. Sprache ist auch für künstliche Intelligenz nicht immer einfach, weil es sehr viele Nuancen gibt. Es kommt unglaublich auf den Kontext an. Das heißt, unsere Technologie muss ständig dazulernen."
Rechtsextreme Inhalte leicht zu finden
Doch die Reporterinnen und Reporter von BR, NDR und WDR haben die rechtsextremen Inhalte mit vergleichsweise einfachen Techniken aufgefunden - Mittel, die dem größten sozialen Netzwerk der Welt allemal zur Verfügung stehen sollten.
ZAPP hat in der Vergangenheit mehrfach über Hassrede auf Facebook berichtet. Diese gemeinsame Datenrecherche von BR, NDR und WDR zeigt systematisch, wie groß dieses Problem noch immer ist.
