BTN/SR

Hassrede: Ein Thema für Europa

Der Umgang mit Hate Speech in sozialen Netzwerken ist nicht nur in Deutschland ein Thema. In Wien fand im Oktober eine internationale Vernetzungsveranstaltung zum Thema statt: Ein Workshop von Facebook in Kooperation mit der OSZE (Organisation für Sicherheit und Zusammenarbeit in Europa) im Rahmen der Online Civil Courage Initative (OCCI).
 

Von Simone Rafael

Der Workshop im Rahmen der Online Civil Courage Initative (OCCI), deren Gründungspartner die Amadeu Antonio Stiftung und Belltower.News in Deutschland sind, brachte 50 NGOs aus Frankreich, Großbritannien, Deutschland und Osteuropa zusammen, um Erkenntnisse und Strategien auszutauschen. Alle sind in den Feldern Rechtsextremismus, Islamismus oder Demokratiearbeit aktiv. Während in Frankreich und Großbritannien der Hauptfokus der Demokratie- und Präventionsarbeit auf islamistischem Terror und Antisemitismus liegt, beschäftigen sich die Projekte aus Deutschland und Osteuropa vornehmlich mit Rechtsextremismus, Rechtspopulismus und gruppenbezogener Menschenfeindlichkeit wie Rassismus, Antisemitismus und Homo- und Transfeindlichkeit.

 

Peter Neumann: Erfolgreiche Radikalisierungsprävention

Den Eröffnungsvortrag hielt Peter Neumann vom „International Center for the study of radicalisation and political violence” (ICSR), der sich mit der Frage beschäftigte, was Menschen dazu bringt, sich extremistischen oder terroristischen Strömungen zuzuwenden und bis zur Gewalt zu radikalisieren. Als gemeinsame Faktoren identifizierte Neumann das Bedürfnis, einen Kanal für Wut und Empörung zu finden (also emotionale Bedürfnisse), den Wunsch nach Identität und Zugehörigkeit, kombiniert mit dem Wunsch nach Macht und Einfluss, und ein Bedürfnis nach Abenteuer und Bedeutung, das Menschen in vermeintlich geheimen Missionen suchen, die ihnen die Ideologie bietet. Wenn sich Menschen dann einmal radikalen Gruppen zugewandt hätten, würden sie von denen auch bei der Stange gehalten – notfalls auch durch Bedrohung. „Das Bild des vermeintlich ‚einsamen Wolfs‘, des Einzeltäters, ist größtenteils ein Mythos – Radikalisierung ist eine sozialen Entwicklung“, sagt Neumann. Dementsprechend seien Fälle, bei denen sich Menschen allein im Internet radikalisieren, weitaus seltener als solche, in denen auch im realen Leben Kontakte zu anderen Menschen der gleichen Überzeugung beständen, wie IS- oder Neonazi-Gruppen.

Arbeit, die Radikalisierung verhindern will, soll bei diesen Bedürfnissen ansetzen, empfiehlt Neumann. Während Repressionen, also etwa Verbote oder Strafgesetze, sich vor allem mit der Ideologie auseinandersetzen, könne gute Präventionsarbeit nicht nur die Ideologie bearbeiten, sondern auch versuchen, die Bedürfnisse der gefährdeten Menschen anderweitig zu erfüllen und sich um konstruktive Bearbeitung ihrer Wut kümmern.

Dennoch führten aber die Zugänglichkeit zu Hass-Inhalten im Internet zu einer Verfestigung der Ideologie, was die Arbeit gegen Rechtsextremismus und islamistischen Terror im Internet gerade in der Prävention sinnvoll mache, führte Neumann weiter aus.

 

Facebook: Counter Speech unterstützen

Erin Saltman, Policy Managerin bei Facebook, gab den Initiativen einen Einblick in Entwicklungen in der Konzernpolitik im Umgang mit Hassinhalten. In dem Facebook Community Standards wird definiert, welche Inhalte die Plattform nicht verbreiten möchte. Im Bereich der Hassrede und des politischen Extremismus gehören zu den Inhalten, bei denen Facebook Handlungsbedarf sieht, gewalttätiger Extremismus. Das bedeutet entsprechend bekannte Organisationen, aber auch die Unterstützung und Verbreitung derer Inhalte und bildliche Darstellungen von extremistischer Gewalt sind nicht erlaubt.

Um mit diesen Inhalten umzugehen, nutzt Facebook die Meldungen von Nutzerinnen und Nutzern, aber vor allem bei Bildern auch “Machine Learning” – also eine Art künstlicher Intelligenz. So soll etwa verhindert werden, dass bereits von Facebook gelöschte Fotos wieder und wieder hochgeladen werden. Allerdings wird die Bearbeitung durch Technik stets durch ein menschliches Expertenteam begleitet. Dies geschieht, weil manchmal diese Bilder verwendet werden, um darüber journalistisch zu berichten oder sie zu dokumentieren, etwa im Rahmen von Monitoring rechtsextremer Aktivitäten durch demokratische Projekte. Dies soll weiterhin auch auf Facebook möglich sein.

Im Beschwerde-Management arbeitet Facebook mit Spezialist_innen mit vielen verschiedenen Hintergründen (Jura, NGOs und Menschenrechte, Politik, Wirtschaft, Kommunikation), die über 40 Sprachen sprechen. Die meisten Inhalte, die gegen die Community Standards von Facebook verstoßen, sind Spam und Pornographie. Hassrede spielt bisher eine untergeordnete Rolle. Trotzdem ist es Facebook besonders in diesem Bereich wichtig, Gegenrede (Counter Speech) zu unterstützen - und dies etwa durch die Online Civil Courage Initiative, die guten Initiativen Aufmerksamkeit verleiht.

Außerdem gibt es auf Facebook einen Bereich für Nonprofit-Unternehmen, der Tipps und Tools zur erfolgreichen Nutzung der Plattform gibt.

Für die Arbeit mit demokratischer Gegenrede auf Facebook hatte Saltman aus der Erfahrung des „Institute of Strategic Dialogue” (ISD) drei Kernempfehlungen: Fotos und Videos hätten auf Facebook eine weit größere Reichweite als Textbeiträge, würden weit mehr geteilt. Am meisten Interaktionen erreichen Initiativen, die konstruktive, sachliche Diskussionen ermöglichen (also Diskurse gut moderieren und klare Diskussionsregeln haben), und satirische Seiten zu diesen ernsten Themen. Außerdem ginge es darum, den besten Absender für Gegenrede zu suchen. Dies könnten etwa Aussteiger aus der entsprechenden Szene sein, Prominente oder Jugendliche, wenn es um Jugendliche geht. Außerdem bedenkenswert: Mit welchem Ton wird die Zielgruppe angesprochen, z.B. informell-freundlich, mit emotionalem Verständnis oder nachdenklich-reflektierend. Das Teilen persönlicher Erlebnisse und ein Angebot von Unterstützung zeigten sich bei Gegenrede im Extremismus-Bereich am erfolgreichsten.

Interessant auch ein Hinweis aus dem Publikum, dass es bei der EU ein „Civil Society Empowerment Program“ gibt, bei dem sich Projekte um Mittel für Counter Speech-Projekte bewerben können. Bis Mitte Januar können Anträge dafür eingereicht werden.

 

OSZE: Was empfehlen wir Europa?

Sejal Parmar aus dem Bereich „Medienfreiheit“ der OSZE (Organisation für Sicherheit und Zusammenarbeit in Europa) gab dann Einblick in die Versuche der OSZE, die verschiedenen Strategie der Länder in der EU in eine gemeinsame Empfehlung fließen zu lassen, wie „Violent extremism“ als Policy Problem in sozialen Netzwerken behandelt werden soll. Kernkonfliktpunkte sind die fehlende Definition von „Hate Speech“ und „Violent extremism“. Begriffe unter denen in den EU-Mitgliedsländern viele verschiedene Dinge verstanden werden, es gibt unterschiedliche Gesetzeslagen  und natürlich das Spannungsfeld zwischen Bearbeitung von gefährdenden Inhalten und Meinungsfreiheit.

Der aktuelle Stand der Empfehlungen:

  • Gegenerzählungen (Counter Narratives) in der Präventionsarbeit sollen unterstützt werden

  • Interreligiöser und interkultureller Dialog soll unterstützt werden, weil er die Widerstandsfähigkeit gegen gewalttätigen Extremismus stärkt.

  • Medienkompetenz und Digitalkompetenz sollen gestärkt werden.

  • Transparenz von Programmen im Bereich „Countering Violent Extremism“ (CVE) oder „Prevention Violent Extremism“ (PVE), auch von Privatunternehmen.

  • Berichterstattung über Terrorismus muss gewährleistet werden, es sei denn, sie stiftet selbst zu Terrorismus an.

  • Quellenschutz muss erhalten bleiben (z.B. gegenüber staatlicher Verfolgung).

  • Auf Netzwerke darf kein Druck ausgeübt werden, Inhalte zu entfernen.

  • Eine offene Debatte mit Zugang zu Informationen muss zu allen Inhalten möglich sein.

  • Kontrollen der Überwachung durch die Staaten

  • Keine umfassenden Verbote von Anonymität und Verschlüsselung oder Schwächung digitaler Sicherheits-Tools.

Mehr: http://www.osce.org/fom/106289

 

Die OSZE selbst übrigens macht auch eine Gegenrede-Kampagne mit dem Titel „#UnitedCVE“ (= United Countering Violent Extremism). Sie ist zu finden auf

In einer neuen Publikation des “ICSR” geht es um erfolgreiche Counter Speech-Initiativen in Europa („Challenging Hate: Counter-speech Practices in Europe“). Da der Blick auf andere Arbeit inspirierend sein kann, seien die besprochenen Projekte hier verlinkt. Die Untersuchung ist leider bisher nicht online verfügbar.

Großbritannien:

 

Deutschland:

 

Frankreich:

 

Es gibt übrigens auch eine OCCI-Gruppe bei Facebook für Deutschland für Informationsaustausch von Initiativen:

drucken