EU-Kommissarin Vera Jourová bekräftigt Kampf gegen illegale Hetze im Internet.

Heute fand im Bundesministerium für Justiz und Verbraucherschutz in Berlin eine Konferenz zur Bekämpfung illegaler Hetze im Internet statt, an der auch die EU-Kommissarin Vera Jourová teilnahm. In ihrer Rede betonte Jourová u.a.: „Rede, in der zu Gewalt oder Hass aufgestachelt wird, ist illegal. Wir alle erkennen die Macht und Bedeutung des Internets an und wissen es zu schätzen. Aber das Internet kann nicht außerhalb des Gesetzes stehen. Daher habe ich letztes Jahr beschlossen, zusammen mit IT-Unternehmen und Nichtregierungsorganisationen als wichtige Verbündete gegen Hassreden vorzugehen. Und ich habe mich darüber gefreut, dass die Internetunternehmen eine verantwortungsvolle Rolle dabei übernommen haben.“

Die EU-Kommission hatte bereits im Mai dieses Jahres einen Verhaltenskodex mit Facebook, Twitter, YouTube und Microsoft vereinbart, mit dem die Verbreitung von illegalen Hassreden im Internet bekämpft werden soll (TP berichtete). Mit dem Verhaltenskodex verpflichteten sich die IT-Unternehmen dazu, klare und wirksame Verfahren für die Prüfung von Meldungen über illegale Hassreden in ihren Diensten einzuführen, damit die Mehrheit der stichhaltigen Anträge auf Entfernung illegaler Hasskommentare in weniger als 24 Stunden geprüft und diese erforderlichenfalls entfernt bzw. der Zugang dazu gesperrt werden kann.

In der heutigen Konferenz im Bundesjustizministerium hielt Bundesjustizminister Heiko Maas eine Rede, die die TP Presseagentur im Folgenden dokumentiert (die Rede Vera Jourovás ist danach in englischer Sprache angefügt):

Rede des Bundesministers der Justiz und für Verbraucherschutz Heiko Maas zur Eröffnung der BMJV-Konferenz „Gemeinsam gegen Hass im Netz – Wo stehen wir?“ am 26. September 2016 in Berlin:

ES GILT DAS GESPROCHENE WORT!

Sehr geehrte Frau Kommissarin Jourová, liebe Vera,
sehr geehrte Frau Professor Joost,
sehr geehrte Frau Downs,
sehr geehrter Herr Professor Zick,
sehr geehrter Herr Schwammenthal,
sehr geehrter Lord Allan,
meine Herren Staatssekretäre Kelber und Billen,
meine sehr geehrten Damen und Herren,
liebe Gäste!

Im vergangenen Jahr postete ein Berliner das Bild eines am Strand liegenden ertrunkenen Flüchtlingskindes, und er fügte den Kommentar hinzu: „Wir trauern nicht, wir feiern es.“ Ein anderer schrieb mit Blick auf Migranten in Deutschland: „Ich bin dafür, dass wir die Gaskammern wieder öffnen und die ganze Brut da reinstecken.“ Und in Bochum forderte ein Mann via Facebook dazu auf, Angela Merkel öffentlich zu steinigen.

Dies sind drei Beispiele für strafbare Hass-Kommentare im Internet, die so oder so ähnlich überall in Europa verbreitet werden – von Rassisten, von Antisemiten oder von islamistischen Fanatikern. Beleidigungen, Drohungen, Volksverhetzung und Gewaltaufrufe sind zu einer Gefahr für die demokratische Streitkultur und den inneren Frieden geworden. Im vergangenen Jahr ist in Deutschland die Zahl der politisch motivierten Straftaten dramatisch angestiegen. Dies zeigt: Die Verrohung der Sprache hat fatale Folgen – erst kommen die Worte, dann die Taten.

Ich habe deshalb im September letzten Jahres gemeinsam mit Akteuren der Digitalwirtschaft und der Zivilgesellschaft eine „Task Force“ gegen illegale Hasskommentare im Internet eingerichtet.

Im Dezember haben wir uns darauf geeinigt, dass solche Inhalte künftig schneller aus dem Netz entfernt werden sollen, und ich habe schon damals gesagt, dass es mit bloßen Ankündigungen nicht getan ist: Wir wollen gemeinsam überprüfen, ob die Zusagen eingehalten werden. Das haben wir inzwischen getan, die ersten Zahlen liegen vor, und ich freue mich sehr, dass Sie alle zu dieser Zwischenbilanz ins Ministerium gekommen sind. Ganz herzlich willkommen!

Meine Damen und Herren,

die Vereinbarung vom Dezember besagte, dass die Unternehmen rechtswidrige Inhalte binnen 24 Stunden aus dem Internet entfernen.

Im Auftrag des Bundesfamilienministeriums und meines Hauses hat die länderübergreifende Stelle jugendschutz.net überprüft, ob diese Zusagen tatsächlich eingehalten werden. Dazu hat sie im Frühjahr und im Sommer zwei Testläufe gemacht. Jugenschutz.net hat facebook, youtube und twitter getestet. Es hat überprüft, ob strafbare oder in rechtswidriger Weise jugendgefährdende Inhalte nach einer Meldung gelöscht wurden. Dabei wurde differenziert zwischen Meldungen von normalen Usern und der Meldung durch jugendschutz.net über privilegierte Kontaktwege, die die Unternehmen anerkannten Organisationen zur Verfügung stellen. Es wurde auch geprüft, wie viele Inhalte tatsächlich innerhalb der zugesagten 24 Stunden gelöscht worden sind.

Meine Damen und Herren,

das Ergebnis ist zwiespältig: Die positive Seite: Es werden mehr strafbare Inhalte gelöscht, und es wird schneller gelöscht als noch im Frühjahr.

Das klappt immer dann besonders gut, wenn jugendschutz.net sich direkt als Institution an die Anbieter wendet:

• Youtube löscht dann 96 Prozent der gemeldeten strafbaren Inhalte, Facebook 84 Prozent,
• davon wird bei beiden immerhin die Hälfte innerhalb von 24 Stunden gelöscht. Das ist deutlich schneller als noch im Frühjahr.

Das zeigt mir: Die Anbieter nehmen die Hinweise von jugendschutz.net ganz offenkundig ernst und sind bereit, rasch zu handeln. Das ist eine gute Entwicklung und dafür bin ich den beteiligten Unternehmen auch sehr dankbar.

Aber, ich sage auch: Insgesamt werden strafbare Inhalte noch immer zu wenig und zu langsam gelöscht. Das größte Problem liegt darin, dass die andere Art der Meldungen, die von ganz normalen Usern, noch nicht zu den erwünschten Konsequenzen führen. Von den strafbaren Inhalten, die jugendschutz.net unter der Flagge eines normalen Users gemeldet hat, löschte Twitter gerade einmal ein Prozent, Youtube nur 10 Prozent und Facebook 46 Prozent. Das ist zu wenig!

Ein Problem ist dabei auch, dass es mitunter an spezifischen Meldeoptionen für User fehlt. Bei Facebook etwa gibt es nur eine Option, einen Nutzer wegen Verbreitung von „Nacktheit und Pornographie“ zu melden. Da liegt es schon nahe, darüber nachzudenken, ob es künftig nicht auch ein Tool gibt, mit dem strafbare Hetze und Gewaltaufrufe gemeldet werden können. Offenbar haben solche spezifischen Tools ja ganz gute Wirkung.

Ich erwarte deshalb, dass es bei den Meldungen von Usern noch mehr Engagement gibt, strafbare Inhalte zu löschen. An die betroffenen Unternehmen appelliere ich, ihre User und deren Hinweise endlich ernst zu nehmen. Dies gilt umso mehr, als die verbesserte Löschpraxis bei Meldungen durch jugendschutz.net doch klar zeigt: In der Frage, was gelöscht gehört, weil es die Grenze des Erlaubten überschreitet, besteht große Einigkeit – sonst würde es ja die höheren Quoten bei den Meldungen von jugendschutz.net nicht geben.

Deshalb lautet mein Zwischenfazit heute: Die zahlreichen Gespräche mit den Unternehmen haben sich gelohnt. Die Lage ist besser geworden, aber sie ist noch lange nicht gut.

Meine Damen und Herren,

der Monitoring-Prozess von jugendschutz.net läuft noch bis März nächsten Jahres. Ich erwarte, dass es bis dahin weitere deutliche Verbesserungen bei der raschen Löschung von strafbaren Hass-Postings gibt.

Wir werden im Frühjahr prüfen, wie dann die Lage ist. Und dann werden wir auch überlegen, was zu tun ist.

Bislang liegt die rechtliche Verantwortung für solche Hass-Postings ja vor allem beim Einzelnen, der sie schreibt. Die Autoren der Kommentare, die ich zu Beginn zitiert habe, sind alle von der Strafjustiz zur Verantwortung gezogen worden. Sie wurden für ihre Äußerungen vor deutschen Gerichten angeklagt und auch verurteilt.

Aber vielleicht müssen wir im Frühjahr auch darüber nachdenken, ob wir die rechtliche Verantwortung derjenigen stärken müssen, die die Verbreitung dieser Hass-Kommentare als Teil ihres Geschäftsmodells technisch ermöglichen.

Ich bin froh, dass auch auf Ebene der EU dieses Problem immer deutlicher erkannt wird.

Liebe Frau Kommissarin, liebe Vera, ich bin Ihnen sehr dankbar, dass Sie dieses Thema auch auf EU-Ebene aufgegriffen haben. Ich weiß, dass es viele meiner Kolleginnen und Kollegen ebenso bewegt, wie mich, und deshalb war es gut, dass Sie mit der Digitalwirtschaft den Verhaltenskodex zur Bekämpfung illegaler Hassrede formuliert haben.

In Europa diskutieren wir ja gerade über eine Richtlinie über audio-visuelle Medien. Sie regelt die Verantwortung von Medienanbietern für die Inhalte, die sie verbreiten. Bislang rechnen wir Soziale Netzwerke nicht zu den Medienanbietern, aber im nächsten Frühjahr werden wir sicher überlegen müssen, ob das weiterhin sachgerecht ist oder nicht.

Ein Probleme scheint auch, bei der fehlenden Transparenz zu liegen. Deshalb wird es sicher auch eine Diskussion darüber geben, ob wir Soziale Netzwerke verpflichten sollten, offenzulegen, wie viele Beschwerden wegen illegaler Hass-Kommentare sie bekommen haben und wie sie damit umgegangen sind. Dies könnte eine Option sein, um mit mehr Transparenz die Unternehmen stärker in die Pflicht zu nehmen.

Meine Damen und Herren,

der kürzeste Satz im deutschen Grundgesetz besteht aus nur zwei Wörtern. Er steht im Artikel 14 und lautet: „Eigentum verpflichtet“. Im Englischen braucht man dafür ein Wort mehr: „Property entails obligations“. Um genau dieses Prinzip geht es auch beim Kampf gegen Hass-Kommentare.

Trotz aller Verbesserungen und Bemühungen – wir meinen, Unternehmen, die mit ihren sozialen Netzwerken viel Geld verdienen, tragen eine gesellschaftliche Verpflichtung: Kein Unternehmen sollte zulassen, dass seine Dienste zur Verbreitung von Hass, Rassismus, Antisemitismus oder islamistischen Terrorphantasien verwendet werden.

Wie Unternehmen dieser Verantwortung noch besser gerecht werden können und welche guten Strategien es bereits gibt, das wollen wir heute diskutieren. Ich danke Ihnen sehr, dass Sie dafür zu uns gekommen sind. Es geht um viel. Es geht hier um nichts Geringeres als um den inneren Frieden unserer Gesellschaft und die Streitkultur in der Demokratie – und deshalb brauchen wir das Engagement von allen, von der Zivilgesellschaft, von der Justiz, aber auch von den betroffenen Unternehmen.

Herzlichen Dank!

Die Rede Vera Jourovás (englisch):

United Against Hate Speech on the Web: Where do we stand? – Speech by Commissioner Jourová at Conference with German Justice Minister Maas

Berlin, 26 September 2016

Thank you, Minister Maas, for your welcoming words.

Ladies and Gentlemen,

Let me begin by expressing my appreciation for Minister Maas and the leadership role Germany has taken in tackling hatred online.

The task force you set up in 2015, Minister Maas, is a precursor as well as an example.

We have a problem. In recent years, we have seen messages of extremism and intolerance spread around the globe like wild fire.

In today’s digital world without borders, we need to stand united against this growing phenomenon. That’s why the Commission this May agreed with major IT companies on a code of conduct to counter illegal hate speech online.

Our commitment is to deliver change so that people do not need to live in fear and to ensure that the internet remains a place of free and democratic expression, where European values and laws are respected.

The spread of illegal hate speech online not only distresses the people it targets, it also affects those who speak up for freedom, tolerance and non-discrimination in our society.

If left unattended, the fear of intimidation can keep opinion makers, journalists and citizens away from social media platforms.

This in reality means a shrinking digital space for freedom of expression.

We all know that hate speech often leads to hate crime. Let us remember the fate of MP Jo Cox who was brutally murdered earlier this year.

In the aftermath of Brexit and the heated campaign against foreigners living in the UK, but also racist behaviour elsewhere, civil society and authorities observed a spike in hate crime of around 57%.

„Toxic narratives“ about migrants and religious minorities fuel not only fears and prejudices; they also fuel hatred against those who are perceived as foreigners.

Free speech includes the right „to offend, to shock or to disturb the State or any part of the population“. It does not include the right to incite violence and hatred.

It does not include the right to attack someone on the street because they are Polish, German or any other nationality… I consider this an extremely serious threat that I also plan to raise with Justice Ministers at the upcoming Justice Ministers‘ Council in October.

Responding to growing verbal and physical violence in Europe is a huge challenge. It calls for a cross-cutting approach bringing together education, citizenship, integration, social policies and law enforcement.

My top priority is to ensure that the Framework Decision on Combatting Racism and Xenophobia is correctly translated into the national criminal codes and enforced, so that perpetrators of online hate speech are duly punished.

Speech inciting violence or hatred is illegal. It is a crime.

We all recognise and appreciate the power and the importance of the internet. But the Internet cannot be outside the rule of law.

This is why I decided last year to work together with IT companies and NGOs as important allies in the fight against hate speech. And I was glad to see the internet companies taking a responsible role.

The code of conduct we agreed in May is an innovative approach to address the issue.

For IT companies, it means that notifications for removal of illegal hate speech have to be assessed and relevant action has to be taken, in the majority of cases, in less than 24 hours. This has to be checked not only against the companies‘ terms of service but also against the law.

In many cases of online hate speech, notably those inciting violence, the course of action is obvious. And to tackle those rapidly will already make a huge difference.

In other cases, however, it may be more difficult to decide whether a speech is illegal or not.

There are already many areas where private companies, including IT companies, have to make difficult legal compliance decisions, such as tax, accountancy or workers‘ rights cases, and where they have to ensure that they have the necessary legal advice resources. Ensuring compliance with hate speech law is no different.

In addition to managing online content, the code of conduct also addresses other important aspects.

It seeks to enhance cooperation between IT companies, civil society and Member States.

It aims at making the reporting online hate speech more effective.

And it seeks to step up cooperation with civil society on counter-narratives – giving due space to the messages that oppose hate speech and respect our values.

Signing the code of conduct was only the first step forward. We now have to implement it in an effective way.

I am encouraged by the positive developments regarding reporting and by a closer collaboration between IT companies and civil society. This close cooperation will be key to make the code of conduct a success story.

We are currently working with IT companies and civil society to develop a monitoring and reporting tool to assess how well the Code is applied.

My aim is to have a continuous impact assessment and to collect concrete data.

The experience of your Task Force on this, Minister Maas, would be most valuable to us in that regard.

At EU level, we will have a first opportunity to report on the progress achieved at the High Level Working Group on Combating Racism, Xenophobia on 7 December. I will then report back to Justice Ministers at the December Council.

After the preliminary assessment in December and observation of trends in following reporting rounds, we will be able to see if the code of conduct really works.

If it does not work, I will not hesitate to go back to the College of Commissioners and see with them whether the self-regulatory path to address this problem is the best one.

At Member State level, I invite Ministers to consider whether the full potential of national criminal and administrative law provisions, including those transposing the Framework Decision on Combatting Racism and Xenophobia has been fully explored.

There is for sure a lot of work to be done.

I count on your continued support so that together we put an end to hate crimes caused by illegal hate speech.

Thank you.

TP/dj

Foto: Bundesjustizminister Heiko Maas

Bildquelle: TP Presseagentur Berlin/dj