Entfernungsraten variierten nach Schwere der Hetze

Illegale Hassrede im Internet: EU-Verhaltenskodex funktioniert, aber die Ergebnisse sind gemischt
Die Kommission wird die Umsetzung des Verhaltenskodex weiter überwachen und fordert die IT-Unternehmen auf, den Dialog mit vertrauenswürdigen Hinweisgebern und Organisationen der Zivilgesellschaft zu intensivieren

Die Europäische Kommission hat die Ergebnisse ihrer sechsten Bewertung des Verhaltenskodex für die Bekämpfung illegaler Hassrede im Internet veröffentlicht. Die Ergebnisse zeigen ein gemischtes Bild: IT-Unternehmen prüfen mittlerweile 81 Prozent der Meldungen innerhalb von 24 Stunden und entfernen durchschnittlich 62,5 Prozent der Inhalte, die als illegale Hassrede gekennzeichnet werden. Diese Ergebnisse liegen unter dem in den Jahren 2019 und 2020 verzeichneten Durchschnitt.

Während sich einige Unternehmen verbesserten, haben sich die Ergebnisse für andere deutlich verschlechtert. Wie bei vorausgehenden Bewertungen bereits festgestellt, ist eine wesentliche Schwäche das unzureichende Feedback zu Meldungen von Nutzern. Erstmals werden bei der diesjährigen Bewertung Angaben von IT-Unternehmen zu ihren Maßnahmen berücksichtigt, die sie zur Bekämpfung von Hetze ergriffen haben. Darunter sind Maßnahmen zur automatischen Erkennung solcher Inhalte.

Věra Jourová, Vizepräsidentin für Werte und Transparenz, erklärte dazu: "Gewalt beginnt oft mit Worten. Unser Kodex hat zu guten Ergebnissen geführt, aber die Plattformen können nicht untätig bleiben und müssen bestehende Lücken schließen. Und ein Gentlemen's Agreement allein wird hier nicht ausreichen. Das Gesetz über digitale Dienste wird starke Regulierungsinstrumente für den Kampf gegen illegale Hassrede im Internet beinhalten."

Didier Reynders, Kommissar für Justiz, fügte hinzu: "Die Ergebnisse zeigen, dass die IT-Unternehmen sich nicht auf ihren Lorbeeren ausruhen dürfen: Nur weil die Ergebnisse in den letzten Jahren herausragend waren, dürfen sie ihre Aufgabe nicht weniger ernst nehmen. Sie müssen jedem Abwärtstrend unverzüglich begegnen. Ich bin zuversichtlich, dass eine rasche Verabschiedung des Gesetzes über digitale Dienste dazu beitragen wird, einige der bestehenden Lücken zu schließen, darunter Mängel hinsichtlich der Transparenz und die unzureichenden Rückmeldungen an Nutzer."

Die sechste Bewertungsrunde zeigt:
>> Die IT-Unternehmen prüften 81 Prozent der Meldungen innerhalb von 24 Stunden; das ist weniger als der Durchschnitt von 2020, der bei 90,4 Prozent lag.

>> Die IT-Unternehmen entfernten 62,5 Prozent der ihnen gemeldeten Inhalte. Das ist weniger als der für die Jahre 2019 und 2020 verzeichnete Durchschnitt von 71 Prozent.

>> Die Entfernungsraten variierten je nach Schwere der Hetze. 69 Prozent der Inhalte, die zu Mord und Gewalt gegen bestimmte Gruppen aufrufen, wurden entfernt, jedoch wurden nur 55 Prozent der Inhalte mit diffamierenden Wörtern oder Bildern, die gegen bestimmte Gruppen gerichtet waren, entfernt. Im Jahr 2020 lagen die entsprechenden Ergebnisse bei 83,5 Prozent bzw. 57,8 Prozent.

>> Die IT-Unternehmen gaben zu 60,3 Prozent der eingegangenen Meldungen ein Feedback; auch hier liegt die Rate unter der vorangegangenen Bewertung (67,1 Prozent).

>> Bei der diesjährigen Bewertung wurde die sexuelle Orientierung als häufigster Grund für Hetze (18,2 Prozent) angegeben, gefolgt von Fremdenfeindlichkeit (18 Prozent) und Antiziganismus (12,5 Prozent).

>> Zum ersten Mal haben die IT-Unternehmen gesondert detaillierte Informationen über Maßnahmen zur Bekämpfung von Hetze dargelegt, darunter ihre Maßnahmen zur automatischen Erkennung und Entfernung diesbezüglicher Inhalte.

Nächste Schritte
Die Kommission wird die Umsetzung des Verhaltenskodex weiter überwachen. Die Kommission fordert die IT-Unternehmen auf, den Dialog mit vertrauenswürdigen Hinweisgebern und Organisationen der Zivilgesellschaft zu intensivieren, um Lücken bei der Überprüfung von Meldungen zu schließen, entsprechende Maßnahmen zu ergreifen und ihr Feedback an Nutzer zu verbessern. Das Gesetz über digitale Dienste enthält einen umfassenden Rechtsrahmen für die Bekämpfung illegaler Inhalte sowie ein Koregulierungssystem, das Initiativen wie den Verhaltenskodex voraussetzt. Die Kommission möchte – auch vor dem Hintergrund der anstehenden Verpflichtungen und des Rahmens für die Zusammenarbeit im Vorschlag für ein Gesetz über digitale Dienste – mit den IT-Unternehmen erörtern, wie der Kodex weiterentwickelt werden könnte.

Hintergrund
Laut dem Rahmenbeschluss zur Bekämpfung von Rassismus und Fremdenfeindlichkeit gilt "die öffentliche Aufstachelung zu Gewalt oder Hass gegen eine nach den Kriterien der Rasse, Hautfarbe, Religion, Abstammung oder der nationalen oder ethnischen Herkunft definierte Gruppe von Personen oder gegen ein Mitglied einer solchen Gruppe" als Straftat. Im Sinne dieses Rahmenbeschlusses ist Hetze auch dann strafbar, wenn sie im Internet stattfindet.

Als Reaktion auf die Verbreitung rassistischer und fremdenfeindlicher Online-Hetze präsentierte die Europäische Kommission am 31. Mai 2016 zusammen mit vier großen IT-Unternehmen (Facebook, Microsoft, Twitter und YouTube) einen "Verhaltenskodex für die Bekämpfung illegaler Hassrede im Internet". Seither traten Instagram, Google+, Snapchat, Dailymotion, Jeuxvideo.com und TikTok dem Kodex bei. LinkedIn trat am 24. Juni 2021 bei.

Der Verhaltenskodex gründet auf der engen Zusammenarbeit zwischen der Europäischen Kommission, IT-Plattformen, zivilgesellschaftlichen Organisationen und nationalen Behörden. Alle Interessenträger treffen sich regelmäßig im Rahmen der hochrangigen Gruppe zur Bekämpfung von Rassismus und Fremdenfeindlichkeit, um über Herausforderungen und Fortschritte zu diskutieren.

Alle Bewertungsrunden wurden nach einer gemeinsam vereinbarten Methodik durchgeführt, die es ermöglicht, die Ergebnisse im Zeitverlauf zu vergleichen. Die sechste Bewertungsrunde wurde über einen Zeitraum von sechs Wochen (vom 1. März bis 14. April 2021) von 35 Organisationen durchgeführt, die über die Ergebnisse einer Stichprobe von insgesamt 4543 Meldungen aus 22 Mitgliedstaaten berichteten. Die Meldungen wurden entweder über Meldekanäle übermittelt, die allen Nutzern zur Verfügung stehen, oder über spezielle Kanäle, die nur vertrauenswürdigen Hinweisgebern/Berichterstattern zugänglich sind.

Das Gesetz über digitale Dienste enthält Vorschriften für Online-Vermittlungsdienste, die täglich von Millionen von Menschen in Europa genutzt werden. Die Pflichten der einzelnen Online-Unternehmen variieren je nach Rolle, Größe und Auswirkung im Online-Umfeld. Auf der Grundlage der Erfahrungen mit dem Kodex und seiner Bewertung sollen mit obligatorischen eindeutigen Melde- und Abhilfesystemen, der bevorzugten Bearbeitung von Meldungen vertrauenswürdiger Hinweisgeber, Feedback zu Meldungen von Nutzern und mit umfassenden Transparenzpflichten die festgestellten Mängel behoben werden. Für sehr große Plattformen, die mehr als 10 Prozent der 450 Millionen Verbraucherinnen und Verbraucher in Europa erreichen, sind besondere Vorschriften vorgesehen. Diese Plattformen mit einer systemischen Rolle müssen die Risiken ihrer Systeme bewerten und Maßnahmen zur Risikominderung ergreifen, um die Verbreitung illegaler Inhalte einzudämmen und einem Schaden für die Gesellschaft entgegenzuwirken.
(Europäische Kommission: ra)

eingetragen: 12.10.21
Newsletterlauf: 14.01.22

Meldungen: Europäische Kommission