Umgang mit illegalen Online-Inhalten

Europäische Kommission stärkt die Reaktion der EU auf illegale Online-Inhalte
Da terroristische Inhalte in den ersten Stunden nach ihrem Auftauchen im Internet am meisten Schaden anrichten, sollten alle Unternehmen solche Inhalte grundsätzlich innerhalb einer Stunde, nachdem sie gemeldet wurden, entfernen

In ihrer Mitteilung vom September 2017 über den Umgang mit illegalen Online-Inhalten sagte die Europäische Kommission zu, dass sie die Fortschritte überwachen und bewerten werde, ob zusätzliche Maßnahmen erforderlich sind, um die rasche und proaktive Erkennung und Entfernung illegaler Online-Inhalte zu gewährleisten, einschließlich eventueller Legislativmaßnahmen zur Ergänzung des bestehenden Rechtsrahmens.

Als Folgemaßnahme empfiehlt die Europäische Kommission eine Reihe operativer Maßnahmen – ergänzt durch die erforderlichen Sicherheitsvorkehrungen – die von den Online-Plattformen und den Mitgliedstaaten zu ergreifen sind, um diese Arbeit weiter voranzutreiben, bevor sie darüber befindet, ob Rechtsvorschriften notwendig sind. Diese Empfehlungen gelten für alle Formen illegaler Inhalte: terroristische Inhalte, Aufstachelung zu Hass und Gewalt, Darstellungen des sexuellen Missbrauchs von Kindern, Produktfälschungen und Urheberrechtsverletzungen.

Die Empfehlung stützt sich auf die laufenden Arbeiten, durch die gemeinsam mit der Industrie im Rahmen verschiedener freiwilliger Initiativen sichergestellt werden soll, dass das Internet frei von illegalen Inhalten ist. Außerdem sollen die im Rahmen verschiedener Initiativen ergriffenen Maßnahmen verstärkt werden.

Hierzu erklärte der für den digitalen Binnenmarkt zuständige Vizepräsident, Andrus Ansip: "Da Online-Plattformen zu einem zentralen Zugangsportal zu Informationen werden, liegt es in ihrer Verantwortung, ein sicheres Umfeld für ihre Nutzer zu schaffen. Was außerhalb des Internets verboten ist, ist auch im Internet illegal. Einige Plattformen haben bereits mehr illegale Inhalte als je zuvor entfernt – ein Beleg dafür, dass die Selbstregulierung funktionieren kann. Aber wir müssen noch schneller gegen terroristische Propaganda und andere illegale Inhalte vorgehen, die eine ernste Bedrohung für die Sicherheit der Bürger und die Grundrechte darstellen."

Die Verbreitung illegaler Online-Inhalte untergräbt das Vertrauen der Bürger in das Internet und stellt eine Sicherheitsbedrohung dar. Zwar wurden beim Schutz der Europäer im Internet Fortschritte erzielt, doch müssen die Plattformen ihre Anstrengungen verdoppeln, um illegale Inhalte schneller und effizienter aus dem Internet zu entfernen. Durch freiwillige Maßnahmen der Industrie, die von der Kommission über das EU-Internetforum zu terroristischen Inhalten im Internet, den Verhaltenskodex zur Bekämpfung von Hetze im Internet und die Gemeinsame Absichtserklärung zum Verkauf nachgeahmter Güter gefördert werden, wurden bereits Ergebnisse erzielt. Dennoch besteht noch erheblicher Spielraum für ein wirksameres Vorgehen, insbesondere in Bezug auf das dringliche Thema terroristischer Inhalte, die ernste Sicherheitsrisiken bergen.

Bessere Verfahren für eine effizientere Entfernung illegaler Inhalte
In der Empfehlung werden operative Maßnahmen zur rascheren Erkennung und Entfernung illegaler Online-Inhalte, zur Stärkung der Zusammenarbeit zwischen Unternehmen, vertrauenswürdigen Hinweisgebern und Strafverfolgungsbehörden sowie zur Erhöhung der Transparenz und der Sicherheitsvorkehrungen für die Bürger festgelegt:

Klarere "Melde- und Abhilfeverfahren": Die Unternehmen sollten einfache und transparente Regeln für die Meldung illegaler Inhalte festlegen, darunter Schnellverfahren für "vertrauenswürdige Hinweisgeber". Um die unbeabsichtigte Entfernung von Inhalten, die nicht illegal sind, zu vermeiden, sollten die Anbieter von Inhalten über solche Entscheidungen informiert werden und die Möglichkeit haben, ihnen zu widersprechen.

Effizientere Werkzeuge und proaktive Technologien: Die Unternehmen sollten klare Meldesysteme für die Nutzer festlegen. Sie sollten über proaktive Werkzeuge zur Erkennung und Entfernung illegaler Inhalte verfügen. Dies gilt insbesondere für terroristische Inhalte und für Inhalte, die nicht in einen Gesamtkontext eingeordnet werden müssen, um als illegal angesehen zu werden, z. B. wenn es um Darstellungen des sexuellen Missbrauchs von Kindern oder nachgeahmte Güter geht.

Stärkere Garantien zum Schutz der Grundrechte: Um sicherzustellen, dass Entscheidungen über die Entfernung von Inhalten zutreffend und fundiert sind (insbesondere beim Einsatz automatisierter Werkzeuge), sollten die Unternehmen unter uneingeschränkter Achtung der Grundrechte, der Freiheit der Meinungsäußerung und der Datenschutzregeln wirksame und angemessene Sicherheitsvorkehrungen, einschließlich der Aufsicht und Überprüfung durch Menschen, einführen.

Besonderes Augenmerk auf kleine Unternehmen: Die Industrie sollte im Rahmen freiwilliger Vereinbarungen zusammenarbeiten und Erfahrungen, bewährte Verfahren und technologische Lösungen austauschen, darunter auch Instrumente, die eine automatische Erkennung ermöglichen. Diese Zusammenarbeit dürfte insbesondere kleineren Plattformen mit begrenzteren Ressourcen und Fachkenntnissen zugute kommen.

Engere Zusammenarbeit mit den Behörden: Gibt es Beweise für eine schwere Straftat oder besteht der Verdacht, dass illegale Inhalte eine Gefahr für Leben oder Sicherheit darstellen, sollten die Unternehmen die Strafverfolgungsbehörden unverzüglich informieren. Die Mitgliedstaaten werden aufgefordert, geeignete rechtliche Verpflichtungen festzulegen.

Diese Maßnahmen können je nach Art der illegalen Inhalte unterschiedlich ausfallen, weshalb die Unternehmen in der Empfehlung ermutigt werden, bei der Entfernung illegaler Inhalte den Grundsatz der Verhältnismäßigkeit zu beachten.

Verstärkter Schutz vor terroristischen Online-Inhalten
Die Verbreitung terroristischer Online-Inhalte stellt ein besonders schwerwiegendes Risiko für die Sicherheit der Europäer dar und ihre Unterbindung ist eine Angelegenheit von äußerster Dringlichkeit.

Aus diesem Grund empfiehlt die Kommission zusätzlich besondere Bestimmungen zur weiteren Eindämmung terroristischer Online-Inhalte:

Eine-Stunde -Regel: Da terroristische Inhalte in den ersten Stunden nach ihrem Auftauchen im Internet am meisten Schaden anrichten, sollten alle Unternehmen solche Inhalte grundsätzlich innerhalb einer Stunde, nachdem sie gemeldet wurden, entfernen.

Raschere Erkennung und wirksame Entfernung: Zusätzlich zu den Meldungen sollten Internetunternehmen proaktive Maßnahmen, darunter die automatische Erkennung, einführen, um terroristische Inhalte wirksam und schnell entfernen oder deaktivieren zu können und zu verhindern, dass sie erneut auftauchen, nachdem sie einmal entfernt worden sind. Um kleinere Plattformen zu unterstützen, sollten die Unternehmen geeignete technologische Instrumente austauschen und optimieren sowie Arbeitsvereinbarungen für eine bessere Zusammenarbeit mit den zuständigen Behörden, einschließlich Europol, treffen.

Verbessertes Meldesystem: Es sollten Schnellverfahren geschaffen werden, damit Meldungen so schnell wie möglich bearbeitet werden können. Die Mitgliedstaaten müssen wiederum dafür sorgen, dass sie über die erforderlichen Fähigkeiten und Ressourcen verfügen, um terroristische Inhalte erkennen und melden zu können.

Regelmäßige Berichterstattung: Die Mitgliedstaaten sollten der Kommission regelmäßig, vorzugsweise alle drei Monate, über Fälle und die entsprechenden Folgemaßnahmen sowie über die allgemeine Zusammenarbeit mit Unternehmen zur Eindämmung terroristischer Online-Inhalte Bericht erstatten.

Nächste Schritte
Die Kommission wird die als Reaktion auf diese Empfehlung ergriffenen Maßnahmen überwachen und entscheiden, ob weitere Schritte, gegebenenfalls auch der Erlass von Rechtsvorschriften, erforderlich sind.

Darüber hinaus wird die Kommission ihre Analysen fortsetzen und eng mit den Interessenträgern zusammenarbeiten. In diesem Zusammenhang wird sie in den kommenden Wochen eine öffentliche Konsultation zu diesem Thema einleiten.

Damit die Wirkung der Empfehlung überprüft werden kann, müssen Mitgliedstaaten und Unternehmen innerhalb von drei Monaten relevante Informationen zu terroristischen Inhalten und innerhalb von sechs Monaten Informationen zu anderen illegalen Inhalten vorlegen.

Hintergrund
Die Europäische Union hat auf das Problem illegaler Online-Inhalte durch verbindliche und unverbindliche Maßnahmen im Rahmen sektorbezogener und horizontaler Initiativen reagiert. Die laufenden Arbeiten im Rahmen sektorspezifischer Dialoge mit Unternehmen zeigen positive Resultate. So entfernen beispielsweise Internetunternehmen nunmehr im Rahmen des Verhaltenskodex zur Bekämpfung von Hetze im Internet im Durchschnitt 70 Prozent der Hassbotschaften, auf die sie hingewiesen wurden, und in mehr als 80 Prozent dieser Fälle erfolgte die Entfernung innerhalb von 24 Stunden. Illegale Online-Inhalte sind jedoch nach wie vor ein ernstes Problem und haben große Auswirkungen auf die Sicherheit von Bürgern und Unternehmen, da sie das Vertrauen in die digitale Wirtschaft untergraben.

Im Anschluss an die Schlussfolgerungen des Europäischen Rates vom Juni 2017 und aufbauend auf den verschiedenen Dialogen mit der Wirtschaft hat die Kommission im September 2017 Leitlinien erstellt und dargelegt, mithilfe welcher gemeinsamen Instrumente illegale Inhalte, die zu Hass, Gewalt und Terrorismus aufstacheln, zügig und proaktiv erkannt und entfernt werden können sowie verhindert werden kann, dass diese erneut im Internet auftauchen. Die Kommission wies ferner darauf hin, dass andere Maßnahmen erforderlich sein könnten, um illegale Inhalte aus dem Internet zu entfernen, einschließlich legislativer Maßnahmen. Seither hat die Kommission Online-Plattformen aufgefordert, ihre Anstrengungen zu verstärken, um illegale Online-Inhalte, insbesondere mit terroristischem Hintergrund, so schnell wie möglich zu erkennen, zu entfernen und zu unterbinden.
(Europäische Kommission: ra)

eingetragen: 12.03.18
Newsletterlauf: 26.04.18

Meldungen: Europäische Kommission