Wie möchten Sie in Zukunft die Verbreitung von terroristischen Inhalten in sozialen Netzwerken vermeiden?

Sehr geehrter Herr P.,

haben Sie besten Dank für Ihre Frage und Ihr Interesse an meiner Arbeit. Über beides habe ich mich sehr gefreut.

Die zunehmende Verbreitung von terroristischen Online-Inhalten über soziale Netzwerke und Plattformen ist zweifellos ein Problem. Den Gesetzgebungsprozess zur  EU-Verordnung zur Verhinderung der Verbreitung terroristischer Inhalte im Internet (VO (EU) 2021/784) sowie die damit zusammenhängenden Entwicklungen begleiten meine Fraktion und ich seit langem durchaus intensiv. Mit unseren Kolleginnen und Kollegen aus dem Europäischen Parlament stehen wir hierzu in engem Austausch.

Die grundsätzliche Intention der Europäischen Kommission, Nutzerinnen und Nutzer möglichst effektiv vor terroristischen Inhalten zu schützen, teile ich. Der Kampf gegen Terrorismus als ernstzunehmende Bedrohung für unser demokratisches Zusammenleben muss entschlossen geführt werden. Auch online muss der Verbreitung terroristischer Inhalte im Sinne einer wehrhaften Demokratie Einhalt geboten werden. Gleichzeitig, darauf haben meine Fraktion und ich in den vergangenen Monaten immer wieder hingewiesen, ist es zwingend notwendig, dass die Regelungen hohen rechtsstaatlichen Standards genügen.

Die bisherigen eigenverantwortlichen Bemühungen von Plattformbetreibern, terroristische Inhalte schnellstmöglich zu entfernen, reichen auch aus meiner Sicht nicht aus. Zudem agieren die Unternehmen bis heute weitgehend intransparent. Hier bedarf es verbindlicher Vorgaben für ebenso rechtsstaatliche wie nachvollziehbare und zumindest zwischen den EU-Mitgliedsstaaten abgestimmte, transparente Verfahren, die Rechtsschutzmechanismen für die Nutzerinnen und Nutzer von vornherein mitdenken.

Mit der von ihr vorgelegten Verordnung zur Bekämpfung terroristischer Online-Inhalte schießt die Kommission aus unserer Sicht jedoch in zentralen Aspekten übers Ziel hinaus. Die Vorgabe, innerhalb einer Stunde nach Kenntnisnahme entsprechende Inhalte zu entfernen, wird absehbar zu einem sogenannten „Overblocking“ führen, d.h. die großen Plattformen werden allen Erfahrungen nach eher zu viele Inhalte löschen, um für sie nachteilige Konsequenzen zu vermeiden. 

Zudem können die Plattformbetreiber eine Überprüfung und Entfernung innerhalb derart kurzer Fristen absehbar nur durch den Einsatz automatisierter Verfahren einhalten. Entsprechende Programme sind bislang jedoch häufig höchst fehleranfällig. Während Bilder mit terroristischen Inhalten mittlerweile recht zuverlässig erkannt werden, gibt es meiner Wahrnehmung nach weiterhin große Probleme bei anderen Darstellungsformen, z.B. der Verbreitung von Inhalten in Textform sowie bei der Bewertung des Kontexts von Inhalten.  

Angesichts der bisherigen Unzulänglichkeiten automatisierter Filtertechniken braucht es daher zwingend Verfahren zur Überprüfung gelöschter Inhalte. Der notwendige Kampf gegen Terrorismus darf nicht dazu führen, dass die grundrechtlich geschützte Informationsfreiheit gefährdet wird, indem auf Grundlage von strukturell einseitigen gesetzlichen Regelungen fälschlicherweise Inhalte gelöscht oder Accounts gesperrt werden.

Die EU-Verordnung zur Bekämpfung der Verbreitung terroristischer Online-Inhalte wird derzeit in deutsches Recht umgesetzt. Da es sich hier um eine EU-Verordnung handelt, sind die Gestaltungsspielräume für den nationalen Gesetzgeber leider begrenzt. Dennoch setzen wir uns im oben beschriebenen Sinne ein.

Beste Grüße nach Bremerhaven!
Konstantin v. Notz