Was unternehmen Sie, um das Thema AI-Videos vor dem Hintergrund von Pornografie, Kinderpornografie, Fake-Videos von Menschen etc. aufzugreifen, da OpenAI mit Sora ein realistisches Modell entwickelt?

Sehr geehrter Florian P.,

vielen Dank für Ihre sehr wichtigen Fragen. Politik und Regulierungsbehörden beschäftigen sich bereits seit einer geraumen Weile mit den Herausforderungen, vor die Künstliche Intelligenz (KI) die Gesellschaft stellt. Es ist richtig, dass KI gerade im Bereich Fake News und "Deepfakes" eine weitere Dimension bedeutet. Auf der anderen Seite sind wir mittlerweile regulativ ein gutes Stück weitergekommen. So ist mit dem Digital Services Act (DSA) 2024 ein Rechtsrahmen in Kraft getreten, der den Kampf gegen illegale und manipulierte Inhalte verbessert. Plattformen haben demnach erweiterte Pflichten im Bereich des Risikomanagements und müssen verbesserte Beschwerde- und Abhilfesysteme anbieten, um illegale Inhalte zeitnah zu löschen. Hier können Account-Sperren folgen. National ist bei uns nun die Bundesnetzagentur mit dem Digitale Dienste Koordinator zentrale Anlaufstelle für Beschwerden gegen DSA-Verstöße von Dienstanbietern. Von da aus werden die betreffenden zuständigen Behörden koordiniert. Gibt es (weiterhin) systemische Probleme, dann können die Behörden gemäß den Regelungen des DSA aktiv werden, bzw. dazu aufgefordert werden. Da der DSA erst kürzlich in Kraft getreten ist, wird man nachverfolgen müssen, ob die Regelungen gut funktionieren. Bei den ganz großen Plattformen hat die EU-Kommission nunmehr die Aufsicht inne. Diese hat kürzlich bereits Verfahren gegen X und TikTok eingeleitet und auch bei Meta weitergehende Auskünfte angefordert, da es bei der Umsetzung der Regelungen anscheinend an einigen Stellen bei den Plattformen hapert. Diese Verfahren können zudem empfindliche Bußgelder zur Folge haben. Auch der AI Act verpflichtet zur Kennzeichnung von AI-Videos, ist aber noch nicht in Kraft getreten. Die Politik hat aber die Bedeutung des Problems erkannt und Lösungen auf den Weg gebracht.

Dem Problem eines "Tsunamis" an Fake-Videos muss auch mit technischen Hilfsmitteln begegnet werden, bei illegalen Inhalten (wie kinderpornographische Inhalte) Strafverfolgungsbehörden personell und finanziell besser ausgestattet werden. 

Auch im Hinblick auf das Urheberrecht treffen Sie einen sensiblen Punkt, denn der Einsatz von KI bedeutet eine enorme Herausforderung für die Kreativ- und Kulturschaffenden. Glücklicherweise ist das Urheberrecht ausgesprochen flexibel. Es stellen sich dennoch einige entscheidende Fragen, vor allem hinsichtlich des Trainings von KI mit urheberrechtlich geschützten Inhalten. Dies betrifft insbesondere eine einfache Möglichkeit für Urheber*innen der Nutzung zu widersprechen, als auch bei der Frage der Vergütung. Diese Aspekte werden derzeit intensiv diskutiert, wir haben in der Fraktion bereits mehrere Gesprächsrunden mit den betroffenen Urheberinnen und Urhebern, Plattformen, KI-Unternehmen und Rechtsexpert*innen geführt. Derzeit liegt das Augenmerk hier vor allem auf (internationalen) gerichtlichen Verfahren, die erste Hinweise dazu geben können, inwieweit das derzeitige Urheberrecht anwendbar ist und wo sich Lücken auftun. Wir werden dies engmaschig verfolgen und uns dafür einsetzen, rechtlich nachzubessern, um eine angemessene Vergütung für urheberrechtliche Nutzungen zu gewährleisten.

Ich habe mich gefreut, dass Sie sich an mich gewandt haben und hoffe, dass ich Ihnen mit meiner Antwort weiterhelfen kann. Der Austausch mit Bürger*innen ist mir wichtig und kostbar. Wenn Sie regelmäßig über meine Arbeit in Hamburg und Berlin informiert werden möchten, können Sie sich gerne hier für meinen Newsletter anmelden. 

Herzliche Grüße
Katharina Beck