Was unternehmen Sie, um das Thema AI-Videos vor dem Hintergrund von Pornografie, Kinderpornografie, Fake-Videos v. Menschen etc. aufzugreifen, da OpenAI mit Sora ein realistisches Modell entwickelt?

Sehr geehrter Herr P., 

haben Sie Dank für Ihre Anfrage zu diesem brandaktuellen Thema.

Es ist richtig, dass Künstliche Intelligenz als Schlüsseltechnologie neben bahnbrechenden Innovationen in Wissenschaft und Wirtschaft ebenso gesellschaftliche Gefahren wie beispielsweise Wahlmanipulation birgt. Das ist präsent bei unserer politischen Arbeit und es ist auch klar, dass wir uns dem annehmen müssen.

Eine Regelung zur künstlichen Intelligenz ist am zielführendsten, wenn diese europaweite Wirksamkeit erhält. Datenpakete stoppen nicht an Ländergrenzen. Deshalb hat die Europäische Union Ende letzten Jahres die sogenannte KI-Verordnung auf den Weg gebracht. 

Ziel dieser wegweisenden Regelung ist es, dass KI-Systeme, die auf dem EU-Markt in Verkehr gebracht und in der Union verwendet werden, sicher sein müssen und die Grundrechte und die Werte der EU wahren. Zugleich sollen Investitionen und Innovationen im KI-Bereich in Europa angeregt werden.

Im Wesentlichen geht es darum, KI zu regulieren, die gesellschaftlichen Schaden anrichten könnte. Dabei wird ein risikobasierter Ansatz verfolgt: je höher das Risiko, desto strenger die Vorschriften.

Für KI-Systeme mit begrenztem Risiko würden nur sehr geringe Transparenzpflichten gelten, z. B. die Offenlegung, dass die Inhalte KI-generiert sind, sodass Nutzerinnen und Nutzer fundierte Entscheidungen über deren Weiterverwendung treffen können.

Eine ganze Reihe von Hochrisiko-KI-Systemen würden zugelassen, müssten aber bestimmte Anforderungen und Verpflichtungen erfüllen, um Zugang zum EU-Markt zu erhalten. 

Mir ist wichtig, dass die sogenannten General Purpose AI (GPAI) Systeme und Foundation Models stärker reguliert werden. Diese müssen voraussichtlich spezielle Transparenzanforderungen erfüllen. Wenn sie darüber hinaus systemische Risiken verursachen, gelten strengere Regeln in Bezug auf ihr Qualitäts- und Risikomanagement sowie das Reporting an staatliche Stellen. Durch diese Fülle an Maßnahmen, wollen wir der nicht abzustreitenden Gefahren Herr werden, die Sie auch in Ihrer Nachricht formuliert haben. Wir als SPD haben uns besonders dafür eingesetzt, dass KI-generierte Bilder in den sozialen Medien auch als genau das gekennzeichnet werden sollten.

KI-Anwendungen, deren Risiko als unannehmbar gilt, werden in der EU verboten. Unter dieses Verbot sollen laut vorläufiger Einigung unter anderem folgende Anwendungen fallen: Kognitive Verhaltensmanipulation, das ungezielte Auslesen („Scraping“) von Gesichtsbildern aus dem Internet oder aus CCTV-Aufzeichnungen. Ebenfalls verboten werden sollen Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen, Sozialkreditsysteme, biometrische Kategorisierung, die auf sensible Daten wie die sexuelle Orientierung oder religiöse Überzeugungen schließen lässt, sowie bestimmte Fälle vorausschauender Polizeiarbeit („Predictive Policing“) in Bezug auf einzelne Personen.

Mit freundlichen Grüßen 

Dorothee Martin