Wie bewerten Sie die Auswirkungen von DeepLearning Algorithmen wie OpenAi Sora & Voice Engine oder Google's Lumiere auf die Prozessordnung?
Sehr geehrter Herr MdB Frei,
im Zusammenhang mit DeepLearning Algorithmen wird zunehmend die Möglichkeit der Desinformation debattiert. Ich sorge mich als Bürger aber ebenfalls um die Auswirkungen solcher Technologien auf die prozessuale Beweisführung, insbesondere unter Berücksichtigung der schon jetzt verbreiteten VoiceCloning- und Bildgenerierungssoftwares, und den bald zur Verfügung stehenden Möglichkeiten der Bewegtbildergenerierung.
Wie bewerten Sie den möglichen Einfluß solcher Technologien beispielsweise auf Entscheidungsregeln im Prozessrecht wie den Grundsatz "in dubio pro reo", wenn jeglichem per Sinne erfassbaren Beweismittel durch seine mögliche Manipulierbarkeit a priori eine im Raume stehende Diskreditierung anhaftet?
Werden Abhörmöglichkeiten und Videobeweise hier nicht fundamental ad absurdum geführt, da jeder Verdächtige die Echtheit von möglichen Beweisen aus verteidigungstaktischen Gründen in Zweifel ziehen könnte?
Mit freundlichen Grüßen
Michael H.
Sehr geehrter Herr H.,
Ihre Sorge kann ich absolut nachvollziehen. Ehrlicherweise dürften die technologische Entwicklung genau wie die missbräuchliche Verwendung derzeit noch relativ am Anfang stehen. Und umgekehrt dürfte kaum jemand eine umfassende Vorstellung über die Materie haben. Das geht auch mir so. Der Deutsche Bundestag hat sich bereits in der letzten Wahlperiode im Rahmen einer Enquete Kommission mit dem Themenkomplex sehr umfassend befasst. Falls Sie daran interessiert sind, könnten Sie den umfangreichen Abschlussbericht hier lesen. https://dserver.bundestag.de/btd/19/237/1923700.pdf Klar ist aber auch, dass damit nicht alle Einsatzbereiche oder auch Missbrauchsmöglichkeiten abgedeckt wurden.
Wir sind uns gewiss einig, dass die negativen Auswirkungen dieser Technologien sowie damit verbundene Betrugsmöglichkeiten in jedem Fall zu vermeiden sind. Das Gefahrenpotenzial ist in jedem Fall hoch. Sowohl in Bezug auf Kriminalität, aber auch im Hinblick auf die Demokratie oder die Stabilität der Gesellschaft. Deshalb braucht es umfassende Kennzeichnungspflichten, damit die Bürger ohne Schwierigkeiten erkennen, was echt ist und was nicht. Die Menschen dürfen nicht zum Spielball von Technologien oder Desinformation werden. Vor diesem Hintergrund ist eine Regulierung des Einsatzes dieser Technologien in allen relevanten Gesellschaftsbereichen zwingend erforderlich. Auf Europäischer Ebene ist dazu jüngst der sog. AI-Act erlassen worden. Und auch auf nationaler Ebene werden wir uns immer wieder mit dem Notwendigen befassen.
Mit besten Grüßen
Thorsten Frei
Weitere Fragen an Thorsten Frei
Ich gehe davon aus, dass die federführenden Fachkollegen selbstverständlich auch solche Erkenntnisse in den Meinungsbildungsprozess der Fraktion einfließen lassen.
Unabhängig davon haben die Debatten und Anhörungen im Bundestag gezeigt, dass es viele kritische Stimmen und Argumente gibt, die von der damaligen Regierungsmehrheit nicht ausgeräumt, sondern beiseite gewischt wurden.
Es ist es aus meiner Sicht selbstverständlich, dass die Kirchen auch aus dem Inneren heraus, noch mehr für Transparenz im Allgemeinen und die Aufklärung von Straftaten und Skandalen tut
Die eingeladenen Experten bei den Anhörungen des Deutschen Bundestags spiegeln im Wesentlichen die Positionen der Fraktionen und der Mehrheitsverhältnisse im Bundestag wider