Welche Gefahren sehen Sie im Zusammenhang mit künstlicher Intelligenz in einem Verteidigunsrahmen?

Sehr geehrte Frau Strack-Zimmermann,
Heutzutage gibt es ja bereits äußerst potente Tools im Bereich künstliche Intelligenz, namentlich etwa die neuste Iteration von ChatGPT, GPT-4.
Während die Entwickler wie etwa bei diesem Modell gewisse ethische Grundsätze einbauen, etwa dass die K.I. nicht diskriminiert, keine finanzielle Beratung abgibt, oder sich wertend gegenüber Personen oder Politik äußert, gibt es aber bereits sogenannte "Jailbreaks", die diese ethischen Grundsätze sozusagen umgehen und so die K.I. vollkommen neutral auf den Input in Korrelation mit dem Datengrundsatz reagieren kann, was zur Folge hat, dass die stärkste, frei verfügbare K.I. Anleitungen zum Bau von Bomben, Synthese von Drogen oder gar Wege politischer Attentate beschreibt.
Wie schätzen Sie die Gefahr von K.I. an sich ein, besonders in Anbetracht, dass K.I. sich in den nächsten Jahren noch exponentiell verbessern wird und die sicherheitstechnischen Konsequenzen noch gar nicht abzuschätzen sind?