Dr. Werner Pfeil

Sehr geehrter Herr Präsident! Meine sehr geehrten Damen und Herren Kollegen! Neben der Frage, inwieweit sich Künstliche Intelligenz an ethischen Grundsätzen messen lassen muss und welche Konsequenzen dies für das geltende Rechtssystem, aber auch für die KI-Forschung und die KI-Entwicklung hat, stellt sich ebenfalls die Frage, inwieweit Künstliche Intelligenz bei gerichtlichen und rechtlichen Entscheidungsprozessen oder polizeilichen Ermittlungsverfahren selber eingesetzt werden kann. Dazu braucht man einen Rechtsrahmen, und das ist der AI-Act, über den wir heute sprechen. Anders gefragt: Darf zum Beispiel ChatGPT von Richtern in Deutschland benutzt werden? Darf Predictive Policing durch die Polizei von Nordrhein-Westfalen jetzt oder zukünftig angewandt werden? Wo sind die Grenzen im Hinblick auf die Entscheidung des Bundesverfassungsgerichts von Februar 2023? Das sind viele spannende Fragen, zu denen wir, soweit es ChatGPT im Justizbereich betrifft, am Dienstag dieser Woche eine Anhörung im Rechtsausschuss hatten. Wir werden im August eine weitere Anhörung im Rechtsausschuss dazu haben, in der es um die Löschung polizeilich erfasster Daten in Fällen ohne Restverdacht im Hinblick auf die Entscheidung des Bundesverfassungsgerichts geht. Mit dem vorliegenden Antrag sollen – Zitat – Bedenken in den politischen Diskurs gebracht werden. – Das ist zu wenig. Darüber sind wir schon längst hinweg. Es wird auch schon gemacht. Dazu bedarf es dieses Antrages überhaupt nicht. Die Bundesregierung begleitet den Prozess bisher sehr gut. Zudem ist der Antrag nicht auf der Höhe der Zeit, in der wir ihn diskutieren. Die beiden oben angeführten Anhörungen zeigen unseren Diskussionsstand. Ich möchte noch einige Punkte hinzufügen, die hier für uns in Nordrhein-Westfalen wesentlich und wichtig sind. Die Frage muss nämlich lauten: Wie gehen wir als nordrhein-westfälisches Landesparlament mit den Neuen Medien, mit KI, zum Beispiel mit Chat-GPT, um? Hierzu ein Beispiel: „Der Mensch steht höher als Technik und Maschine.“ – Das ist ein Zitat aus der 15.06.2023 Landesverfassung von Bremen. Es ist ein Grundrecht in Bremen und stammt aus den 50er-Jahren, hat aber heutzutage mit den Neuen Medien, KI und der Digitalisierung eine ganz neue Bedeutung bekommen. Wir müssen uns die Frage stellen, ob auch unsere Landesverfassung unter Umständen eines Landesgrundrechts für den KI-Gebrauch bedarf. Benötigen wir ein KI-Grundrecht zum Schutz der Bürgerinnen und Bürger vor übermäßiger KI? Entwickelt sich ein solches KI-Grundrecht durch unser Parlament, durch die Gerichte, durch den Verfassungsgerichtshof in Münster oder durch das Bundesverfassungsgericht, ähnlich wie das Grundrecht auf informationelle Selbstbestimmung? Wir müssen hierauf eine Antwort finden. Zweites Beispiel. Der Deutsche Ethikrat hat im März 2023 erklärt: „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern. KI darf den Menschen nicht ersetzen.“ Wie sind wir diesbezüglich landesrechtlich aufgestellt, und wie sehen wir unsere Landespolitik in Zukunft? Drittes Beispiel. Entscheidungsprozesse, Ermessensentscheidungen und Verhältnismäßigkeitsprüfungen können möglicherweise zukünftig auch von einer KI übernommen werden. Ob und wie wir das wollen, ist eine gesamtgesellschaftliche Frage, die wir diskutieren müssen. (Beifall von der FDP) Viertes Beispiel. In einem Gutachten zur Anhörung zu ChatGPT war zu lesen – ich zitiere mit Zustimmung des Präsidenten –: „Es bestehen bereits eindeutige verfassungsrechtliche Grenzen. Einer weiteren Grenzziehung durch den Gesetzgeber bedarf es nicht. Eine zu starke Einbindung der Legislative oder Exekutive könnte sogar eine Gefahr für die Gewaltenteilung darstellen. Die Justiz muss in eigener Verantwortung Konzepte entwickeln, wie sie unter Nutzung moderner Technik“ – gemeint sind KI und ChatGPT – „ihrer hoheitlichen Funktion nachkommen kann.“ Auch hier müssen wir diskutieren: Sind wir als Legislative noch in dem Prozess drin oder nicht? Fünftes Beispiel. Wie ein von einem LLM erstellter Text zustande gekommen ist, ist nicht für jeden Nutzer nachvollziehbar. Bei jedem Adressaten eines solchen von ChatGPT generierten Textes könnte der Eindruck entstehen, dass er von einem Menschen stammt, was tatsächlich nicht der Fall ist. Hier stellt sich auch die Frage, ob dies im Bildungsbereich einfach so kritiklos übernommen werden kann. Landtag Deswegen besteht ein Bedarf für die Regelung von KI, ChatGPT und allen weiteren LLMs. Wir lehnen den Antrag daher ab. – Danke schön. (Beifall von der FDP)