Nico Weinmann

Sehr geehrter Herr Präsident, liebe Kolleginnen und Kollegen! Die künstliche Intelligenz verändert ja geradezu revolutionär das Justizwesen nachhaltig. Lassen Sie mich an zwei kleinen Beispielen die Chancen, die Herausforderungen, aber auch die Risiken beleuchten. (Nico Weinmann) Zum einen ist da das Versicherungswesen bei uns im Land zu nennen. Gerade bei der Kfz-Schadensregulierung wird künstliche Intelligenz eingesetzt, und zwar nicht nur, um die Reparaturrechnungen zu überprüfen, sondern auch dafür, fiktive Reparaturrechnungen zu erstellen sowie mögliche Anomalien anhand von Mustern zu überprüfen und so Missbrauch zu detektieren, bis hin zu den Fragen nach der Verschuldung eines Unfalls und mit welcher Quote ein entsprechender Verkehrsunfall zu regulieren ist. Der Vorteil liegt auf der Hand: eine schnellere Schadensregulierung und idealerweise – zumindest aus Sicht des Versicherungsnehmers – durch den Wegfall von Sachverständigen- und Gutachterkosten, aber auch der Rechtsanwaltsgebühren, günstigere Versicherungsbeiträge. Ortswechsel: Wir gehen über den Teich und schauen, wie künstliche Intelligenz in den USA eingesetzt wird, um die Sozialprognose – positiv wie negativ – zu erstellen. Diese ist relevant dafür, ob eine Freiheitsstrafe oder eine Restfreiheitsstrafe zur Bewährung ausgesetzt werden kann. Anhand von früheren Verfahrensdaten, aber auch ergänzt durch personifizierte Daten wie Sozialisierung, Herkunft, Familienstand, möglicherweise auch Drogenabhängigkeit wird ein Bild entwickelt, das eine Sozialprognose ermöglicht. Nicht wenige „People of Color“ oder Hispanics beklagen, dass sie hier unzutreffend benachteiligt würden. Also: eine ganze Bandbreite von Möglichkeiten. Wie ist der Zustand bei uns? Wir sehen, dass die Gerichte trotz der Bemühungen, die Digitalisierung hier einziehen zu lassen, nach wie vor noch sehr stark mit Papier arbeiten. Wir sehen, dass die Verfahrenswege sehr lang sind. Unser Ziel ist klar: Wir wollen eine effektive und sichere Nutzung von Digitalisierung und künstlicher Intelligenz. Dazu ist es notwendig, die Anforderungen der Justiz im Blick zu haben, die Praxisanforderungen, aber auch z. B. die verfahrensrechtlichen Vorgaben der Zivilprozessordnung oder der Strafprozessordnung. Wir müssen aber auch die technischen Möglichkeiten im Blick haben, gerade um interdisziplinäres Arbeiten zu ermöglichen. Was stellen wir uns vor, wenn wir von künstlicher Intelligenz in der Justiz sprechen? Wir denken an eine Entscheidungsvorbereitung, an eine Informationserfassung und eine Strukturierung der Daten, die in einem Prozess zusammengeführt werden. Wir denken an die Lieferung von Textbausteinen oder auch die Überprüfung von Argumentationssträngen. Wir sehen: Auch Richterinnen und Richter sind beeinflussbar, und ich glaube, auch die künstliche Intelligenz kann helfen, kognitive und emotionale Defizite auszugleichen. Wir sehen auch, dass gerade bei einfach gelagerten Verfahren, die wir heute schon haben – ich denke an die Fluggastrechteverordnung –, eigene Entscheidungen getroffen werden können, aber auch darüber hinaus, sofern hier eine Rekursmöglichkeit besteht. Natürlich kann die künstliche Intelligenz auch Beratungsgespräche führen. Aber die künstliche Intelligenz ist nicht grenzenlos. Wir haben verschiedene Grenzen, die wir hier berücksichtigen müssen. Da ist zum einen die verfassungsrechtliche Grenze. Artikel 92 des Grundgesetzes führt aus: Die rechtsprechende Gewalt ist den Richtern anvertraut. eriode – 86. Sitzung – Mittwoch, 31. Januar 2024 Ich möchte das an dieser Stelle ganz deutlich hervorheben. Damit ist deutlich gemacht, dass ein KI-Richter heute, aber auch morgen unzulässig wäre. (Beifall bei der FDP/DVP und der SPD – Vereinzelt Beifall bei den Grünen und der CDU) Wir sehen aber auch die ethischen Grenzen; denn unser Recht ist an humanistischen Grundwerten orientiert. Es ist allein schon mit Blick nach China wichtig, dass wir kein Social Scoring begehen. Denken Sie beispielsweise an die digitale Gesichtserfassung und die entsprechende Sanktionierung auch bei kleineren Verstößen gegen die vorgegebene Ordnung. Wir haben auch die faktische Akzeptanz, die wir berücksichtigen müssen. Hierfür ist es notwendig, die Transparenz sicherzustellen. Ich denke da beispielsweise an das Urheberrecht in Deutschland. Das beste Beispiel, das wir sehen, ist ChatGPT, eine generative künstliche Intelligenz, die menschliche Interaktion simulieren kann und mit einer Unmenge von Daten trainiert wird. Es sind meist Daten, die aus dem Internet unter Missachtung des Urheberrechts abgeschöpft werden. Das lässt natürlich auch an der Qualität und der Herkunft Zweifel aufkommen. Wichtig wird uns dabei sein, die Nachvollziehbarkeit der Daten sicherzustellen. Gerade die Klarheit der verwendeten Daten, auch mit Blick auf die genannten Beispiele der vorurteilsfreien Verwertung, ist ein ganz besonderer Schwerpunkt. Der Datenschutz ist von besonderer Bedeutung. Denn die Daten, die wir brauchen, um eine entsprechende künstliche Intelligenz zu generieren, enthalten meist personenbezogene Daten. Insofern ist die Anonymisierung von publizierten Urteilen wichtig. Das Land Baden-Württemberg geht hier u. a. mit dem Justizanonymisierungstool JANO voran und schafft so mehr Transparenz und auch Informationsinteresse der Bürgerschaft. Auch das Thema „AI Act“, die KI-Richtlinie, wird uns in den nächsten Jahren noch begleiten. Das ist ein dynamischer Prozess, aber ich glaube, mit der am 2. Februar zur Entscheidung anstehenden Verordnung im Ministerrat der EU ist es gelungen, die unterschiedlichen Interessen zusammenzubringen, sodass wir eine innovationsfreundliche Regelung haben und damit ein Fundament für die Entwicklung einer vertrauenswürdigen KI geschaffen haben. Aktuell sehen wir in Baden-Württemberg viele Einsatzmöglichkeiten, von der digitalen Akten- und Verfahrensführung über den elektronischen Rechtsverkehr. Frau Ministerin wird nachher sicherlich noch etwas näher darauf eingehen. Es ist uns aber auch wichtig, die Mitarbeiterinnen und Mitarbeiter und alle Akteure entsprechend zu schulen. Wir müssen sie mitnehmen auf diese Reise, die für viele sicherlich auch disruptiv sein wird. Wir müssen auch die Juristinnen und Juristen von morgen entsprechend einbinden, das heißt, wir müssen auch in der Juristenausbildung stärker als in der Vergangenheit die Bereiche Legal Tech und Digitalisierung einbinden. Wir machen das beispielsweise in Baden-Württemberg über die Vermittlung von E-Justice-Kompetenz; ELAN-REF ist hier sicherlich zu nennen. Wenn ich die Unterschiede allein an den Hochschulen in Baden-Württemberg anschaue und nach Tübingen schaue, sehe ich da relativ wenig. Schaue ich nach Freiburg oder Heidelberg, sehe ich: Da haben wir rela- (Nico Weinmann) tiv viel. Wir sind gehalten, auf eine Vereinheitlichung hinzuwirken. Es ist ein dynamischer Prozess, und deshalb müssen wir schauen, wie wir hier eine Best Practice schaffen können, dass wir viele Projekte, auch im Länderverbund, angehen, um zu schauen, welche Prozesse und Möglichkeiten sich bestens für die Umsetzung eignen. Da ist einiges geschehen, aber tatsächlich noch nicht so viel, als dass wir sagen könnten: Wir sind hiermit zufrieden. Wir werden aber auch Veränderungen sehen, beispielsweise in der Anwaltschaft. Da wird allein die Konkurrenz dafür sorgen, dass die Anwaltschaft zunehmend auf künstliche Intelligenz setzt. Ansonsten befürchte ich, dass die Anwaltschaft – zumindest die Kolleginnen und Kollegen, die nicht auf künstliche Intelligenz setzen – früher oder später das Nachsehen hat. Wir haben die Richterschaft, die nach meiner persönlichen Überzeugung eine intrinsische Motivation hat, auch künstliche Intelligenz in ihrer Arbeit einzusetzen. Aber ich glaube, hier braucht es auch Zielvorgaben der Politik, damit dies entsprechend umgesetzt wird. Wir brauchen auch Handreichungen, damit einheitliche Vorgaben bei der Kennzeichnung der verwendeten künstlichen Intelligenz, beispielsweise bei der Urteilsfindung, damit einhergehen. Mein Fazit: Wir sind in Baden-Württemberg ordentlich unterwegs. Aber wir brauchen noch einen Ausbau der Förderung für Projekte im Länderverbund, um die künstliche Intelligenz tatsächlich flächendeckend Einzug halten zu lassen. In diesem Sinn freuen wir uns auf eine weitere gemeinsame Zusammenarbeit. Ganz herzlichen Dank. (Beifall bei der FDP/DVP und der SPD – Vereinzelt Beifall bei den Grünen und der CDU)