Nina Eisenhardt

auch Sehr geehrte Frau Präsidentin, meine sehr geehrten Damen Damen und Herren! Mit der Beratung über den Entwurf für ein Gesetz zur Anwendung künstlicher Intelligenz in der Verwaltung schreiben wir heute ein Stück Rechtsgeschichte. Es geht dabei um nichts weniger als um die Frage, wie darauf unser demokratischer Rechtsstaat im Zeitalter von künstlicher Intelligenz funktioniert. Denn, wenn der Staat mit KI arbeitet, also Entscheidungen trifft, Daten verarbeitet und sonStefan Bescheide erlässt, dann braucht das nicht nur Technik, sondern Vertrauen, und Vertrauen braucht Transparenz. Darum bringen wir heute einen Gesetzentwurf ein, der Grundrechte sichert, Transparenz schafft und zugleich Innovation ermöglicht. Es ist ein Versprechen, dass die Technik den Sie Menschen dient und nicht umgekehrt; re- (Beifall BÜNDNIS 90/DIE GRÜNEN) 90/DIE denn das fehlt bislang. Die Landesregierung sagt, man brauche dafür kein Gesetz, ein paar Leitfäden würden reichen. Ich halte das für eine Missachtung rechtsstaatlicher Prinzipien. Denn Artikel 20 Grundgesetz ist eindeutig: Staatliches Handeln braucht eine gesetzliche Grundlage. Das Verwaltungsverfahrensgesetz regelt das in § 35a, der momentan der entscheidende ist, wann immer automatisierte Datenverarbeitung in der Verwaltung zum Einsatz kommt. Automatisierte Verwaltungsakte sind nur dann zulässig, wenn eine Rechtsvorschrift sie erlaubt. Diese Vorschrift ist keine Einladung zur Technikeuphorie. Sie will Rechtssicherheit, Nachvollziehbarkeit, demokratische Kontrolle. Denn, was passieren kann, wenn es keine Regeln gibt, zeigt das Beispiel aus den Niederlanden. Dort wurde durch die Anwendung einer KI ohne Kontrollfunktion Tausenden Familien zu Unrecht Sozialbetrug vorgeworfen. Menschen gerieten in Existenznot, und die Regierung trat zurück. Das Vertrauen war zerstört. So etwas darf in Hessen nicht passieren. (Beifall BÜNDNIS 90/DIE GRÜNEN) Gleichzeitig dürfen wir nicht stehen bleiben. Unsere Verwaltung ist überlastet, Bürgerinnen und Bürger warten auf Fördermittel, Bescheide oder Antworten. KI ist deshalb schon heute in der hessischen Verwaltung im Einsatz, etwa bei der Grundsteuer oder bei der Steuerfahndung. Das ist richtig so. Aber wenn KI hilft, dann doch bitte mit klaren Spielregeln. Dafür reicht § 35a Verwaltungsverfahrensgesetz schlicht nicht mehr aus. Zwei Sätze reichen nicht, um die künstliche Intelligenz mit ihren massiven Veränderungen und Möglichkeiten angemessen zu regulieren. (Beifall BÜNDNIS 90/DIE GRÜNEN) KI ist komplexer als nur Ja/Nein-Antworten. Der europäische AI Act geht deshalb weiter. Er führt vier Risikoklassen ein, von minimal bis unannehmbar, und fordert abgestufte Regelungen. Diese differenzierte Logik fehlt uns im Verwaltungshandeln noch. Deshalb braucht es jetzt ein Landesgesetz, das diesen europäischen Rahmen mit dem deutschen Verwaltungsrecht verknüpft. (Beifall BÜNDNIS 90/DIE GRÜNEN) Denn, während sich die Fähigkeiten von KI alle sechs Monate verdoppeln, braucht ein Gesetz oft ein bis zwei Jahre vom Entwurf bis zur Umsetzung. Wer heute nicht handelt, überlässt morgen der Technik das Feld. Mit unserem Gesetzentwurf wollen wir handeln. Erstens. Er erlaubt den KI-Einsatz dort, wo er sinnvoll ist, auch bei Verwaltungsakten und bei standardisierbaren Ermessensentscheidungen. Es muss nicht mehr jede Anwendung einzeln gesetzlich geregelt werden. Zweitens. Er verpflichtet zu Transparenz. Jeder KI-Einsatz wird im Bescheid kenntlich gemacht und im öffentlichen Transparenzregister dokumentiert, mit Zweck, Datenbasis und Funktionsweise. Drittens. Er gibt Bürgerinnen und Bürgern das Recht, Entscheidungen überprüfen zu lassen. Mit der sogenannten KI-Rüge kann jeder einen KI-basierten Entscheid kostenfrei von einem Menschen prüfen lassen; denn am Ende muss immer ein Mensch für staatliches Handeln verantwortlich sein. (Beifall BÜNDNIS 90/DIE GRÜNEN) Das ist für mich praktischer Fortschritt. Ich will es an einem Beispiel deutlich machen. Eine Erzieherin mit ausländischem Abschluss beantragt die Anerkennung ihrer Qualifikation. Das dauert heute Monate, wenn nicht Jahre. Künftig hilft eine KI dabei, alle Informationen schnell zu sortieren, Dokumente in Originalsprache zu prüfen und eine Entscheidung vorzubereiten. So kommt der Bescheid schneller, und wir haben eine zusätzliche Erzieherin in unseren Kitas. Die Betroffene kann erkennen, ob KI beteiligt war, kann das System im Register nachschlagen und, wenn sie Zweifel an der Entscheidung hat, diese durch einen Menschen prüfen lassen. Wir wollen das regeln, was heute passiert, und auch das, was wir uns morgen noch nicht einmal erträumen können, damit unsere Bürgerinnen und Bürger wissen, woran sie sind, damit unsere Verwaltung Rechtssicherheit hat und damit wir als Gesetzgeber unserer Verantwortung gerecht werden. Ich freue mich auf konstruktive Beratungen, hier und im Ausschuss. – Vielen Dank. (Beifall BÜNDNIS 90/DIE GRÜNEN)