Markus Fuchs

Frau Präsidentin, meine Damen und Herren, werte ginnen und Kollegen! Künstliche Intelligenz in der tung ist kein Randthema mehr. Sie wird kommen, sie zum Teil schon da, und selbstverständlich braucht ihr satz einen verlässlichen rechtlichen Rahmen. Genau halb muss man über diesen Gesetzentwurf nüchtern chen. Denn wir lehnen nicht das Ziel ab, sondern konkreten Entwurf. Die Ziele sind im Kern nachvollziehbar: Rechtssicherheit, Transparenz, Schutz der Bürgerinnen und Bürger, wortungstragung durch Menschen in staatlichen Verfahren. Daran ist nichts falsch. Falsch ist, zumindest aus Sicht, nur die Vorstellung, man erreiche diese Ziele besten mit einem großen, eigenständigen KI-Sondergesetz. Erstens. Der Entwurf ist aus unserer Sicht zu groß, breit und zu komplex. Wo Europarecht, Datenschutzrecht und bestehendes Verwaltungsverfahrensrecht bereits ge Grenzen setzen, schafft ein zusätzliches Landesgesetz schnell mehr Reibung als Klarheit. Gerade in einem stark überformten Bereich sollte sich der Landesgesetzgeber – sprich: wir – sehr genau fragen, was wirklich wendig ist und was am Ende nur eine zweite Schicht Regeln über bereits bestehende Regeln legen würde. (Beifall AfD) Zweitens. Das größte rechtliche Problem liegt nach Auffassung in § 3 des Gesetzentwurfs. Gerade dort, Grundrechte am empfindlichsten berührt sind, ist der wurf nicht besonders vorsichtig, sondern eher besonders angreifbar. Der Änderungsantrag entschärft das nicht wirklich. Er schiebt die Hauptangriffsfläche noch stärker in genau sen Bereich. Mit anderen Worten: Ausgerechnet dort, man maximale rechtliche Stabilität bräuchte, baut Entwurf seine fragilste Konstruktion. Das ist sicherlich kein kleines und auch kein unwichtiges Detail. Das ist unserer Sicht ein grundlegender Konstruktionsfehler. (Beifall AfD) Drittens. Auch bei der KI-gestützten Vorbereitung von scheidungen bleibt der Entwurf zu unklar. Das ist ja nicht nur, festzulegen, was die KI formal tun Das Problem ist, was in der Praxis passiert. Wer im waltungsalltag unter Zeitdruck arbeitet, übernimmt rungsgemäß Empfehlungen technischer Systeme eher, dass er sie wirklich prüft. Dieser Automation Bias ist theoretisches Problem aus einem wissenschaftlichen minar, sondern ein sehr reales Problem der Praxis. Eine bloße Plausibilitätsprüfung reicht deshalb nicht Gerade bei Ermessensentscheidungen, bei Abwägungen und bei Verhältnismäßigkeitsfragen kann und darf es ne faktische Vorentscheidung durch Systeme geben. terstützung bei Strukturierungen oder Sachverhaltsaufbereitungen mag in engen Grenzen sinnvoll sein. Aber die rechtliche Wertung muss in menschlicher Verantwortung bleiben. Viertens. Bei voll automatisierten Verwaltungsakten gilt Nächster dasselbe in verschärfter Form. Ja, der Änderungsantrag bessert einen Punkt nach, etwa beim Beurteilungsspielraum. Aber das Grundproblem bleibt. Begriffe wie „gefestigte Entscheidungspraxis“ bleiben juristisch zu unbestimmt. Die Grenzen voll automatisierter Entscheidungen sind nicht glasklar gezogen. KolleFünftens. Das Forderung nach einem Transparenzregister Verwalist in Teilen nachvollziehbar – zumindest der Wunsch, es ist zu haben –, ein solches Register bleibt aber bürokratieanEinfällig. Man kann sich ja grundsätzlich fragen: Brauchen deswir wirklich eine neue Erfassungsarchitektur mit zusätzlisprechem Pflegeaufwand und möglichen Doppelstrukturen nediesen ben ohnehin bereits bestehenden europäischen und datenschutzrechtlichen Vorgaben? Sechstens. Die sogenannte KI-Rüge mag politisch plausiVerantbel klingen, systematisch gesehen ist sie aus unserer Sicht der falsche Weg. Ein eigener Sonderrechtsbehelf neben unserer dem bestehenden Verwaltungsrecht schafft keine bessere am Ordnung, sondern eine zusätzliche Verfahrensspur. Das verzögert Verfahren, lädt zu querulatorischem Missbrauch geradezu ein und „löst“ ein Problem mit einem neuen Sonzu derproblem. en- (Beifall AfD) so Grundsätzlich gilt aus unserer Sicht: Wenn überhaupt gesetzgeberischer Handlungsbedarf besteht – da waren die not- Meinungen in der Anhörung durchaus sehr unterschiedvon lich –, dann bitte nur in der kleinstmöglichen Form: kein großes eigenständiges KI-Verwaltungsgesetz, keine eigenständige KI-Rüge, keine neue Bürokratiearchitektur. Stattdessen sollte man eher prüfen, ob eine eng begrenzte Änderung im bestehenden Verwaltungsrecht ausreicht, etwa unserer im Hessischen Gesetz zur Ausführung der Verwaltungsgewo richtsordnung oder im Hessischen VerwaltungsverfahrensEntgesetz. Deshalb ist der vorliegende Gesetzentwurf in seiner Fassung aus unserer Sicht nicht zustimmungsfähig – nicht verdeshalb, weil das Anliegen falsch wäre, sondern deshalb, dieweil seine Ausgestaltung rechtlich zu riskant, datenschutzwo rechtlich zu angreifbar, vollzugstechnisch zu unausgereift dieser und in seiner Breite unnötig ist. aus Hessen braucht an dieser Stelle kein KI-Sonderrecht mit Überbau, sondern eine präzise Lösung für den sensibelsten Fall: den vollständig automatisierten Verwaltungsakt. Darum lehnen wir diesen Gesetzentwurf ab. Ent- (Beifall AfD) Problem darf. VerPräsidentin Astrid Wallmann: erfahals Vielen Dank. – Als Nächster hat der Abgeordnete Bijan kein Kaffenberger von der SPD-Fraktion das Wort.