Alexander Saade

Vielen Dank. - Frau Landtagspräsidentin! Liebe Kolleginnen und Kollegen! Das Positive vorweg: Sie stoßen heute mit Ihrem Gesetzentwurf eine notwendige Debatte zu einem ganz wichtigen Thema an. Gleich beim Lesen der Überschrift hatten Sie mich auch schon gefangen: „Gesetz zur Einführung künstlicher Intelligenz bei der Videoüberwachung und Fahndung". Bei der Überschrift dachte ich mir: super Gesetzentwurf! Paragrafen überflogen, zweite Seite - aber dann kommt auch schon der Punkt der Evaluierung. Den Bereich Fahndung habe ich leider schon vermisst. Da geht es eher um Gefahrenabwehr und Verhütung von Straftaten. Für die Fahndung müssen wir vielleicht noch ein paar Brücken bauen. So oder so, ich hatte den Eindruck, da fehlt noch ein bisschen was in Ihrem Gesetzentwurf. Der ist noch nicht ganz fertig. Fakt ist: In einer zunehmend global und digital vernetzten Welt braucht es angemessene, rechtssichere Ermittlungsbefugnisse. Ja, verschiedene Einsatzszenarien können auch von dem Einsatz von Gesichtserkennungssoftware und weiterer Anwendung von künstlicher Intelligenz profitieren. Aber wie weit die Polizei in ihrer Arbeit die Videoüberwachungssysteme nutzen darf, ist schon umstritten. Höchst umstritten ist, wenn bei der Auswertung künstliche Intelligenz zur Nutzung kommt. Auf jeden Fall ist dafür eine eindeutige Rechtsgrundlage nötig. Das gilt insbesondere für die von Ihnen vorgesehene Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme im öffentlich zugänglichen Raum, sprich: die Kamera im öffentlichen Raum, die in Echtzeit überwacht, und dann noch an KI gekoppelt. Erlaubt ist der Einsatz dessen nur in ganz eng umrissenen Ausnahmefällen. Für mich ist klar, dass so lose Formulierungen wie in Ihrem Gesetzentwurf da wahrscheinlich nicht ausreichen. Wir werden im Ausschuss darüber diskutieren und sicherlich daran arbeiten. Die von Ihnen vorgesehene Nutzung personenbezogener Bürgerdaten wirft aber Fragen auf, nämlich Fragen nach der Verhältnismäßigkeit und der Legitimität der polizeilichen Maßnahmen. Die Auswirkungen dieser erweiterten Überwachungsbefugnisse auf die Rechte und Freiheiten des Einzelnen erfordern nämlich auch wirksame Kontrollmechanismen. Das fehlt leider in Ihrem Entwurf. Ich verstehe den Ansatz und warum der Entwurf „technikoffene" Regelungen formuliert. Die Entwicklung von KI ist sehr dynamisch. Aber unsere Gesetze sollen sich auf technische Gegebenheiten beziehen und nicht auf das, was wir in Zukunft vielleicht noch zu erwarten haben. Es geht im Kern um ganz erhebliche Grundrechtseingriffe, denn potenziell sind vor allem unbeteiligte Dritte davon betroffen - theoretisch alle Internetnutzer oder alle Leute, die sich auf einem Platz bewegen. Die Einhaltung des Grundsatzes der Verhältnismäßigkeit ist dabei natürlich ganz besonders zu prüfen. Bedarf die Nutzung der Technik einer Anordnung? Wer prüft das? Wie wird das geprüft? Auch dazu finde ich hier keine Ausführungen. Im Sommer ist eine ganze Menge in dieser Sache geschehen, was es zu berücksichtigten gilt. Auf Europaebene definiert jetzt die EU-Verordnung über künstliche Intelligenz, welche Praktiken im Bereich KI grundsätzlich unzulässig sind. Ich denke, das ist eine Basis für eine Diskussion. Über diese können wir vielleicht auch definieren, welche KI-Systeme wann und wie genutzt werden dürfen und auf welche Daten die Polizei zukünftig zurückgreifen darf. In Ihrem Entwurf ist das, wie gesagt, alles sehr allgemein gefasst. Wenn ein KI-System die Vorgaben der EU-Verordnung über künstliche Intelligenz erfüllt, heißt das aber noch lange nicht, dass der KI-Einsatz auch datenschutzrechtlich zulässig ist. Auch dazu finden wir hier noch keine Eingebungen. Ein Blick auf die Bundesebene zeigt: Es gibt einen Gesetzentwurf zur Verbesserung der Terrorismusbekämpfung. Dieser sieht auch Änderungen der StPO, des Bundespolizeigesetzes und des Bundeskriminalamtgesetzes vor. Wie gesagt, die Herausforderungen rund um KI entwickeln sich sehr schnell. Ihr Gesetzentwurf stößt zwar die Debatte an, aber ich glaube, es wäre ein bisschen klüger gewesen, keinen Schnellschuss zu produzieren, sondern ein wenig abzuwarten, was sich in der Bundesgesetzgebung entwickelt. In dieser Woche kam es zu den ersten Anhörungen. Dabei ist deutlich geworden, dass es auch zu der Bundesgesetzgebung erhebliche rechtliche Bedenken gibt. Es lohnt sich trotzdem, einen Blick darauf zu werfen. So lässt sich nämlich gut erkennen, dass die Verfasser ein schon sehr deutliches Regelwerk auf den Weg gebracht haben. Beim Lesen der 28 Seiten können Sie ja mal Ihren One-Pager danebenhalten. Dann fällt schon auf, dass noch einiges nachzubessern wäre. Liebe Kolleginnen und Kollegen, es braucht eine Diskussion, an deren Ende eine klare, verfassungskonforme Regelung steht. Aber sie muss eben auch in Formvorschriften eingebettet sein, die klar definieren, wann die Polizei welche Daten zu welchem Zweck verwenden darf. Es muss klar sein, wer das anordnen darf, wie das Ganze kontrolliert wird und wie es vielleicht auch dokumentiert wird. Nichtsdestotrotz: Der Start ist gemacht. Es ist vielleicht nicht der ganz große Wurf, aber wir wissen ja: Auch bessere Oppositionsarbeit ist möglich. Vielen Dank. Herzlichen Dank, Herr Saade. - Die nächste Wortmeldung kommt