Nelly Waldeck

Sehr geehrte Frau Präsidentin! Liebe Gäste! Liebe Kolleginnen und Kollegen! Wir diskutieren heute über einen Antrag, die KI-Strategie des Landes zu aktualisieren. Geschrieben wurde der Antrag unter anderem von ChatGPT. Zunächst möchte ich einmal sagen, dass ich etwas überrascht bin, wie viel Einfluss Microsoft in diesem Parlament inzwischen hat, aber sei es drum. Ich dachte mir, ich frage doch einfach einmal direkt bei ChatGPT nach, was es eigentlich zu seinem eigenen Antrag sagt. Ich zitiere mit Erlaubnis der Präsidentin: Der Antrag, die Landesregierung zu bitten, Fragen zu berücksichtigen, die sich auf den Einsatz von KI-Technologien im öffentlichen Dienst beziehen, ist ein wichtiger Schritt in Richtung einer sinnvollen Nutzung dieser Technologien. Es ist jedoch bedauerlich, dass der Antrag nicht präzisiert, wie die Landesregierung diese Fragen angehen und beantworten soll. Es ist nicht klar, ob der Antrag die Landesregierung auch dazu auffordert, konkrete Vorschläge zu unterbreiten oder nur um eine allgemeine Stellungnahme bittet. – Danke, ChatGPT, sage ich da, so ähnlich blicke ich nämlich auch auf den Antrag. (Beifall BÜNDNIS 90/DIE GRÜNEN und CDU – Zuruf Christian Dirschauer [SSW]) Eine Opposition aus FDP und SPD, die nur Fragen stellt, fand ich einigermaßen erstaunlich. Spätestens bei der aufgeworfenen Frage, ob wir Datenschutzvorschriften weiter verschärfen sollten, habe ich den Eindruck gewonnen, dass die Antworten auf diese Fragen gar nicht in einem gemeinsamen Antrag von SPD und FDP gelandet wären. Es ist wichtig, die Fragen zu stellen, wie eine sichere und zuverlässige KI-Infrastruktur aussehen kann. Aber da erwarte ich von Fraktionsvorsitzenden eher einen Vorschlag und kein von digitalen Dritten geschriebenes Fragepapier an die Landesregierung. (Beifall BÜNDNIS 90/DIE GRÜNEN und CDU) Auch die Frage nach Sicherstellung ethischer Grundsätze und die Frage nach Verantwortung sind wichtig und richtig. Unsere Aufgabe als politische Entscheidungsträgerinnen und -träger – sei es Regierungs- oder Oppositionsfraktionen – ist es aber 1814 Schleswig-Holsteinischer (Nelly Waldeck) doch, Vorschläge für diese Verantwortungsgestaltung zu machen. Auch zu diesem Punkt äußert sich ChatGPT. Ich zitiere erneut mit Erlaubnis der Präsidentin: Weiterhin sollte sich der Antrag stärker auf die ethischen Implikationen von KI-Technologie konzentrieren und nicht so stark auf technische Aspekte. Es muss sichergestellt werden, dass KI-Systeme rechtmäßig und ethisch handeln und dass verantwortungsvolle Entscheidungsträger vorhanden sind, die für die Entscheidung der Systeme verantwortlich sind. – Auch hier muss ich ChatGPT zustimmen. Das muss allerdings für alle gleich und nach fairem Wettbewerbsprinzip EU-weit geschehen und kann nicht in einer Strategie im Land adressiert werden. Ich halte es für wichtig, im AI Act, der gerade erarbeitet wird, klare Antworten auf diese Fragen zu adressieren. Nur wenn Menschen sich darauf verlassen können, dass die Einsatzmöglichkeiten von künstlicher Intelligenz den rechtlichen, demokratischen und freiheitlichen Grundsätzen standhalten, wird dieser Einsatz auch zu einer Bereicherung für alle. (Beifall BÜNDNIS 90/DIE GRÜNEN und Thomas Losse-Müller [SPD]) Das bedeutet Vertrauenswürdigkeit by Design und kann nicht erst nach einem Rechtsverstoß kontrolliert werden. Es braucht eine gesicherte Grundrechtsdurchsetzung mit verhältnismäßigen Haftungsregelungen bei den Softwareunternehmen. Darüber hinaus muss die Herausforderung von Diskriminierungsrisiken klar adressiert werden. Besonders diskriminierungssensible Bereiche wie der Arbeitsmarkt und die Personalbeschaffung, Bewertung von Leistungen, aber auch KI-Anwendungen im Unterricht müssen vorher debiased werden. Es darf nicht passieren, dass die KI eine Jobbewerberin oder einen Jobbewerber ablehnt, weil diese oder dieser statistisch aufgrund von Geschlecht, Hautfarbe oder Nachname schlechtere Chancen auf dem Arbeitsmarkt hat als andere Menschen. (Beifall BÜNDNIS 90/DIE GRÜNEN) Dass Debiasing muss dahin gehend überprüft werden können. Dafür braucht es gut aufgestellte, strukturierte Prüfungen. Auch die Transparenz der Datensätze und die Erklärbarkeit – das wurde vorhin genannt – müssen gewährleistet werden. Hier braucht es gesetzliche Vorgaben. Aber diese Punkte gilt es eben auf EU-Ebene anzugehen und nicht in einer Strategie im Land. Was wir tun können – das tun wir auch bereits – ist, das Thema Forschung voranzubringen. Die Unabhängigkeit der KI-Forschung auch für AI Safety und Trustworthiness muss – unabhängig von Drittmitteln – gut und ausreichend finanziert werden. Mit vielen KI-Professuren im Land sind wir da schon ziemlich gut davor. Auch die Förderung von KI-Start-ups und von gemeinwohlorientierten Unternehmen und Einrichtungen, die diesen in den Markt verhelfen und sich an den Kriterien der Nachhaltigkeit ausrichten, ist ein sehr wichtiger Schritt, den wir jetzt bereits gehen. Ich danke SPD und FDP für diesen Antrag, den sie über ChatGPT an den Landtag eingereicht haben. ChatGPT gibt sich selbst offensichtlich selber eher eine mittelmäßige Bewertung für die eigene Leistung und hat noch viele offene Fragen. Gegen ein Fachgespräch im Ausschuss über KI und die schleswig-holsteinische Rolle für KI habe ich gar nichts, allerdings nicht auf Grundlage von Fragen, die ChatGPT formuliert hat, sondern mit eigener Befassung. (Beifall BÜNDNIS 90/DIE GRÜNEN, CDU und SSW) Der Antrag verdeutlicht doch ganz gut, dass KI nicht die Zukunft des Parlamentarismus ist. Denn am Ende entscheiden immer noch wir. – Vielen Dank. (Beifall BÜNDNIS 90/DIE GRÜNEN, CDU und SSW)