Nico Brünler

Sehr geehrter Herr Präsident! Sehr geehrter Herr Staatsminister! Meine sehr verehrten Damen und Herren! Der Staatsminister hat gesagt, wenn wir uns nicht um eine gewinnbringende Nutzung der KI kümmerten, würde die Entwicklung ohne uns stattfinden. Da hat er zweifelsohne recht. Er hat ausgiebig die Forschungsbemühungen in der sächsischen Wirtschaft und an den sächsischen Hochschulen hervorgehoben. Auch dem kann und will ich nicht widersprechen. Man kann über öffentliches Risikokapital und die allgemeine Förderbürokratie sprechen; aber das hat ja nicht nur mit KI zu tun. Wir sollten uns vielmehr klarmachen, wovon wir hier eigentlich reden, und KI nicht als Metapher für die Zukunft sehen. Vielen ist dies im Alltag das erste Mal richtig bewusstgeworden, als sie mit Siri richtig reden konnten und ihnen ChatGPT auf komplexe Fragen komplexe Antworten gibt, wobei man einschränkend sagen muss: manchmal gibt. Und das ist gerade der Punkt. Gerade ChatGPT ist nicht wirklich intelligent im Sinne von schlau, sondern greift wie eine Suchmaschine auf im Internet verfügbare Datenquellen zurück, bewertet nach mathematischen Kriterien deren Zuverlässigkeit und formuliert daraus einen mit hoher Wahrscheinlichkeit richtigen Sprachtext – nicht mehr und nicht weniger. Die Fehleranfälligkeit ist nicht geringer als bei einer herkömmlichen Suchmaschine, wobei diese ebenfalls seit Jahren auf das zurückgreift, was man zur künstlichen Intelligenz zählen kann. Das, was inzwischen viele darunter verstehen, ist nicht die eine große künstliche Intelligenz, die alles weiß und alles steuern kann, sondern das sind Anwendungen, die jeweils ein Bündel mehr oder minder intelligenter Einzelanwendungen sind, die wiederum von einem ebenfalls mehr oder minder intelligenten Dach zusammengeführt und gebündelt werden. KI ist also nicht das groß Metasystem, was alles bestimmt. KI ist vielmehr das, was uns inzwischen vielfach im Alltag begegnet, ohne dass wir darüber nachdenken und oftmals ohne dass wir es merken. Lernende Algorithmen sind hinreichend erforscht und im Alltag bereits üblich. Ähnliches gilt in vielen Fällen für Analysetools, die nichts anders machen, als auf der Basis von Trainings- oder Vergleichsdaten entweder klare logische Schlussfolgerungen zu ziehen oder Wahrscheinlichkeiten zu berechnen. Wir finden das inzwischen überall. Das beginnt bei mehr oder minder intelligenten Fahrzeugen und Haushaltgeräten und hört bei nutzerspezifischer Werbung im Internet noch nicht auf. Wenn die vom Minister zitierte Bitkom-Studie besagt, dass nur 15 % der Menschen im Alltag KI nutzen würden, so ist das nur die halbe Wahrheit. Die 15 % umfassen einfach diejenigen, die es bemerken; die anderen machen es unbewusst. (Beifall der Abg. Sabine Friedel, SPD) Das Problem ist eher, dass wir diese Ergebnisse, die uns KI erzeugt, nicht hinterfragen, sondern als objektiv wahr oder überlegen annehmen. Aber das sind sie nicht. Sie stehen für Wahrscheinlichkeiten und/oder sie stehen für vorher von menschlichen Entwicklern determinierten Überzeugungen. Herr Staatsminister sprach selbst davon, dass es unter Umständen schwierig sein wird, wenn wir uns auf Trainingsdaten verlassen, die einen klaren Fokus auf Nordamerika haben. Damit ist nicht gemeint, dass amerikanische Krebspatienten anders krank sind als europäische, oder dass amerikanische Optimierungsmodelle oder Graphentheorien anders funktionieren. Nein! Das Problem ist, dass Datenmodelle nicht objektiv sind. Sie spiegeln vielmehr konkrete gesellschaftliche Realitäten wieder und sind außerhalb dieser Bereiche nur begrenzt relevant. Herr Staatsminister hat über die deutsche Teilung gesagt: Der externe Blick darauf wird ein anderer sein als der deutsche. Deshalb ist weder der externe Blick noch der deutsche Blick falsch, sondern es ist einfach ein anderer Blickwinkel. Genau das hat Einfluss darauf, wie die Informationen und Datenstrukturen formuliert sind und welche Ergebnisse die KI erzeugt. Wenn wir bei den Daten sind, dann sind wir aber nicht nur bei der Datenqualität. Wir sind logischerweise auch schnell beim Datenschutz. Herr Staatsminister, Sie haben in Ihrer Rede kurz darauf hingewiesen, dass eigene europäische oder deutsche Datenmodelle natürlich unseren Datenschutzvorgaben entsprechen müssen. Damit haben Sie recht. Gleichzeitig verweisen Sie darauf, dass es noch eine Menge Datenschätze gebe, die man heben könne. Nun sind Sie nicht genau darauf eingegangen, was Sie damit meinen. Wenn wir von öffentlich gesammelten oder generierten Daten im Sinne dessen, was wir als Transformationsgesetz gefordert haben, ausgehen – und unser Ansatz geht weit über das Transparenzverständnis der Staatsregierung hinaus –, dann haben Sie uns auf Ihrer Seite. Sie haben das sogenannte Open-Data-Portal des Freistaates selbst kurz angesprochen. Oder meinen Sie es so, wie Sie es in einem Interview für den Wirtschaftsrat der CDU gesagt haben? Dort lautete Ihre Aussage etwas anders. Dort sagten Sie, dass datenschutzrechtliche Bedenken nicht jeglichen technologischen Fortschritt behindern dürften. Das stimmt zwar insofern, als man es nicht immer mit personenbezogenen Daten zu tun hat. Das kann und darf aber nicht die Ausrede dafür sein, das Kind mit dem Bade auszuschütten. Wir haben dafür ein funktionierendes Gesetz, welches nicht aufgeweicht, sondern besser durchgesetzt werden müsste. Wir brauchen kein spezielles Datenschutzgesetz für KI. Diejenigen, die das fordern, haben in der Regel nicht den technologischen Fortschritt im Sinn. Stattdessen reden sie jenen nach dem Mund, die wollen, dass – wenn sie einfach das Kürzel KI davor schreiben – sie sich herausreden können, um keinen Datenschutz betreiben zu müssen. Die oft vorgebrachte Ausrede, dass die Daten gar nicht direkt verarbeitet würden, ist nur eine Ausrede. Nach der Informationstheorie, die den Analyseanwendungen zugrunde liegt, ist klar, dass aus personenbezogenen Daten rekonstruierbare Fakten gespeichert werden. Damit gilt das Bundesdatenschutzgesetz beziehungsweise die DatenschutzGrundverordnung der EU. An beiden gibt es unter dem Deckmittel des Fortschritts nichts zu rütteln. Es gibt keinen Grund für Extrawürste bei Datenkraken im Deckmantel der KI-Forschung. Wenn Sie in dem von mir erwähnten Interview die Kritik von Datenschützern an Spracherkennungsprogrammen wie Alexa oder Siri kritisieren, dann gehen Sie fehl, Herr Staatsminister. Die Kritik macht sich nicht an einer Spracherkennung fest. Es geht darum, dass diese Anwendungen per se darauf angelegt sind, Nutzerdaten zu sammeln, zu analysieren und auszuwerten. Das Versprechen ist es, das Leben bequemer zu machen. Im Grunde geht es um das massive Abgreifen persönlicher Daten, meist ohne dass sich die Nutzer dessen wirklich bewusst sind. Wenn solche Anwendungen per Definition sicher auch zum weiten Feld der KI gehören, so sind sie doch eher als Datenkraken zu bezeichnen. Wenngleich das eine eher eine kommerzielle Anwendung ist und das andere eher gesellschaftspolitischen Repressionen dient: Vom Grundverständnis her sind die Ansätze vom chinesischen Social-Score-Modell, dem man sich nicht entziehen kann, gar nicht so weit entfernt. Wenn man das kritisiert, dann ist man nicht technologiefeindlich. Es geht gar nicht so sehr um die Datenanalyse und darüber, was die eigentliche Aufgabe der KI ist, sondern um die Art der Datenerhebung: quasi voll automatisch und im Vorbeigehen. Big Data und KI gehören zwar zusammen; sie sollten aber nicht die Rechtfertigung dafür sein, alles zuzulassen. Das hat auch nichts mit der Auswertung von offiziell verfügbaren Daten zu tun. Ein Forschungsinstitut, welches bereits medizinische Daten erfasst, kann diese auch gegen die Einwilligung der Betroffenen auswerten. Das geht so oder so schon, auch mittels KI. Wenn man die medizinische Diagnose-KI und Siri auf eine Stufe stellt, dann versucht man im Nebel der KI, die ganzen semi-legalen Spielzeuge der Datenkrakerei zu legitimieren und noch neue Quellen für Personendaten zu schaffen. Das ist ein Unterschied. Die KI ist keine Rechtfertigung, den Datenschutz abzuschaffen und alles zu durchleuchten und zu speichern. Das ist ein gesellschaftspolitischer Ansatz und hat nichts mit der KI und den dafür notwendigen Voraussetzungen zu tun. Meine sehr geehrten Damen und Herren! In der KI-Strategie des Freistaates ist neben einer zentralen Säule auch von ethischer Verantwortung die Rede. Der Minister hat dazu nicht viel gesagt, nur, dass im kommenden Jahr die Pläne, einen diesbezüglichen Beirat einzurichten, vorgestellt werden sollen. Die Frage ist folgende: Was soll der Beirat beraten und entscheiden? Meistens geht es um Extremsituationen wie zum Beispiel: Wen soll die KI zuerst retten? Die drei Senioren oder zwei Kinder? Im Grunde geht es um Antworten, bei denen wir uns auch jenseits der KI schwertun, richtige Antworten zu finden. Zwar ist es nicht falsch, sich über solche Fragen Gedanken zu machen. Die KI aber wird uns keine Antwort auf moralische Fragen geben, die wir selbst nicht klären können. Viel wichtiger wäre es, die Zuverlässigkeit und Objektivität der der künstlichen Intelligenz zugrundeliegenden Daten und Algorithmen zu hinterfragen. Schöpft die KI aufgrund einer objektiven Wissensbasis eine objektiv wahre Antwort, oder haben wir lediglich ein mit hoher Wahrscheinlichkeit treffendes und in seiner Tendenz sogar schon vorher festgelegtes Ereignis? Das ist bei Leibe nicht das Gleiche. Es geht nicht darum, dass die KI ethisch vertretbare Werte erzeugt, sondern darum, wie verlässlich und objektiv dieses Ergebnis ist. Eine gute Frage wäre in diesem Zusammenhang folgende: Kann es gelingen, die Hersteller von solchen Algorithmen und KI nach ähnlichen Maßstäben, wie es bei der IT zum Beispiel in der Luftfahrt üblich ist, zu Beweis- und Dokumentationspflichten zu bewegen? Ich sage das gerade vor dem Hintergrund, nicht vor einer undurchschaubaren KIBlackbox zu stehen. Sehr geehrter Herr Staatsminister! Die Ausführungen von mir sind bisher alle sehr allgemein gehalten. Das hat seinen Grund. Wenn wir über den Freistaat reden, dann stellt sich natürlich auch die Frage, wie sich das auf den Freistaat und seine Verwaltung niederschlägt. Sie haben das Thema angerissen und auch auf die Kooperation mit dem Land Baden-Württemberg verwiesen. Wirklich konkret geworden sind Sie leider nicht. Sie haben mehr über die Uni Breslau gesprochen als über die Rolle der KI in der Landesverwaltung. Dazu hätte man sich schon genauere Ausführungen gewünscht. Wenn Sachsen vorn mitspielen möchte, dann muss das natürlich auch für den Staat selbst gelten. Man hat fast den Eindruck, als sei es wie mit dem Onlinezugangsgesetz. Beides hat zwar nicht zwangsläufig miteinander zu tun. Bei beiden klaffen Anspruch und Wirklichkeit aber etwas auseinander. Herr Staatsminister, Sie sprachen von einem möglichen künftigen Pilotprojekt. Das vertröstet doch sehr auf morgen, vielleicht sogar auf übermorgen. Dabei haben wir so viele Baustellen vor uns, bei denen KI zwar kein Allheilmittel ist, mit dem alles besser wird, aber wo sie sicherlich einen Beitrag leisten kann. Es ist noch gar nicht so lange her, da haben wir hier über die Bürokratie gesprochen. Fragen des Personals stehen auch immer wieder im Raum. Wie viel Personal brauche ich für welche Aufgaben? Wo können einfache Verwaltungsabläufe und technische Assistenzsysteme – nichts anderes ist die KI – zu einem Umbau der Verwaltung führen? Ich hoffe, dass wir dazu beim nächsten Mal mehr hören. Das liegt letztendlich im direkten Zuständigkeitsbereich der Staatsregierung, im Bereich dessen, was Sie tatsächlich machen können. Zum Schluss bleibt noch die Hoffnung des Staatsministers, dass uns das Ganze klüger macht. Das muss sich noch erweisen. Wenn wir glauben, dass die KI unsere Probleme löst, indem sie für uns objektiv richtige Entscheidungen trifft oder gar metaphysische Wahrheiten generiert, dann wird das mit Sicherheit nicht passieren. Wenn wir dem jedoch offen und kritisch hinterfragend gegenüberstehen, die KI als Werkzeug verstehen und in den Alltag implementieren, dann wird sie auch den von vielen erhofften Nutzen stiften, und zwar ohne dass man Angst vor irrationalen Weltuntergangszenarien haben muss. In diesem Sinne vielen Dank! (Beifall bei den LINKEN) Zweiter Vizepräsident André Wendt: Herr Kollege Brünler sprach für die Fraktion DIE LINKE. Nun spricht Herr Kollege Dr. Gerber für die Fraktion BÜNDNISGRÜNE. Bitte schön, Herr Kollege.