Dr. Stefan Fulst-Blei

Vielen Dank. – Frau Präsidentin, liebe Kolleginnen und Kollegen, Kollege Nentwich! (Vereinzelt Heiterkeit) Am Ende dieser Szene, Herr Nentwich, am Ende – – Jetzt habe ich es. (Minister Manfred Lucha: ChatGPT hilft!) Am Ende dieser Szene in diesem Film fängt der junge Spock übrigens an, sich mit Mitschülern zu prügeln. Das zeigt auch einmal mehr, dass es an Schulen eben nicht nur um die Vermittlung von Fachlichkeit geht, (Abg. Nadyne Saint-Cast GRÜNE: Das stimmt!) sondern auch um soziale Kompetenzen. (Beifall bei der SPD sowie der Abg. Dr. Alexander Becker CDU und Alena Fink-Trauschel FDP/DVP – Vereinzelt Beifall bei den Grünen) Die Diskussion über Potenziale und Gefahren hinsichtlich des Einsatzes von künstlicher Intelligenz ist an Schulen tatsächlich in vollem Gange. Der Einsatz ist auch verführerisch: Es gibt große Potenziale hinsichtlich Lernwiederholung, Vertiefung, individualisierter Lerngeschwindigkeit. Natürlich sind auch die aktuelleren Entwicklungen – es ist ja jetzt nicht ganz neu – von Large Language Models wie ChatGPT sehr spannend. Sie, das Land, haben mit fAIrChat eine datenschutzkonforme Anwendung pilotiert und versprechen sich hiervon eine passgenaue Generierung von Unterrichtskonzepten und Materia- (Dr. Stefan Fulst-Blei) lien. Es kann auch ganz spannend werden, wenn man etwa an die Anpassung an Standards von Bildungsplänen denkt. Da kann potenziell viel Arbeit für Lehrkräfte eingespart werden. Aber immer muss natürlich der Qualitätsaspekt im Vordergrund stehen. Das zeigt: KI kann die Lehrkraft unterstützen, aber – da sind wir uns sicherlich einig – auf Dauer sicherlich nicht ersetzen. Deswegen müssen wir Schulen gezielt einbinden. Denkbar ist auch eine Unterstützung im Bereich der Korrekturen. Richtig spannend wird das sicherlich mit Blick auf die Rechtschreibung, wenn wir beispielsweise zuverlässige Systeme der Schrifterkennung haben. Vielleicht ist das auch ein Thema für Ihr neu gegründetes KI-Zentrum Schule zusammen mit der Dieter Schwarz Stiftung. Erlauben Sie mir übrigens den Hinweis: Ich habe mich schon gefragt, warum Sie wichtige Gruppen zu der Eröffnung nicht eingeladen haben. Der Landesschülerbeirat hätte sich beispielsweise für eine Einladung bedankt. Jenseits der technischen Möglichkeiten muss Schule aber auch der Raum für eine reflexive Auseinandersetzung mit KI sein. Das kommt mir auch heute in der Debatte wieder zu kurz. Sie haben es zwar angesprochen, aber die Ethical-AI-Debatte zeigt etwa, dass es großer Anstrengungen bedarf, um Fairness sicherzustellen – Gender, Alter, Herkunft. Die Anwendenden müssen wissen, wo hier auch Gefahren sind. Zwei Beispiele. In den USA wird KI etwa eingesetzt, um Verbrecher zu identifizieren. Sie ahnen es vielleicht bereits: Das System, so kam heraus, wurde in erster Linie mit Fotos von People of Color trainiert – Stichwort: Training on biased datasets. Hier wurden also Vorurteile digital fortgeschrieben. Die UNESCO weist auf ähnliche Probleme im Kontext der KI-Anwendung in der Justiz hin. Auch im rein technischen Bereich hat es bereits Schwierigkeiten gegeben. So wurde festgestellt, dass automatische Bremssysteme in modernen Automobilen People of Color schlechter erkennen als Weiße. Wie geht man denn damit um? Trotzdem einsetzen oder zurückstellen? Das sind nur zwei Beispiele für ethische Probleme, die im Rahmen des Unterrichts meines Erachtens thematisiert werden müssen. Auch in der schönen neuen Welt der Texterstellung durch KI gibt es fiese Falltüren. Ein schönes Beispiel ist hier das Problem der Halluzination. Dies umschreibt die Tendenz von Large Language Models wie ChatGPT, Antworten auch durchaus zu erdichten, also zu halluzinieren. Sprich: Wenn das System eine Antwort nicht genau weiß, dann erfindet es möglicherweise eine. ChatGPT rät Wort für Wort. Am Ende kann dann plötzlich durchaus in einem Text voller korrekter Aussagen – Zitat aus Wikipedia – eine sinnvoll plausible Zufallslüge stehen. (Zurufe der Abg. Thomas Poreski und Nadyne Saint- Cast GRÜNE) Statt künstlicher Intelligenz wird hier dann künstliche Blödheit erzeugt. (Heiterkeit des Abg. Dr. Matthias Miller CDU) e – 108. Sitzung – Donnerstag, 7. November 2024 Schon heute, Kollege Miller – so die Rückmeldung aus Universitäten –, reichen Studierende Arbeiten ein, die schlichtweg Nonsens sind. (Abg. Dr. Matthias Miller CDU: Gab es schon im- mer!) Auch hierauf soll die Schule eingehen, und die verantwortlichen Gremien sollen sie wirksam unterstützen. Schließlich sind uns die Gefahren mit Blick auf KI-erstellte Fakes zunehmend bewusst. Putin und seine braunen Brüder nutzen die Mittel bereits heute massiv, um freiheitliche Gesellschaften unter Druck zu setzen. So müssen Lehrkräfte heute daher z. B. auch Ausbildende zur Identifikation von Deepfakes sein. Kurz: Demokratiebildung ist auch hier immer stärker gefordert. (Beifall bei der SPD und des Abg. Ralf Nentwich GRÜNE) Zusammenfassend: KI bietet viel Potenzial. Es ist richtig, dass sich in Schulen damit auseinandergesetzt wird, nicht zuletzt auch, weil es längst von Schülerinnen und Schülern angewandt wird. Gerade Schule muss aber auch der Ort sein, um ethische Probleme anzusprechen, um Qualität in der Recherche sicherzustellen, um Demokratie gegen Deepfakes zu verteidigen. Lehrkräfte erhalten hier eine immer größere Bedeutung – ein Grund mehr, sie ordentlich zu behandeln. Oder, um es mit ChatGPT zu beschreiben, Frage: Was müsste in Baden-Württemberg passieren, damit Lehrkräfte sich besser behandelt fühlen? Antwort ChatGPT, Montag, 4. November 2024, 19:24 Uhr: Um Lehrkräfte in Baden-Württemberg besser zu unterstützen, wären eine deutliche Entlastung durch kleinere Klassen, mehr Personal und bessere Bezahlung sowie eine stärkere Einbindung in Entscheidungsprozesse und eine moderne digitale Ausstattung erforderlich. Solche Maßnahmen würden die Wertschätzung für den Lehrerberuf steigern und die Attraktivität sowie Nachhaltigkeit des Bildungswesens nachhaltig sichern. Entscheiden Sie selbst, ob Sie die Antwort für angemessen oder für Nonsens halten. (Beifall bei der SPD – Zuruf der Abg. Gabriele Rol- land SPD) Unsere Qualitätskontrolle sagt: Die Antwort ist korrekt. Ich danke Ihnen. (Beifall bei der SPD)