Prof. Dr. Speitkamp

Herr Präsident, meine Damen und Herren, die Mündliche Anfrage des Abgeordneten Wolf beantworte ich namens der Landesregierung wie folgt: Die Herausforderungen, Chancen und Risiken von KI-Systemen der Schulen waren bereits Gegenstand der Sitzung des Ausschusses für Bildung, Jugend und Sport am 31. März 2023. Gern beantworte ich nun auch im Rahmen der Fragestunde noch einmal Ihre Anfragen, die bereits Gegenstand der Erörterung in der Ausschusssitzung waren. Zu Frage 1: Wie bereits in der Sitzung des Ausschusses ausgeführt, lassen sich generell Chancen und Risiken generativer Softwaremodelle, die auf künstlicher Intelligenz basieren, für den Bildungsbereich aktuell nur grob abschätzen. Es handelt sich um eine hochdynamische und rasant fortschreitende Entwicklung. Generative KI-Modelle können unter anderem Texte in einer Qualität erzeugen, dass oftmals nicht zu erkennen ist, ob sie von einem Menschen produziert wurden oder nicht. Seitdem Ende November 2022 das generative KI-Modell ChatGPT veröffentlicht wurde und frei zugänglich ist, ergeben sich auch für den schulischen Alltag viele Fragen. Das Thüringer Ministerium für Bildung, Jugend und Sport vertritt die Auffassung, dass Schülerinnen und Schülern im Unterricht fundierte und nachhaltige Kompetenzen vermittelt werden sollen, die ihnen einen konstruktiven und produktiven Umgang mit generativen KI-Modellen ermöglichen. Es ist festzustellen, dass ein grundsätzliches Verbot des Einsatzes von generativen KI-Modellen in den Schulen realitätsfern und nicht durchsetzbar ist. Vielmehr kommt es darauf an, einen kompetenten Umgang mit generativen KI-Modellen für eine erfolgreiche Anwendung in Ausbildung, Beruf und Alltagswelt zu entwickeln. Dem kann und wird sich Schule nicht verschließen. Den Rahmen gibt die 2018 erstellte Digitalstrategie Thüringer Schule vor. Hier ist die verantwortungsvolle Unterrichtsgestaltung durch die Thüringer Lehrkräfte und ihre kontinuierliche Fortbildung und Professionalisierung festgelegt. In diesem Sinn setzen sich die Thüringer Lehrkräfte mit positiven Wirkungen gleichermaßen auseinander wie mit negativen, um das Lernen und den Kompetenzaufbau der Kinder- und Jugendlichen für die Zukunft zu sichern. Es besteht die Notwendigkeit einer gemeinsamen Anstrengung von Schule, Schulaufsicht, der Lehreraus- und ‑ fortbildung, das Thema auch für die Schulen weiter zu erschließen. Für die Auseinandersetzung mit dem Themenfeld ist die Lehrkräftefortbildung zentral. Neben den bisherigen Aktivitäten des Thüringer Instituts für Lehrerfortbildung, Lehrplanentwicklung und Medien besteht die Initiative „KI in der schulischen und außerschulischen Bildung“. Hier entwickeln Vertreterinnen und Vertreter des ThILLM, der Landesmedienanstalt, der Stiftung für Technologie, Innovation und Forschung Thüringen, also STIFT, und weitere Partner ein umfangreiches Fortbildungsangebot zum Thema. Zu Frage 2: Im Zusammenhang mit dem Einsatz von generativen KI-Modellen im Unterricht sind verschiedene rechtliche Aspekte zu beachten und insbesondere im Hinblick auf die Verarbeitung, Auswertung und gegebenenfalls Weitergabe von personenbezogenen Daten, die derzeit noch nicht abschließend bewertet werden können. Das ist auch deswegen nicht möglich, weil die jeweiligen Anwendungsmöglichkeiten und Nutzungsbedingungen von generativen KI-Modellen unterschiedlich sein können. Unabhängig davon gilt, dass der Einsatz von generativen KI-Modellen im Unterricht wie bei der Nutzung einer Online-Plattform oder einer App auch nur unter Beachtung der geltenden datenschutzrechtlichen Vorgaben erfolgen darf. Die Verantwortung für die Einhaltung des schulischen Datenschutzes trägt die Schulleitung. Dabei ist sorgfältig zu prüfen, inwieweit personenbezogene Daten der Nutzerinnen und Nutzer anfallen und gegebenenfalls technische und organisatorische Maßnahmen zu deren Schutz zu ergreifen sind. Hinweise darauf, welche Daten der Anbieter eines generativen KI-Systems verarbeitet, finden sich insbesondere in der Datenschutzerklärung und den allgemeinen Geschäftsbedingungen. Dies können zum Beispiel Daten sein, die zur Nutzung grundsätzlich erforderlich sind wie bei der Erstellung eines Kontos – hier sind eventuell Altersgrenzen zu beachten –, aber auch solche Daten, die bei der konkreten Nutzung automatisch entstehen. Wichtig ist daher, dass ein Anbieter transparent über seine Datenverarbeitung und insbesondere über die Rechte auf Löschung informiert. Mit Blick auf verschiedene Nutzungsszenarien in Schule und die bisherigen Erkenntnisse über die Nutzungsbedingungen generativer KI-Modelle wie zum Beispiel ChatGPT lassen sich die getroffenen Aussagen weiter untersetzen und Hinweise ableiten. Mit dem Ziel, diese Informationen leicht zugänglich zur Verfügung zu stellen, hat das TMBJS den Handlungsleitfaden „Umgang mit generativen KI-Modellen“ soeben am 25. April 2023 unter bildung.thueringen.de veröffentlicht. Zu Frage 3: Zunächst sei hier auf die Antwort zu Frage 2 verwiesen. Die Rechtsgrundlage für die skizzierte datenschutzrechtliche Einordnung generativer KI-Modelle ist die Datenschutz-Grundverordnung. Die Datenschutz-Grundverordnung kommt bereits jetzt umfänglich bei der datenschutzrechtlichen Bewertung zur Anwendung. Weitere rechtliche Bewertungen hängen zum Beispiel davon ab, unter welchen Rahmenbedingungen die generativen KI-Modelle zum Einsatz kommen und welche Aufgaben damit bearbeitet werden, siehe auch gleich die Antwort auf Frage 4. Beispielsweise können bezogen auf die Gestaltung von Hausaufgaben im Hinblick auf generierende KI-Modelle wie zum Beispiel ChatGPT Anknüpfungspunkte in der Thüringer Schulordnung gefunden werden. Die hochdynamische Entwicklung rund um die Verwendung von generativen KI-Modellen wird seitens des TMBJS genau verfolgt und die weitere Auseinandersetzung auch in Abstimmung mit anderen Ländern im Rahmen etablierter und neu gegründeter Arbeitsgruppen der Kultusministerkonferenz begleitet. Und zu Frage 4: Pauschale Antworten lassen sich an dieser Stelle nicht geben. Die rechtlichen Konsequenzen hängen davon ab, welche Rahmenbedingungen für die Erledigung der jeweiligen Aufgabe gestellt sind. Die rechtlichen Rahmenbedingungen sind zunächst durch die Vorschriften des Thüringer Schulgesetzes und der jeweiligen Schulordnung, zum Beispiel bei einer Täuschung, umrissen. Sollte es zu Täuschungshandlungen kommen, ergibt sich das Verfahren aus den Grundsätzen der Leistungsbewertung § 48 Thüringer Schulgesetz in Verbindung mit den jeweils einschlägigen Vorschriften der Schulordnungen. Um solche sowohl für Schülerinnen und Schüler als auch für Lehrkräfte belastende Situationen zu vermeiden, sollten die Rahmenbedingungen für die Erledigung der jeweiligen Aufgabe vorher deutlich kommuniziert und die Aufgaben bereits präventiv möglichst so gestellt werden, dass sie nicht ausschließlich mit Hilfe von generativen KI-Modellen erledigt werden können. Im Handlungsleitfaden „Umgang mit generativen KI-Modellen“, der, wie gesagt, am 25. April 2023 auf unserer Homepage veröffentlicht wurde, werden Lehrkräften Hinweise gegeben, welche Vereinbarungen zur Kenntlichmachung der Verwendung von generativen KI-Modellen mit den Schülerinnen und Schülern getroffen werden können. Auch wenn diese Hinweise keine abschließenden Klärungen sein können, sind sie ein belastbarer erster Zugang. Vielen Dank.