Kira Braun

Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und Kollegen! Meine Damen und Herren! 72 Stunden pro Woche, so viel Zeit verbringen wir im Schnitt im Internet. Das sind drei Tage, so viel wie noch nie. Fast jeder Zweite nutzt soziale Medien wie zum Beispiel TikTok, Instagram (Abg. Braun (SPD)) oder X als Informationsquelle für aktuelle gesellschaftliche und politische Nachrichten. Ganz lange Zeit galt eine ganz einfache Regel: Wenn wir ein Foto oder ein Video gesehen haben, dann gingen wir auch davon aus, dass das die Wirklichkeit ist. Das ist vorbei. Deepfakes ermöglichen es heute, täuschend echte Bilder, Videos oder auch Tonaufnahmen zu erzeugen, Inhalte, die nie passiert sind, aber vollkommen real wirken. Machen wir uns ehrlich, viele von uns würden sich vielleicht als digital affin bezeichnen, aber wie oft gehen wir in die Kommentarspalte unter irgendwelchen Postings, um zu überprüfen, ob das jetzt künstliche Intelligenz oder echt ist? Deepfakes sind längst Teil unseres Alltags geworden und sie tauchen in ganz unterschiedlichen Zusammenhängen auf, manchmal ganz harmlos zur Belustigung, als Meme im Internet, manchmal aber auch mit krimineller Absicht. Am Telefon meldet sich plötzlich eine junge Stimme, die vorgibt, die Tochter zu sein, die in Schwierigkeiten steckt und gerade ganz dringend Geld benötigt. In Wirklichkeit handelt es sich aber um eine KI-generierte Stimme und dann beginnt ein Betrug, der für viele Betroffene auch existenzielle wirtschaftliche Folgen haben kann. Deepfakes sind nicht nur Probleme einzelner Opfer, die gerade betroffen sind, sondern sie bedrohen unsere demokratische Öffentlichkeit. Wenn Videos, Bilder, Tonaufnahmen täuschend echt manipuliert werden können, entsteht ein ganz neues Risiko für Desinformation. Politikerinnen und Politikern können irgendwelche Worte in den Mund gelegt werden, die sie aber nie gesagt haben. Ganze Ereignisse können gefälscht werden. Gerade in Wahlkämpfen kann so etwas eine ganz enorme Wirkung entfalten. Wir wissen inzwischen auch sehr genau, dass das ganz gezielt genutzt wird, um politische Debatten in geschlossenen Gruppen - Signal ist ja für viele ein Stichwort -, in Messengerkanälen oder über koordinierte Kampagnen zu beeinflussen. Wenn Menschen wissen, dass Bilder und Videos manipulierbar sind, dann wächst auch die Versuchung, echte Aufnahmen einfach als Fälschung abzutun. Da kann jeder sagen: Das ist doch nur ein Deepfake, nur irgendein Video. - Dann geraten selbst Fakten unter Verdacht. Dann können Politiker lügen, betrügen, behaupten und leugnen. Es wird so normal sein, dass der Wahrheitsgehalt von solchen Aussagen immer weniger infrage gestellt wird. Das erleben wir gerade in den USA. Damit gerät ein zentraler Pfeiler unserer Demokratie ins Wanken: das Vertrauen in eine gemeinsame Realität. (Beifall von der SPD.) Wir erleben den Einsatz von Deepfakes dieser Tage auch massiv in den Krisen und Konflikten unserer Welt. Manipulierte Bilder und Videos werden genutzt, um Emotionen zu schüren, Vertrauen zu zerstören. So kursierte im Ukrainekrieg - manche von Ihnen werden es vielleicht gesehen haben - ein manipuliertes Video, das zeigen sollte, dass ein Junge mit Trisomie 21 zum Militärdienst gezwungen worden sei. Das Video wurde verbreitet, um Empörung auszulösen und die Ukraine zu diskreditieren. Von diesen Beispielen gibt es leider Tausende. Mit dem heutigen Antrag legen wir einen Fokus auf die Rolle von Deepfakes bei der Diskriminierung von Frauen. Deepfakes sind nämlich ein geschlechterspezifisches Problem. Bereits heute sind rund 96 Prozent der im Internet verbreiteten Deepfake-Videos pornografisch. Die Opfer sind fast ausschließlich Frauen, die Täter fast ausschließlich Männer. Wir sind überzeugt: Das ist kein technisches Randproblem. Das ist eine neue Form von geschlechterspezifischer Gewalt, ein Angriff auf ihre Würde, auf ihre Selbstbestimmung. Ganz häufig betroffen sind Frauen, die in der Öffentlichkeit stehen: Journalistinnen, Wissenschaftlerinnen, Politikerinnen, Künstlerinnen. Besonders viel Aufmerksamkeit hatte ein Deepfake von Taylor Swift erzeugt. Gefälschte pornografische Inhalte von ihr verbreiteten sich millionenfach im Netz. Ein einzelner Beitrag wurde über 47 Millionen Mal angesehen. Trotzdem dauerte es 17 Stunden, bis dieser Beitrag gelöscht wurde. 17 Stunden! Wir sprechen über eine der bekanntesten Frauen der Welt, über einen globalen Popstar mit enormer Reichweite, einem riesigen Netzwerk und den besten Anwaltskanzleien überhaupt im Rücken. Selbst in diesem Fall dauerte es 17 Stunden. Ich stelle mir eine ganz einfache Frage: Wie lange dauert es für eine ganz normale Frau, die nicht berühmt ist, kein Millionenpublikum hat, keine Anwälte einschalten und keine internationale Öffentlichkeit für sich mobilisieren kann? Für sie dauert es nicht 17 Stunden, für sie dauert es Wochen oder Monate. Deshalb müssen wir jetzt durchgreifen und Frauen und Mädchen schützen. (Beifall von der SPD und der CDU.) Machen wir uns ehrlich: Das Schlimme ist, dass es in vielen Fällen nie gelingt, diese Bilder wieder vollständig aus dem Netz zu entfernen. Denn was millionenfach verbreitet wurde, lässt sich nicht einfach zurückholen. Das Entscheidende ist: Die technischen Hürden dafür sinken immer weiter. Gerade durch KI kann jeder von uns mit wenigen Mausklicks, meistens kostenfrei, mit wenig Erfahrung solche Deepfakes erstellen. Ein besonders drastisches Beispiel dafür lieferte zuletzt die Plattform X mit ihrem KI-Tool Grok. Seit Nutzerinnen und Nutzer über dieses System Bilder generieren können, verbreiteten sich innerhalb allerkürzester Zeit massenhaft sexualisierte Bildfälschungen mit wenigen Worten wie „Put her in a bikini“ - mehr brauchte es nicht. (Abg. Braun (SPD)) Innerhalb von Sekunden konnten reale Personen in sexualisierte Darstellungen versetzt werden, oft ohne ihr Wissen - man muss es erst mal finden - und vor allem ohne jede Zustimmung. Schätzungen zufolge wurden in weniger als zwei Wochen Millionen solcher Bilder generiert. Wie reagierte die Plattform? - Zunächst gar nicht. Statt die Funktion sofort einzuschränken oder abzuschalten, machte sich der Eigentümer der Plattform Elon Musk - wir kennen ihn aus anderen Zusammenhängen - öffentlich über diese Kritik lustig. Erst als mehrere Länder Ermittlungen ankündigten, hat man technische Anpassungen vorgenommen. Auch das muss uns eine Lehre sein. Wir müssen diesen Tech-Konzernen Einhalt gebieten. (Beifall von der SPD.) Die Plattformregulierung kann ein scharfes Schwert gegen all den Hass und all diese Gewalt sein. Die EU muss dieses Schwert aber auch ziehen, liebe Kolleginnen und Kollegen. (Beifall von der SPD.) Diese Entwicklungen sind kein Zufall. Sie sind Teil eines Geschäftsmodells, das auf Aufmerksamkeit, Reichweite, Empörung und Erniedrigung basiert. Je stärker ein Inhalt Emotionen wie Empörung, Schock, Sensation auslöst - wir kennen das aus unserer politischen Arbeit -, desto besser funktioniert es im System der Plattformökonomie. Deshalb verbreiten sich solche Inhalte so rasant. Plattformen reagieren häufig erst dann, wenn öffentlicher oder politischer Druck entsteht. Ein netzpolitisch sinnvoller Ansatz muss dort liegen, wo die Macht liegt, nämlich bei den Plattformen selbst. Sie stellen die Infrastruktur bereit, sie gestalten die Algorithmen, sie entscheiden, welche Inhalte verstärkt angezeigt werden und welche nicht. Wenn wir digitale Gewalt wirksam bekämpfen wollen, dann müssen wir genau diese Plattformen viel stärker in die Verantwortung nehmen. Es braucht klare Haftungsregeln. Wir müssen manipulative Designmuster einschränken, die diese Aufmerksamkeit und Empörung gezielt verstärken. Wir brauchen unabhängige öffentliche Forschung über die Wirkung von Plattformmechanismen und eine Aufsicht, die diese Regeln tatsächlich durchsetzen kann. Ganz konkret heißt das auch: Plattformbetreiber müssen leicht zugängliche Meldewege für Betroffene bereitstellen. Es gibt schon jetzt Meldewege. Auf dem Papier funktionieren sie vielleicht, aber in der Realität ist es ganz anders. Sie sind kompliziert, intransparent und viel zu langsam. Gerade bei Inhalten, die nicht sofort eindeutig strafbar erscheinen, dauert eine Löschung oft viel zu lange. Für Betroffene bedeutet das: Die Bilder verbreiten sich weiter, während sie selbst keine Möglichkeit haben, sich zu wehren - sozusagen eine digitale Ohnmacht. Natürlich gehört auch dazu, bestehende Strafbarkeitslücken beim Missbrauch von Deepfake-Technologien zu schließen. Der strafrechtliche Schutz von Persönlichkeitsrechten muss auch im digitalen Raum wirksam greifen. Ich wünsche mir, dass wir das auf Bundesebene miteinander diskutieren und ganz ohne Schaum vor dem Mund miteinander beraten, wo Regelungslücken sind und wie wir diese gemeinsam schließen können. (Beifall von der SPD.) Meine Damen und Herren, technologischer Fortschritt bringt immer Chancen, birgt aber auch Risiken. Die Frage ist nicht, ob wir solche Technologien nutzen. Die Frage ist, ob wir klare Regeln schaffen, die Missbrauch verhindern können. Der digitale Raum ist heute ein zentraler Ort unserer Öffentlichkeit. Wenn wir ihn demokratisch, sicher und frei haben wollen, dann müssen wir auch die Verantwortung derjenigen benennen, die ihn gestalten. Gleichzeitig brauchen wir mehr Prävention. Medienkompetenz - wir haben eben darüber gesprochen - muss früh beginnen. Deshalb will ich noch mal sagen, wie wichtig und richtig es ist, dass wir in unseren Schulen bei der digitalen Bildung genau darauf einen Schwerpunkt legen und dies bei uns im Saarland einen sehr großen Stellenwert einnimmt, liebe Kolleginnen und Kollegen. (Beifall von der SPD.) Wir sehen aber auch, dass Innovation ein Teil der Lösung sein kann. Das Start-up Detesia aus dem Saarland arbeitet daran, solche Deepfakes automatisiert zu erkennen und sichtbar zu machen. Ich komme zum Schluss: Innovation braucht Freiheit. Freiheit im Netz braucht aber auch Regeln, liebe Kolleginnen und Kollegen. (Beifall von der SPD.)