Jan Lehmann

Ich brauche keine Fragen. Ich gebe die Antworten auch so. – Danke! [Sebastian Schlüsselburg (LINKE): Ha, ha!] Außerdem könnte die KI aufgezeichnete Verfahren in Schreibtext umwandeln. Die KI könnte die Übersetzung von Unterlagen und auch ermüdende Tätigkeiten wie die Anonymisierung von Entscheidungen übernehmen. Aber wie eingangs erwähnt, sehe ich den Einsatz von KI auch in der Justiz eben nicht unkritisch. Natürlich gibt es Aufgaben, die die KI nicht übernehmen kann und nicht übernehmen soll, denn es gibt einen grundgesetzlichen Anspruch auf eine richterliche Entscheidung durch einen Menschen – das hat Frau Dr. Vandrey auch gerade erwähnt –, nämlich eine Richterin oder einen Richter, die über die fachliche Expertise, Empathie und Lebenserfahrung, auch das hat Frau Dr. Vandrey zitiert, verfügen. Nur so sind die Unabhängigkeit und die nachvollziehbare Entscheidung zu komplizierten Sachverhalten gewährleistet und machen Entscheidungen glaubhaft. Eine KI darf nie die richterliche Unabhängigkeit einschränken oder sogar umgehen. Eine KI darf nicht die letzte Entscheidung treffen. Die potenziellen Probleme, die es dabei gäbe, sind bekannt. Die KI-Technologie der letzten Jahre, die scheinbar so fantastische Erfolge vorzuweisen hat, ist für Menschen, die sie nutzen, meist doch eine Blackbox. Wir kennen zwar die Trainingsdaten für die KI und können die Gewichtung einzelner Daten bestimmen, also wie groß der Einfluss der einzelnen Fakten jeweils auf die herauskommende Entscheidung sein soll. Dennoch sollen die Systeme selbst lernen und sich weiterentwickeln, und dann wissen wir eben nicht mehr so genau, ob das in unserem Sinne ist, was die Maschinen da ausgeben. Hier ist Kontrolle notwendig, da sich die KI alles andere als diskriminierungsfrei erwiesen hat. Eine KI gefüttert mit Gerichtsurteilen könnte bestehende Diskriminierungen verfestigen oder sogar neue erfinden. [Beifall von Dr. Petra Vandrey (GRÜNE) und Sebastian Schlüsselburg (LINKE)] Ja, Diskriminierung kann durch KI erfunden werden und sogar neue erfinden, die uns aufgrund der Intransparenz des Verfahrens innerhalb der KI-Technologie überhaupt nicht bewusst werden könnten. Das ist die große Gefahr. Nein, die letzte Entscheidung muss immer beim Menschen bleiben, bei der Richterin oder dem Rechtspfleger liegen. Es muss auch immer mehr als nur ein menschliches Abnicken sein, was mit den Ergebnissen der KI-Information gemacht wird. Das sind Fragen und Problemstellungen, die diskutiert werden müssen und die wir heute auch diskutieren. Hilfreiche neue Technologien setzen sich durch. Es ist aber an uns, sie nach unseren Regeln zu gestalten, insofern ist alles richtig, und in Berlin, weil naheliegend, die bestehende Plattform des Cyber-Innovation-Hub und das Legal-Tech-Center für die Berliner Justiz weiter auszubauen und zu stärken und innovative Ansätze zu fördern, die die digitale Infrastruktur für die Berliner Justiz verbessern, für Berlin, für die Berlinerinnen und Berliner. – Vielen Dank! [Beifall bei der SPD – Vereinzelter Beifall bei der CDU]