Richterliche Unabhängigkeit durch KI bedroht?
Eine von vielen Fragen, die der NRW-Landtag den Experten gestellt hat…
In meinem vorangegangenen Artikel Einsatz von ChatGPT im Justizbereich habe ich von der Sachverständigenanhörung im NRW-Landtag im Juni 2023 berichtet. In meinem heutigen Beitrag wollen wir uns die Antworten der Experten auf die erste einer Reihe von dort gestellten Fragen näher ansehen:
In welchem rechtlichen Verhältnis stehen die „richterliche Unabhängigkeit“ des Art 97 GG und das Recht jeden Einzelnen auf den „gesetzlichen Richter“ Art 101 I 1 GG bzgl. der Verwendung von ChatGPT oder einer vergleichbaren KI-Software durch die Justiz?
Frage 1 von 20 des Rechtsausschusses des Landtags Nordrhein-Westfalen am 13.06.2023
Hier die (auszugsweisen) Antworten der Experten:
[…] Der Richter i. S. d. Art. 92 Hs. 1 GG – und auf eben diesen bezieht sich auch die richterliche Unabhängigkeit in Art. 97 Abs. 1 GG – ist eine natürliche Person. Die Rechtsprechung ist den Richtern „anvertraut“ – eine verfassungsrechtliche Beschreibung, die sich nur schwerlich auf ein von einem US-amerikanischen Unternehmen betriebenes Sprachmodell beziehen ließ. Der Richterbegriff des Grundgesetzes zielt auf eine rechtsgelehrte Persönlichkeit. In diesem Begriffsverständnis werden die Richter ernannt: Die Vorstellung, dass der Bundespräsident, der Ministerpräsident eines Landes bzw. der jeweils zuständige Minister oder der Richterwahlausschuss ChatGPT oder ein vergleichbares KI-System als Richter ernennt (vgl. etwa Art. 60 Abs. 1 GG; Art. 102 LV RhPf; §§ 10 ff. DRiG) und diesem eine Urkunde aushändigt (vgl. etwa § 17 Abs. 1 DRiG), mutet fremd an.
Aus der Historie heraus begründet und dem Telos des Art. 92 Hs. 1 GG folgend, darf es keine entmenschlichende und keine entmenschlichte Rechtsprechung geben. […]
Rechtsanwalt Dr. David Nink
[…] Daraus folgt zunächst ganz schlicht, dass eine KI-Software wie ChatGPT jedenfalls kein Richter sein kann. Dies schließt jedoch nicht per se aus, dass der menschliche Richter bzw. die Justiz als solche Werkzeuge wie ChatGPT zur Erfüllung ihrer Aufgaben verwenden darf.
LLMs wie ChatGPT können sehr vielfältig eingesetzt werden. Konkrete Anwendungsfelder von LLMs wie ChatGPT sind z.B. bezogen auf die Justiz – zunächst losgelöst von ihrer rechtlichen Zulässigkeit – vor allem: allgemeine Textbearbeitung (z.B. Rechtschreib- und Grammatikprüfung, Paraphrasierung, Entitätenextraktion, d.h. Markierung von Begriffen im Text und Zuordnung zu ihrer Klasse: z.B. Düsseldorf ➔ Ort; Verwaltungsgericht ➔ Institution), Textzusammenfassung, Übersetzung und insbesondere allgemein Textgenerierung, d.h. das Verfassen von Dokumenten (z.B. einfache Schreiben wie z.B. Ladungen, Terminmitteilungen, ggf. anspruchsvollere Schreiben wie z.B. Aktenvermerke oder Verfügungsentwürfe. […]
Prof. Dr. Christoph Johannisfeuer, Hochschule für Polizei und öffentliche Verwaltung Nordrhein-Westfalen
Derzeit ist die wohl einhellige Meinung in Praxis und Rechtswissenschaft, dass KI- Systeme menschliche Richterinnen und Richter nicht ersetzen und deren richterliche Unabhängigkeit auch nicht gefährden dürfen. Richterinnen und Richter dürfen kraft ihrer unabhängigen Entscheidungsfindung auch nicht (mittelbar) gehalten sein, KI-Systeme für ihre Tätigkeit nutzen zu müssen. Insofern muss bei der Personalbedarfsberechnung […] sichergestellt werden, dass Richterinnen und Richter nicht faktisch auf KI-Lösungen zurückgreifen müssen, weil dies in die Berechnung der Bearbeitungszeit „eingepreist“ ist.
Richter am Landgericht Dr. Christian Schlicht und Prof. Dr. Simon J. Heetkamp, LL.M.
[…] Art. 97 Abs. 1 GG stellt die Grenze von Automatisierungsbestrebungen in der Justiz dar. Wo genau diese Grenze zu ziehen ist, ist eine hochkomplexe Frage, die die deutsche rechtswissenschaftliche Diskussion in den nächsten Jahren zwingend beantworten muss. Der Vorschlag einer vollständigen Entscheidung dürfte nicht zulässig sein. Ob aufgrund von Vorgaben der Richterin oder des Richters aber Vorschläge für Teilarbeitsschritte durch ein LLM gemacht werden dürfen, ist unklar. Hier ist es notwendig, dass die Richterschaft sich aktiv an der Meinungsbildung beteiligt, da an dieser Stelle die Weichen für den Richterberuf der Zukunft gestellt werden. […]
Richterin am Amtsgericht Isabelle Biallaß, Mitglied des Vorstands Deutscher EDV-Gerichtstag e.V.
[…] Auf die Praxis der Strafrechtspflege heruntergebrochen kommt der Einsatz von LLM- Anwendungen anstelle eines Richters wegen des in Art. 92 GG und Art. 97 Abs. 2 GG verfassungsrechtlich (und einfachgesetzlich in §§ 1, 2, 5, 5a f., 27 Abs. 1 DRiG) kodifizierten Grundsatzes, dass es sich bei Richtern um natürliche Personen handeln muss, nicht in Betracht. LLM dürfen jedoch in Form von Assistenzsystemen eingesetzt werden. […]
Auch hier erscheinen jedenfalls in standardisierten Verfahren, die eine stark formalisierte Prüfung erfordern, unterstützende und entlastende Einsatzmöglichkeiten von LLM und algorithmischen Systemen insgesamt denkbar, die mit der sachlichen Unabhängigkeit von Rechtspflegerinnen und Rechtspflegern vereinbar sind.
Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen – ZAC NRW
Zulässig dürfte der Einsatz von LLM schließlich sein, soweit im Bereich der staatsanwaltschaftlichen Tätigkeit neben den Assistenzsystemen auch beweismittelerschließende Techniken auf LLM-Basis eingesetzt werden können. […]
Offensichtlich sind sich die Experten in einem Punkt absolut einig: ChatGPT und vergleichbare KI-Systeme dürfen keine Urteile sprechen – das ist schlicht mit der deutschen Verfassung nicht vereinbar. Es besteht jedoch die Möglichkeit, dass KI-gestützte Tools in bestimmten Bereichen des Rechts unterstützend eingesetzt werden können, um beispielsweise Informationen bereitzustellen oder auf bestimmte rechtliche Fragen hinzuweisen. Letztendlich liegt es an den verantwortlichen Institutionen und Gesetzgebern, klare Richtlinien und ethische Standards festzulegen, um sicherzustellen, dass die richterliche Unabhängigkeit gewahrt bleibt.
Diese Fragen sind weiterhin kritisch zu diskutieren und Wege aufzuzeigen, wie der Einsatz von KI in der Justiz im Einklang mit den grundlegenden Prinzipien der Rechtsstaatlichkeit und der richterlichen Unabhängigkeit gestaltet werden kann. Denn ganz ohne KI wäre auch die Justiz in Deutschland nicht zukunftsfähig.
Schlagworte: ChatGPT, Jura, Jurist:innen, KI, Richter, Richter:innen, Richterliche Unabhängigkeit
