KI als Gamechanger in der Justiz?

14.09.2024 in Jura & Lehre

Impressionen vom 33. EDV-Gerichtstag in Saarbrücken

Eröffnung

Die Eröffnungsansprachen des 33. EDV-Gerichtstages thematisierten die Digitalisierung und den Einsatz von Künstlicher Intelligenz (KI) in der Justiz. Die Keypoints der jeweiligen Redner:

Anke Morsch (Vorsitzende des EDV-Gerichtstags): Morsch hob die große Bedeutung des EDV-Gerichtstags als Forum für digitale Innovation hervor. Sie betonte, dass KI die Justiz nachhaltig verändern könnte und appellierte für eine enge Zusammenarbeit zwischen Recht und Technologie, um neue Standards zu setzen.
Dr. Angelika Schlunk (Staatssekretärin im Bundesministerium der Justiz): Schlunk sah KI vor allem als Chance und betonte die Notwendigkeit einer gemeinsamen KI-Strategie von Bund und Ländern. Sie sprach sich für standardisierte Schnittstellen und eine transparente Regulierung aus, um Fehlleistungen und Verzerrungen der KI zu minimieren.
Dr. Jens Diener (Justizstaatssekretär des Saarlandes): Diener konzentrierte sich auf die Herausforderungen des Föderalismus bei der Digitalisierung der Justiz. Er kritisierte den Flickenteppich der IT-Lösungen in Deutschland und rief zu mehr Zusammenarbeit und Konsolidierung auf, um KI erfolgreich in der Justiz einzusetzen.
Prof. Dr. Dominik Brodowski (Vizepräsident der Universität des Saarlandes): Brodowski hob die Bedeutung der interdisziplinären Forschung an der Universität hervor und betonte die Rolle des EDV-Gerichtstags als Plattform für den Dialog zwischen Juristen und Informatikern. Er sah KI als Gamechanger, dessen Einsatz allerdings sorgfältig gesteuert werden müsse, um die Balance zwischen Mensch und Maschine zu wahren.
Prof. Dr. Christoph Gröpel (Dekan der Rechtswissenschaftlichen Fakultät): Gröpel verglich den EDV-Gerichtstag mit einer festlichen Tradition und betonte die kontinuierliche Unterstützung der Universität. Er plädierte augenzwinkernd für den Mut, deutsche statt englischer Begriffe wie „Gamechanger“ zu nutzen, und warnte vor den Abhängigkeiten der Justiz von Strom und Technik in Krisensituationen.

Alle Redner betonten die Chancen der Digitalisierung und KI in der Justiz, verwiesen aber auch auf die Notwendigkeit klarer Regulierungen, einer engen Zusammenarbeit und eines verantwortungsvollen Umgangs mit neuen Technologien. Die Eröffnungsveranstaltung kann hier auf dem YouTube-Kanal des EDV-Gerichtstags in voller Länge angesehen werden.

Vortrag: Rechtsstaat im digitalen Zeitalter

Prof. Dr. Henning Radtkes Vortrag, der unter dem Titel „Rechtsstaat im digitalen Zeitalter“ stand (hier in voller Länge auf YouTube), befasste sich umfassend mit den Herausforderungen und Implikationen der Digitalisierung und der Künstlichen Intelligenz (KI) für den Rechtsstaat. Hier eine Zusammenfassung seiner wesentlichen Punkte:

1. Herausforderungen für die demokratische Willensbildung

Digitale Manipulation: Radtke betonte, dass soziale Medien und KI erhebliche Auswirkungen auf die demokratische Willensbildung und Wahlen haben können. Die Fähigkeit von KI, Wahlentscheidungen zu beeinflussen und Informationen zu manipulieren, stellt eine erhebliche Herausforderung für die Wahrheitsprüfung und die Verantwortung für den Informationsgehalt dar.
Transparenz und Wahrheit: Er stellte die Frage, wie im digitalen Zeitalter die Wahrheit einer Information überprüft werden kann und wer für die Richtigkeit verantwortlich ist, insbesondere in einem Umfeld, in dem KI-generierte Inhalte immer schwerer von echten zu unterscheiden sind.

2. Schutz der Freiheitsrechte im digitalen Zeitalter

Reichweite bestehender Schutzmechanismen: Radtke hinterfragte, ob die etablierten Mechanismen zum Schutz der Freiheitsrechte, wie etwa das Recht auf informationelle Selbstbestimmung (Art. 2 I iVm Art. 1 I GG), im digitalen Zeitalter noch ausreichend sind. Er diskutierte, ob neue Strategien erforderlich sind, um das bisherige Schutzniveau zu gewährleisten.
Abwehrrechtliche Dimension: Der Schutz der informationellen Selbstbestimmung wurde ursprünglich als Schutz vor staatlichem Zugriff auf persönliche Daten entwickelt. Radtke betonte, dass diese Dimension weiterhin relevant ist, insbesondere angesichts der zunehmenden Datenerfassung durch mobile Geräte.

3. Richterliche Unabhängigkeit und KI

Gefahr für die richterliche Unabhängigkeit: Radtke äußerte Bedenken, dass der Einsatz von KI in der Justiz die richterliche Unabhängigkeit (Art. 92, 97 GG), untergraben könnte. Wenn KI-gestützte Systeme in die juristische Entscheidungsfindung eingebunden werden, stellt sich die Frage, inwieweit die richterliche Gewalt, wie sie im Grundgesetz verankert ist, noch gewährleistet ist.
Einsatz in der Justiz: Er warnte vor der Gefahr, dass KI-generierte Programme Entscheidungen analysieren und vorschlagen könnten, was die Rolle des menschlichen Richters im Entscheidungsprozess infrage stellt.

4. Verfassungsrechtliche Grenzen für den Einsatz von KI

Transparenz und Nachvollziehbarkeit: Ein zentraler Punkt war die Notwendigkeit, die Entscheidungsprozesse von KI-Systemen transparent zu gestalten. Radtke betonte, dass die Intransparenz von KI-Entscheidungen mit dem rechtsstaatlichen Transparenzgebot kollidieren könnte.
Effektiver Rechtsschutz: Er betonte, dass der Zugang zum Recht durch den Einsatz von KI möglicherweise verbessert werden könnte, doch müsse gewährleistet sein, dass der rechtssuchende Bürger weiterhin einen wirksamen und nachvollziehbaren Rechtsschutz erhält (Art. 19 IV GG).

5. Zukunftsperspektiven und rechtliche Rahmenbedingungen

Notwendigkeit einer Weiterentwicklung: Radtke argumentierte, dass es notwendig sei, die grundrechtlichen Schutzmechanismen weiterzuentwickeln, um den Herausforderungen des digitalen Zeitalters gerecht zu werden. Dabei müsse jedoch immer der verfassungsrechtliche Rahmen beachtet werden, um die Grundrechte auch in einer sich wandelnden technologischen Umgebung zu schützen.
Bedeutung der Grundrechte: Abschließend betonte Radtke, dass die Verfassung deutliche Grenzen für den Einsatz von KI in der Justiz setzt und dass es die Aufgabe der Juristen ist, diese Grenzen im Sinne eines funktionierenden Rechtsstaates zu wahren.

Prof. Dr. Radtke schloss seinen Vortrag mit dem Appell, dass der Schutz der informationellen Selbstbestimmung und die Wahrung der richterlichen Unabhängigkeit auch im digitalen Zeitalter höchste Priorität haben müssten.

Das war nicht nur ein Eröffnungsvortrag, sondern zugleich eine interessante verfassungsrechtliche Vorlesung, weshalb ich mir als Dozent für Öffentliches Recht die Freude bereitet habe, Radtkes Vortrag in meinem Beitrag Rechtsstaat im digitalen Zeitalter noch einmal gesondert – verfassungsnormenorientiert – zu würdigen.

Podiumsdiskussion

In der an Radtkes Vortrag anschließenden Podiumsdiskussion (hier in voller Länge auf YouTube) haben die Panel-Teilnehmer:innen folgende Positionen vertreten:

Prof. Dr. Elisabeth André (Informatikerin, Expertin für Mensch-Maschine-Interaktion):

Prof. André legte den Schwerpunkt auf die Transparenz und Erklärbarkeit von KI-Entscheidungen in der Justiz. Sie betonte, dass KI-Systeme nur dann in rechtlichen Prozessen eingesetzt werden sollten, wenn ihre Entscheidungswege nachvollziehbar sind und die Ergebnisse für die Beteiligten verständlich gemacht werden können. André warnte vor den Risiken, dass unüberwachte oder intransparente KI-Systeme unbewusste Diskriminierungen und Verzerrungen verstärken könnten und rief dazu auf, verstärkt auf ethische Standards und technische Lösungen zu setzen, die diese Probleme minimieren.

Dr. Stefan Brink (Landesbeauftragter für den Datenschutz und die Informationsfreiheit Baden-Württemberg):

Dr. Brink unterstrich die Bedeutung des Datenschutzes und der Bürgerrechte im Kontext des Einsatzes von KI in der Justiz. Er warnte davor, dass die Einführung von KI ohne klare gesetzliche Regelungen den Grundrechtsschutz gefährden könnte, und plädierte dafür, den Datenschutz konsequent in die Entwicklung und Anwendung von KI-Systemen zu integrieren. Brink hob hervor, dass die Justizgewährleistungspflicht nicht durch technologische Innovationen untergraben werden darf und dass ein effektiver Rechtsschutz gewährleistet bleiben muss.

Dr. Florian Geißler (Physiker und KI-Forscher):

Dr. Geißler betonte die potenziellen Vorteile der Automatisierung durch KI, insbesondere bei der Erledigung repetitiver und standardisierter Aufgaben in der Justiz, die Arbeitsentlastungen für Richter und Anwälte schaffen könnten. Gleichzeitig mahnte er zur Vorsicht beim Einsatz von KI in komplexeren Entscheidungsprozessen, da eine unkritische Übernahme von KI-Vorschlägen die richterliche Unabhängigkeit gefährden könnte. Geißler plädierte dafür, dass KI-gestützte Systeme stets als unterstützende Werkzeuge betrachtet werden und die finale Entscheidungskompetenz bei den Menschen verbleiben muss.

Thomas Langkabel (National Technology Officer, Microsoft Deutschland):

Langkabel sprach über die neuesten technologischen Entwicklungen, insbesondere den Einsatz von KI in der Justiz, etwa durch virtuelle Verhandlungen und den Einsatz von Avataren. Er betonte die Möglichkeiten, die KI bietet, um die Justiz zugänglicher und effizienter zu gestalten, warnte jedoch vor den damit verbundenen Risiken, insbesondere der möglichen Abhängigkeit von Technologie und der Gefahr von Fehlentscheidungen durch fehlerhafte oder voreingenommene Algorithmen. Langkabel plädierte für eine enge Zusammenarbeit zwischen Technikern, Juristen und Ethikern, um eine verantwortungsvolle Implementierung sicherzustellen.

Dr. Jutta Kemper (Ministerialdirigentin im Bundesministerium der Justiz):

Dr. Kemper beleuchtete die regulatorischen Herausforderungen, die durch den Einsatz von KI in der Justiz entstehen, und betonte die Notwendigkeit, bestehende rechtliche Rahmenbedingungen anzupassen. Sie sprach über die Schwierigkeiten, die Dynamik technologischer Entwicklungen mit den langsameren Prozessen der Gesetzgebung in Einklang zu bringen. Kemper argumentierte, dass der Rechtsstaat flexibel genug sein muss, um auf technologische Neuerungen zu reagieren, ohne die bewährten Prinzipien von Rechtssicherheit, Transparenz und richterlicher Unabhängigkeit zu gefährden.

Ein unüberhörbares erstauntes Raunen ging durchs Plenum, als Dr. Kemper prognostizierte, dass bis zu dem Tag, in dem KI selbstverständlich zum Arbeitsalltag in der Justiz gehört, nach ihrer Einschätzung noch mindestens 20 Jahre vergingen.

Arbeitskreise

Zahlreiche – parallel tagende – Arbeitskreise bot auch der EDVGT 2024. Hier ein paar Schlaglichter auf die von mir besuchten Veranstaltungen:

Justice Operations

Hier wurde von Bernadette Kell (Leitung des Innovation Hub beim BMJ, Berlin), Prof. Dr. Bettina Mielke (Präsidentin des LG Ingolstadt), Jörg Müller, (Präsident des OLG Karlsruhe), Henning Schumacher (Leiter des Zentralen IT-Dienstleisters der Justiz NRW) sowie Dr. Jens Wagner (Counsel, A&O Shearman) angeregt diskutiert, wie die digitale Transformation in der Justiz und wie Menschen, Prozesse und Technologien zusammenwirken können. Experten aus verschiedenen Bereichen beleuchteten Herausforderungen und mögliche Lösungen für eine zukunftsfähige Justiz.

Generative KI und Urheberrecht

In diesem Arbeitskreis wurde von den Referenten Dr. Andreas Sesing-Wagenpfeil (Akademischer Rat, Universität des Saarlandes) und Dr. Axel Grätz (Rechtsanwalt bei Oppenhoff), die ihre Expertise im Bereich Bürgerliches Recht, Urheberrecht und KI-Implementierung teilen, das enorme Potenzial generativer KI-Systeme und deren komplexes Verhältnis zum Urheberrecht, einschließlich der Nutzung von Werken für das Training und der Schutzfähigkeit des Outputs beleuchtet.

Digitale Beweise und Deep Fakes

Hier wurde die Manipulation digitaler Beweise, einschließlich gefälschter Fotos, Videos und Tonaufnahmen, und wie diese erkannt werden können, behandelt. Dabei hat Prof. Dr. Martin Steinebach seine technische und Prof. Dr. Christian Gomille seine juristische Sicht auf das Thema vorgetragen.

Gewaltenteilung zwischen Mensch und Maschine?

In diesem Arbeitskreis diskutierten die Experten Prof. Dr. Dirk Heckmann (TU München), Chan-jo Jun (Rechtsanwalt) und Ingrid Kaps (Direktorin des Amtsgerichts Erding) mit ihrem jeweiligen Blick aus Wissenschaft, Anwaltschaft und Justiz die Vereinbarkeit von generativer KI mit der richterlichen Unabhängigkeit gemäß Art. 97 GG.

Disruption der Rechtspraxis durch Sprachmodelle

Hier wurde von Prof. Dr. Bettina Mielke (Präsidentin des Landgerichts Ingolstadt, Honorarprofessorin für Rechtsinformatik und das Recht der Digitalisierung, Universität Regensburg), Bernadette Kell (Leitung des Innovation Hub beim BMJ, Berlin), Gesine Irskens (Niedersächsisches Justizministerium), Konstantin Richter (Associate, Noerr Rechtsanwälte) und Tilman Dach (Amtsgericht Hannover) eine gemeinsame Bestandsaufnahme zu den bereits in verschiedenen Formen eingesetzten bzw. pilotierten generativen Sprachmodellen vorgenommen. Dabei wurden erste Ansätze für Best Practices für deren Nutzung in Justiz und Verwaltung entwickelt.

Aussteller

Auch in diesem Jahr gaben sich zahlreiche Aussteller und Sponsoren alles, das Veranstaltungsprogramm mit ihren Messeständen und Vorträgen zu bereichern. Mit ihren IT- und Fachprojekten zu Themen wie Legal Tech, Künstliche Intelligenz, Justizplattformen und Justiz-Clouds präsentierten sie sich als Partner für die digitale Transformation der Justiz. Es ist beeindruckend zu sehen, welch große Bandbreite an Lösungen inzwischen für die Anwalts- und Justizbranche auf dem Markt floriert – ein wahres Schaulaufen der Innovationen, das die Visionen von gestern in die Realität von morgen überführt (wenn man den Anbietern glauben darf).

Networking

Natürlich ist auch das Netzwerken auf einer solchen Fachtagung von großer Bedeutung. So habe auch ich mit vielen interessanten Gesprächspartnern angeregt diskutiert, Ideen ausgetauscht und neue Kontakte geknüpft, aus denen vielleicht bald schon tolle KI-Projekt-Kooperationen werden könnten.

Mein Fazit zum EDVGT 2024

Seit dem 3. EDVGT bin ich sowohl interessierter Besucher als auch gelegentlich Vortragender dieses deutschlandweit einmaligen Fachkongresses für ITler und Juristen. Dabei waren die Themen in einigen Jahren einmal mehr, in anderen Jahren einmal weniger spannend. Doch die diesjährige Veranstaltung hatte eine Energie, wie ich sie nur vor langer, langer Zeit, nämlich in den 90er Jahren, den Pioniertagen der beginnenden Justizdigitalisierung erlebt habe. Die Energiequelle des EDVGT 2024 lässt sich kurz mit zwei Buchstaben benennen: KI.

Während bei den Anbietern von Justiz-KI-Lösungen Goldgräberstimmung herrscht, die Anwaltschaft – weit voraus die großen Kanzleien – längst und unter massivem KI-Einsatz ihre tagtägliche Arbeit bewältigt, mäandrieren die Akteure der Justiz ganz gewaltig hin und her zwischen Staunen, Noch-Nicht-So-Ganz-Verstehen, Unter- und Überschätzen, Verfassungsbedenken und Einfach-Machen-Und-KI-Projekte-Pilotieren. Und die Wissenschaft forscht bereits über disruptive KI-Welten von morgen und übermorgen. Spannender könnten diese Zeiten nicht sein.

Meine Antwort auf die im Titel gestellte Frage: KI ist gekommen, um zu bleiben, auch in der Justiz – und ja: als Gamechanger!

by Andreas Dormann