Künstliche Intelligenz
Justiz und KI
Künstliche Intelligenz („KI“) ist in der Justiz längst keine Zukunftsvision mehr – sie ist bereits Realität. International nutzen Richter und Richterinnen bereits Sprachmodelle zur Erstellung von Verfahrensunterlagen. Gerichte setzen algorithmische Tools zur Verwaltung ihrer Fälle ein und Instrumente zur Bewertung des Risikos fließen in Entscheidungen über Untersuchungshaft ein. Automatisierte Übersetzungen erweitern den Zugang zu einer mehrsprachigen Rechtspflege. Vieles davon geschieht ohne institutionelle Richtlinien, regulatorische Rahmenbedingungen und somit ohne angemessene Schutzvorkehrungen.
Die Frage, vor der politische Entscheidungsträger und Justizverwaltungen stehen, lautet daher nicht, ob KI in der Justiz eingesetzt werden soll, sondern wie ihr Einsatz so geregelt werden kann, dass die Rechtsstaatlichkeit und die Grundrechte gestärkt werden, statt untergraben. Es steht viel auf dem Spiel: Gerichte sind die institutionelle Instanz, die Rechte garantiert, der Ort, an dem das Recht den Einzelnen in Momenten größter Verletzlichkeit begegnet. Fehler der KI in diesem Bereich sind nicht bloß technische Störungen, sondern können leicht zu Justizversagen führen.
Der Einsatz von KI in der Justiz bietet viele Chancen – in Bezug auf die Effizienz, den Zugang zur Justiz und die Qualität rechtlicher Informationen. Doch tatsächlich hängt ihre Umsetzung von den Rahmenbedingungen der KI-Regulierung ab, die in den meisten Rechtsordnungen noch nicht gegeben sind. Drei Risikokategorien erfordern besondere Aufmerksamkeit: Gefahren für die Grundrechte der EU (insbesondere das Recht auf ein faires Verfahren, das Recht auf Nichtdiskriminierung und das Recht auf einen wirksamen Rechtsbehelf). Gefahren für die Unabhängigkeit der Justiz sowie systemische Risiken, die sich aus der Konzentration von KI-Kapazitäten in einer kleinen Anzahl von Staaten und privaten Unternehmen ergeben.
Diese Analyse führt zu drei zentralen Empfehlungen. Erstens sollten alle Gerichte und Justizverwaltungen vor dem Einsatz eines Tools eine Leitlinie zum Einsatz von KI verabschieden, die zulässige und unzulässige Anwendungsfälle, Anforderungen an die Datenverwaltung, Transparenzpflichten, Kontrollmechanismen und den Zugang zu Rechtsbehelfen umfasst. Zweitens sollte die Einführung schrittweise erfolgen – beginnend mit Verwaltungsaufgaben mit geringerem Risiko – und von obligatorischen Folgenabschätzungen hinsichtlich der Grundrechte begleitet werden. Drittens muss der menschliche Richter im Zentrum der richterlichen Entscheidungsfindung bleiben: KI-Outputs dürfen niemals verbindliche Entscheidungen darstellen, und die Begründung jeder richterlichen Entscheidung muss das eigene geistige Produkt des Richters sein.
Über den Autor
Zoltán Turbék
ist ein unabhängiger Experte mit den Schwerpunkten KI-Governance/-Regulierung, multilaterale Diplomatie und Völkerrecht. Er ist ehemaliger Berufsdiplomat und war als Rechtsreferent bei den Vereinten Nationen (IAEO und WHO) tätig und verfügt über mehr als 20 Jahre Erfahrung im Bereich des Völkerrechts und multilateraler politischer Entscheidungsprozesse. Er war maßgeblich an der Ausarbeitung des KI-Vertrags des Europarats und der UNESCO-Empfehlung zur Ethik der KI beteiligt und wurde kürzlich zum Mitglied des neuen Ausschusses für KI- und Technologierecht der International Law Association gewählt.