Schweizer Bundesgericht tüftelt – ersetzt KI bald auch Richter?
Es kommt aus, dass das Bundesgericht seit Jahren auf KI setzt. Richter sollen aber nicht ersetzt werden, heisst es. Unmöglich wäre das nicht, so ein Experte.
Das Wichtigste in Kürze
- Das Bundesgericht setzt seit mehreren Jahren in gewissen Bereichen KI ein.
- Wie sieht es bei den Richtern aus? Diese sollen nicht ersetzt werden, sagt der Präsident.
- KI-Experte Mykola Makhortykh glaubt aber, dass die KI dies durchaus könnte.
- Und er warnt vor Fehlern: Die KI könnte gewisse Nationen negativer behandeln ...
Kaum da, ist KI in vielen Unternehmen heute schon nicht mehr wegzudenken. Nun zeigt ein Bericht von «Le Temps»: Auch das Schweizer Bundesgericht setzt auf künstliche Intelligenz.
Gerichtspräsident François Chaix erklärt, dass mit der Technologie Entscheide anonymisiert würden. Zudem spare man so Ressourcen.
Weitere Pilotprojekte laufen in Zusammenarbeit mit der ETH Lausanne. Bald könnte die KI auch interne Zusammenfassungen von Urteilen und Übersetzungen übernehmen.
Die pikanteste Frage verneint Chaix. Dass KI auch Urteile wie ein Richter fällt, sei nicht vorgesehen.
Tatsächlich? Bleibt der Job des Richters unantastbar?
Ganz sicher ist sich KI-Experte Mykola Makhortykh nicht ...
«Ich halte das zwar nicht für ein sehr wahrscheinliches Szenario. Aber: auch nicht für völlig unmöglich», so der Forscher der Uni Bern.
«Wenn das Realität wird, kann KI auch als Richter eingesetzt werden»
Denn: In vielen Ländern gebe es Diskussionen und Experimente mit KI zur Behebung des Arbeitskräftemangels. Auch in Bereichen, die für die Gesellschaft von entscheidender Bedeutung sind.
«Zum Beispiel im Gesundheits- und Bildungswesen. Wenn dies Realität wird, können KI-Modelle möglicherweise auch als Richter eingesetzt werden», glaubt Makhortykh.
«Für weniger komplexe und potenziell zahlreichere Fälle, in denen es um Streitigkeiten über geringfügige Forderungen und kleinere Vergehen geht.»
Verurteilte sollen KI-Notbremse ziehen können
Unabdingbar bleibt aber auch für den KI-Experten: ein gründliches menschliches Aufsichtssystem. «Und die Möglichkeit der Berufung einzuführen, damit der Fall von einem menschlichen Richter neu beurteilt wird.»
Somit stelle sich die Frage, inwiefern der KI-Einsatz in diesem Zusammenhang überhaupt Sinn mache.
Pilotstudien würden in vielen europäischen Ländern stattfinden. Dass das Bundesgericht ebenfalls experimentiert, sei wichtig. Nur so könnten Möglichkeiten und Grenzen empirisch bewertet werden.
Aber Achtung ...
KI-Richter könnte Ausländer benachteiligen
«Diese spezielle Anwendung von KI ist natürlich mit Risiken verbunden», mahnt Makhortykh. Insbesondere, wenn sie auf generativer KI – wo neue Inhalte entstehen – beruhe.
Makhortykh forschte zu diesem Thema in Bern. Und es zeigte sich: «Generative KI-Modelle können verschiedenen Formen von Verzerrungen unterliegen.»
Menschen bestimmter Nationalitäten oder Geschlechtergruppen werden negativer dargestellt. «Und Ergebnisse können zufällig sein. Was bedeutet, dass KI unter den gleichen Bedingungen ganz unterschiedliche Antworten produzieren kann.»
Bezogen auf Richter-Arbeit beim Bundesgericht wäre dies besonders fatal ...
Diskriminierung, Fehler, Halluzinationen
Für Makhortykh ist nicht das Hauptproblem, DASS die KI Urteile fällen könnte. Sondern die Qualität dieser Urteile.
«Es stellt sich die Frage, ob wir als Gesellschaft bereit sind, Urteile zu akzeptieren, die mit Wahrscheinlichkeiten getroffen werden. Von einem Modell, das per se kein Verständnis für menschliche Ethik hat. Zufällige Fehler und Halluzinationen produziert. Und möglicherweise auch bestimmte Personengruppen diskriminiert.»
Zwar gebe es auch Personen, die argumentieren, dass KI objektiver sein könnte als Menschen. «Ich glaube aber nicht, dass es beim Stand der Dinge vernünftig ist, sich bei der Urteilsfindung auf KI zu verlassen.»
Die Bürger müssen vertrauen können
Dass eine Institution wie das Bundesgericht KI einsetzt, findet Makhortykh hingegen «nicht per se ein Problem».
Wichtig sei aber, dass man die Bürger davon überzeuge, dass der Gebrauch verantwortungsvoll sei. Makhortykh empfiehlt, regelmässig bekannt zu geben, zu welchen Ergebnissen man gekommen ist.
