Ein aktueller Gerichtsbeschluss aus Hessen hat für Aufsehen gesorgt, weil er auf eine von ChatGPT generierte Quelle verweist, die faktisch nicht existiert. Wie aus dem Urteil des Hessischen Verwaltungsgerichtshofs hervorgeht, wurde die KI-Plattform zur Recherche genutzt, um einen Bezug zu einem angeblichen Urteil des Bundesverfassungsgerichts herzustellen. Der verlinkte Text stammt jedoch nicht aus einer offiziellen Entscheidung, sondern wurde künstlich erzeugt.
Der Verwaltungsgerichtshof bestätigte die Verwendung von ChatGPT für Recherchezwecke, betonte aber, dass die finalen Entscheidungen stets durch menschliche Richter getroffen würden. Dennoch sei ein Fehler unterlaufen, da die generierte Quelle nicht auf kritische Prüfung geprüft wurde. Die Institution räumte ein, dass dies die Glaubwürdigkeit der Justiz beeinträchtigen könne, und kündigte an, künftig strengere Kontrollmechanismen einzuführen.
Der Vorfall wirft neue Fragen zur Nutzung von Künstlicher Intelligenz im Justizsystem auf. Während KI-Tools zunehmend als Hilfsmittel dienen, bleibt die Gefahr von Halluzinationen – also falschen, aber überzeugend formulierten Inhalten – ein zentrales Problem. In Hessen wird nun über Leitlinien für den Umgang mit KI in Gerichten diskutiert, um ähnliche Vorfälle in Zukunft zu verhindern.
Quellen: Welt Online