Oberster Gerichtshof bestraft Anwalt wegen Nutzung von ChatGPT im Mordprozess

Der Oberste Gerichtshof von New Mexico hat den Anwalt Stephen Aarons aus Santa Fe wegen Missachtung des Gerichts für schuldig befunden. Der erfahrene Jurist hatte im Berufungsverfahren für einen wegen Mordes verurteilten Mandanten ein formelles Dokument eingereicht, dessen Inhalt mithilfe des ChatGPT-Tools von OpenAI generiert worden war. Aarons hatte den weit verbreiteten Chatbot genutzt, um umfangreiche Gerichtsprotokolle zu kürzen, und die daraus entstandene Zusammenfassung anschließend ohne vorherige Prüfung oder Lektüre an das Gericht übermittelt.

Das Dokument enthielt Aussagen von nicht existierenden Personen und erfundene Behauptungen, die fälschlicherweise einem realen Zeugen zugeschrieben wurden. Die Reaktion des Gerichts war äußerst hart. Richterin C. Shannon Bacon fragte den Anwalt öffentlich, ob er überhaupt die Nachrichten verfolge, da gefälschte Informationen oder „Halluzinationen“ künstlicher Intelligenz in juristischen Dokumenten immer wieder für Schlagzeilen gesorgt hätten. Sie fügte hinzu, der Anwalt habe das Phänomen entweder bewusst ignoriert oder leichtfertig mit dem Schicksal seines Mandanten gespielt. Aarons, der seit über vier Jahrzehnten als Jurist tätig ist, räumte seinen Fehler ein und sagte, er habe fälschlicherweise angenommen, die Software würde eine zuverlässige Zusammenfassung erstellen.

Zusätzlich zur öffentlichen Verwarnung verhängte das Gericht gegen den Anwalt eine Geldstrafe von 5.000 Euro, die dem Mandantenschutzfonds zugeführt wird, und leitete den Fall an die Anwaltskammer weiter. Der Fall verdeutlicht, wie riskant blindes Vertrauen in neue Technologien im Rechtswesen ist. Gleichzeitig wirft er ernsthafte Zweifel an der Professionalität von Personen auf, die wichtige Dokumente ungeprüft einreichen, da solche Versäumnisse die Rechte der Angeklagten unmittelbar gefährden. Dies ist kein Einzelfall: Mehrere Anwälte wurden in letzter Zeit wegen der Einreichung ungeprüfter KI-Materialien vor Gericht sanktioniert.