Anwalt muss 420 Euro Strafe zahlen für gefälschte KI-Jurisprudenz
Die Strafkammer des Obersten Gerichtshofs der Kanarischen Inseln (TSJC) hat einen Rechtsanwalt zu einer Geldstrafe von 420 Euro verurteilt. Grund ist ein Verstoß gegen die Wahrheitspflicht und die Regeln von Treu und Glauben durch einen Missbrauch des öffentlichen Justizdienstes. Der Anwalt hatte in eine Berufungsschrift insgesamt 48 Zitate aus angeblich existierenden Gerichtsurteilen eingefügt, die jedoch vollständig von einer Künstlichen Intelligenz (KI) generiert und somit gefälscht waren. Neben der Geldstrafe hat das Gericht beschlossen, seine Entscheidung und die Vorgänge der zuständigen Anwaltskammer des Betroffenen zu übermitteln, damit diese gegebenenfalls ein disziplinarrechtliches Verfahren einleiten kann.
KI-generierte Fake-Urteile sollten eigene Position stützen
Laut dem strafverfügenden Beschluss bediente sich der Anwalt bei der Erstellung einer Berufungsschrift vor der Strafkammer des TSJC gegen ein Urteil der Provinzialgerichtsbarkeit von Santa Cruz de Tenerife einer allgemeinen KI-Tool – also keiner speziell für juristische Zwecke entwickelten Lösung. Mit dieser fügte er in die Begründung bis zu 48 Zitate aus angeblichen Urteilen des Obersten Gerichtshofs und einem Bericht des Generalrats der Rechtsprechung ein, die seine Position in dem Rechtsstreit angeblich untermauern sollten. In Wirklichkeit existierten diese Urteile und der Bericht nicht, wie die Dokumentarin des TSJC überprüfte.
Grundlegende Pflicht zur menschlichen Überprüfung verletzt
Das Gericht stellt fest, dass der Anwalt es unterließ, die Zitate daraufhin zu überprüfen oder zu verifizieren, ob sie echten Entscheidungen oder Berichten entsprachen. „Er stellte nicht gegenüber, ob die Aktenzeichen, die Daten und die Identifikatoren tatsächlich existierten“, heißt es in dem Beschluss, „und er überprüfte die Ausgabedaten des KI-Tools nicht mit den juristischen Datenbanken – insbesondere nicht mit der allgemein und kostenlos zugänglichen Datenbank des Zentrums für juristische Dokumentation (Cendoj) – um auch nur eine dieser Referenzen zu bestätigen, was ihn hätte warnen müssen.“ In den Augen des Gerichts stellt dieses Unterlassen einen Verstoß gegen die grundlegende Pflicht zur menschlichen Aufsicht dar, die unverzichtbar ist, wenn KI-Tools im Berufsleben eingesetzt werden, und verletzt den Sorgfaltsmaßstab, den der deontologische Kodex von Anwaltsprofis verlangt.
Strafe als abschreckendes Beispiel berechnet
Das Gericht wendete bei der Bemessung der Geldstrafe einen exemplarischen Maßstab an: 420 Euro, die Hälfte der ungefähren Jahresgebühr für ein Abonnement einer speziell für juristische Zwecke entwickelten KI-Software, wie sie auf dem Markt verfügbar ist. „Deren Nutzung“, so betont das Gericht, „hätte das bedauerliche Ergebnis, das jetzt verhandelt wird, wahrscheinlich vermieden.“ Die Strafe wurde auf die Hälfte des Betrags festgesetzt, da der Anwalt in seiner Stellungnahme an das Gericht, nachdem dieses den möglichen Betrug entdeckt hatte, die Fakten zugab und seine Verantwortung ausdrücklich anerkannte, wobei er offenbar aufrichtige Reue zeigte.
KI als Assistenz, nicht als Entscheidungsträger
Die Kammer betont, dass sie weder das Potenzial von KI-Werkzeugen für juristische Berufe ignoriert noch herabsetzt. Sie erinnert jedoch daran, dass „das Prinzip der menschlichen Aufsicht der tragende Grundsatz aller beruflichen Handlungen ist, die den Einsatz dieser Systeme in der Anwaltschaft beinhalten. Der Berufsträger muss das Werkzeug als assistierend und niemals als entscheidend verstehen und eine blinde Abhängigkeit vom System vermeiden.“
Anwalt beschwert sich über öffentliche Bloßstellung
In dem Beschluss, für den der Präsident des TSJC, Juan Luis Lorenzo Bragado, als Berichterstatter fungierte, geht das Gericht auch auf die Beschwerde des Anwalts ein. Dieser hatte in seinen Einwänden bedauert, dass seine Identität an die Öffentlichkeit gelangt sei, als der Fall bekannt wurde, und machte dafür das Kommunikationsbüro des Obersten Gerichtshofs der Kanarischen Inseln verantwortlich. Dieses hatte über den Fall mit einer Pressemitteilung informiert und den Beschluss, ein gesondertes Verfahren einzuleiten, an die Medien weitergeleitet, wobei die Entscheidung mit dem dafür vom Generalrat der Rechtsprechung (CGPJ) zugelassenen KI-Tool (Kendoj) anonymisiert worden war.
Der Anwalt führte aus, dass in der von der Kommunikationsstelle verbreiteten pseudonymisierten Entscheidung die allgemeine Identifikationsnummer (NIG) stand. Dies habe es anderen Anwälten und Medien ermöglicht, durch Eingabe dieser Nummer in die CENDOJ-Datenbank das erstinstanzliche Urteil zu finden, in dem die Namen der beteiligten Anwälte und Prozessbevollmächtigten tatsächlich aufgeführt sind. Der Anwalt hielt fest, dass er deswegen Ziel von Kommentaren und Spott in verschiedenen beruflichen Kreisen geworden sei, einschließlich Gruppenchats von Anwälten, denen er angehöre.
Gericht entlastet Kommunikationsbüro
Das Gericht bedauert, dass der Vorfall sich nachteilig auf das öffentliche Image des Rechtsanwalts ausgewirkt haben könnte. Es betont jedoch, „dass es in der Pflicht steht, klar zu stellen, dass das Kommunikationsbüro kein tadelnswertes Verhalten an den Tag gelegt hat“. Es habe die Berufungsentscheidung nach vorheriger Pseudonymisierung mit dem vom CGPJ bereitgestellten KI-Tool verbreitet. Der Beschluss erinnert daran, dass normalerweise die Daten der Berufsträger nicht geändert werden, aber in diesem Fall wurde auch sein Name pseudonymisiert. Die Tatsache, dass das Urteil indirekt über die NIG auffindbar war, impliziere keinerlei Unregelmäßigkeit seitens des Kommunikationsbüros, sondern sei eine Folge der eigenen Struktur des Systems: Die NIG sei ein objektiver Identifikator des Verfahrens und führe, einmal in die Datenbank eingegeben, zur Originalentscheidung, so wie sie vom Gericht an das Cendoj übermittelt wurde. In dieser werden gemäß den offiziellen Veröffentlichungsregeln für die Rechtsprechung die Namen der Berufsträger nicht anonymisiert.
Prozess um mutmaßliche Vergewaltigung nach Party auf Teneriffa
Frau entdeckt nach DNA-Test: Sie ist nicht die Tochter ihrer Eltern
Polizei durchsucht Migrantenheim für Kinder in Puerto de la Cruz
Falscher Sprengstoff-Alarm in Gran Canaria-Höhle
Zwei Männer nach Gewaltraubüberfällen in Puerto del Rosario inhaftiert
Body-Packing in Teneriffas Gefängnis: 15 Inhaftierte ertappt
Wanderunfall in Caldera Blanca: 62-Jährige per Helikopter gerettet
Neue Blitzer auf Gran Canaria und Teneriffa aktiv
Polizei warnt: So schützen Sie sich vor Taschendieben
