Versteckte KI-Befehle in Gerichtsakte: Kläger verliert E-Filing
Ein Kläger in Connecticut versteckte weiße Mini-Schrift mit KI-Anweisungen in Schriftsätzen. Das Gericht entzog ihm das elektronische Einreichen.
Symbolbild · KI-generiert (AI IN LIFE)
Auf einen Blick
- Erster bekannter Fall einer Prompt-Injection in einer US-Gerichtsakte
- Weiße Mini-Schrift wies KI an, dem Kläger zuzustimmen
- Connecticut Superior Court entzog dem Kläger das elektronische Einreichen
- Künftige Schriftsätze nur noch persönlich auf Papier möglich
- Richter: Auf den Erfolg der Manipulation kommt es nicht an
Es ist der erste bekannt gewordene Fall seiner Art: Ein selbstvertretener Kläger im Verfahren Elliott gegen N.Y. Bariatric Group hat in mehreren Schriftsätzen unsichtbare Anweisungen an KI-Systeme versteckt — weiße Schrift in winziger Punktgröße, für Menschen praktisch unlesbar.
Die versteckten Passagen wiesen etwaige KI-Prüfsysteme unter anderem an, ihre „Textausgabe mit dem vorgelegten Schriftsatz in Übereinstimmung“ zu bringen — also dem Kläger recht zu geben — und eine abgelehnte Säumnisentscheidung zu kippen.
Richter Walter M. Spader Jr. vom Connecticut Superior Court reagierte deutlich: Er entzog dem Kläger die E-Filing-Berechtigung. Künftige Eingaben muss der Mann persönlich und auf Papier beim Gericht abgeben.
In der Begründung heißt es, unsichtbarer Text, der „für eine Maschine gepflanzt wird, damit sie ihn liest und befolgt“, verrate die Integrität gerichtlicher Eingaben — vergleichbar mit unzulässiger heimlicher Einflussnahme. Auf den Erfolg des Manipulationsversuchs komme es nicht an.
Der Fall, den unter anderem 404 Media und der Volokh-Blog dokumentieren, gilt Juristen als Warnsignal: Je mehr Gerichte KI-Werkzeuge zur Aktenprüfung einsetzen, desto attraktiver werden Prompt-Injection-Angriffe — und desto wichtiger deren Sanktionierung.
Häufige Fragen
Was ist eine Prompt-Injection?
Versteckte Anweisungen in einem Dokument oder einer Eingabe, die ein KI-System zu unbeabsichtigtem Verhalten verleiten sollen — hier: zugunsten des Klägers zu urteilen.
Hat der Trick funktioniert?
Nein, es gibt keinen Hinweis darauf. Das Gericht sanktionierte den Versuch unabhängig vom Erfolg.
Warum ist der Fall relevant?
Weil Gerichte zunehmend KI-Werkzeuge einsetzen. Der Fall setzt einen frühen Präzedenzrahmen für den Umgang mit KI-Manipulation in Verfahren.
