Mordfall in Massachusetts: Ermittler verweisen auf ChatGPT

In Massachusetts ist ein 17-Jähriger wegen der Tötung seiner Mutter und seines Bruders angeklagt worden. Nach Angaben der Staatsanwaltschaft, über die CNN und NBC News berichteten, hatte der Jugendliche in den Wochen vor der Tat ChatGPT genutzt, um sogenannte Fantasiegeschichten über den Tod seiner Familienmitglieder zu erstellen.

Die Ermittler werteten demnach die Chatprotokolle des Jugendlichen aus und präsentierten sie als Teil der Beweisführung. Die zentrale Frage, die der Fall aufwirft: Hätten die Schutzmechanismen des Chatbots die wiederholten Gewaltszenarien erkennen und melden müssen — oder handelt es sich um kreative Inhalte, die für sich genommen keine Warnung rechtfertigen?

OpenAI hat sich zu dem konkreten Fall bislang nicht ausführlich geäußert. Das Unternehmen verweist generell darauf, dass seine Systeme bei akuten Selbst- oder Fremdgefährdungshinweisen Schutzantworten ausspielen und auf Hilfsangebote verweisen. Kritiker halten dagegen, dass fiktionalisierte Gewalt eine bekannte Lücke dieser Filter ist.

Der Fall reiht sich in eine wachsende Zahl von Verfahren ein, in denen KI-Chatbots als Tatvorbereitung oder Begleitumstand auftauchen — von Betrugsfällen bis zu Gewaltverbrechen. In den USA laufen bereits mehrere zivilrechtliche Klagen gegen KI-Anbieter, unter anderem im Kontext von Suiziden Jugendlicher.

Rechtlich betreten die Ermittler Neuland: Chatprotokolle mit einem KI-System sind als Beweismittel bislang kaum erprobt, und die Frage, welche Verantwortung Anbieter für die Nutzung ihrer Systeme durch Minderjährige tragen, ist ungeklärt. Der Prozess dürfte damit über den Einzelfall hinaus Bedeutung bekommen.

Für die Debatte um KI-Sicherheit ist der Fall ein Weckruf zur Frage, wie Jugendschutz, Meldepflichten und Privatsphäre bei Chatbots austariert werden sollen — eine Regulierungslücke, die auch der EU AI Act nur teilweise adressiert.