Studie: KI-Chatbots betrügen erfolgreicher als Menschen
In einer Scam-Simulation brachte ein KI-Chatbot 46 Prozent der Teilnehmer zur riskanten App-Installation – menschliche Betrüger nur 18 Prozent.
Symbolbild · KI-generiert (AI IN LIFE)
Auf einen Blick
- Erfolgsquote in der Simulation: KI-Chatbot 46 %, menschlicher Betrüger 18 %
- 22 Teilnehmer chatteten eine Woche mit Mensch und KI, ohne es zu wissen
- Rund 80 % aller Nachrichten gingen an den Chatbot – höheres Vertrauen
- Beteiligt u.a. Northeastern University und Ben-Gurion-Universität; Preprint auf arXiv
- Getestet wurde eine simulierte "Pig-Butchering"-Betrugsmasche
KI-Chatbots sind beim Aufbau von betrügerischem Vertrauen offenbar deutlich effektiver als menschliche Betrüger. Das zeigt eine auf arXiv veröffentlichte Studie von Forschern mehrerer Universitäten, darunter Northeastern University und Ben-Gurion-Universität. In einer simulierten "Pig-Butchering"-Masche folgten 46 Prozent der Teilnehmer der Aufforderung eines Chatbots, eine App zu installieren – beim menschlichen Betrüger waren es nur 18 Prozent.
Für das Experiment schrieben 22 nichtsahnende Teilnehmer eine Woche lang mit zwei Fremden – einem menschlichen "Scammer" und einem KI-Chatbot, der angewiesen war, sich als Mensch auszugeben. Am Ende der "Anbahnungsphase" folgte die typische Betrugs-Eskalation: die Bitte, eine App herunterzuladen oder einem Link zu folgen.
Auffällig war die emotionale Bindung: Rund 80 Prozent aller Nachrichten schickten die Teilnehmer an den Chatbot – und gaben an, ihm mehr zu vertrauen als dem Menschen. Die KI punktete mit Geduld, ständiger Verfügbarkeit und lückenlosem Erinnern persönlicher Details.
"Mit relativ wenig Aufwand können wir einen Agenten bauen, der Menschen beim Aufbau dieses ausnutzbaren emotionalen Vertrauens übertrifft", warnt Mitautor Yisroel Mirsky von der Ben-Gurion-Universität. Sein Kollege Gilad Gressel ergänzt, manche Teilnehmer seien "völlig verblüfft" gewesen, als die KI sich zu erkennen gab.
Die Stichprobe ist mit 22 Personen klein, der Befund aber alarmierend: Romance- und Investment-Scams, die bisher Callcenter mit menschlichen Betrügern erforderten, lassen sich mit Standard-KI-Modellen automatisieren und skalieren – ein Risiko, auf das Sicherheitsbehörden bereits hinweisen.
Häufige Fragen
Was ist ein Pig-Butchering-Scam?
Eine Betrugsmasche, bei der Kriminelle über Wochen als Freunde oder Partner Vertrauen aufbauen ("mästen"), um Opfer dann zu dubiosen Investments oder App-Installationen zu bewegen.
Warum war die KI erfolgreicher?
Der Chatbot war geduldig, immer verfügbar und erinnerte sich an jedes persönliche Detail – Teilnehmer schickten ihm 80 Prozent ihrer Nachrichten und vertrauten ihm mehr als dem Menschen.
Wie belastbar ist die Studie?
Es ist ein Preprint mit kleiner Stichprobe (22 Personen). Die Größenordnung des Unterschieds – 46 zu 18 Prozent – gilt Forschern dennoch als deutliches Warnsignal.
