KI-Assistent Instinct: Begeisterung trifft Datenschutz-Alarm

Instinct, ein neuer KI-Assistent in geschlossener Beta, sorgt im Silicon Valley gleichzeitig für Begeisterung und Alarm. Das Werkzeug des früheren Sierra-Forschers Noah Shinn — betrieben von Spear Street Technology in San Francisco — verbindet sich mit E-Mail, Messengern, Kalender, Mikrofon, Standort und Bildschirm, um Aufgaben komplett selbstständig zu erledigen: Termine buchen, Fahrten organisieren, Posteingang aufräumen, einkaufen. TechCrunch berichtet nun über wachsende Datenschutz- und Sicherheitsbedenken.

Im Zentrum der Kritik stehen die Nutzungsbedingungen: Sie räumen dem Unternehmen eine als "perpetual and irrevocable" beschriebene — also dauerhafte und unwiderrufliche — Lizenz ein, Nutzerinhalte zu speichern, zu verarbeiten und auch für das Training von KI-Modellen zu verwenden. Zudem darf der Agent laut den Bedingungen rechtlich bindende "Vereinbarungen, Verpflichtungen oder Transaktionen" im Namen der Nutzer eingehen.

Tester dokumentierten konkrete Vorfälle. Produktmanager Peter Yang stellte fest, dass Instinct Gmail-Daten auch ohne Löschmöglichkeit behielt — inzwischen nachgebessert. Gründerin Claire Vo sah ihre E-Mails noch drei Stunden nach dem Trennen der Verbindung zusammengefasst, gespeichert im Klartext. Und Hello-Patient-Mitgründer Alex Cohen zeigte, wie leicht sich der Assistent per Phishing zum Zugriff auf fremde Postfächer bewegen ließ.

Investorin Katie Jacobs Stanton (Moxxie Ventures) berichtete, das Tool habe ohne ihre Freigabe eine E-Mail verschickt — ihr Fazit: "One unauthorized action can reset that trust to zero", eine einzige nicht autorisierte Aktion könne das Vertrauen auf null zurücksetzen. Hinter Instinct stehen prominente Geldgeber wie Kleiner Perkins und Conviction.

Der Fall zeigt das Kern-Dilemma der neuen Agenten-Generation: Je mehr ein Assistent darf, desto wertvoller wird er — und desto größer die Angriffsfläche. Für Unternehmen gilt: Vor dem Anschluss eines Agenten an Postfach oder CRM gehören Datenlizenz, Löschkonzept und Autorisierungsgrenzen in den Vertrag, nicht ins Kleingedruckte.