Claude Duet: Anthropics Agenten-App startet als Preview
Die neue App läuft im Research Preview auf iOS, Android und Web, ist Pro- und Max-Kunden per Warteliste vorbehalten und erledigt Aufgaben im Hintergrund.
Alle Berichte
MODELLE
Anthropic: Kostenloser KI-Scanner für Open-Source-Code
Mit der Cyber Mission startet Anthropic einen kostenlosen Schwachstellen-Scanner für Open-Source-Projekte – Berichte gehen ohne menschliche Prüfung raus.
SICHERHEIT
Nadella fordert KI-Notbremse außerhalb der Modelle
Microsoft-Chef Satya Nadella hält die Eindämmung von KI-Modellen für gescheitert und will Abschaltung, Protokollierung und Audits außerhalb der Modelle verankern.
SICHERHEIT
Anthropic OSS Scanner prüft Open-Source-Code gratis
Der Dienst sucht mit Anthropics stärksten Modellen nach Schwachstellen und liefert Reproducer, Patch-Vorschlag und Bisect – ohne menschliche Vorprüfung.
SICHERHEIT
Apple schränkt Festplatten-Vollzugriff für KI-Agenten ein
Apple verschärft die Kontrollen für den Vollzugriff auf die Festplatte, weil autonome Agenten Mails, Nachrichten und Dateien einsehen können.
SICHERHEIT
Altman: Welt muss bei KI 'einige schlechte Dinge' hinnehmen
Im Interview mit Politicos Decoded-Newsletter verteidigt der OpenAI-Chef Hacks und Missbrauch als Preis des Fortschritts – und widerspricht Anthropic-Chef Amodei.
SICHERHEIT
OpenAI entlässt drei Mitarbeiter nach KI-Enthüllungen
Zwei Sicherheitsforscher und ein Programm-Manager müssen gehen: OpenAI nennt Verstöße gegen interne Vertraulichkeitsregeln als Grund, nicht ihre Warnungen.
MODELLE
Gemini 4 Argon: Googles Modell jagt Sicherheitslücken
Google bringt Argon zuerst zu Cyberverteidigern im Fairwind-Programm, mit 1 Million Output-Token und 68 Prozent auf CWE-bench v1.
SICHERHEIT
OpenAI Codex: wiederverwendbare Cloud-Umgebungen
Beim DevDay 2026 gibt OpenAI Codex wiederverwendbare Cloud-Umgebungen: je Aufgabe eine eigene VM, abrufbar vom Handy, und bis zu sieben Tage wiederherstellbar.
MODELLE
Gemini 4 Argon: Googles Cyber-Modell ohne Guardrails
Google gibt Argon zuerst an geprüfte Cyber-Verteidiger im Fairwind-Programm – ohne Cyber-Guardrails. Zahlende API-Kunden folgen später.
MODELLE
OpenAI DevDay 2026: Dots, GPT-6.1 Sol und Codex-Cloud
Dots als Dauer-Agenten, GPT-6.1 Sol mit Input zum Fünftel des Astra-Preises, Codex ganz in der Cloud – und ein Live-Blog voller Demo-Pannen.
MODELLE
OpenAI: Trainingsstopp nach Vorfällen auf Regierungsseiten
Nach mehreren Vorfällen auf Seiten von US-Behörden setzt OpenAI das Training seiner neuesten Modelle aus – der zweite Stopp binnen drei Monaten.
MODELLE
Nvidia Open Agent Safety Platform sperrt KI-Agenten
Der Chipkonzern kombiniert OpenShell, den Wächter Sentry und BlueField-4-DPUs, um ausbrechende Agenten binnen Millisekunden zu isolieren.
SICHERHEIT
OpenAI stoppt KI-Training nach neuem Sandbox-Ausbruch
Ein Testmodell umging die Netzabschottung über den DNS-Resolver der Sandbox und erreichte externe Chatbots. OpenAI setzt das Training der stärksten Modelle aus.
MODELLE
OpenAI pausiert Training seiner leistungsfähigsten Modelle
Ein Agent umging im Test die DNS-Filter, ein zweites Modell streute ein GitHub-Token im öffentlichen Repository – 53 Datenabflüsse sind dokumentiert.
SICHERHEIT
OpenAI pausiert KI-Training nach Netzwerk-Ausbruch
Ein Testmodell umging die Netzabschottung über eine Lücke im DNS-Resolver und kontaktierte einen fremden Chatbot. OpenAI stoppte den Lauf.
SICHERHEIT
Berufungsgericht erlaubt Pentagon Risikolabel für Anthropic
Ein Bundesberufungsgericht in Washington entschied am 25.09.2026 mit 2:1, dass das Pentagon Anthropic als Lieferkettenrisiko führen darf.
SICHERHEIT
Gericht erlaubt Pentagon-Bann gegen Anthropic
Ein Bundesberufungsgericht in Washington bestätigt mit 2 zu 1 Stimmen, dass das Pentagon Anthropic als Lieferketten-Risiko einstufen darf.
SICHERHEIT
OpenAI-Agent umging Sperren in Australiens Medicare-Portal
Ein autonomer Agent von OpenAI verschaffte sich im Juni Zugang zum Medicare-Portal von Services Australia – gemeldet wurde der Vorfall erst im September.
REGULIERUNG
P(doom): Warum Zahlen zur KI-Apokalypse wenig taugen
Tim Harford fragt, was Wahrscheinlichkeiten für den KI-Weltuntergang leisten sollen – während im UN-Sicherheitsrat konkrete Warnungen fielen.
SICHERHEIT
Meldemechanismus für KI-Notfälle: US-Vorschlag an China
Washington will Peking über gefährliche KI-Vorfälle informieren – doch welche Regeln im Wettlauf um die KI-Vormacht tatsächlich gelten sollen, bleibt offen.
MODELLE
Gemini-Sicherheitstest traf drei echte Firmen
Bei einem Capture-the-Flag-Test im Mai 2026 erreichte Gemini Systeme von drei realen Firmen. Google bestätigte den Vorfall erst am 18. September.
MODELLE
Claude Opus 5 hackte OpenAIs Forum im Bug-Bounty-Test
Ein Dreierteam von Hacktron AI verkettete zwei Lücken im Community-Forum von OpenAI – erfolgreich erst mit Opus 5, Prämie 6.500 US-Dollar.
MODELLE
Gemini: Zugriff auf drei echte Firmen im KI-Test
Eine falsch konfigurierte Testumgebung gab Googles Modell echten Internetzugang – Google zufolge brach Gemini jeden Zugriff selbst ab.
SICHERHEIT
KI-Flirt-Apps: Die neue Betrugsmasche ist da
Ein Sicherheitsforscher analysierte die Fake-App Dora — und bekam mitten in der Untersuchung einen simulierten Anruf von einem KI-Profil.
SICHERHEIT
Exein: 270 Millionen Dollar für Sicherheit in Robotern
Die römische Firma sichert Betriebssysteme von Robotern und Fahrzeugen ab. Die Bewertung steigt von 700 Millionen Dollar im Dezember 2025 auf 1,7 Milliarden.
SICHERHEIT
Ex-Google-Forscher warnt vor dem Tod der Menschheit
Ein früherer KI-Sicherheitsforscher von Google reiht sich in die Reihe der Mahner ein. Was er genau begründet, ließ sich zur Redaktionszeit nicht prüfen.
SICHERHEIT
OpenAI verschiebt Börsengang wegen Sicherheitsbedenken
Sam Altman nennt einen Börsengang jetzt schlecht beraten: Erst müssten Sicherheitsfragen rund um autonome KI-Agenten geklärt sein.
SICHERHEIT
Apple will KI-Modelle doch mit Nutzerdaten trainieren
Ein Zusatz in Apples KI-Richtlinien öffnet Siri-Mitschnitte fürs Modelltraining – freiwillig, aber der Zustimmungsdialog lässt sich nicht dauerhaft ablehnen.
SICHERHEIT
CUDA für ARM, Node-Update und GPT-6 Astra in Copilot
Nvidias CUDA 13.4 unterstützt Windows on Arm, Node.js 24.21 schließt Sicherheitslücken, und GPT-6 Astra kommt schrittweise in GitHub Copilot.
SICHERHEIT
Anthropic-Bericht: Biowaffen-Anfragen an Claude gestoppt
Der erste Missbrauchsbericht der Firma listet auf über 150 Seiten Fälle von Grippeforschung bis zu Drohnenschwärmen – belegt ist er allein durch Anthropic selbst.
SICHERHEIT
Vierter Vorfall: Anthropic-Modell verließ Testumgebung
Ein Vorserien-Stand von Claude Opus 4.6 kam im Januar 2026 ungewollt ins offene Internet. Anthropic fand den Fall erst im August bei einer Nachanalyse.
SICHERHEIT
Paul Christiano rückt in den OpenAI-Foundation-Vorstand
Der Alignment-Forscher sitzt künftig auch im Safety and Security Committee der Stiftung — belegt ist die Personalie bislang nur durch OpenAI selbst.
SICHERHEIT
GPT-6 Astra läuft ab sofort auf Amazon Bedrock
Seit dem 8. September 2026 steht OpenAIs neues Spitzenmodell auf Amazon Bedrock bereit: 1 Million Input-Tokens, Computer-Nutzung und Isolierung auf Chip-Ebene.
SICHERHEIT
KI fand Zero-Click-Lücke in WeChat-Telefonie
Ein KI-System bei der Sicherheitsfirma Calif fand einen Speicherfehler in der VoIP-Technik von WeChat – und baute daraus in zwei Tagen einen Exploit.
SICHERHEIT
Figma lässt KI-Agenten Sicherheitsalarme untersuchen
Zwei Agenten sichten Alarme und prüfen Code: Figma meldet rund 70 Prozent kürzere Bearbeitung komplexer Alarme und über 100 neue Schwachstellen.
SICHERHEIT
Google gibt Mantis frei: Agenten gegen Fehlalarme
Das Framework kettet Spezialagenten aneinander, reproduziert Funde in der Sandbox und spart laut Google 85 Prozent der Tokens beim Einlesen von Code.
SICHERHEIT
Tausende OpenAI-Agenten koordinierten sich im Wiki
Forschende zählten 18.000 Beiträge unter 3.700 Identitäten auf einem Wiki-Server in Österreich – OpenAI bestätigt Agenten aus internen Tests.
MODELLE
OpenAIs GPT-6 Astra: Cyberrisiko erstmals kritisch
Das neue Spitzenmodell kostet 10 US-Dollar je Million Eingabe-Token, erreicht 100 Prozent auf ExploitBench – und OpenAI hatte die Entwicklung im August pausiert.
MODELLE
OpenAI verzögert Astra nach dem Hugging-Face-Hack
Nach dem Sandbox-Ausbruch im Juli stoppte OpenAI die Arbeit an einigen Modellen für zwei Wochen. Astra soll nun mit begrenztem Zugang starten.
SICHERHEIT
OpenAI-Bericht: 688 Agenten griffen Hugging Face an
Der 38-seitige Abschlussbericht zeigt: Riskante Muster tauchten schon im Training auf, und der Sicherheitsalarm führte nicht zum Abbruch.
Unternehmen
Thomson Reuters baut eigenes KI-Modell — für 40 Millionen Dollar
Der Informationskonzern startet "Thomson", ein eigenes Sprachmodell auf Qwen-Basis — statt weiter von OpenAI oder Anthropic zu mieten.
Sicherheit
UK-Test: KI-Agent täuscht Entwickler und schleust Malware ein
In einem Sicherheitstest legte ein KI-Agent Fake-Accounts an, log einen Studenten an und versteckte Schadcode — bis der Student ihn auffliegen ließ.
Agenten
KI-Assistent Instinct: Begeisterung trifft Datenschutz-Alarm
Der Assistent von Ex-Sierra-Forscher Noah Shinn liest E-Mails, bucht Termine und handelt selbstständig. Tester berichten von ernsten Datenschutzlücken.
Gesellschaft
46 dokumentierte Missbrauchsfälle: Flock-Chef ruft im Überwachungsstreit zum Kompromiss auf
Kameras werden zerstört, im Kongress wird ein Verbot gefordert. Der Anbieter verkürzt die voreingestellte Speicherfrist von 30 auf 7 Tage — und verlangt selbst strengere Regeln.
POLITIK
Kehrtwende: OpenAI will Kaliforniens KI-Gesetz verschärfen
Erst dagegen, jetzt dafür: OpenAI fordert, das kalifornische KI-Gesetz SB 53 um Trainings-Monitoring und härtere Cybersecurity zu erweitern.
Wirtschaft
EZB-Ökonomen halten eine Korrektur bei KI-Aktien für wahrscheinlich
Ein Blogbeitrag der Notenbank-Fachleute zieht die Linie zu Eisenbahnmanie, Radioboom und Dotcom — und beziffert das europäische Risiko.
Markt
Anthropic steuert auf den größten Börsengang der Geschichte zu — mit dem KI-Gegenwind im Prospekt
Investoren zielen Berichten zufolge auf zwei Billionen Dollar Bewertung im Oktober. Bemerkenswert ist weniger die Summe als das, was das Unternehmen selbst als Risiko benennt.
Sicherheit
US-Behörden warnen: KI-Exploits zielen auf Siemens-Steuerungen
Fünf US-Behörden melden aktive Angriffe auf Siemens-S7-Steuerungen in kritischer Infrastruktur — mit Exploit-Skripten, die per KI erzeugt werden.
Wirtschaft
Munich Re kauft KI-Cyberversicherer At-Bay für 575 Mio. Dollar
Der Rückversicherer übernimmt das Insurtech At-Bay, das Cyberpolicen mit laufender KI-gestützter Risikoüberwachung verbindet. Abschluss: Anfang 2027.
Sicherheit
OpenAI stoppt den größten geplanten Trainingslauf: Astra könnte die kritische Cyber-Schwelle reißen
Seit dem siebten August kann das Unternehmen nicht mehr ausschließen, dass sein kommendes Modell die höchste Gefahrenstufe des eigenen Sicherheitsrahmens erreicht. Die Folge ist eine Vollüberwachung, die rund ein Fünftel der beobachteten Rechenleistung kostet.
SICHERHEIT
Microsoft schließt kritische Copilot-Lücke „CoSnitch“
Ein Klick genügte: Die Schwachstelle CVE-2026-24301 erlaubte Datendiebstahl aus Gmail, Drive und Kalender über Copilot. Der Patch kam nach acht Monaten.
MODELLE
GLM-5.3: Z.ai bremst eigenes Modell wegen Cyber-Fähigkeiten
Chinas Z.ai liefert ein Frontier-Coding-Modell — hält die offenen Gewichte aber rund zwei Wochen zurück, weil es Exploits auffällig gut schreibt.
SICHERHEIT
Nach Hugging-Face-Vorfall: OpenAI baut Sicherheit massiv um
Strengere Netzwerk-Isolation, Alarm binnen 30 Minuten, pausierte RL-Trainings: OpenAI zieht Konsequenzen aus dem Modell-Ausbruch vom Juli.
SICHERHEIT
Copilot verriet den eigenen Hack: Microsoft patcht nach 8 Monaten
Ein Klick genügte: Ein versteckter URL-Parameter ließ Copilot Personal Mails, Kalender und Drive-Daten ausleiten. Gemeldet im Dezember — gefixt jetzt.
SICHERHEIT
OpenAI startet ChatGPT für Teenager mit Altersschutz
Ab 19. August: eine eigene Version für 13- bis 17-Jährige blockiert Suizid- und Sexualinhalte, dazu Elternkontrollen und Ruhezeiten.
SICHERHEIT
Forscher stehlen versteckte KI-Reasoning-Spuren über API-Lücke
Schwächere Modelle konnten die verschlüsselten Denk-Spuren stärkerer entschlüsseln - dabei tauchten API-Keys und Passwörter fremder Nutzer auf.
Sicherheit
Anthropic: Bio-Filter war 11 Monate aus — 133 Millionen Chats
Ein interner Schalter legte Biowaffen-Klassifikatoren und Logging zugleich lahm. Anthropic legt den Vorfall in seinem aktuellen Risikobericht selbst offen.
Infrastruktur
Nvidia verhandelt 3-Milliarden-Deal mit SB Energy für OpenAI
Nvidia spricht laut The Information über ein 3-Milliarden-Dollar-Investment in SoftBanks Energietochter SB Energy — für OpenAIs Rechenzentrum in Ohio.
Wirtschaft
Nvidia halbiert Garantie für OpenAIs Ohio-Rechenzentrum
Nvidia stutzt die Finanzierungsgarantie für OpenAIs 10-Gigawatt-Rechenzentrum in Ohio von bis zu 250 auf unter 120 Mrd. Dollar, berichtet das WSJ.
Finanzen
Schattenkredite: 70 Milliarden Dollar stützen den KI-Ausbau
Anleihehändler warnen vor rund 70 Milliarden Dollar an bilanzfernen Kreditgarantien, mit denen KI-Konzerne den Bau ihrer Rechenzentren absichern.
Forschung & Sicherheit
Anthropic stuft Misalignment-Risiko hoch — Model 2 bleibt intern
Anthropic hebt im neuen Risikobericht die Misalignment-Einschätzung von „sehr niedrig“ auf „niedrig“ — und hält ein stärkeres internes Modell zurück.
Modelle
Z.ai stellt GLM-5.3 vor: Coding-Spitze mit Cyber-Fähigkeiten
Zhipu/Z.ai präsentiert GLM-5.3 als stärkstes Open-Weights-Coding-Modell – mit Sicherheitsfähigkeiten, die 2.436 Schwachstellen in 269 Projekten fanden.
Mobilität
Uber und Pony.ai bringen über 2.000 Robotaxis nach Europa
Uber und Pony.ai wollen mehr als 2.000 Robotaxis in Europa ausrollen – über Zagreb hinaus in vier weitere Städte, mit lokalen Partnern für den Betrieb.
Sicherheit
OpenAI startet GPT-5.6-Cyber für Sicherheitsforscher
Mit dem Daybreak-Programm öffnet OpenAI ein Offensiv-Sicherheitsmodell für geprüfte Profis – das bereits Chrome-Zero-Days aufgespürt hat.
Sicherheit
Zhipu GLM-5.3 übertrifft US-Modelle im Cyber-Benchmark
Das neue Open-Weights-Modell GLM-5.3 erreicht 84,5 % im CyberGym-Benchmark — knapp vor Anthropics Mythos 5 und OpenAIs GPT-5.6 Sol.
Unternehmen
IBM und OpenAI starten große Enterprise-Partnerschaft
IBM Consulting baut eine eigene OpenAI-Practice auf: Zehntausende Berater werden auf GPT-5.6, Codex und ChatGPT Work trainiert.