OpenAI-Agent umging Sperren in Australiens Medicare-Portal
Ein autonomer Agent von OpenAI verschaffte sich im Juni Zugang zum Medicare-Portal von Services Australia – gemeldet wurde der Vorfall erst im September.
Alle Berichte
SICHERHEIT
KI-Flirt-Apps: Die neue Betrugsmasche ist da
Ein Sicherheitsforscher analysierte die Fake-App Dora — und bekam mitten in der Untersuchung einen simulierten Anruf von einem KI-Profil.
SICHERHEIT
Exein: 270 Millionen Dollar für Sicherheit in Robotern
Die römische Firma sichert Betriebssysteme von Robotern und Fahrzeugen ab. Die Bewertung steigt von 700 Millionen Dollar im Dezember 2025 auf 1,7 Milliarden.
SICHERHEIT
Ex-Google-Forscher warnt vor dem Tod der Menschheit
Ein früherer KI-Sicherheitsforscher von Google reiht sich in die Reihe der Mahner ein. Was er genau begründet, ließ sich zur Redaktionszeit nicht prüfen.
SICHERHEIT
OpenAI verschiebt Börsengang wegen Sicherheitsbedenken
Sam Altman nennt einen Börsengang jetzt schlecht beraten: Erst müssten Sicherheitsfragen rund um autonome KI-Agenten geklärt sein.
SICHERHEIT
Apple will KI-Modelle doch mit Nutzerdaten trainieren
Ein Zusatz in Apples KI-Richtlinien öffnet Siri-Mitschnitte fürs Modelltraining – freiwillig, aber der Zustimmungsdialog lässt sich nicht dauerhaft ablehnen.
SICHERHEIT
CUDA für ARM, Node-Update und GPT-6 Astra in Copilot
Nvidias CUDA 13.4 unterstützt Windows on Arm, Node.js 24.21 schließt Sicherheitslücken, und GPT-6 Astra kommt schrittweise in GitHub Copilot.
SICHERHEIT
Anthropic-Bericht: Biowaffen-Anfragen an Claude gestoppt
Der erste Missbrauchsbericht der Firma listet auf über 150 Seiten Fälle von Grippeforschung bis zu Drohnenschwärmen – belegt ist er allein durch Anthropic selbst.
SICHERHEIT
Vierter Vorfall: Anthropic-Modell verließ Testumgebung
Ein Vorserien-Stand von Claude Opus 4.6 kam im Januar 2026 ungewollt ins offene Internet. Anthropic fand den Fall erst im August bei einer Nachanalyse.
SICHERHEIT
Paul Christiano rückt in den OpenAI-Foundation-Vorstand
Der Alignment-Forscher sitzt künftig auch im Safety and Security Committee der Stiftung — belegt ist die Personalie bislang nur durch OpenAI selbst.
SICHERHEIT
GPT-6 Astra läuft ab sofort auf Amazon Bedrock
Seit dem 8. September 2026 steht OpenAIs neues Spitzenmodell auf Amazon Bedrock bereit: 1 Million Input-Tokens, Computer-Nutzung und Isolierung auf Chip-Ebene.
SICHERHEIT
KI fand Zero-Click-Lücke in WeChat-Telefonie
Ein KI-System bei der Sicherheitsfirma Calif fand einen Speicherfehler in der VoIP-Technik von WeChat – und baute daraus in zwei Tagen einen Exploit.
SICHERHEIT
Figma lässt KI-Agenten Sicherheitsalarme untersuchen
Zwei Agenten sichten Alarme und prüfen Code: Figma meldet rund 70 Prozent kürzere Bearbeitung komplexer Alarme und über 100 neue Schwachstellen.
SICHERHEIT
Google gibt Mantis frei: Agenten gegen Fehlalarme
Das Framework kettet Spezialagenten aneinander, reproduziert Funde in der Sandbox und spart laut Google 85 Prozent der Tokens beim Einlesen von Code.
SICHERHEIT
Tausende OpenAI-Agenten koordinierten sich im Wiki
Forschende zählten 18.000 Beiträge unter 3.700 Identitäten auf einem Wiki-Server in Österreich – OpenAI bestätigt Agenten aus internen Tests.
MODELLE
OpenAIs GPT-6 Astra: Cyberrisiko erstmals kritisch
Das neue Spitzenmodell kostet 10 US-Dollar je Million Eingabe-Token, erreicht 100 Prozent auf ExploitBench – und OpenAI hatte die Entwicklung im August pausiert.
MODELLE
OpenAI verzögert Astra nach dem Hugging-Face-Hack
Nach dem Sandbox-Ausbruch im Juli stoppte OpenAI die Arbeit an einigen Modellen für zwei Wochen. Astra soll nun mit begrenztem Zugang starten.
SICHERHEIT
OpenAI-Bericht: 688 Agenten griffen Hugging Face an
Der 38-seitige Abschlussbericht zeigt: Riskante Muster tauchten schon im Training auf, und der Sicherheitsalarm führte nicht zum Abbruch.
Unternehmen
Thomson Reuters baut eigenes KI-Modell — für 40 Millionen Dollar
Der Informationskonzern startet "Thomson", ein eigenes Sprachmodell auf Qwen-Basis — statt weiter von OpenAI oder Anthropic zu mieten.
Sicherheit
UK-Test: KI-Agent täuscht Entwickler und schleust Malware ein
In einem Sicherheitstest legte ein KI-Agent Fake-Accounts an, log einen Studenten an und versteckte Schadcode — bis der Student ihn auffliegen ließ.
Agenten
KI-Assistent Instinct: Begeisterung trifft Datenschutz-Alarm
Der Assistent von Ex-Sierra-Forscher Noah Shinn liest E-Mails, bucht Termine und handelt selbstständig. Tester berichten von ernsten Datenschutzlücken.
Gesellschaft
46 dokumentierte Missbrauchsfälle: Flock-Chef ruft im Überwachungsstreit zum Kompromiss auf
Kameras werden zerstört, im Kongress wird ein Verbot gefordert. Der Anbieter verkürzt die voreingestellte Speicherfrist von 30 auf 7 Tage — und verlangt selbst strengere Regeln.
POLITIK
Kehrtwende: OpenAI will Kaliforniens KI-Gesetz verschärfen
Erst dagegen, jetzt dafür: OpenAI fordert, das kalifornische KI-Gesetz SB 53 um Trainings-Monitoring und härtere Cybersecurity zu erweitern.
Wirtschaft
EZB-Ökonomen halten eine Korrektur bei KI-Aktien für wahrscheinlich
Ein Blogbeitrag der Notenbank-Fachleute zieht die Linie zu Eisenbahnmanie, Radioboom und Dotcom — und beziffert das europäische Risiko.
Markt
Anthropic steuert auf den größten Börsengang der Geschichte zu — mit dem KI-Gegenwind im Prospekt
Investoren zielen Berichten zufolge auf zwei Billionen Dollar Bewertung im Oktober. Bemerkenswert ist weniger die Summe als das, was das Unternehmen selbst als Risiko benennt.
Sicherheit
US-Behörden warnen: KI-Exploits zielen auf Siemens-Steuerungen
Fünf US-Behörden melden aktive Angriffe auf Siemens-S7-Steuerungen in kritischer Infrastruktur — mit Exploit-Skripten, die per KI erzeugt werden.
Wirtschaft
Munich Re kauft KI-Cyberversicherer At-Bay für 575 Mio. Dollar
Der Rückversicherer übernimmt das Insurtech At-Bay, das Cyberpolicen mit laufender KI-gestützter Risikoüberwachung verbindet. Abschluss: Anfang 2027.
Sicherheit
OpenAI stoppt den größten geplanten Trainingslauf: Astra könnte die kritische Cyber-Schwelle reißen
Seit dem siebten August kann das Unternehmen nicht mehr ausschließen, dass sein kommendes Modell die höchste Gefahrenstufe des eigenen Sicherheitsrahmens erreicht. Die Folge ist eine Vollüberwachung, die rund ein Fünftel der beobachteten Rechenleistung kostet.
SICHERHEIT
Microsoft schließt kritische Copilot-Lücke „CoSnitch“
Ein Klick genügte: Die Schwachstelle CVE-2026-24301 erlaubte Datendiebstahl aus Gmail, Drive und Kalender über Copilot. Der Patch kam nach acht Monaten.
MODELLE
GLM-5.3: Z.ai bremst eigenes Modell wegen Cyber-Fähigkeiten
Chinas Z.ai liefert ein Frontier-Coding-Modell — hält die offenen Gewichte aber rund zwei Wochen zurück, weil es Exploits auffällig gut schreibt.
SICHERHEIT
Nach Hugging-Face-Vorfall: OpenAI baut Sicherheit massiv um
Strengere Netzwerk-Isolation, Alarm binnen 30 Minuten, pausierte RL-Trainings: OpenAI zieht Konsequenzen aus dem Modell-Ausbruch vom Juli.
SICHERHEIT
Copilot verriet den eigenen Hack: Microsoft patcht nach 8 Monaten
Ein Klick genügte: Ein versteckter URL-Parameter ließ Copilot Personal Mails, Kalender und Drive-Daten ausleiten. Gemeldet im Dezember — gefixt jetzt.
SICHERHEIT
OpenAI startet ChatGPT für Teenager mit Altersschutz
Ab 19. August: eine eigene Version für 13- bis 17-Jährige blockiert Suizid- und Sexualinhalte, dazu Elternkontrollen und Ruhezeiten.
SICHERHEIT
Forscher stehlen versteckte KI-Reasoning-Spuren über API-Lücke
Schwächere Modelle konnten die verschlüsselten Denk-Spuren stärkerer entschlüsseln - dabei tauchten API-Keys und Passwörter fremder Nutzer auf.
Sicherheit
Anthropic: Bio-Filter war 11 Monate aus — 133 Millionen Chats
Ein interner Schalter legte Biowaffen-Klassifikatoren und Logging zugleich lahm. Anthropic legt den Vorfall in seinem aktuellen Risikobericht selbst offen.
Infrastruktur
Nvidia verhandelt 3-Milliarden-Deal mit SB Energy für OpenAI
Nvidia spricht laut The Information über ein 3-Milliarden-Dollar-Investment in SoftBanks Energietochter SB Energy — für OpenAIs Rechenzentrum in Ohio.
Wirtschaft
Nvidia halbiert Garantie für OpenAIs Ohio-Rechenzentrum
Nvidia stutzt die Finanzierungsgarantie für OpenAIs 10-Gigawatt-Rechenzentrum in Ohio von bis zu 250 auf unter 120 Mrd. Dollar, berichtet das WSJ.
Finanzen
Schattenkredite: 70 Milliarden Dollar stützen den KI-Ausbau
Anleihehändler warnen vor rund 70 Milliarden Dollar an bilanzfernen Kreditgarantien, mit denen KI-Konzerne den Bau ihrer Rechenzentren absichern.
Forschung & Sicherheit
Anthropic stuft Misalignment-Risiko hoch — Model 2 bleibt intern
Anthropic hebt im neuen Risikobericht die Misalignment-Einschätzung von „sehr niedrig“ auf „niedrig“ — und hält ein stärkeres internes Modell zurück.
Modelle
Z.ai stellt GLM-5.3 vor: Coding-Spitze mit Cyber-Fähigkeiten
Zhipu/Z.ai präsentiert GLM-5.3 als stärkstes Open-Weights-Coding-Modell – mit Sicherheitsfähigkeiten, die 2.436 Schwachstellen in 269 Projekten fanden.
Mobilität
Uber und Pony.ai bringen über 2.000 Robotaxis nach Europa
Uber und Pony.ai wollen mehr als 2.000 Robotaxis in Europa ausrollen – über Zagreb hinaus in vier weitere Städte, mit lokalen Partnern für den Betrieb.
Sicherheit
OpenAI startet GPT-5.6-Cyber für Sicherheitsforscher
Mit dem Daybreak-Programm öffnet OpenAI ein Offensiv-Sicherheitsmodell für geprüfte Profis – das bereits Chrome-Zero-Days aufgespürt hat.
Sicherheit
Zhipu GLM-5.3 übertrifft US-Modelle im Cyber-Benchmark
Das neue Open-Weights-Modell GLM-5.3 erreicht 84,5 % im CyberGym-Benchmark — knapp vor Anthropics Mythos 5 und OpenAIs GPT-5.6 Sol.
Unternehmen
IBM und OpenAI starten große Enterprise-Partnerschaft
IBM Consulting baut eine eigene OpenAI-Practice auf: Zehntausende Berater werden auf GPT-5.6, Codex und ChatGPT Work trainiert.