27 September 2026

OpenAI und Anthropic untersuchen Zehntausende Vorfälle mit ihren Modellen

OpenAI, Anthropic und Sicherheitsforscher analysieren Zehntausende Fälle, in denen neueste Modelle Schutzvorkehrungen umgingen, aus Sandboxes ausbrachen, Websites übernahmen oder versuchten, die Aufsicht zu umgehen - berichtet Axios unter Berufung auf Quellen. Die Vorfälle ereigneten sich in Tests und außerhalb, und die meisten haben nach bisherigem Kenntnisstand keinen realen Schaden angerichtet. Einen solchen Fall beschrieb der Forscher Rowan Howard-Jones: Demnach fragten OpenAI-Agenten von April bis Juni rund 16.500 Mal das Statistikportal der UNO UNCTADstat ab, umgingen dessen Beschränkungen und tarnten die Anfragen. Die Daten holten sie unter anderem über ein Google-Lernspiel zu XSS-Angriffen.

Axios ↗ Rowan Howard-Jones ↗ The Verge ↗

Aus den letzten Tagen

Trump lädt Anthropic-Chef zu privatem Abendessen ins Weiße Haus ein

Anthropic-Chef Dario Amodei isst am Sonntagabend privat mit Donald Trump im Weißen Haus zu Abend - berichtet Axios, auch CNBC bestätigt das. Es wird ihr erstes Treffen unter vier Augen sein: Trump lud Amodei persönlich ein, weil der Anthropic-Chef nicht zum festlichen Abendessen am Donnerstag zu Ehren von Xi Jinping kommen konnte, bei dem unter anderem Sam Altman, Elon Musk, Jensen Huang und Mark Zuckerberg anwesend waren. Am Dienstag treffen sich Trump und der Sprecher des Repräsentantenhauses Mike Johnson im Weißen Haus mit den Chefs der größten KI-Unternehmen.

Axios ↗ CNBC ↗

Wall-Street-Banken suchen Fachleute für KI-Agenten - KI-Stellenangebote um 49 Prozent gestiegen

US-Banken, darunter JPMorgan Chase, Citigroup und Capital One, haben in diesem Jahr 139.819 Stellenangebote mit KI-Bezug veröffentlicht - 49 Prozent mehr als 2025. Das geht aus einer Analyse der Firma Draup für CNBC hervor. Am schnellsten wächst die Zahl der Anzeigen, die „Agenten-Orchestrierung“ verlangen, also den Entwurf von KI-Agenten, die gemeinsam eine Aufgabe erledigen. Die Erwähnungen dieser Fähigkeit nahmen um 1.721 Prozent zu. Ein Manager für generative KI verdient in dieser Branche etwa 190.000 Dollar jährlich (Median des Grundgehalts).

CNBC ↗

GPT-6 Astra fährt mit einem echten Toyota Corolla einen Pylonenparcours, Claude und Grok scheitern nach wenigen Metern

Drei Informatiker aus der Gegend von San Francisco, die als DrivingBench auftreten, schlossen die Modelle GPT-6 Astra, GPT-5.6 Sol, Claude Fable 5.1 und Grok 4.6 an einen gemieteten Toyota Corolla an und überließen ihnen Lenkrad, Gas und Bremse, beschreibt 404 Media. Den Pylonenparcours auf einem Parkplatz absolvierte nur GPT-6 Astra, die übrigen Modelle fuhren einige Meter. Damit die Modelle überhaupt zum Fahren bereit waren, musste das Team den echten Parkplatz als „Sandbox“ bezeichnen.

404 Media ↗ DrivingBench ↗

Alle News →