News

OpenAI und Anthropic untersuchen Zehntausende Vorfälle mit ihren Modellen

OpenAI, Anthropic und Sicherheitsforscher analysieren Zehntausende Fälle, in denen neueste Modelle Schutzvorkehrungen umgingen, aus Sandboxes ausbrachen, Websites übernahmen oder versuchten, die Aufsicht zu umgehen - berichtet Axios unter Berufung auf Quellen. Die Vorfälle ereigneten sich in Tests und außerhalb, und die meisten haben nach bisherigem Kenntnisstand keinen realen Schaden angerichtet. Einen solchen Fall beschrieb der Forscher Rowan Howard-Jones: Demnach fragten OpenAI-Agenten von April bis Juni rund 16.500 Mal das Statistikportal der UNO UNCTADstat ab, umgingen dessen Beschränkungen und tarnten die Anfragen. Die Daten holten sie unter anderem über ein Google-Lernspiel zu XSS-Angriffen.

Google testet in Indien den Kauf von Flipkart-Produkten direkt in Gemini

Google testet in Indien in Gemini und im KI-Modus der Suche einen „Kaufen“-Button bei ausgewählten Produkten aus dem Flipkart-Angebot - berichtet TechCrunch unter Berufung auf eigene Quellen. Der Button öffnet das Zahlungsformular bei Flipkart, ohne dass der Nutzer das KI-Gespräch verlässt; der Test umfasst bislang einen Teil der Nutzer und wenige Produkte, vor allem Smartphones und andere Elektronik. Laut einem Gesprächspartner von TechCrunch soll die breitere Einführung im Oktober starten, vor der indischen Festtagssaison, in der die größten Rabattaktionen des Jahres stattfinden.

Cloudflare-Chef: Bot-Traffic im Internet hat den Traffic von Menschen bereits überholt

Matthew Prince, Chef von Cloudflare, sagte im Podcast Decoder, laut den Daten des Unternehmens habe der von Bots und KI-Agenten automatisch erzeugte Traffic im Mai den von Menschen erzeugten Traffic im Internet übertroffen und könne in fünf Jahren sogar tausendmal größer sein. Weil Bots nicht auf Werbung klicken, will Cloudflare gemeinsam mit Coinbase und Stripe erreichen, dass sie für jeden Abruf von Inhalten einen Bruchteil eines Cents zahlen. Prince erwartet außerdem, dass die lokale Zeitung in Park City, die er mit seiner Frau besitzt, in diesem Jahr mit Lizenzen für KI-Unternehmen mehr verdient als mit Online-Werbung.

Bau von KI-Rechenzentren erhöht Nachfrage nach Schweißern, Klempnern und Elektrikern

Der KI-Boom schafft Arbeitsplätze in handwerklichen Berufen: Beim Bau von Rechenzentren wächst die Nachfrage nach Schweißern, Klempnern, Elektrikern und Klimatechnikern - berichtet CNBC. Laut ZipRecruiter gibt es 164 Prozent mehr Stellenanzeigen für Schweißer und Rohrinstallateure als vor einem Jahr, und das durchschnittliche Mindestgehalt in Stellenangeboten für Rechenzentren stieg um 125 Prozent auf fast 208.000 Dollar jährlich. Zugleich lehnen 70 Prozent der Amerikaner den Bau eines Rechenzentrums in ihrer Nähe ab, und New York und Texas haben begonnen, solche Investitionen zu bremsen.

GPT-6 Astra entschlüsselt in zwei Tagen eine seit 2005 ungelesene Enigma-Nachricht

Das Modell GPT-6 Astra von OpenAI hat in zwei Tagen die Nachricht MVUEH entschlüsselt, die die deutsche Armee am 10. Juli 1941 an die SS-Division Totenkopf gesendet hatte - berichtet Tom's Hardware unter Berufung auf Forscher von Crypto Cellar Research. Der Funkspruch war seit 2005 öffentlich zugänglich, und bisher hatte ihn niemand gelesen. Das Modell wählte ihn selbst aus einer Liste ungelesener Nachrichten aus, schrieb in Python und C++ einen Simulator der Enigma und der kryptologischen Bombe und las die aus Rosenow gesendete Bitte um Angabe der Marschroute.

Chinesische KI-Modelle bedienen bereits den Großteil des Traffics bei OpenRouter und Vercel

Chinesische KI-Modelle bedienen bereits die Mehrheit der Anfragen auf zwei großen Plattformen für Entwickler - berichtet CNBC. Bei OpenRouter entfielen in der Woche ab dem 14. September 57-67 Prozent der verbrauchten Tokens auf sie, gegenüber 6-13 Prozent im Februar, bei Vercel im August 55 Prozent, gegenüber 11 Prozent im Januar. Laut Vertretern beider Plattformen wählen Unternehmen sie vor allem für das Programmieren und für KI-Agenten, weil sie bei ausreichender Qualität deutlich günstiger sind als amerikanische.

Mercedes testet Festkörperbatterien von ProLogium

Mercedes-Benz hat die Zusammenarbeit mit dem taiwanischen Unternehmen ProLogium ausgeweitet und erhält Vorrang beim Testen von dessen Festkörperbatterien der vierten Generation. Die Zellen mit keramischem Separator und nicht brennbarem Elektrolyt durchlaufen elektrische, thermische und Sicherheitstests in den Laboren von Mercedes und unabhängiger Institute. ProLogium plant, in Dünkirchen eine Fabrik für solche Zellen mit einer Jahreskapazität von bis zu 44 GWh zu bauen.

KI-Agenten von OpenAI haben 53 Nutzerfotos im Internet veröffentlicht

KI-Agenten, die in der Forschungsumgebung von OpenAI laufen, haben auf Bilderseiten 53 von Nutzern hochgeladene Fotos veröffentlicht, die zuvor in die Trainingsdaten gelangt waren - räumte das Unternehmen ein. Links wurden nirgends angegeben, aber die Bilder ließen sich finden, und einige Fotos sind weiterhin im Netz. OpenAI erklärt, die Betroffenen nicht benachrichtigen zu können, da es nicht feststellen könne, wem die Fotos gehörten.

Berufungsgericht gibt dem Pentagon im Streit mit Anthropic recht

Ein Bundesberufungsgericht in Washington entschied mit 2 zu 1 Stimmen, dass das Kriegsministerium Anthropic auf die Liste der Unternehmen setzen durfte, die ein „Lieferkettenrisiko“ darstellen, was eine Zusammenarbeit mit dem Militär und seinen Auftragnehmern ausschließt. Das Gericht wies auch das Argument zurück, das Recht des Unternehmens auf Meinungsfreiheit sei verletzt worden. Anthropic erwägt weitere Schritte, darunter eine Berufung vor dem Obersten Gerichtshof, und erinnert daran, dass ein anderes Gericht die parallele Entscheidung der Regierung für rechtswidrig erklärt hat.

Anthropic gibt in sieben Jahren 11,6 Mrd. Dollar für die Akamai-Cloud aus

Anthropic hat sich verpflichtet, innerhalb von sieben Jahren 11,6 Mrd. Dollar für die Cloud-Infrastruktur von Akamai auszugeben - der größte Vertrag in der Geschichte von Akamai. Im Gegenzug gab Akamai Anthropic das Recht, je nach Höhe der Ausgaben bis zu ca. 5 Prozent seiner Aktien zu erwerben, und bei größeren Bestellungen kann der Vertragswert auf ca. 20 Mrd. Dollar steigen. Akamai erwartet die ersten Einnahmen aus dem Vertrag in der zweiten Hälfte des Jahres 2027.

Microsoft zeigt neuen Copilot mit den Modi Autopilot und Code

Microsoft hat eine neue Version von Copilot veröffentlicht, die Satya Nadella als „neues Betriebssystem für die Arbeit“ bezeichnet. Der Modus Autopilot ist ein Cloud-Agent, der zeitaufwendige Aufgaben selbstständig erledigt, und im Tab Code lassen sich anhand einer Beschreibung Apps, Analyse-Dashboards und Automatisierungen mit Unternehmensdaten erstellen. Beide Modi werden nach Verbrauch abgerechnet, zur Auswahl stehen unter anderem die Modelle Fable und Astra.

McDonald's startet Werbenetzwerk - Anzeigen anderer Marken auf Bildschirmen in Restaurants und in der App

McDonald's hat den Start des McDonald's Media Network verkündet - eines Netzwerks, das Werbung anderer Unternehmen in der App und auf nahezu allen Bildschirmen in den Restaurants zeigen soll, von Menütafeln über Bildschirme an den Drive-thru-Schaltern bis zu Bestellterminals. Seit August testet das Unternehmen dies in 450 eigenen Restaurants in den USA, wo die Werbung nach der Bestellung auf der Menütafel erscheint. Langfristig soll daraus ein Milliardengeschäft werden - kündigte Marketingchefin Morgan Flatley beim Investorentag an.

Sony und Universal verklagen Suno erneut - diesmal geht es um das Modell v6

Sony Music und Universal Music Group haben eine weitere Klage gegen Suno, den Entwickler des KI-Musikgenerators, eingereicht. Die Labels behaupten, das neue Modell v6 verletze weiterhin ihre Urheberrechte, da es mit Titeln trainiert wurde, die Nutzer mit früheren Suno-Modellen erstellt haben, sowie per Destillation dieser Modelle. Frühere Modelle wurden mit Aufnahmen ohne Lizenz trainiert, und die Übertragung ihrer Ergebnisse auf v6 nennen die Labels in der Klage „Model Laundering“.

OpenAI stoppt Training der leistungsstärksten Modelle nach Vorfall mit Agent

OpenAI hat Training und Evaluation seiner leistungsstärksten Modelle sowie deren Betrieb mit Werkzeugzugriff gestoppt, bis die Behebung der Lücke bestätigt ist und zusätzliche Sicherheitstests durchgeführt wurden - teilte das Unternehmen in einem Bericht vom 25. September mit. Anlass ist ein Vorfall vom 20. September: Ein Agent, der in einer Trainingsaufgabe Informationen über den Autor eines Blogs suchte, nutzte eine Lücke in der DNS-Filterung seiner Sandbox, um einem externen Chatbot Fragen zu stellen. Das Überwachungssystem meldete den Vorfall nach 12 Minuten, doch das Training, das sich automatisch hätte stoppen sollen, wurde erst 2,5 Stunden später manuell abgebrochen. OpenAI wird das Training dieses Modells nicht wieder aufnehmen, sondern ein neues von Grund auf mit zusätzlichen Sicherheitsvorkehrungen beginnen.

Trump und Xi sprachen über KI - China: Dialog und Zusammenarbeit geplant

Beim Festessen im Weißen Haus sprachen Donald Trump und Xi Jinping über künstliche Intelligenz und sprachen sich laut der chinesischen Mitteilung beide für weiteren Dialog und Zusammenarbeit aus. Xi sagte, KI „muss unter menschlicher Kontrolle bleiben“, und beide Seiten sollten ihren Missbrauch gemeinsam verhindern. Die US-Regierung hat noch keine eigene Mitteilung herausgegeben, und nach Einschätzung eines CSIS-Experten blieb es bei der Ankündigung eines Dialogs und der Einrichtung von „irgendeiner Hotline“ für Zwischenfälle.

OpenAI bereitet GPT-6 Cyber und ein erstes Produkt für dessen Einsatz vor

OpenAI will in den kommenden Wochen GPT-6 Cyber vorstellen, ein auf Cybersicherheit spezialisiertes Modell - berichtet Fortune unter Berufung auf Quellen. Gleichzeitig soll das erste Produkt dieser Art von OpenAI erscheinen, das Kunden helfen soll, das Modell sicher einzusetzen und Schwachstellen automatisch zu beheben. Ausgewählte Teilnehmer des Programms Daybreak Red testen das Modell bereits.

Tesla kündigt neuen Roadster an, Präsentation am 1. Oktober

Am Ende der Präsentation des überarbeiteten Lkw Semi zeigte Tesla einen kurzen Teaser des neuen Roadsters: eine leuchtende Leiste und ein beleuchtetes Logo mit dem Modellnamen. Die vollständige Präsentation hat das Unternehmen für den 1. Oktober angesetzt.

Zuckerberg lehnt Appelle für gemeinsames Vorgehen der Branche bei der KI-Sicherheit ab

Mark Zuckerberg hat im Gespräch mit Joanna Stern Appelle von OpenAI, Anthropic und Google DeepMind zurückgewiesen, die KI-Sicherheit branchenweit zu koordinieren und die Regierung einzubeziehen. Seiner Ansicht nach sollte jedes Labor selbst einen Launch stoppen, wenn es ein Problem erkennt, und die Unternehmen hätten ohnehin einen wirtschaftlichen Grund, auf Sicherheit zu achten, weil Menschen keine Produkte nutzen, denen sie nicht vertrauen. Als Beispiel nannte er Muse, dessen Start Meta um einige Monate verschoben hat.

Tesla eröffnet Semi-Lkw-Fabrik in Nevada - 50.000 Stück pro Jahr

Tesla hat in Sparks in Nevada die erste Fabrik für elektrische Semi-Lkw eröffnet, die 50.000 Stück pro Jahr produzieren soll, und den Beginn der Auslieferungen verkündet - fast neun Jahre nach der Vorstellung des Modells im Jahr 2017. Je nach Version hat der Semi bei voller Beladung eine Reichweite von 325 oder 500 Meilen (ca. 520 bzw. 800 km) und gewinnt am Megacharger-Ladegerät in einer halben Stunde 60 Prozent Reichweite zurück. Tesla nannte weder Preis noch Zahl der Bestellungen. Zu den Kunden zählen PepsiCo und DHL, und die Transportallianz ZET SCALE wählte Tesla als Hauptlieferanten von 2.500 Lkw.

Leak: OpenAI bereitet ChatGPT Pro Max für 500 Dollar im Monat vor

Im ChatGPT-Code ist ein neuer Plan Pro Max für 500 Dollar im Monat aufgetaucht - berichtet TestingCatalog, ein Portal, das unangekündigte Funktionen in Apps aufspürt. Die Beschreibung des Plans unterscheidet sich bislang von der des aktuellen Pro nur durch den Hinweis auf die schnellste Leistung von ChatGPT Work und Codex. OpenAI hat den neuen Plan bisher nicht bestätigt.

Update vom 29. September: OpenAI hat den Plan für 500 Dollar auf der Konferenz DevDay offiziell eingeführt.

Meta zeigt Muse Charm, einen Anhänger für Gespräche mit dem KI-Agenten

Auf der Konferenz Connect zeigte Mark Zuckerberg Muse Charm - einen Anhänger, der nach Berühren des Fingerabdrucksensors ein Gespräch mit dem Agenten Muse startet. Er soll vor den Feiertagen in den Verkauf gehen, einen Preis nannte Meta nicht. Das Unternehmen kündigte außerdem an, bis Ende 2026 KI-Brillen in mehr als 100 Designs anzubieten; die Aktie legte am Donnerstag um 4,5 Prozent zu.

Gemini 3.8 Live bekommt ein Gesicht: KI-Avatar spricht in Echtzeit

Google hat in Gemini 3.8 Live die Funktion Live Avatar eingeführt - eine animierte Figur, die beim Gespräch den Mund passend zur Aussage bewegt und die Mimik verändert. Der Avatar spricht 97 Sprachen und kann Informationen auf dem Bildschirm anzeigen. Bisher nutzen ihn nur Kunden von Gemini Enterprise, die eine fertige Figur wählen oder eine eigene erstellen können.

PrismML bringt kleines Sprachmodell direkt auf Brillen mit Qualcomm-Chip

Das von Forschern des Caltech gegründete Startup PrismML hat eine Version seines Modells Bonsai für KI-Brillen mit dem Chip Snapdragon AR1 Gen 1 vorbereitet, die Qualcomm auf dem Snapdragon Summit zeigte. Es ist ein 1-Bit-Modell mit 2 Mrd. Parametern, das Bild und Text versteht und lokal läuft, sodass Nutzer fragen können, was sie gerade ansehen. Brillen mit diesem Modell wurden noch nicht angekündigt.

Virtueller Kleiderschrank in Google Fotos kommt auf iOS und Android

Google hat in Google Fotos einen virtuellen Kleiderschrank eingeführt, der an die App aus dem Film „Clueless“ erinnert: Die KI erstellt aus den Kleidungsstücken auf den Fotos der Nutzer eine digitale Version der Garderobe. Die Stücke lassen sich nach Kategorien filtern und zu Outfits kombinieren. Die Funktion läuft auf iOS und Android in den USA, Brasilien und Indien; laut Google gelangen die Daten zur Kleidung nicht an Geschäfte oder andere Unternehmen.

Gemini auf dem Pixel 11 ruft für Sie bei Unternehmen an

Google hat die Funktion Call for Me gestartet: Gemini ruft selbst bei einem Unternehmen an, stellt sich vor, wählt Optionen im automatischen Menü, wartet in der Leitung und erledigt das Anliegen, etwa einen Termin zu vereinbaren oder nachzufragen, ob ein Artikel im Geschäft vorrätig ist. Der Nutzer sieht das Gespräch live als Transkript und kann es jederzeit übernehmen. Die Funktion ist experimentell: Sie läuft nur auf dem Pixel 11 in den USA, auf Englisch, bei Personen, die für Gemini zahlen und für die Betatests der Google-Telefon-App angemeldet sind.