News
Anthropic legt Missbrauch von Claude offen - Biowaffen, Raketen, 25 Millionen SIM-Karten
154 Seiten und sieben Missbrauchsbereiche aus acht Monaten: ein Abhörsystem für den Geheimdienst Malis, eine Waffenzelle im Jemen, die Raketensoftware in Claude Code schreibt, fünf Fälle aus der biologischen Forschung und sieben chinesische Labore, die Claude die Denkweise abschöpfen. Die Sperrung des Kontos in Mali hat nichts abgeschaltet - das fertige System läuft auf lokalen Servern.
Lesen →
25 Träger der Fields-Medaille gegen die KI-Konzerne - berühmte Probleme sind kein Benchmark
Nach einem Gerücht, das sich als falsch herausstellte, setzte OpenAI 10.000 Agenten auf eines der Millennium-Probleme an und hatte nach 88 Stunden einen Beweis. Drei Tage später unterschrieben 25 Träger der Fields-Medaille, mehr als ein Drittel aller Ausgezeichneten in der Geschichte, eine Erklärung gegen die Behandlung der Mathematik als Benchmark.
Lesen →
Apple zeigt das erste faltbare iPhone - iPhone Duo ab 2.299 Euro, dazu iPhone 18 Pro, neue Uhren und AirPods 5
Die erste Keynote von John Ternus als CEO: das faltbare iPhone Duo (ab 2.299 Euro, im Handel ab 23. Oktober), iPhone 18 Pro und Pro Max (ab 1.449 Euro), Apple Watch Series 12 und Ultra 4, AirPods 5 mit Geräuschunterdrückung in beiden Versionen. Siri AI startet am 14. September, aber nicht auf iPhones in der EU und vorerst nicht auf Deutsch. Am Ende: was die Gerüchte sagten und was fehlte.
Lesen →
Forscher verlässt Anthropic mit einer Warnung - und der Sicherheitschef gibt ihm recht
Jacob Coxon ging am 8. September und schrieb, die KI-Labore spielten mit unserem Leben. Evan Hubinger, Leiter des Teams Alignment Science bei Anthropic, antwortete, er schätze das Risiko einer Auslöschung der Menschheit auf über 10% innerhalb eines Jahrzehnts - und die Firma habe keinen Plan, das zu verhindern. Zwei Tage zuvor hatte der Chefwissenschaftler von OpenAI fast dasselbe geschrieben. Coxons Beitrag und Hubingers Antwort haben Millionen Aufrufe, und unter beiden taucht immer wieder eine Frage auf: Wie denn eigentlich?
Lesen →