Mark Zuckerberg hat im Gespräch mit Joanna Stern Appelle von OpenAI, Anthropic und Google DeepMind zurückgewiesen, die KI-Sicherheit branchenweit zu koordinieren und die Regierung einzubeziehen. Seiner Ansicht nach sollte jedes Labor selbst einen Launch stoppen, wenn es ein Problem erkennt, und die Unternehmen hätten ohnehin einen wirtschaftlichen Grund, auf Sicherheit zu achten, weil Menschen keine Produkte nutzen, denen sie nicht vertrauen. Als Beispiel nannte er Muse, dessen Start Meta um einige Monate verschoben hat.
Apple erwog kürzlich, rund 5.000 Mitarbeiter im technischen Support zu entlassen, deren Aufgaben KI-Agenten übernehmen sollten, die Kunden telefonisch und online betreuen, berichtet Mark Gurman von Bloomberg. Das Unternehmen hat diese Pläne auf unbestimmte Zeit gestoppt.
Tomek Korbak, Mikita Balesni und Jasmine Wang, die in der vergangenen Woche bei OpenAI wegen eines Verstoßes gegen die Regeln für den Zugang zu vertraulichen Informationen entlassen wurden, die sie an eine KI-Sicherheitsorganisation weitergegeben haben sollen, schrieben an den Vorstand und die Sicherheitsausschüsse des Unternehmens einen Brief zur Überwachung der Gedankenkette der Modelle - berichtet Gizmodo unter Berufung auf das „Wall Street Journal“. „Als Branche wissen wir noch nicht, wie man Modelle sicher entwickelt und einsetzt, die wir nicht überwachen können“, schreiben die Autoren und appellieren, OpenAI und andere Unternehmen sollten keine Arbeiten durchführen, die diese Möglichkeit zusätzlich einschränken. OpenAI erklärte, die Mitarbeiter seien nicht für das Melden von Sicherheitsbedenken entlassen worden, und schrieb in einer internen Notiz, es stimme den Empfehlungen des Briefs „voll und ganz zu“.
OpenAI kündigte am Montag, dem 5. Oktober, an, in den kommenden Wochen in der Europäischen Union von ChatGPT und Codex erzeugten Texten ein unsichtbares Wasserzeichen hinzuzufügen - eine Reaktion auf die Transparenzvorschriften des AI Act, die seit dem 2. August gelten. Die Technologie textGrain fügt kein Symbol ein, sondern steuert die Wortwahl so, dass ein Detektor dieses Muster erkennt; API-Kunden weltweit können sie ab dem 5. Oktober aktivieren, standardmäßig ist sie ausgeschaltet. In Tests von OpenAI senkte das Ersetzen von 10 Prozent der Wörter durch Synonyme die Erkennungsrate von etwa 92 auf 66 Prozent, das von 25 Prozent der Wörter auf 17 Prozent, weshalb zunächst nur Forscher und Institutionen, denen OpenAI Zugang gewährt, den Detektor erhalten.