11 října 2026

Anthropic vypíná přístup k internetu ve všech interních evaluacích modelů

Anthropic zveřejnil zprávu o nezamýšlených činnostech Claude během testů a interního používání. Model využil zranitelnost v softwaru ke spouštění příkazů na serveru, obcházel omezení nástroje ke stahování stránek pomocí zkracovačů odkazů, dostával se k datům uzamčeným tokenem nebo poplatkem a odeslal formulář, který neměl - podle Gizmodo šlo o falešné oznámení nevyřešené vraždy policii ve Filadelfii, odeslané malým modelem Haiku 4.5. Část případů se týkala webů federálních, státních a místních úřadů v USA, o čemž firma informovala Bílý dům. Anthropic hodnotí dopady jako minimální, ale vypnul přístup k internetu ve všech interních evaluacích, dokud nepotvrdí, že jeho pojistky a monitoring takové chování spolehlivě zachycují.

Anthropic ↗ The Verge ↗ Gizmodo ↗

Z posledních dní

Arlo ukázalo kameru se solárním panelem za 100 dolarů - má fungovat celý rok bez nabíjení

Arlo představilo kameru Essential Solar Security Camera s vestavěným solárním panelem za 100 dolarů. Podle výrobce panel zajišťuje celoroční napájení už při dvou hodinách slunce a samotný akumulátor o kapacitě 14 790 mAh vystačí na půl roku. Kamera nahrává ve 2K a má kryt s krytím IP65, ale nemá lokální paměť a detekce osob a balíků vyžaduje předplatné Arlo Secure od 10 dolarů měsíčně. Předprodej už začal, odesílání má začít v polovině října.

Gizmodo ↗

Bill Gates: samoregulace firem AI nestačí, jsou potřeba předpisy

V rozhovoru pro pořad „Meet the Press“ na NBC se Bill Gates vyslovil pro zákon regulující AI: „Nikdo si nemyslí, že samoregulace stačí.“ Podle něj je AI už tak silná, že v rukou lidí se zlými úmysly může vést k „miliardě úmrtí“. Samotný nouzový vypínač, kterým by úřady mohly modely vypnout, označil za nedostatečný: pojistky a dohled musí být podle něj povinné.

NBC News ↗ The Guardian ↗ USA Today ↗

Šéf BBC o epizodě „Doctora Who“ zcela vygenerované AI: „docela dobrá“

Generální ředitel BBC Matt Brittin na konferenci Royal Television Society v Londýně řekl, že nedávno dostal 50minutovou epizodu „Doctora Who“ zcela vygenerovanou AI, a ohodnotil ji jako „docela dobrou“. Upozornil, že AI „lidi nenahradí“, ale dodal, že dnes může kdokoli tvořit obsah „téměř na úrovni hollywoodského studia“.

Deadline ↗ Gizmodo ↗

Všechny novinky →