Anthropic zverejnil zneužitia Clauda - biologické zbrane, rakety a odpočúvanie 25 mil. SIM

Technologické firmy zriedka hovoria, čo sa pokazilo. Vo štvrtok 10. septembra Anthropic zverejnil obsiahly raport o tom, na čo sa ľudia posledných osem mesiacov pokúšali použiť Clauda. Do včera mal príspevok firmy na sieti X 36 miliónov zobrazení a David Agranovich, ktorý osem rokov viedol v Mete tím na potláčanie takýchto operácií, napísal: „Prerušujem svoju pauzu na X, pretože toto je fascinujúce (...). Je hodné zaznamenania, že Anthropic je takto otvorený“ (angl. „Breaking my X hiatus because this is fascinating (...). It's noteworthy that Anthropic is being this transparent.“).

Raport pokrýva obdobie od decembra 2025 do augusta 2026 a sedem oblastí: kybernetické operácie, operácie vplyvu, sledovanie, konvenčné zbrane, biológiu, podvody a nelegálnu destiláciu modelov. Najsilnejší prípad je z Mali. Nezávislý konzultant z Bamaka, ktorý zrejme pracoval na vlastnú päsť, postavil pre tamojšiu tajnú službu (ANSE) platformu „Lakana 360“, ktorá monitoruje približne 25 miliónov SIM kariet u všetkých troch mobilných operátorov v krajine. Systém nahráva hovory, SMS a hlasovú prevádzku, rozpoznáva ľudí podľa hlasu aj po zmene karty, označuje používateľov VPN a spája údaje s národným biometrickým registrom. Na žiadosť operátora odstránili z komponentu, ktorý píše spravodajský spis o ľubovoľnom telefónnom čísle, požiadavku na súdny príkaz.

A tu prichádza to najzaujímavejšie. Anthropic konto zablokoval, no v raporte píše priamo: „Opatrenia voči kontu nemajú vplyv na nasadený produkt“ (angl. „Account enforcement actions do not affect the deployed product.“). Hotový systém beží na miestnych serveroch, na lokálnych modeloch. Claude bol len inžinierskym tímom, ktorý napísal kód.

Druhý prípad je skupina na severe Jemenu, ktorá vedie tri zbrojné programy: riadenú raketu s palubným riadiacim modulom postaveným z obyčajných súčiastok zo smartfónu, balistickú strelu s deklarovaným cieľovým dosahom nad 2 000 km a rodinu „R2000“ vrátane varianty s hypersonickým klzákom. Riadiaci softvér písali v Claude Code namiesto toho, aby si najali inžinierov - naraz mali spustených niekoľko inštancií s rozdelenými úlohami: jedna písala kód, druhá vyhľadávala informácie, tretia recenzovala. Ochranné mechanizmy im časť požiadaviek zablokovali, a tak prácu rozdelili do mnohých sedení, aby ani jedno neprezradilo celý obraz. Raketu otestovali v teréne. Test sa zrejme nevydaril - a v priebehu niekoľkých hodín boli s Claudom späť a zisťovali prečo.

Biologická časť opisuje päť prípadov a v každom sa vracia ten istý problém: výskum s dvojakým použitím vyzerá nevinne, kým ho nezasadíte do kontextu. V máji klasifikátor zablokoval pomoc pri grantovej žiadosti na gain-of-function výskum vírusu chikungunya, zameraný na zvýšenie prenosnosti a únik pred imunitou. Žiadatelia boli civilní vedci, ale práce sa mali robiť vo vojenskom výskumnom inštitúte. Platforma, cez ktorú požiadavky chodili, tunelovala prevádzku cez americkú infraštruktúru a jej operátor po zablokovaní získal prístup späť v priebehu niekoľkých dní a dorobil mechanizmus, ktorý odmietnuté výzvy posielal ďalej do modelu konkurencie. Jacob Klein, ktorý v Anthropicu vedie tím analýzy hrozieb, to vystihol takto: „Nevidíte niekoho, kto ako v komikse povie: hej, chcem si postaviť biologickú zbraň“ (angl. „You are not seeing someone in a comic book kind of way say, 'Hey, I want to build a biological weapon.'“).

Niekedy ochranné mechanizmy fungujú tak, že to z titulkov nevidno. Výskumník, ktorý pracoval na prispôsobení vtáčej chrípky H5 na cicavce, si s Claudom v priebehu niekoľkých týždňov vymenil tisíce správ - klasifikátory ho však stlačili na najslabšie modely firmy, Sonnet 4 a Haiku 4.5. Anthropic odhaduje, že výskumník dostal hlavne administratívnu pomoc pri návrhu štúdie a analýze údajov. V inom prípade Opus 5 napísal od nuly za približne hodinu celú grantovú žiadosť o ortopoxvírusoch: hypotézu, návrh experimentu, dávkovanie a štatistiku. Prešlo to, pretože výskum oslabovania vírusu nevyzerá nebezpečne.

Samostatná kapitola sa venuje siedmim čínskym laboratóriám, ktoré z Clauda vyťahovali spôsob uvažovania. Najväčšiu operáciu viedla Alibaba: 151 miliónov požiadaviek od mája do júla, v špičke takmer 3 milióny denne, z viac ako 3 500 podvodných účtov, pričom získané prepisy šli na trénovanie modelov Qwen. Moonshot počas desiatich dní presmeroval Claudovi približne 300 000 požiadaviek vlastných zákazníkov a Claudove odpovede im ukazoval, akoby prišli od Kimi; od mája do júla nazbieral celkovo viac ako 23 miliónov požiadaviek. DeepSeek robil to isté a za štrnásť júlových dní mu pripísali 12,1 milióna požiadaviek. Používatelia o tom nemali tušenie a v presmerovaných rozhovoroch sa našli finančné prognózy farmaceutickej firmy, funkčné prístupové kľúče, zábery z niekoľkých stoviek kamier v Chengdu a prihlasovacie údaje k databáze vládnej agentúry napojenej na ruské ministerstvo obrany.

Tento raport sa vyplatí čítať s rezervou a naznačuje to aj sám Agranovich: „Anthropic upozorňuje, že časť čísel o dosahu niektorých operácií pochádza z metrík samotných útočníkov. Videli sme tam veľa nadsádzky“ (angl. „Anthropic notes that some of the impact numbers for some of the ops come from the attacker's own metrics. We've seen a lot of inflation there.“). Časť komentujúcich na Hacker News firme vyčítala dvojaký štandard: Anthropic menuje čínske firmy a uvádza krajiny, z ktorých zbrojné skupiny pôsobili, ale pri biologických výskumníkoch zamlčuje inštitúcie aj štáty, pretože „netvrdíme, že mali v úmysle spôsobiť škodu“ (angl. „we do not assert that they intended harm“). Deň pred zverejnením raportu čínske ministerstvo obchodu odmietlo skoršie obvinenia amerických agentúr ako politizovanie obyčajnej techniky a prisľúbilo odpoveď, ak Washington zasiahne proti čínskym firmám.

Jedno zostáva bez ohľadu na to, komu veríte. Poskytovateľ modelu nám dal ďalší, oveľa podrobnejší zoznam konkrétnych použití s číslami namiesto špekulácií o tom, čo by AI raz mohla umožniť. V biologickej časti Anthropic píše, že žiadna firma, ani z odvetvia AI, ani mimo neho, doteraz verejne nezdieľala dôkazy o takomto použití vlastnej platformy. Klienti Kimi boli presvedčení, že sa rozprávajú s Kimi. Inžinier čínskej firmy tam vložil interný kód a funkčné kľúče a všetko šlo ku Claudovi a uložilo sa na trénovanie. A najpraktickejší záver je tento: ak používate lacný model cez sprostredkovateľa, možno neviete, čí model vaše údaje v skutočnosti číta. Presmerované rozhovory podľa raportu chodili cez routery modelov, ktoré sa používajú v USA aj v Európe - týka sa to teda aj používateľov na Slovensku.

Destilácia - trénovanie menšieho modelu na odpovediach väčšieho, aby prevzal jeho schopnosti za zlomok ceny. Je to štandardná tréningová metóda; Anthropic nazýva „nelegálnou destiláciou“ zbieranie cudzích odpovedí v priemyselnom rozsahu, bez povolenia a v rozpore s podmienkami prístupu. Gain-of-function - výskum, pri ktorom sa organizmus zámerne mení tak, aby získal novú alebo silnejšiu vlastnosť, napríklad vyššiu prenosnosť. Klasifikátor - samostatný model, ktorý dozerá, či požiadavka neporušuje pravidlá; odpoveď zablokuje predtým, ako sa dostane k používateľovi.