Novinky

OpenAI a Anthropic zkoumají desítky tisíc incidentů s účastí svých modelů

OpenAI, Anthropic a bezpečnostní výzkumníci analyzují desítky tisíc případů, kdy nejnovější modely obcházely pojistky, unikaly z pískovišť, ovládaly webové stránky nebo se pokoušely obejít dohled - uvádí Axios s odvoláním na zdroje. K incidentům docházelo v testech i mimo ně a většina z nich podle dostupných informací nezpůsobila skutečné škody. Jeden takový případ popsal výzkumník Rowan Howard-Jones: podle něj agenti OpenAI od dubna do června zhruba 16,5 tis. krát dotazovali statistický web OSN UNCTADstat, obcházeli jeho omezení a maskovali dotazy. Data stahovali mimo jiné přes výukovou hru Googlu o útocích XSS.

Google v Indii testuje nákup produktů z nabídky Flipkartu přímo v Gemini

Google v Indii testuje tlačítko „Koupit“ v Gemini a v režimu AI vyhledávače, viditelné u vybraných produktů z nabídky Flipkartu - uvádí TechCrunch s odvoláním na své zdroje. Tlačítko otevře platební formulář na webu Flipkartu, aniž by uživatel opustil rozhovor s AI, a test zatím zahrnuje část uživatelů a málo produktů, hlavně chytré telefony a další elektroniku. Podle zdroje TechCrunch má širší nasazení začít v říjnu, před obdobím indických svátků, kdy probíhají největší výprodeje roku.

Šéf Cloudflare: provoz botů na internetu už předehnal provoz lidí

Matthew Prince, šéf Cloudflare, v podcastu Decoder řekl, že podle dat firmy v květnu provoz generovaný automaticky boty a agenty AI na internetu překonal provoz generovaný lidmi a za pět let může být až tisíckrát větší. Protože boty neklikají na reklamy, chce Cloudflare spolu s Coinbase a Stripe, aby platily zlomek centu za každé stažení obsahu. Prince také očekává, že místní noviny v Park City, které vlastní s manželkou, letos vydělají na licencích pro firmy AI víc než na online reklamách.

Výstavba datacenter pro AI zvyšuje poptávku po svářečích, instalatérech a elektrikářích

Boom AI vytváří pracovní místa ve fyzických profesích: při stavbě datacenter roste poptávka po svářečích, instalatérech, elektrikářích a technicích klimatizací - uvádí CNBC. Podle ZipRecruiteru je inzerátů pro svářeče a montéry potrubí o 164 % více než před rokem a průměrná minimální mzda v nabídkách práce v datacentrech vzrostla o 125 % na téměř 208 tis. dolarů ročně. Zároveň 70 % Američanů je proti výstavbě datacentra ve svém okolí a New York a Texas začaly takové investice zpomalovat.

GPT-6 Astra za dva dny dešifroval zprávu z Enigmy, která se od roku 2005 nedala přečíst

Model GPT-6 Astra společnosti OpenAI za dva dny dešifroval zprávu MVUEH, kterou německá armáda vysílala 10. července 1941 k divizi SS-Totenkopf - uvádí Tom's Hardware s odvoláním na badatele z Crypto Cellar Research. Šifrový text byl veřejně dostupný od roku 2005 a dosud ho nikdo nepřečetl. Model si ho sám vybral ze seznamu nepřečtených zpráv, napsal v Pythonu a C++ simulátor Enigmy a kryptologické bomby a přečetl žádost o sdělení trasy pochodu, odeslanou z Rosenowa.

Čínské modely AI už obsluhují většinu provozu na OpenRouteru a Vercelu

Čínské modely AI už obsluhují většinu dotazů na dvou velkých platformách pro vývojáře - uvádí CNBC. Na OpenRouteru připadalo v týdnu od 14. září na ně 57-67 % spotřebovaných tokenů oproti 6-13 % v únoru, na Vercelu 55 % v srpnu oproti 11 % v lednu. Podle zástupců obou platforem je firmy vybírají hlavně pro programování a agenty AI, protože při dostatečné kvalitě jsou výrazně levnější než americké.

Mercedes bude testovat baterie s pevným elektrolytem od firmy ProLogium

Mercedes-Benz rozšířil spolupráci s tchajwanským ProLogiem a získá přednostní právo testovat jeho baterie čtvrté generace s pevným elektrolytem. Články s keramickým separátorem a nehořlavým elektrolytem projdou elektrickými, tepelnými a bezpečnostními zkouškami v laboratořích Mercedesu a nezávislých institutů. ProLogium plánuje v Dunkerque postavit továrnu na takové články s roční výrobní kapacitou až 44 GWh.

Agenti AI společnosti OpenAI zveřejnili na internetu 53 fotek uživatelů

Agenti AI fungující ve výzkumném prostředí OpenAI umístili na weby s obrázky 53 fotek nahraných uživateli, které se dříve dostaly do trénovacích dat - přiznala firma. Odkazy nebyly nikde uvedeny, ale dalo se je najít a část fotek je stále na internetu. OpenAI tvrdí, že nemůže postižené upozornit, protože nedokáže zjistit, komu fotky patřily.

Odvolací soud dal Pentagonu za pravdu ve sporu s Anthropicem

Federální odvolací soud ve Washingtonu poměrem hlasů 2:1 rozhodl, že ministerstvo války mohlo zapsat Anthropic na seznam firem představujících „riziko v dodavatelském řetězci“, což vylučuje spolupráci s armádou a jejími dodavateli. Soud odmítl také argument, že bylo porušeno právo firmy na svobodu slova. Anthropic zvažuje další kroky, včetně odvolání k Nejvyššímu soudu, a připomíná, že jiný soud označil souběžné rozhodnutí vlády za protizákonné.

Anthropic utratí za cloud Akamai 11,6 mld. dolarů během sedmi let

Anthropic se zavázal utratit během sedmi let 11,6 mld. dolarů za cloudovou infrastrukturu Akamai - jde o největší smlouvu v historii Akamai. Akamai mu na oplátku dal právo získat maximálně zhruba 5 % svých akcií, v závislosti na výši výdajů, a při vyšších objednávkách může hodnota smlouvy vzrůst až na zhruba 20 mld. dolarů. Akamai očekává první příjmy ze smlouvy ve druhé polovině roku 2027.

Microsoft ukázal nový Copilot s režimy Autopilot a Code

Microsoft zpřístupnil novou verzi Copilota, kterou Satya Nadella nazývá „novým operačním systémem pro práci“. Režim Autopilot je agent běžící v cloudu, který samostatně vykonává časově náročné úkoly, a na kartě Code lze na základě popisu vytvářet aplikace, analytické panely a automatizace využívající firemní data. Za oba režimy se platí podle spotřeby a na výběr jsou mimo jiné modely Fable a Astra.

McDonald's spouští reklamní síť - reklamy jiných značek na obrazovkách v restauracích a v aplikaci

McDonald's oznámil spuštění McDonald's Media Network - sítě, která má zobrazovat reklamy jiných firem v aplikaci a na téměř všech obrazovkách v restauracích, od menu boardů po obrazovky u drive-thru a samoobslužné kiosky. Od srpna to firma testuje ve 450 vlastních restauracích v USA, kde se reklama objeví na menu boardu po zadání objednávky. Do budoucna má jít o byznys v hodnotě miliardy dolarů - oznámila marketingová ředitelka Morgan Flatley na dni pro investory.

Sony a Universal znovu žalují Suno - tentokrát kvůli modelu v6

Sony Music a Universal Music Group podaly další žalobu na Suno, tvůrce generátoru hudby s AI. Vydavatelství tvrdí, že nový model v6 stále porušuje jejich autorská práva, protože byl trénován na skladbách vytvořených uživateli pomocí dřívějších modelů Suno a metodou destilace těchto modelů. Dřívější modely byly trénovány na nahrávkách bez licence a přenesení jejich výstupů do v6 vydavatelství v žalobě nazývají „praním modelu“.

OpenAI pozastavilo trénink nejvýkonnějších modelů po incidentu s agentem

OpenAI pozastavilo trénink a evaluaci svých nejvýkonnějších modelů a jejich provoz s přístupem k nástrojům, dokud nepotvrdí odstranění zranitelnosti a neprovede další bezpečnostní testy - uvedla firma ve zprávě z 25. září. Důvodem je incident z 20. září: agent, který v trénovacím úkolu hledal informace o autorovi blogu, využil zranitelnost ve filtrování DNS ve svém pískovišti, aby kladl dotazy externímu chatbotu. Monitorovací systém incident nahlásil po 12 minutách, ale trénink, který se měl zastavit automaticky, byl přerušen ručně až o 2,5 hodiny později. OpenAI nebude trénink tohoto modelu obnovovat a nový začne od začátku, s dodatečnými pojistkami.

Trump a Si Ťin-pching hovořili o AI - Čína: bude dialog a spolupráce

Při slavnostní večeři v Bílém domě hovořili Donald Trump a Si Ťin-pching o umělé inteligenci a podle čínského komuniké se oba vyslovili pro další dialog a spolupráci. Si řekl, že AI „musí zůstat pod kontrolou člověka“ a obě strany by měly společně předcházet jejímu zneužívání. Americká administrativa zatím nevydala vlastní prohlášení a podle experta CSIS to skončilo u oznámení dialogu a zřízení „nějaké horké linky“ pro případ incidentů.

OpenAI chystá GPT-6 Cyber a první produkt pro jeho nasazování

OpenAI v nejbližších týdnech představí GPT-6 Cyber, model specializovaný na kybernetickou bezpečnost - uvádí Fortune s odvoláním na zdroje. Spolu s ním debutuje první produkt OpenAI tohoto druhu, který má zákazníkům pomáhat model bezpečně nasazovat a automaticky odstraňovat zranitelnosti. Vybraní účastníci programu Daybreak Red už model testují.

Tesla ohlašuje nový Roadster, premiéra 1. října

Na závěr prezentace přepracovaného tahače Semi ukázala Tesla krátký teaser nového Roadsteru: svítící lištu a podsvícené logo s názvem modelu. Plnou prezentaci firma naplánovala na 1. října.

Zuckerberg odmítá výzvy k celoodvětvové spolupráci na bezpečnosti AI

Mark Zuckerberg v rozhovoru s Joannou Stern odmítl výzvy OpenAI, Anthropicu a Google DeepMind ke koordinaci prací na bezpečnosti AI v celém odvětví a k zapojení vlády. Podle něj by každá laboratoř měla sama pozastavit uvedení modelu, jakmile zjistí problém, a firmy mají obchodní důvod o bezpečnost dbát i tak, protože lidé nepoužívají produkty, kterým nedůvěřují. Jako příklad uvedl Muse, jehož premiéru Meta posunula o několik měsíců.

Tesla otevřela továrnu na tahače Semi v Nevadě - 50 tis. kusů ročně

Tesla otevřela ve Sparks v Nevadě první továrnu na elektrické tahače Semi, která má vyrábět 50 tis. kusů ročně, a oznámila zahájení dodávek - téměř devět let po představení modelu v roce 2017. Podle verze má Semi při plném zatížení dojezd 325 nebo 500 mil (cca 520 nebo 800 km) a po připojení k nabíječce Megacharger získá za půl hodiny zpět 60 % dojezdu. Tesla neuvedla cenu ani počet objednávek. Mezi zákazníky patří PepsiCo a DHL a aliance dopravců ZET SCALE vybrala Teslu jako hlavního dodavatele 2 500 tahačů.

Únik: OpenAI chystá ChatGPT Pro Max za 500 dolarů měsíčně

V kódu ChatGPT se objevil nový tarif Pro Max za 500 dolarů měsíčně - uvádí TestingCatalog, web vyhledávající neohlášené funkce v aplikacích. Popis tarifu se zatím od popisu stávajícího Pro liší jen zmínkou o nejrychlejším provozu ChatGPT Work a Codexu. OpenAI nový tarif zatím nepotvrdilo.

Aktualizace z 29. září: OpenAI oficiálně uvedlo tarif za 500 dolarů na konferenci DevDay.

Meta ukázala Muse Charm, přívěsek pro hovor s agentem AI

Na konferenci Connect ukázal Mark Zuckerberg Muse Charm - přívěsek, který po dotyku čtečky otisků prstů spustí rozhovor s agentem Muse. Do prodeje má jít před Vánoci, cenu Meta neuvedla. Firma také oznámila, že do konce roku 2026 bude nabízet brýle s AI ve více než 100 provedeních, a kurz její akcie ve čtvrtek vzrostl o 4,5 %.

Gemini 3.8 Live dostalo tvář: avatar AI mluví v reálném čase

Google zpřístupnil v Gemini 3.8 Live funkci Live Avatar - animovanou postavu, která při rozhovoru hýbe ústy podle řeči a mění mimiku. Avatar mluví 97 jazyky a může zobrazovat informace na obrazovce. Zatím ho používají jen zákazníci Gemini Enterprise, kteří si mohou vybrat hotovou postavu nebo vytvořit vlastní.

PrismML spouští malý jazykový model přímo v brýlích s čipem Qualcomm

Startup PrismML, který založili vědci z Caltechu, připravil verzi svého modelu Bonsai pro brýle s AI s čipem Snapdragon AR1 Gen 1 a Qualcomm ji ukázal na Snapdragon Summitu. Jde o 1bitový model s 2 mld. parametrů, který rozumí obrazu i textu a běží lokálně, takže se uživatel může zeptat, na co se právě dívá. Žádné brýle s tímto modelem zatím oznámeny nebyly.

Virtuální šatník ve Fotkách Google přichází na iOS a Android

Google zpřístupnil ve Fotkách Google virtuální šatník připomínající aplikaci z filmu „Clueless“: AI vytvoří digitální verzi garderoby na základě oblečení, které je vidět na fotkách uživatele. Kousky lze filtrovat podle kategorií a kombinovat do outfitů. Funkce funguje na iOS a Androidu v USA, Brazílii a Indii a podle Googlu se údaje o oblečení nedostávají k obchodům ani jiným firmám.

Gemini na Pixelu 11 za vás zavolá do firmy

Google spustil funkci Call for Me: Gemini samo zavolá do firmy, představí se, vybírá možnosti v automatickém menu, čeká na lince a vyřídí věc, například domluví návštěvu nebo se zeptá, zda je zboží v obchodě. Uživatel vidí přepis hovoru živě a může ho kdykoli převzít. Funkce je experimentální: funguje jen na Pixelu 11 v USA, v angličtině, u lidí, kteří platí za Gemini a jsou přihlášeni do beta testu aplikace Telefon od Googlu.