Giganti AI se vrhli na Macy mini - OpenAI kupuje desítky tisíc, Anthropic si pronajímá

Největší firmy v AI si našly nového oblíbence. Není to grafická karta za desítky tisíc dolarů, ale Mac mini.

Podle The Information koupilo OpenAI v posledních měsících desítky tisíc počítačů Mac mini a Mac Studio - bez monitorů a klávesnic, rovnou do serverovny. Anthropic používá stejné stroje, ale nekupuje je: pronajímá si je přes AWS a využívá blízké vazby na Amazon (rozsah tohoto pronájmu nebyl zveřejněn). Stejný nápad, úplně jiný přístup k utrácení peněz.

Macy slouží k tréninku agentů, kteří ovládají počítač jako člověk: model běží ve skutečném systému, dívá se na obrazovku, kliká, píše, dostane zpětnou vazbu a zkusí to znovu - milionkrát. Je to reinforcement learning, metoda, na které stojí současná vlna agentů AI.

Proč zrovna Mac? Kvůli architektuře. V Apple Silicon sdílí procesor a grafický čip jednu paměť a stolní Macy mají aktivní chlazení, takže vydrží několikatýdenní práci pod zátěží. Nenahrazují velké clustery Nvidie - vyplňují niku, kde rozhoduje paměť, přístup k operačnímu systému a izolovaná prostředí, ne hrubý výkon GPU.

Důsledky jsou vidět v obchodech: počítače Mac mini a Studio začaly docházet, a tak Apple ohlásil nové modely už koncem srpna místo obvyklého podzimu - s expedicí až ve třetím zářijovém týdnu. Poprvé v historii této řady míří firma na firemní zákazníky a chlubí se propojením několika Mac Studio do jednoho stroje pro AI. Tržby z Maců vzrostly o 29 % meziročně a část zákazníků, odrazená nedostatkem, už pokukuje po konkurenčním systému DGX Spark od Nvidie.

Apple léta poslouchal, že závod v AI zaspal. Vstoupil do něj tak trochu zadními dveřmi - hardwarem, který si nikdo nekupoval „na AI“.

Reinforcement learning - metoda trénování AI založená na pokusu a omylu: model provede akci, dostane odměnu nebo trest a po milionech opakování sám objeví, které strategie fungují.