Giganti v oblasti AI sa vrhli na počítače Mac mini - OpenAI kupuje desaťtisíce, Anthropic si prenajíma

Najväčšie firmy v AI si našli nového obľúbenca. Nie je to grafická karta za desaťtisíce dolárov, ale Mac mini.

Podľa The Information kúpilo OpenAI v posledných mesiacoch desaťtisíce Mac mini a Mac Studio - bez monitorov a klávesníc, rovno do serverovne. Anthropic používa rovnaké stroje, ale nekupuje ich: prenajíma si ich cez AWS a využíva blízke väzby na Amazon (rozsah tohto prenájmu nezverejnili). Rovnaký nápad, úplne iný prístup k míňaniu peňazí.

Macy slúžia na tréning agentov, ktorí ovládajú počítač ako človek: model beží v skutočnom systéme, pozerá na obrazovku, kliká, píše, dostane spätnú väzbu a skúsi to znova - miliónkrát. Je to reinforcement learning, metóda, na ktorej stojí súčasná vlna agentov AI.

Prečo práve Mac? Pre architektúru. V Apple Silicon procesor a grafický čip zdieľajú jednotnú pamäť a stolové Macy majú aktívne chladenie, takže vydržia niekoľkotýždňovú prácu pod záťažou. Nenahrádzajú veľké klastre Nvidie - vypĺňajú medzeru, kde rozhoduje pamäť, prístup k operačnému systému a izolované prostredia, nie hrubý výkon GPU.

Dôsledky vidno v obchodoch: Mac mini a Studio začali dochádzať, a tak Apple ohlásil nové modely už koncom augusta namiesto obvyklej jesene - s expedíciou až v treťom septembrovom týždni. Prvýkrát v histórii tejto série mieri firma na firemných zákazníkov a chváli sa prepojením viacerých Mac Studio do jedného stroja pre AI. Tržby z Macov vzrástli o 29 % medziročne a časť zákazníkov, odradená nedostatkom, už pokukuje po konkurenčnej Nvidii DGX Spark.

Apple roky počúval, že preteky v AI zaspal. Vstúpil do nich tak trochu zadnými dverami - hardvérom, ktorý si nikto nekupoval „na AI“.

Reinforcement learning - metóda trénovania AI založená na pokuse a omyle: model vykoná akciu, dostane odmenu alebo trest a po miliónoch opakovaní sám objaví, ktoré stratégie fungujú.