Meta, mateřská společnost Facebooku, Instagramu a WhatsAppu, plánuje tento rok nasadit aktualizovanou verzi vlastních čipů zaměřených na umělou inteligenci do svých datových center.
Podle dokumentů, které viděla a o nichž informovala agentura Reuters, společnost doufá, že sníží svou závislost na Nvidii nasazením druhé generace čipů navržených vlastními silami, jejichž vývoj byl poprvé oznámen v roce 2023.
Čipy, nazývané Meta Training and Inference Accelerator (MTIA), jsou založeny na 7nm uzlech a poskytují výpočet přesnosti 102 Tops of Integer (8 bitů) nebo 51,2 teraflopů při výpočtu přesnosti FP16. Čipy běží na 800 megahertz a mají asi 370 milimetrů čtverečních.
Původně se očekávalo, že Meta zavede své vlastní čipy v roce 2022, ale plán zrušila poté, co nesplnila interní cíle, protože přechod z CPU na GPU pro školení AI donutil společnost přepracovat svá datová centra a zrušit několik projektů. To způsobilo, že náklady na kapitálové výdaje společnosti Meta klesly ve 3. čtvrtletí 2023 o 3 miliardy dolarů ve srovnání s předchozím rokem.
1. února Meta zveřejnila své zisky za 4. čtvrtletí 2023, díky kterým společnost vykázala tržby ve výši 40 miliard USD za tři měsíce do konce prosince, což je o 25 procent více než v předchozím roce.
V rozhovoru s analytiky po zveřejnění výsledků generální ředitel Mark Zuckerberg hovořil o plánu společnosti investovat do AI a kapacity datových center, protože její potřeba výpočetní kapacity neustále roste.
Zuckerberg řekl, že neexistuje jasné očekávání, kolik výpočetního výkonu bude zapotřebí k trénování modelů umělé inteligence a provozování inferenčních motorů umělé inteligence, ale poznamenal, že „trend je takový, že nejmodernější velké jazykové modely LLM byly vyvinuty každý rok trénovat na zhruba 10násobném množství počítačů“.
Dodal: „Hlavním cílem bude vybudování nejoblíbenějších a nejpokročilejších produktů a služeb AI. Pokud uspějeme, každý, kdo bude používat naše služby, bude mít prvotřídního asistenta umělé inteligence, který mu pomůže dělat věci, každý tvůrce bude mít umělou inteligenci, se kterou se může zapojit jeho komunita, každá firma bude mít umělou inteligenci, se kterou budou moci nakupovat jejich zákazníci zboží a získat podporu a každý vývojář bude mít k dispozici nejmodernější model s otevřeným zdrojovým kódem.“
Finanční ředitelka společnosti Susan Li v prohlášení pro akcionáře uvedla, že společnost očekává, že kromě firemních datových center bude růst výdajů tažen investicemi do serverů s umělou inteligencí a do serverů bez AI.
Začátkem února Zuckerberg řekl The Verge, že Meta bude do konce roku 2024 provozovat „600 000 Nvidia H100 ekvivalentů výpočetní techniky“ s tím, že společnost vybudovala kapacitu, aby to mohla dělat v měřítku, které může být větší než jakékoli jiné u individuální společnosti.
Zdroj: datacenterdynamics.com
Obrázek: Meta/MTIA v1