Společnost Meta představila svůj první vlastní čip pro umělou inteligenci

Na čipu, který se skládá ze sítě paralelně pracujících bloků obvodů, běží software, který optimalizuje programy pomocí open-source vývojářského rámce PyTorch společnosti Meta.

Společnost Meta popisuje tento čip jako vyladěný pro jeden konkrétní typ programů umělé inteligence: doporučovací modely hlubokého učení. Jedná se o programy, které se mohou podívat na vzorec činnosti, jako je klikání na příspěvky na sociální síti, a předpovědět související, případně relevantní materiál, který uživateli doporučí.

Čip je první verzí toho, co Meta označuje jako rodinu čipů, a uvedla, že jeho výroba byla zahájena v roce 2020. Nebyly uvedeny žádné podrobnosti o tom, kdy přijdou další modely tohoto čipu.

Meta následuje další obří technologické společnosti, které kromě standardních grafických čipů od společnosti Nvidia, jež v této oblasti dominují, vyvinuly vlastní čipy pro umělou inteligenci. Společnosti Microsoft, Google a Amazon v posledních několika letech představily několik vlastních čipů, které mají zpracovávat různé aspekty programů AI.

Oznámení společnosti Meta bylo součástí rozsáhlé čtvrteční prezentace, v níž několik vedoucích pracovníků společnosti Meta hovořilo o tom, jak posilují výpočetní schopnosti společnosti Meta pro umělou inteligenci.

Kromě čipu MTIA společnost hovořila o „datovém centru nové generace“, které buduje a které „bude mít design optimalizovaný pro AI, bude podporovat kapalinou chlazený hardware AI a vysoce výkonnou síť AI spojující tisíce čipů AI pro tréninkové klastry AI v datovém centru.“

Společnost Meta také zveřejnila vlastní čip pro kódování videa, nazvaný Meta Scalable Video Processor. Čip je navržen tak, aby efektivněji komprimoval a dekomprimoval video a kódoval je do několika různých formátů pro nahrávání a prohlížení uživateli Facebooku. Společnost Meta uvedla, že čip MSVP „může nabídnout špičkový výkon překódování 4K při 15 snímcích za sekundu v konfiguraci nejvyšší kvality s 1-in, 5-out streamy a může škálovat až na 4K při 60 snímcích za sekundu ve standardní konfiguraci kvality“.

Společnost Meta uvedla, že „s ohledem na budoucí případy použití související s umělou inteligencí věříme, že vyhrazený hardware je z hlediska výpočetního výkonu a efektivity nejlepším řešením“ pro video, místo aby se spoléhala na grafické procesory Nvidia nebo procesory Intel. Společnost poznamenala, že lidé tráví polovinu svého času na Facebooku sledováním videa, přičemž denně se zobrazí více než čtyři miliardy videí.

Společnost Meta již několik let naznačuje vývoj čipu, například když její hlavní vědecký pracovník pro umělou inteligenci Yann LeCun poskytl v roce 2019 rozhovor na toto téma serveru ZDNET. Společnost o podrobnostech těchto snah mlčela i v době, kdy její kolegové uváděli na trh jeden čip za druhým a kdy vznikaly startupy jako Cerebras Systems, Graphcore a SambaNova Systems, které se snažily vyzvat Nvidii exotickými čipy zaměřenými na AI.

MTIA má podobné aspekty jako čipy od startupů. Srdcem čipu je síť šedesáti čtyř takzvaných procesorových prvků uspořádaných do mřížky osm krát osm, což je ozvěnou mnoha návrhů čipů umělé inteligence, které využívají takzvané „systolické pole“, kde se data mohou pohybovat mezi prvky maximální rychlostí.

Čip MTIA je poněkud neobvyklý tím, že je zkonstruován tak, aby zvládal obě hlavní fáze programů umělé inteligence, tj. trénování a odvozování. Trénování je fáze, kdy se neuronová síť programu umělé inteligence nejprve zdokonaluje, dokud nepracuje podle očekávání. Inference je vlastní použití neuronové sítě k vytváření předpovědí v reakci na požadavky uživatele. Obvykle mají tyto dvě fáze velmi odlišné požadavky na zpracování počítačem a jsou řešeny odlišnými konstrukcemi čipů.

Podle společnosti Meta může být čip MTIA až třikrát účinnější než GPU, pokud jde o počet operací s plovoucí desetinnou čárkou za sekundu na každý watt spotřebované energie. Když je však čip pověřen složitějšími neuronovými sítěmi, zaostává za GPU, uvedl Meta, což naznačuje, že na budoucích verzích čipu je třeba ještě zapracovat, aby zvládal složité úlohy.

V prezentaci inženýrů společnosti Meta bylo zdůrazněno, jak MTIA těží ze společného návrhu hardwaru a softwaru, kdy si hardwaroví inženýři vyměňují nápady v neustálém dialogu s vývojáři PyTorch.

Kromě psaní kódu pro běh na čipu v jazyce PyTorch nebo C++ mohou vývojáři psát ve speciálním jazyce vyvinutém pro čip s názvem KNYFE. Jazyk KNYFE „přijme jako vstup krátký vysokoúrovňový popis operátoru ML a vygeneruje optimalizovaný nízkoúrovňový kód jádra v C++, který je implementací tohoto operátoru pro MTIA,“ uvedla Meta.

Na čipu, který se skládá ze sítě paralelně pracujících bloků obvodů, běží software, který optimalizuje programy pomocí open-source vývojářského rámce PyTorch společnosti Meta.Společnost Meta popisuje tento čip jako vyladěný pro jeden konkrétní typ programů umělé inteligence: doporučovací modely hlubokého učení. Jedná se o programy, které se mohou podívat na vzorec činnosti, jako je klikání na příspěvky na sociální síti, a předpovědět související, případně relevantní materiál, který uživateli doporučí.Čip je první verzí toho, co Meta označuje jako rodinu čipů, a uvedla, že jeho výroba byla zahájena v roce 2020. Nebyly uvedeny žádné podrobnosti o tom, kdy přijdou další modely tohoto čipu.Meta následuje další obří technologické společnosti, které kromě standardních grafických čipů od společnosti Nvidia, jež v této oblasti dominují, vyvinuly vlastní čipy pro umělou inteligenci. Společnosti Microsoft, Google a Amazon v posledních několika letech představily několik vlastních čipů, které mají zpracovávat různé aspekty programů AI.Oznámení společnosti Meta bylo součástí rozsáhlé čtvrteční prezentace, v níž několik vedoucích pracovníků společnosti Meta hovořilo o tom, jak posilují výpočetní schopnosti společnosti Meta pro umělou inteligenci.Kromě čipu MTIA společnost hovořila o „datovém centru nové generace“, které buduje a které „bude mít design optimalizovaný pro AI, bude podporovat kapalinou chlazený hardware AI a vysoce výkonnou síť AI spojující tisíce čipů AI pro tréninkové klastry AI v datovém centru.“Společnost Meta také zveřejnila vlastní čip pro kódování videa, nazvaný Meta Scalable Video Processor. Čip je navržen tak, aby efektivněji komprimoval a dekomprimoval video a kódoval je do několika různých formátů pro nahrávání a prohlížení uživateli Facebooku. Společnost Meta uvedla, že čip MSVP „může nabídnout špičkový výkon překódování 4K při 15 snímcích za sekundu v konfiguraci nejvyšší kvality s 1-in, 5-out streamy a může škálovat až na 4K při 60 snímcích za sekundu ve standardní konfiguraci kvality“.Společnost Meta uvedla, že „s ohledem na budoucí případy použití související s umělou inteligencí věříme, že vyhrazený hardware je z hlediska výpočetního výkonu a efektivity nejlepším řešením“ pro video, místo aby se spoléhala na grafické procesory Nvidia nebo procesory Intel. Společnost poznamenala, že lidé tráví polovinu svého času na Facebooku sledováním videa, přičemž denně se zobrazí více než čtyři miliardy videí.Společnost Meta již několik let naznačuje vývoj čipu, například když její hlavní vědecký pracovník pro umělou inteligenci Yann LeCun poskytl v roce 2019 rozhovor na toto téma serveru ZDNET. Společnost o podrobnostech těchto snah mlčela i v době, kdy její kolegové uváděli na trh jeden čip za druhým a kdy vznikaly startupy jako Cerebras Systems, Graphcore a SambaNova Systems, které se snažily vyzvat Nvidii exotickými čipy zaměřenými na AI.MTIA má podobné aspekty jako čipy od startupů. Srdcem čipu je síť šedesáti čtyř takzvaných procesorových prvků uspořádaných do mřížky osm krát osm, což je ozvěnou mnoha návrhů čipů umělé inteligence, které využívají takzvané „systolické pole“, kde se data mohou pohybovat mezi prvky maximální rychlostí.Čip MTIA je poněkud neobvyklý tím, že je zkonstruován tak, aby zvládal obě hlavní fáze programů umělé inteligence, tj. trénování a odvozování. Trénování je fáze, kdy se neuronová síť programu umělé inteligence nejprve zdokonaluje, dokud nepracuje podle očekávání. Inference je vlastní použití neuronové sítě k vytváření předpovědí v reakci na požadavky uživatele. Obvykle mají tyto dvě fáze velmi odlišné požadavky na zpracování počítačem a jsou řešeny odlišnými konstrukcemi čipů.Podle společnosti Meta může být čip MTIA až třikrát účinnější než GPU, pokud jde o počet operací s plovoucí desetinnou čárkou za sekundu na každý watt spotřebované energie. Když je však čip pověřen složitějšími neuronovými sítěmi, zaostává za GPU, uvedl Meta, což naznačuje, že na budoucích verzích čipu je třeba ještě zapracovat, aby zvládal složité úlohy.V prezentaci inženýrů společnosti Meta bylo zdůrazněno, jak MTIA těží ze společného návrhu hardwaru a softwaru, kdy si hardwaroví inženýři vyměňují nápady v neustálém dialogu s vývojáři PyTorch.Kromě psaní kódu pro běh na čipu v jazyce PyTorch nebo C++ mohou vývojáři psát ve speciálním jazyce vyvinutém pro čip s názvem KNYFE. Jazyk KNYFE „přijme jako vstup krátký vysokoúrovňový popis operátoru ML a vygeneruje optimalizovaný nízkoúrovňový kód jádra v C++, který je implementací tohoto operátoru pro MTIA,“ uvedla Meta.