Nvidia rychle rozvíjí síťový segment pro datová centra
Technologie NVLink propojuje tisíce GPU do jednoho systému
Akvizice společnosti Mellanox posílila síťovou infrastrukturu firmy
Síťové technologie mohou v příštích letech výrazně růst
Vedle grafických procesorů však má ještě jednu méně nápadnou výhodu, která jí pomáhá udržovat technologický náskok před konkurencí. Jde o síťovou infrastrukturu pro datová centra, kterou společnost vybudovala mimo jiné díky akvizici firmy Mellanox Technologies.
Generální ředitel Jensen Huang při komentování posledních hospodářských výsledků dokonce označil společnost Nvidia za „největší síťovou společnost na světě“. Tento výrok může znít překvapivě, protože firma je dlouhodobě spojována hlavně s grafickými procesory. Přesto má síťový segment pro její budoucnost stále větší význam.
Zdroj: Getty Images
V posledním čtvrtletí dosáhly tržby společnosti Nvidia v oblasti síťových technologií přibližně 11 miliard dolarů. To představuje meziroční růst o 263 %. Ačkoli je tato část stále menší ve srovnání s celkovými příjmy divize datových center, která nedávno dosáhla 62,3 miliardy dolarů, dynamika růstu je mimořádná.
Podle analytika Sebastiena Najiho ze společnosti William Blair se význam síťových řešení v éře umělé inteligence dramaticky zvýšil. V minulosti se technologické společnosti soustředily především na vývoj co nejvýkonnějších grafických procesorů. Dnes však stále větší roli hraje schopnost propojit tisíce těchto čipů do jednoho výpočetního systému.
Moderní výpočty pro umělou inteligenci totiž probíhají v obrovských clusterech grafických procesorů. Ty musí spolupracovat s extrémně vysokou rychlostí a minimální latencí. Právě zde vstupuje do hry síťová infrastruktura, která zajišťuje komunikaci mezi jednotlivými čipy.
Technologie NVLink, kterou Nvidia představila už v roce 2016, umožňuje propojit více grafických procesorů v jednom serveru nebo racku. Díky tomu mohou pracovat jako jeden výkonný systém s výrazně vyšší propustností dat než při běžném propojení.
Význam této technologie se ještě zvýšil s příchodem nové generace systémů založených na architektuře Grace Blackwell. Platforma NVL72 například propojuje 72 grafických procesorů Blackwell a 36 procesorů Grace, které společně fungují jako jeden superpočítač.
Podle analytiků právě tato architektura začala generovat výrazné příjmy z technologie NVLink. Nové systémy totiž obsahují stále větší množství čipů, které je nutné efektivně propojit.
Síťová infrastruktura společnosti Nvidia Corp. (NVDA)funguje na několika úrovních. Jedna část se zaměřuje na propojení grafických procesorů uvnitř jednoho serveru nebo racku. Další část zajišťuje komunikaci mezi různými racky v datovém centru. A třetí úroveň umožňuje propojit více datových center dohromady tak, aby fungovala jako jeden obrovský superpočítač.
Pro tyto účely Nvidia využívá technologie InfiniBand a Spectrum-X Ethernet. Ty umožňují vytvořit výpočetní klastry o tisících grafických procesorů, které mohou pracovat společně na trénování modelů umělé inteligence.
Ještě před několika lety šlo o relativně úzký segment trhu. S nástupem generativní umělé inteligence se však datová centra výrazně zvětšují a jejich architektura je stále složitější. To vytváří nové příležitosti právě pro síťová řešení.
Klíčovým krokem v této strategii byla akvizice společnosti Mellanox Technologies v roce 2020. Nvidia tehdy zaplatila přibližně sedm miliard dolarů za firmu, která byla jedním z hlavních dodavatelů síťových komponent pro vysoce výkonná datová centra.
Mellanox byl známý především díky technologii InfiniBand, která se používá pro vysokorychlostní komunikaci mezi servery. Akvizice tak společnosti Nvidia přinesla nejen technologii, ale také zkušený tým inženýrů specializovaných na síťovou infrastrukturu.
Podle stratega Kevina Cooka ze společnosti Zacks Investment Research se zpětně ukazuje, že šlo o jednu z nejdůležitějších akvizic v historii firmy. Nvidia díky ní získala schopnost navrhovat kompletní datové systémy, nikoli pouze jednotlivé čipy.
Součástí tohoto ekosystému jsou například síťové rozhraní, datové procesory BlueField nebo platforma Spectrum-X Ethernet. Tyto technologie umožňují vytvářet kompletní rackové systémy, které Nvidia prodává zákazníkům jako hotové výpočetní platformy pro umělou inteligenci.
Právě integrace hardwaru, síťové infrastruktury a softwaru je podle analytiků jedním z hlavních důvodů, proč má Nvidia technologický náskok před konkurencí. Firma se totiž na propojení čipů a datových center zaměřila dříve než většina ostatních výrobců polovodičů.
Zdroj: Getty Images
Síťový segment by navíc mohl v příštích letech ještě výrazně růst. Podle odhadů analytiků by tržby z těchto technologií mohly v aktuálním fiskálním roce dosáhnout přibližně 57 miliard dolarů a v následujícím roce až 70 miliard dolarů.
Zároveň však roste i konkurence. Společnosti jako Broadcom, Arista Networks nebo Astera Labs vyvíjejí vlastní řešení pro propojení čipů v datových centrech. Některé z nich se zaměřují na standardy jako PCIe nebo Ethernet, které mohou konkurovat technologii NVLink.
Analytici však upozorňují, že NVLink zatím zůstává jedním z nejrychlejších řešení na trhu. Navíc je dostupný pouze v rámci kompletních systémů Nvidia, což firmě poskytuje určitou konkurenční výhodu.
Přesto zůstávají investoři vůči akciím společnosti Nvidia opatrní. Síťové technologie sice rychle rostou, ale stále představují jen část celkového podnikání firmy. Někteří investoři se zároveň obávají, že výdaje na infrastrukturu pro umělou inteligenci mohou v příštích letech dosáhnout vrcholu.
Pokud by k tomu skutečně došlo, mohlo by to ovlivnit růst celého sektoru. Nvidia však zatím zůstává jedním z hlavních hráčů v oblasti výpočetní infrastruktury pro umělou inteligenci a její strategie budování komplexních systémů pro datová centra jí poskytuje silnou pozici.
Společnost Nvidia je dnes vnímána především jako dominantní výrobce čipů pro umělou inteligenci.
Klíčové body
Nvidia rychle rozvíjí síťový segment pro datová centra
Technologie NVLink propojuje tisíce GPU do jednoho systému
Akvizice společnosti Mellanox posílila síťovou infrastrukturu firmy
Síťové technologie mohou v příštích letech výrazně růst
Vedle grafických procesorů však má ještě jednu méně nápadnou výhodu, která jí pomáhá udržovat technologický náskok před konkurencí. Jde o síťovou infrastrukturu pro datová centra, kterou společnost vybudovala mimo jiné díky akvizici firmy Mellanox Technologies.
Generální ředitel Jensen Huang při komentování posledních hospodářských výsledků dokonce označil společnost Nvidia za „největší síťovou společnost na světě“. Tento výrok může znít překvapivě, protože firma je dlouhodobě spojována hlavně s grafickými procesory. Přesto má síťový segment pro její budoucnost stále větší význam.
Zdroj: Getty Images
V posledním čtvrtletí dosáhly tržby společnosti Nvidia v oblasti síťových technologií přibližně 11 miliard dolarů. To představuje meziroční růst o 263 %. Ačkoli je tato část stále menší ve srovnání s celkovými příjmy divize datových center, která nedávno dosáhla 62,3 miliardy dolarů, dynamika růstu je mimořádná.
Podle analytika Sebastiena Najiho ze společnosti William Blair se význam síťových řešení v éře umělé inteligence dramaticky zvýšil. V minulosti se technologické společnosti soustředily především na vývoj co nejvýkonnějších grafických procesorů. Dnes však stále větší roli hraje schopnost propojit tisíce těchto čipů do jednoho výpočetního systému.
Moderní výpočty pro umělou inteligenci totiž probíhají v obrovských clusterech grafických procesorů. Ty musí spolupracovat s extrémně vysokou rychlostí a minimální latencí. Právě zde vstupuje do hry síťová infrastruktura, která zajišťuje komunikaci mezi jednotlivými čipy.
Technologie NVLink, kterou Nvidia představila už v roce 2016, umožňuje propojit více grafických procesorů v jednom serveru nebo racku. Díky tomu mohou pracovat jako jeden výkonný systém s výrazně vyšší propustností dat než při běžném propojení.
Význam této technologie se ještě zvýšil s příchodem nové generace systémů založených na architektuře Grace Blackwell. Platforma NVL72 například propojuje 72 grafických procesorů Blackwell a 36 procesorů Grace, které společně fungují jako jeden superpočítač.
Podle analytiků právě tato architektura začala generovat výrazné příjmy z technologie NVLink. Nové systémy totiž obsahují stále větší množství čipů, které je nutné efektivně propojit.
Síťová infrastruktura společnosti Nvidia Corp. (NVDA) funguje na několika úrovních. Jedna část se zaměřuje na propojení grafických procesorů uvnitř jednoho serveru nebo racku. Další část zajišťuje komunikaci mezi různými racky v datovém centru. A třetí úroveň umožňuje propojit více datových center dohromady tak, aby fungovala jako jeden obrovský superpočítač.
Pro tyto účely Nvidia využívá technologie InfiniBand a Spectrum-X Ethernet. Ty umožňují vytvořit výpočetní klastry o tisících grafických procesorů, které mohou pracovat společně na trénování modelů umělé inteligence.
Ještě před několika lety šlo o relativně úzký segment trhu. S nástupem generativní umělé inteligence se však datová centra výrazně zvětšují a jejich architektura je stále složitější. To vytváří nové příležitosti právě pro síťová řešení.
Klíčovým krokem v této strategii byla akvizice společnosti Mellanox Technologies v roce 2020. Nvidia tehdy zaplatila přibližně sedm miliard dolarů za firmu, která byla jedním z hlavních dodavatelů síťových komponent pro vysoce výkonná datová centra.
Mellanox byl známý především díky technologii InfiniBand, která se používá pro vysokorychlostní komunikaci mezi servery. Akvizice tak společnosti Nvidia přinesla nejen technologii, ale také zkušený tým inženýrů specializovaných na síťovou infrastrukturu.
Podle stratega Kevina Cooka ze společnosti Zacks Investment Research se zpětně ukazuje, že šlo o jednu z nejdůležitějších akvizic v historii firmy. Nvidia díky ní získala schopnost navrhovat kompletní datové systémy, nikoli pouze jednotlivé čipy.
Součástí tohoto ekosystému jsou například síťové rozhraní, datové procesory BlueField nebo platforma Spectrum-X Ethernet. Tyto technologie umožňují vytvářet kompletní rackové systémy, které Nvidia prodává zákazníkům jako hotové výpočetní platformy pro umělou inteligenci.
Právě integrace hardwaru, síťové infrastruktury a softwaru je podle analytiků jedním z hlavních důvodů, proč má Nvidia technologický náskok před konkurencí. Firma se totiž na propojení čipů a datových center zaměřila dříve než většina ostatních výrobců polovodičů.
Zdroj: Getty Images
Síťový segment by navíc mohl v příštích letech ještě výrazně růst. Podle odhadů analytiků by tržby z těchto technologií mohly v aktuálním fiskálním roce dosáhnout přibližně 57 miliard dolarů a v následujícím roce až 70 miliard dolarů.
Zároveň však roste i konkurence. Společnosti jako Broadcom, Arista Networks nebo Astera Labs vyvíjejí vlastní řešení pro propojení čipů v datových centrech. Některé z nich se zaměřují na standardy jako PCIe nebo Ethernet, které mohou konkurovat technologii NVLink.
Analytici však upozorňují, že NVLink zatím zůstává jedním z nejrychlejších řešení na trhu. Navíc je dostupný pouze v rámci kompletních systémů Nvidia, což firmě poskytuje určitou konkurenční výhodu.
Přesto zůstávají investoři vůči akciím společnosti Nvidia opatrní. Síťové technologie sice rychle rostou, ale stále představují jen část celkového podnikání firmy. Někteří investoři se zároveň obávají, že výdaje na infrastrukturu pro umělou inteligenci mohou v příštích letech dosáhnout vrcholu.
Pokud by k tomu skutečně došlo, mohlo by to ovlivnit růst celého sektoru. Nvidia však zatím zůstává jedním z hlavních hráčů v oblasti výpočetní infrastruktury pro umělou inteligenci a její strategie budování komplexních systémů pro datová centra jí poskytuje silnou pozici.