Nvidia a Google se nacházejí v centru pozornosti díky svým novým produktům, které by mohly zásadně proměnit krajinu umělé inteligence. Nové Blackwell Ultra GPU od Nvidie a TPU v7 Ironwood od Googlu představují různé přístupy k výpočetní technice AI, přičemž se liší architekturou, výkonem a náklady.
Podle analýzy od BofA Securities má Nvidia větší čip nazvaný GB300, který obsahuje 208 miliard tranzistorů na 1 600 mm² die, zatímco Google’s TPU v7 má přes 50 miliard tranzistorů na 1 200-1 500 mm² die.
V oblasti výpočetního výkonu GB300 dosahuje výkonu 15 petaflops pro FP4, zatímco TPU v7 pro tento typ zátěže nemá nativní podporu. Pro FP8 zátěž GB300 dosahuje 5 petaflops, což je více než 4,614 petaflops TPU v7.
Důležité jsou také metriky spotřeby energie. GB300 spotřebovává 1,4 kW na čip, na rozdíl od TPU, který odhadem spotřebovává 0,85 kW. V oblasti efektivity výkonu na watt zároveň GB300 dosahuje 10,71 teraflops na watt, což je značně více než 5,42 teraflops za watt u TPU v7 pro FP4 workloady.
Chcete využít této příležitosti?
Celkové náklady na vlastnictví se rovněž liší: náklady na GB300 činí přibližně $6,30 na čip za hodinu ve srovnání s $3,50 u TPU pro interní použití. Z pohledu efektivity a uživatelské podpory je důležité zmínit, že Nvidia podporuje platformy jako CUDA a TensorRT-LLM, zatímco Google’s TPU je kompatibilní především s TensorFlow.
Nvidia a Google se nacházejí v centru pozornosti díky svým novým produktům, které by mohly zásadně proměnit krajinu umělé inteligence. Nové Blackwell Ultra GPU od Nvidie a TPU v7 Ironwood od Googlu představují různé přístupy k výpočetní technice AI, přičemž se liší architekturou, výkonem a náklady.
Podle analýzy od BofA Securities má Nvidia větší čip nazvaný GB300, který obsahuje 208 miliard tranzistorů na 1 600 mm² die, zatímco Google’s TPU v7 má přes 50 miliard tranzistorů na 1 200-1 500 mm² die.
V oblasti výpočetního výkonu GB300 dosahuje výkonu 15 petaflops pro FP4, zatímco TPU v7 pro tento typ zátěže nemá nativní podporu. Pro FP8 zátěž GB300 dosahuje 5 petaflops, což je více než 4,614 petaflops TPU v7.
Důležité jsou také metriky spotřeby energie. GB300 spotřebovává 1,4 kW na čip, na rozdíl od TPU, který odhadem spotřebovává 0,85 kW. V oblasti efektivity výkonu na watt zároveň GB300 dosahuje 10,71 teraflops na watt, což je značně více než 5,42 teraflops za watt u TPU v7 pro FP4 workloady.Chcete využít této příležitosti?
Celkové náklady na vlastnictví se rovněž liší: náklady na GB300 činí přibližně $6,30 na čip za hodinu ve srovnání s $3,50 u TPU pro interní použití. Z pohledu efektivity a uživatelské podpory je důležité zmínit, že Nvidia podporuje platformy jako CUDA a TensorRT-LLM, zatímco Google’s TPU je kompatibilní především s TensorFlow.
