Podle nedávné analýzy společnosti Bernstein se očekává, že úložiště v datových centrech pro umělou inteligenci budou hrát menší roli než servery, zejména s nárůstem velkých jazykových modelů (LLM), které vyžadují méně úložišť. Na webináři s Davidem Hallem, bývalým viceprezidentem pro infrastrukturu ve společnosti Lambda, byly shromážděny poznatky týkající se trendů na trhu s cloudovými službami AI. Hall odhadl, že náklady na úložiště představují pouze 8-12 % nákladů na GPU cluster pro trénování modelů, což potvrzuje Bernsteinův názor. Zatímco modely zaměřené na obraz a video vyžadují vyšší úložný prostor kvůli větším datovým sadám, celková poptávka po úložišti v datových centrech AI zaostává za servery. Bernstein také zdůraznil důležitost výběru poskytovatele úložiště, který vyvažuje funkce a náklady. Lambda například spolupracuje s poskytovateli, jako jsou DDN, Vast a WEKA, přičemž obchází řešení od společností NetApp, Dell a Pure Storage. Webinář se také dotkl životnosti a upgradů grafických procesorů. Hall zmínil, že životnost GPU se dnes pohybuje kolem 7-9 let, což naznačuje, že i plně amortizované čipy mohou být stále cenné. Dominance společnosti Nvidia v softwarové vrstvě prostřednictvím CUDA a CuDNN byla zdůrazněna jako klíčový diferenciátor v oblasti AI. Navzdory potenciální konkurenci ze strany nově vznikajících startupů s vlastními GPU Bernstein tvrdí, že softwarová vrstva bude nejkritičtější složkou určující konkurenční prostředí pro GPU.
Podle nedávné analýzy společnosti Bernstein se očekává, že úložiště v datových centrech pro umělou inteligenci budou hrát menší roli než servery, zejména s nárůstem velkých jazykových modelů , které vyžadují méně úložišť. Na webináři s Davidem Hallem, bývalým viceprezidentem pro infrastrukturu ve společnosti Lambda, byly shromážděny poznatky týkající se trendů na trhu s cloudovými službami AI. Hall odhadl, že náklady na úložiště představují pouze 8-12 % nákladů na GPU cluster pro trénování modelů, což potvrzuje Bernsteinův názor. Zatímco modely zaměřené na obraz a video vyžadují vyšší úložný prostor kvůli větším datovým sadám, celková poptávka po úložišti v datových centrech AI zaostává za servery. Bernstein také zdůraznil důležitost výběru poskytovatele úložiště, který vyvažuje funkce a náklady. Lambda například spolupracuje s poskytovateli, jako jsou DDN, Vast a WEKA, přičemž obchází řešení od společností NetApp, Dell a Pure Storage. Webinář se také dotkl životnosti a upgradů grafických procesorů. Hall zmínil, že životnost GPU se dnes pohybuje kolem 7-9 let, což naznačuje, že i plně amortizované čipy mohou být stále cenné. Dominance společnosti Nvidia v softwarové vrstvě prostřednictvím CUDA a CuDNN byla zdůrazněna jako klíčový diferenciátor v oblasti AI. Navzdory potenciální konkurenci ze strany nově vznikajících startupů s vlastními GPU Bernstein tvrdí, že softwarová vrstva bude nejkritičtější složkou určující konkurenční prostředí pro GPU.