Francouzský startup ZML představil nový produkt, který by mohl změnit způsob, jakým firmy provozují modely umělé inteligence na různých typech čipů. ZML uvedl zdarma software pro provoz AI modelů na různých typech čipů Nové řešení podporuje hardware od Nvidie (NVDA) , Advanced Micro Devices (AMD) , Googlu (GOOGL) , Applu (AAPL) i Intelu (INTC) Startup chce firmám nabídnout vyšší výkon i menší závislost na jednom dodavateli Společnost získala 20 milionů dolarů a plánuje další rozvoj AI infrastruktury Společnost uvedla na trh software ZML/LLMD, jenž umožňuje provozovat řadu open-source jazykových modelů na hardwaru od různých výrobců, aniž by byly firmy závislé na jediném dodavateli. Nový produkt je při uvedení na trh dostupný zdarma. ZML si od něj slibuje rychlejší rozšíření mezi podniky a poskytovateli cloudových služeb, zatímco bude sbírat zpětnou vazbu od uživatelů. Startup zároveň věří, že jeho řešení pomůže efektivněji využívat dostupný výpočetní výkon a sníží závislost trhu na jediné hardwarové platformě. Jeden software pro čipy od více výrobců Nový inference server ZML/LLMD podporuje provoz open-source velkých jazykových modelů na široké škále akcelerátorů pro umělou inteligenci. Vedle čipů společnosti Nvidia (NVDA) dokáže pracovat také s hardwarem od Advanced Micro Devices (AMD) , Alphabet (GOOGL) prostřednictvím procesorů TPU, grafickými řešeními Apple (AAPL) využívajícími technologii Metal nebo čipy Intel (INTC) Arc. Zakladatel společnosti Steeve Morin uvedl, že cílem není pouze podpora různých platforem, ale také dosažení co nejvyššího výkonu na každé z nich. V některých případech má software podle firmy dokonce umožnit rychlejší zpracování AI úloh, než jakého dosahují současná řešení. ZML se zaměřuje především na oblast AI inference, tedy fázi, kdy model zpracovává uživatelské dotazy a generuje odpovědi. Právě tato část provozu umělé inteligence získává stále větší význam, protože s rostoucím počtem uživatelů AI aplikací prudce roste i objem každodenních výpočtů. Podle společnosti dnes mnoho podniků naráží na omezení způsobená uzavřenými softwarovými ekosystémy jednotlivých výrobců hardwaru. Tyto bariéry často vedou k tomu, že firmy zůstávají dlouhodobě závislé na jednom dodavateli čipů nebo softwarové infrastruktury. ZML chce tento model změnit tím, že umožní provozovat stejné AI modely na různých typech hardwaru bez výraznějších omezení. Podle vedení společnosti by tak podniky mohly snadněji kombinovat různé druhy čipů podle jejich ceny, dostupnosti nebo energetické náročnosti. Vedle vyšší flexibility by to mohlo přinést také úsporu nákladů na provoz umělé inteligence, které jsou pro mnoho firem stále jednou z hlavních překážek širšího nasazení AI. Startup zároveň upozorňuje, že jeho technologie může pomoci efektivněji využít také čipy od menších výrobců, kteří zatím stojí ve stínu dominantních hráčů na trhu. ZML vidí příležitost i pro evropské výrobce čipů Morin uvedl, že nový software může podpořit rozvoj celé řady mladých výrobců AI čipů. Jako příklady zmínil společnosti Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud nebo VSORA. Podle něj ale není rozhodující, odkud jednotlivé firmy pocházejí. Hlavním cílem ZML je spolupracovat s výrobci na technologiích, které dosud na trhu neexistují. Současně zdůraznil, že společnost nevnímá Nvidii jako soupeře, kterého by chtěla vytlačit z trhu. Naopak uvedl, že ZML s výrobcem AI čipů udržuje dobré vztahy a očekává, že Nvidia bude i nadále hrát významnou roli při rozvoji infrastruktury pro AI inference. Trh se zpracováním AI dotazů dnes patří mezi nejrychleji rostoucí segmenty celého odvětví umělé inteligence. Rostoucí význam této oblasti vedl k tomu, že se pro ni začalo používat označení „inference gold rush“. Na trhu však ZML nebude působit bez konkurence. V oblasti AI inference již působí například společnost Baseten, jejíž hodnota podle dostupných údajů dosáhla 13 miliard dolarů. Mezi další konkurenty patří také Inferact, která vznikla kolem open-source projektu vLLM, nebo společnost RadixArk, stojící za projektem SGLang. Morin však tvrdí, že ambice ZML sahají dál než pouze k provozu inference serveru. Podle něj se společnost již podílí také na společném návrhu čipů (co-design silikonu), což představuje další krok ve vývoji AI infrastruktury. Za rychlým vývojem stojí podle něj také velmi malý tým. Startup zaměstnává přibližně 20 lidí, přesto plánuje uvést na trh další produkty v následujících měsících. Startup získal 20 milionů dolarů a sází na rychlý růst Přestože je ZML relativně mladou společností, podařilo se jí získat významné financování. Zakladatel Steeve Morin dříve působil jako viceprezident pro vývoj ve společnosti Zenly, kterou v roce 2017 převzal Snapchat za částku v řádu stovek milionů dolarů. Na základě této zkušenosti startup získal 20 milionů dolarů od skupiny rizikových investorů. Nový produkt ZML/LLMD na rozdíl od předchozího frameworku zveřejněného v roce 2024 není open source. Přesto jej společnost při uvedení na trh nabízí zdarma. Podle Morina je cílem nejprve pochopit, jak budou zákazníci software využívat, a teprve následně hledat nejvhodnější způsob jeho monetizace. Firma zatím neuvedla, kdy by mohl být produkt zpoplatněn ani jaký obchodní model plánuje v budoucnu zvolit. Podporu startupu vyjádřilo také několik známých osobností technologického světa, mezi nimi například zakladatel Dockeru Solomon Hykes, spoluzakladatelé společnosti Hugging Face Clément Delangue a Julien Chaumond nebo držitel Turingovy ceny Yann LeCun, který prostřednictvím AMI Labs startup podporuje. Podle vedení společnosti je současně důkazem toho, že špičkové AI startupy mohou úspěšně vznikat také v Evropě. Morin uvedl, že projekt ZML by podle něj nemohl vzniknout nikde jinde než v Paříži.