Společnost Celestial AI získala 100 milionů dolarů na přenos dat pomocí světelných propojení

Předpovídali, že bude stále náročnější přesouvat data do výpočetního hardwaru a z něj, protože modely umělé inteligence se budou rozšiřovat nad rámec toho, co je možné udržet na matrici jednoho paměťového čipu.

Jejich řešení – navržené Philem Winterbottomem, který dříve pracoval jako výzkumný pracovník ve významných Bellových laboratořích – představovalo technologii optického propojení pro přenos dat mezi počítači, počítači a pamětí a na čipu. Spolu s Winterbottomem založili Lazovsky a Virk startup Celestial AI, aby tuto technologii komercializovali. A tento startup nyní přitahuje velké sponzory.

Společnost Celestial AI dnes oznámila, že získala 100 milionů dolarů v rámci kola B vedeného společnostmi IAG Capital Partners, Koch Disruptive Technologies a fondem Xora Innovation společnosti Temasek. Podle generálního ředitele Lazovského bude tato tranše, díky níž společnost Celestial AI získala celkem více než 165 milionů dolarů, použita na podporu výroby fotonické platformy společnosti Celestial rozšířením inženýrského, obchodního a technického marketingového oddělení společnosti.

V současné době má společnost Celestial přibližně 100 zaměstnanců – Lazovsky očekává, že do konce roku se jejich počet zvýší na 130.

„Výpočet a paměť jsou dnes úzce propojeny. Jediný způsob, jak přidat více paměti s velkou šířkou pásma, je přidat více výpočetní kapacity, ať už je další výpočetní kapacita potřebná, nebo ne,“ řekl Lazovsky TechCrunch prostřednictvím e-mailu. „Technologie společnosti Celestial umožňuje disagregaci paměti.“

V datovém centru je paměť často jedním z nejdražších zdrojů – částečně proto, že není vždy využívána efektivně. Protože je paměť vázána na výpočetní výkon, je pro provozovatele náročné – a někdy kvůli omezením šířky pásma a nebývale vysokým latencím i nemožné – paměť „rozdělit“ a sdružit napříč hardwarem v datovém centru.

Podle interní studie Microsoftu je až 25 % paměti v Azure po pronajmutí jader serverů virtuálním počítačům tzv. „stranded“, tedy zbytková paměť. Společnost odhaduje, že snížení této nevyužité paměti by mohlo snížit náklady na datová centra o 4 až 5 %, což je v kontextu mnohamiliardového provozu potenciálně významná úspora.

Chcete využít této příležitosti?

Společnost Celestial, která vznikla jako portfoliová společnost The Engine, VC firmy vyčleněné z MIT v roce 2016, vyvinula zdánlivé řešení ve své architektuře založené na fotonice, která se škáluje na více čipových systémech. Technologie společnosti Celestial využívá k přenosu dat světlo a dokáže přenášet informace v rámci čipů i mezi čipy, čímž zpřístupňuje paměť i výpočetní kapacitu pro umělou inteligenci – a další pracovní zátěže.

Společnost Celestial také tvrdí, že její technologie dokáže snížit množství elektrické energie potřebné pro přenos dat, čímž nepřímo zvyšuje výkon čipu. Čipy obvykle věnují část elektrické energie na přenos dat mezi obvody, což ubírá z elektrické energie, kterou může čip věnovat výpočetním úlohám. Fotonika společnosti Celestial snižuje spotřebu energie potřebnou pro pohyb dat, což čipu umožňuje – alespoň teoreticky – zvýšit výpočetní výkon.

Fotonická technologie společnosti Celestial, která je kompatibilní s většinou průmyslových propojovacích standardů (např. CXL, PCIe), poskytuje 25x větší šířku pásma a 10x nižší latenci a spotřebu energie než optické alternativy, tvrdí společnost.

„S nárůstem umělé inteligence, zejména velkých jazykových modelů (LLM) a zátěže doporučovacích strojů, dochází k posunu směrem k akcelerovanému výpočtu,“ řekl Lazovsky. „Klíčovým problémem do budoucna je kapacita paměti, šířka paměťového pásma a pohyb dat – tj. propojení mezi čipy – což řešíme pomocí fotonické tkaniny společnosti Celestial.“

Společnost Celestial nabízí svůj propojovací produkt prostřednictvím licenčního programu a uvádí, že spolupracuje s několika „tier-one“ zákazníky, včetně hyperskaláren a společností vyrábějících procesory a paměti.

Zdá se, že propojovací produkt je pro společnost Celestial prioritou číslo jedna. Společnost prodává vlastní čip pro akceleraci umělé inteligence, nazvaný Orion, postavený na fotonické architektuře společnosti Celestial. Jak však uvedli investoři v nedávném článku pro TechCrunch TC+, fotonické čipy AI musí ještě překonat technické problémy, které by je učinily praktickými ve velkém měřítku. Pokud společnost Celestial nenarazí na průlomové objevy v oblasti převodu dat na analog a regenerace signálu, což jsou hlavní překážky dnešních fotonických čipů, je nepravděpodobné, že by Orion byl o mnoho dál než konkurence.

David Lazovsky a Preet Virk, technologové se zkušenostmi z polovodičového inženýrství a fotoniky, si před několika lety společně uvědomili, že pracovní zátěž v oblasti umělé inteligence a strojového učení rychle narazí na problém "pohybu dat". Předpovídali, že bude stále náročnější přesouvat data do výpočetního hardwaru a z něj, protože modely umělé inteligence se budou rozšiřovat nad rámec toho, co je možné udržet na matrici jednoho paměťového čipu. Jejich řešení - navržené Philem Winterbottomem, který dříve pracoval jako výzkumný pracovník ve významných Bellových laboratořích - představovalo technologii optického propojení pro přenos dat mezi počítači, počítači a pamětí a na čipu. Spolu s Winterbottomem založili Lazovsky a Virk startup Celestial AI, aby tuto technologii komercializovali. A tento startup nyní přitahuje velké sponzory. Společnost Celestial AI dnes oznámila, že získala 100 milionů dolarů v rámci kola B vedeného společnostmi IAG Capital Partners, Koch Disruptive Technologies a fondem Xora Innovation společnosti Temasek. Podle generálního ředitele Lazovského bude tato tranše, díky níž společnost Celestial AI získala celkem více než 165 milionů dolarů, použita na podporu výroby fotonické platformy společnosti Celestial rozšířením inženýrského, obchodního a technického marketingového oddělení společnosti. Zdroj: Unsplash V současné době má společnost Celestial přibližně 100 zaměstnanců - Lazovsky očekává, že do konce roku se jejich počet zvýší na 130. "Výpočet a paměť jsou dnes úzce propojeny. Jediný způsob, jak přidat více paměti s velkou šířkou pásma, je přidat více výpočetní kapacity, ať už je další výpočetní kapacita potřebná, nebo ne," řekl Lazovsky TechCrunch prostřednictvím e-mailu. "Technologie společnosti Celestial umožňuje disagregaci paměti." V datovém centru je paměť často jedním z nejdražších zdrojů - částečně proto, že není vždy využívána efektivně. Protože je paměť vázána na výpočetní výkon, je pro provozovatele náročné - a někdy kvůli omezením šířky pásma a nebývale vysokým latencím i nemožné - paměť "rozdělit" a sdružit napříč hardwarem v datovém centru. Podle interní studie Microsoftu je až 25 % paměti v Azure po pronajmutí jader serverů virtuálním počítačům tzv. "stranded", tedy zbytková paměť. Společnost odhaduje, že snížení této nevyužité paměti by mohlo snížit náklady na datová centra o 4 až 5 %, což je v kontextu mnohamiliardového provozu potenciálně významná úspora. Zdroj: Unsplash Společnost Celestial, která vznikla jako portfoliová společnost The Engine, VC firmy vyčleněné z MIT v roce 2016, vyvinula zdánlivé řešení ve své architektuře založené na fotonice, která se škáluje na více čipových systémech. Technologie společnosti Celestial využívá k přenosu dat světlo a dokáže přenášet informace v rámci čipů i mezi čipy, čímž zpřístupňuje paměť i výpočetní kapacitu pro umělou inteligenci - a další pracovní zátěže. Společnost Celestial také tvrdí, že její technologie dokáže snížit množství elektrické energie potřebné pro přenos dat, čímž nepřímo zvyšuje výkon čipu. Čipy obvykle věnují část elektrické energie na přenos dat mezi obvody, což ubírá z elektrické energie, kterou může čip věnovat výpočetním úlohám. Fotonika společnosti Celestial snižuje spotřebu energie potřebnou pro pohyb dat, což čipu umožňuje - alespoň teoreticky - zvýšit výpočetní výkon. Fotonická technologie společnosti Celestial, která je kompatibilní s většinou průmyslových propojovacích standardů (např. CXL, PCIe), poskytuje 25x větší šířku pásma a 10x nižší latenci a spotřebu energie než optické alternativy, tvrdí společnost. Zdroj: Shutterstock "S nárůstem umělé inteligence, zejména velkých jazykových modelů (LLM) a zátěže doporučovacích strojů, dochází k posunu směrem k akcelerovanému výpočtu," řekl Lazovsky. "Klíčovým problémem do budoucna je kapacita paměti, šířka paměťového pásma a pohyb dat - tj. propojení mezi čipy - což řešíme pomocí fotonické tkaniny společnosti Celestial." Společnost Celestial nabízí svůj propojovací produkt prostřednictvím licenčního programu a uvádí, že spolupracuje s několika "tier-one" zákazníky, včetně hyperskaláren a společností vyrábějících procesory a paměti. Zdá se, že propojovací produkt je pro společnost Celestial prioritou číslo jedna. Společnost prodává vlastní čip pro akceleraci umělé inteligence, nazvaný Orion, postavený na fotonické architektuře společnosti Celestial. Jak však uvedli investoři v nedávném článku pro TechCrunch TC+, fotonické čipy AI musí ještě překonat technické problémy, které by je učinily praktickými ve velkém měřítku. Pokud společnost Celestial nenarazí na průlomové objevy v oblasti převodu dat na analog a regenerace signálu, což jsou hlavní překážky dnešních fotonických čipů, je nepravděpodobné, že by Orion byl o mnoho dál než konkurence.