Groq, startup vyvíjející čipy pro generativní modely umělé inteligence, které jsou rychlejší než běžné procesory, v pondělí oznámil, že v novém kole financování vedeném společností Blackrock získal 640 milionů dolarů.

Podílely se na něm také společnosti Neuberger Berman, Type One Ventures, Cisco, KDDI a Samsung Catalyst Fund.

Tato tranše, která zvyšuje celkový objem získaných prostředků společnosti Groq na více než 1 miliardu dolarů a oceňuje společnost na 2,8 miliardy dolarů, je pro společnost Groq, která údajně původně chtěla získat 300 milionů dolarů při o něco nižším ocenění (2,5 miliardy dolarů), významným vítězstvím.

Je to více než dvojnásobek předchozího ocenění společnosti Groq (~1 miliarda USD) z dubna 2021, kdy společnost získala 300 milionů USD v kole vedeném společnostmi Tiger Global Management a D1 Capital Partners.

Yann LeCun, hlavní vědecký pracovník společnosti Meta v oblasti umělé inteligence, bude působit jako technický poradce společnosti Groq a Stuart Pann, bývalý šéf divize slévárenství společnosti Intel a bývalý ředitel IT ve společnosti HP, se připojí ke startupu jako provozní ředitel, oznámil dnes rovněž Groq.

Jmenování Lecuna je vzhledem k investicím společnosti Meta do vlastních čipů s umělou inteligencí poněkud nečekané – Groq tím ale nepochybně získá mocného spojence v oblasti, kde panuje tvrdá konkurence.

Společnost Groq, která se vynořila z utajení v roce 2016, vytváří něco, čemu říká inferenční engine LPU (language processing unit). Společnost tvrdí, že její LPU dokáže provozovat stávající generativní modely AI s podobnou architekturou jako ChatGPT a GPT-4o společnosti OpenAI s desetinásobnou rychlostí a desetinou energie.

Generální ředitel společnosti Groq Jonathan Ross se proslavil tím, že se podílel na vynálezu tensor processing unit (TPU), vlastního akceleračního čipu AI společnosti Google, který se používá k trénování a spouštění modelů. Ross se před téměř deseti lety spojil s Douglasem Wightmanem, podnikatelem a bývalým inženýrem v laboratoři X moonshot mateřské společnosti Google Alphabet, a společně založili společnost Groq.

Společnost Groq poskytuje vývojářskou platformu poháněnou LPU s názvem GroqCloud, která nabízí „otevřené“ modely, jako je rodina Llama 3.1 společnosti Meta, Gemma společnosti Google, Whisper společnosti OpenAI a Mixtral společnosti Mistral, a také rozhraní API, které umožňuje zákazníkům používat její čipy v cloudových instancích.

(Groq také provozuje hřiště pro chatboty s umělou inteligencí, GroqChat, které spustil koncem loňského roku.) V červenci měl GroqCloud více než 356 000 vývojářů; Groq uvádí, že část výnosů z kola bude použita na rozšíření kapacity a přidání nových modelů a funkcí.

„Mnoho z těchto vývojářů pracuje ve velkých podnicích,“ uvedl Stuart Pann, provozní ředitel společnosti Groq. „Podle našich odhadů je zastoupeno více než 75 % firem z žebříčku Fortune 100.“

S pokračujícím boomem generativní umělé inteligence čelí Groq rostoucí konkurenci jak ze strany konkurenčních čipů pro umělou inteligenci, tak ze strany společnosti Nvidia, která je v oblasti hardwaru pro umělou inteligenci impozantním hráčem.

Společnost Nvidia ovládá odhadem 70 až 95 % trhu s čipy AI používanými k trénování a nasazování generativních modelů AI a podniká agresivní kroky, aby si svou dominanci udržela.

Společnost Nvidia se zavázala, že bude vydávat novou architekturu čipů pro umělou inteligenci každý rok, nikoliv každý druhý rok, jak tomu bylo v minulosti. A údajně zakládá novou obchodní jednotku zaměřenou na navrhování čipů na míru pro firmy zabývající se cloud computingem a další subjekty, včetně hardwaru pro AI.

Kromě společnosti Nvidia konkuruje Groq společnostem Amazon, Google a Microsoft, které nabízejí – nebo brzy budou nabízet – vlastní čipy pro pracovní zátěže AI v cloudu.

Amazon má své procesory Trainium, Inferentia a Graviton, které jsou k dispozici prostřednictvím AWS; zákazníci služby Google Cloud mohou využívat výše zmíněné TPU a časem i čip Axion od Googlu; a Microsoft nedávno spustil instance Azure v předběžném náhledu pro svůj procesor Cobalt 100, přičemž instance Maia 100 AI Accelerator přijdou v příštích několika měsících.

Groq by mohl za soupeře považovat také společnosti Arm, Intel, AMD a rostoucí počet startupů na trhu s čipy umělé inteligence, který by podle některých analytiků mohl v příštích pěti letech dosáhnout ročního obratu 400 miliard dolarů. Zejména společnosti Arm a AMD mají kvetoucí byznys s čipy AI, a to díky prudce rostoucím kapitálovým výdajům dodavatelů cloudových služeb, aby pokryly poptávku po kapacitě generativní AI.

Společnost D-Matrix koncem loňského roku získala 110 milionů dolarů na komercializaci toho, co charakterizuje jako první inferenční výpočetní platformu svého druhu.

V červnu se z utajení vynořila společnost Etched, která získala 120 milionů dolarů na procesor vytvořený na zakázku pro zrychlení dnes dominantní architektury generativního modelu AI, transformátoru. Masayoshi Son ze SoftBank údajně chce získat 100 miliard dolarů na čipový podnik, který by konkuroval společnosti Nvidia. A OpenAI prý jedná s investičními firmami o spuštění iniciativy na výrobu čipů AI.

Aby si společnost Groq vydobyla své místo, investuje velké prostředky do oslovení podniků a státní správy.

V březnu společnost Groq koupila firmu Definitive Intelligence se sídlem v Palo Altu, která nabízí řadu řešení AI zaměřených na podniky, a vytvořila novou obchodní jednotku Groq Systems. Do působnosti Groq Systems patří služby organizacím, včetně amerických vládních agentur a suverénních států, které chtějí přidat čipy Groq do stávajících datových center nebo vybudovat nová datová centra s procesory Groq.

Nedávno Groq uzavřel partnerství se společností Carahsoft, vládním dodavatelem IT, aby mohl prodávat svá řešení klientům z veřejného sektoru prostřednictvím prodejních partnerů společnosti Carahsoft, a startup má dopis o záměru instalovat desítky tisíc svých LPU v datovém centru evropské firmy Earth Wind & Power v Norsku.

Groq také spolupracuje se saúdskoarabskou konzultační firmou Aramco Digital na instalaci LPU v budoucích datových centrech na Blízkém východě.

Současně s navazováním vztahů se zákazníky kráčí společnost Groq se sídlem v kalifornském Mountain View vstříc nové generaci svého čipu. Loni v srpnu společnost oznámila, že uzavře smlouvu se slévárnou společnosti Samsung na výrobu 4nm LPU, které by měly přinést zvýšení výkonu a efektivity oproti 13nm čipům první generace společnosti Groq.

Společnost Groq uvádí, že do konce prvního čtvrtletí roku 2025 plánuje nasadit více než 108 000 LPU.