Společnost CalypsoAI získala 23 milionů dolarů na přidání ochranných prvků do generativních modelů AI

Ne vždy však berou v úvahu všechny překážky a problémy, které se pojí se začleněním této technologie do stávajících pracovních postupů.

V jednom z nedávných průzkumů společnosti KPMG 90 % podniků uvedlo, že mají „střední až velmi významné“ obavy z rizik používání generativní umělé inteligence a pochybnosti o tom, jak tato rizika zmírnit. Pouze 6 % z nich přitom uvedlo, že mají pocit, že jejich společnost má vyspělý program řízení AI.

Částečně z těchto důvodů založil Neil Sereybrany startup CalypsoAI, který vyvíjí software pro testování, ověřování a monitorování interně vyvinutých aplikací AI i aplikací třetích stran před jejich nasazením.

„Platforma společnosti CalypsoAI propaguje sílu a konkurenční výhodu, kterou může přinést využití umělé inteligence, ale bezpečným a spolehlivým způsobem,“ uvedl Sereybrany.

To je vysoko nastavená laťka. Investoři však zjevně věří, že společnost CalypsoAI je schopna to splnit. Startup dnes oznámil, že získal 23 milionů dolarů v kole Série A-1, které vedla společnost Paladin Capital Group a na němž se podílely společnosti Lockheed Martin Ventures, Hakluyt Capital a Expeditions Fund.

Do tranše A-1 přispěli i významní andělé, včetně bývalé generální ředitelky YouTube Susan Wojcicki a její sestry, spoluzakladatelky společnosti 23andMe Anne Wojcicki. Společnost CalypsoAI dosud získala 38,2 milionu dolarů.

Společnost CalypsoAI tvrdí, že její nástroje – nasazené jako kontejner v infrastruktuře organizace – umožňují podnikům monitorovat a řídit používání velkých jazykových modelů, jako je ChatGPT, prostřednictvím ovládacích panelů, které zobrazují statistiky týkající se toxicity modelů, zapojení uživatelů a další. Sereybrany říká, že CalypsoAI dokáže zabránit sdílení citlivých firemních dat v modelech a zároveň identifikovat útoky pocházející z generativních nástrojů AI.

„Každá společnost chce využívat výhod generativních řešení AI, zejména jasného zvýšení produktivity, ale chce se také ujistit, že nebude vystavena kybernetickým útokům a že zaměstnanci nezveřejní citlivé informace na veřejných modelech,“ dodal Sereybrany. „Díky implementaci řešení CalypsoAI mohou vedoucí pracovníci CISO a IT začít vážně uvažovat o zavedení generativních řešení AI ve svých organizacích bezpečným a zabezpečeným způsobem – což jim umožní zavést efektivitu do jejich podnikání bez dodatečného rizika.“

V podnikovém sektoru jistě existuje poptávka po nějakém generativním řešení AI zábradlí. Ze strachu, že by zaměstnanci mohli náhodou prozradit chráněné informace, společnosti včetně Apple, JPMorgan Chase a Verizon zakázaly nebo omezily interní používání nástrojů podobných ChatGPT. Mnohé z těch samých společností se obávají toxicity generativní AI a problémů s dezinformacemi, které stále trápí i ty nejlepší modely, které jsou dnes k dispozici.

Průmysl, který si uvědomuje obrovský potenciál oslovitelného trhu, se snaží uspokojit poptávku. Společnost Microsoft nabízí službu Azure OpenAI Service, která poskytuje možnosti správy a dodržování předpisů nad generativními modely AI od OpenAI, včetně ChatGPT. Jinde společnost Salesforce nedávno uvedla na trh vrstvu Einstein Trust Layer, která se snaží zabránit tomu, aby modely generující text uchovávaly citlivé údaje.

Je však otázkou, jak dobře tato ochranná opatření fungují v praxi. Výzkumníci nedávno odhalili chyby v NeMo Guardrails, sadě nástrojů společnosti Nvidia, jejímž cílem je zpřesnit a zabezpečit aplikace poháněné umělou inteligencí, a zpochybnili tak tvrzení jednoho z dodavatelů, že je možné ochrany této sady nástrojů obejít.

Sereybrany zdůraznil, že produkty CalypsoAI jsou odolné vůči útokům. Jedním dechem zdůraznil, že CalypsoAI nedrží žádná data svých zákazníků, místo toho pouze usnadňuje tok informací od zaměstnanců do modelu, který si společnost zvolí.

„Zajištění LLM v podnicích se stalo kritickým podnikem, což vedlo ke strategickému posunu společnosti CalypsoAI k řešení potřeb podniků, které chtějí využívat řešení AI,“ řekl Sereybrany. „Vzhledem k tomu, že mnoho organizací chce bezpečně využívat generativní řešení AI, která by poháněla jejich podnikání kupředu, cítí se společnost CalypsoAI jistá, že dokáže vyvinout nejlepší možný produkt a přilákat nejlepší talenty pro zabezpečení podnikových organizací.“

Sereybrany uvádí, že společnost CalypsoAI využije finanční prostředky z poslední tranše na podporu vývoje produktů, nábor zaměstnanců a iniciativy společnosti v oblasti uvádění produktů na trh. V současné době má CalypsoAI 35 zaměstnanců a nedávno otevřela kancelář v Dublinu, což je součástí plánu CalypsoAI zdvojnásobit počet zaměstnanců během příštích dvou let.

„Vzhledem k tomu, že naše společnost stále roste a rozšiřuje se, uvědomujeme si, že je pro nás důležité získat nové investory, kteří podpoří náš růst,“ pokračoval. „Díky spolupráci s investory, kteří sdílejí naše vize a cíle, můžeme pokračovat v inovacích a rozvíjet naše podnikání.“

Ne vždy však berou v úvahu všechny překážky a problémy, které se pojí se začleněním této technologie do stávajících pracovních postupů.V jednom z nedávných průzkumů společnosti KPMG 90 % podniků uvedlo, že mají „střední až velmi významné“ obavy z rizik používání generativní umělé inteligence a pochybnosti o tom, jak tato rizika zmírnit. Pouze 6 % z nich přitom uvedlo, že mají pocit, že jejich společnost má vyspělý program řízení AI.Částečně z těchto důvodů založil Neil Sereybrany startup CalypsoAI, který vyvíjí software pro testování, ověřování a monitorování interně vyvinutých aplikací AI i aplikací třetích stran před jejich nasazením.„Platforma společnosti CalypsoAI propaguje sílu a konkurenční výhodu, kterou může přinést využití umělé inteligence, ale bezpečným a spolehlivým způsobem,“ uvedl Sereybrany.To je vysoko nastavená laťka. Investoři však zjevně věří, že společnost CalypsoAI je schopna to splnit. Startup dnes oznámil, že získal 23 milionů dolarů v kole Série A-1, které vedla společnost Paladin Capital Group a na němž se podílely společnosti Lockheed Martin Ventures, Hakluyt Capital a Expeditions Fund.Do tranše A-1 přispěli i významní andělé, včetně bývalé generální ředitelky YouTube Susan Wojcicki a její sestry, spoluzakladatelky společnosti 23andMe Anne Wojcicki. Společnost CalypsoAI dosud získala 38,2 milionu dolarů.Společnost CalypsoAI tvrdí, že její nástroje – nasazené jako kontejner v infrastruktuře organizace – umožňují podnikům monitorovat a řídit používání velkých jazykových modelů, jako je ChatGPT, prostřednictvím ovládacích panelů, které zobrazují statistiky týkající se toxicity modelů, zapojení uživatelů a další. Sereybrany říká, že CalypsoAI dokáže zabránit sdílení citlivých firemních dat v modelech a zároveň identifikovat útoky pocházející z generativních nástrojů AI.„Každá společnost chce využívat výhod generativních řešení AI, zejména jasného zvýšení produktivity, ale chce se také ujistit, že nebude vystavena kybernetickým útokům a že zaměstnanci nezveřejní citlivé informace na veřejných modelech,“ dodal Sereybrany. „Díky implementaci řešení CalypsoAI mohou vedoucí pracovníci CISO a IT začít vážně uvažovat o zavedení generativních řešení AI ve svých organizacích bezpečným a zabezpečeným způsobem – což jim umožní zavést efektivitu do jejich podnikání bez dodatečného rizika.“V podnikovém sektoru jistě existuje poptávka po nějakém generativním řešení AI zábradlí. Ze strachu, že by zaměstnanci mohli náhodou prozradit chráněné informace, společnosti včetně Apple, JPMorgan Chase a Verizon zakázaly nebo omezily interní používání nástrojů podobných ChatGPT. Mnohé z těch samých společností se obávají toxicity generativní AI a problémů s dezinformacemi, které stále trápí i ty nejlepší modely, které jsou dnes k dispozici.Průmysl, který si uvědomuje obrovský potenciál oslovitelného trhu, se snaží uspokojit poptávku. Společnost Microsoft nabízí službu Azure OpenAI Service, která poskytuje možnosti správy a dodržování předpisů nad generativními modely AI od OpenAI, včetně ChatGPT. Jinde společnost Salesforce nedávno uvedla na trh vrstvu Einstein Trust Layer, která se snaží zabránit tomu, aby modely generující text uchovávaly citlivé údaje.Je však otázkou, jak dobře tato ochranná opatření fungují v praxi. Výzkumníci nedávno odhalili chyby v NeMo Guardrails, sadě nástrojů společnosti Nvidia, jejímž cílem je zpřesnit a zabezpečit aplikace poháněné umělou inteligencí, a zpochybnili tak tvrzení jednoho z dodavatelů, že je možné ochrany této sady nástrojů obejít.Sereybrany zdůraznil, že produkty CalypsoAI jsou odolné vůči útokům. Jedním dechem zdůraznil, že CalypsoAI nedrží žádná data svých zákazníků, místo toho pouze usnadňuje tok informací od zaměstnanců do modelu, který si společnost zvolí.„Zajištění LLM v podnicích se stalo kritickým podnikem, což vedlo ke strategickému posunu společnosti CalypsoAI k řešení potřeb podniků, které chtějí využívat řešení AI,“ řekl Sereybrany. „Vzhledem k tomu, že mnoho organizací chce bezpečně využívat generativní řešení AI, která by poháněla jejich podnikání kupředu, cítí se společnost CalypsoAI jistá, že dokáže vyvinout nejlepší možný produkt a přilákat nejlepší talenty pro zabezpečení podnikových organizací.“Sereybrany uvádí, že společnost CalypsoAI využije finanční prostředky z poslední tranše na podporu vývoje produktů, nábor zaměstnanců a iniciativy společnosti v oblasti uvádění produktů na trh. V současné době má CalypsoAI 35 zaměstnanců a nedávno otevřela kancelář v Dublinu, což je součástí plánu CalypsoAI zdvojnásobit počet zaměstnanců během příštích dvou let.„Vzhledem k tomu, že naše společnost stále roste a rozšiřuje se, uvědomujeme si, že je pro nás důležité získat nové investory, kteří podpoří náš růst,“ pokračoval. „Díky spolupráci s investory, kteří sdílejí naše vize a cíle, můžeme pokračovat v inovacích a rozvíjet naše podnikání.“