Po dlouhém týdnu programování byste si možná mysleli, že se vývojáři v San Francisku stáhnou do hor, na pláže nebo do rušného nočního života v Bay Area. Ve skutečnosti ale, jakmile týden skončí, začínají hackatony zaměřené na umělou inteligenci. V posledních několika letech se v San Francisku rozmohly hackatony umělé inteligence. Každou sobotu nebo neděli zde technologové přednášejí o nejnovějších pokrocích v oblasti AI, propojují se a - což je nejdůležitější - vytvářejí z nápadů funkční ukázky. Někdy hackathony nabízejí ceny v podobě peněz nebo cloudových kreditů, ale skuteční vítězové odcházejí se zárodkem startupu. „Není lepšího místa na světě, kde byste mohli vybudovat nejambicióznější projekt svého života, než je San Francisco,“ říká spoluzakladatel Agency AI Alex Reibman. „Často vidíte tuny soutěží - jako jsou hackathony - ale nesoutěží mezi sebou. Je to stejně tak spolupráce jako soutěž.“ Loni v létě se Reibman na sanfranciském hackathonu rozhodl, že si vyzkouší, jak se vytvářejí agenti AI, kteří dokážou prohledávat web. Agenti jsou v Silicon Valley žhavým tématem, protože boom umělé inteligence vrcholí. Tento termín není přesně definován, ale obecně se jím označují roboti na bázi umělé inteligence, kteří mohou automaticky vykonávat úkoly pomocí rozhraní a služeb, které původně nebyly navrženy tak, aby je bylo možné automatizovat - jde o jakousi náhradu za všední úkoly, které dříve vyžadovaly zásah člověka. Reibman však okamžitě narazil na problém. „Byli na nic,“ řekl Reibman v rozhovoru. „Agenti selhávali ve 30 až 40 % případů, a to často nečekaným způsobem.“ Aby to Reibmanův tým napravil, vytvořil interní ladicí nástroje, aby zjistil, kde jejich agenti dělají chyby. Nakonec se jim podařilo přimět agenty, aby pracovali o něco lépe, ale samotné ladicí nástroje nakonec ukradly show a vyhrály hackathon. „Začal jsem tyto nástroje ukazovat na několika hackathonech a akcích v San Francisku a lidé začali žádat o přístup k nim,“ řekl Reibman. „To bylo v podstatě potvrzení, které jsem potřeboval: Místo toho, abychom sami vytvářeli agenta, měli bychom vytvořit nástroje, které by vytváření agentů usnadnily.“ A tak Reibman spolu se svými spoluzakladateli Adamem Silvermanem a Shawnem Qiu založil agenturu Agency, která nabízí nástroje umožňující sledovat, co agenti AI skutečně dělají, a zachytit, kde dělají chyby. O rok později se z těchto nástrojů nakonec stal hlavní produkt Agency, platforma AgentOps, kterou nyní měsíčně využívají tisíce týmů, uvedl Reibman. Startup nyní získal 2,6 milionu dolarů v rámci předběžného financování vedeného společnostmi 645 Ventures a Afore Capital. Provozní ředitel Adam Silverman uvedl, že AgentOps je něco jako „správa více zařízení pro agenty“, která analyzuje vše, co agent dělá, aby se ujistila, že nepůjde na ruku. „Chcete pochopit, zda se váš agent chystá dělat neplechu, a zjistit, jaká omezení můžete zavést,“ řekl Silverman v rozhovoru. „Velká část práce spočívá v tom, že jste schopni vizuálně zjistit, kde existují vaše ochranná opatření a zda je agent dodržuje, než je hodíte do výroby.“ Startup spolupracuje s firmami Cohere a Mistral, vývojáři modelů umělé inteligence, které rovněž nabízejí služby vytváření agentů, takže zákazníci mohou pomocí ovládacího panelu AgentOps zjistit, jak agenti komunikují se světem a kolik každý z nich stojí. Agency je modelově agnostická, což znamená, že pracuje s několika různými frameworky pro agenty AI, ale je integrována s populárními nástroji, jako jsou AutoGen, crewAI a AutoGPT od Microsoftu. Kromě ovládacího panelu AgentOps nabízí Agency také konzultační služby (Reibman dříve pracoval v konzultační firmě EY), které firmám pomohou začít s budováním agentů. Agentura se nechtěla podělit o žádné zákazníky jmenovitě, ale sdělila, že její nástroje používají hedgeové fondy, konzultanti a marketingové firmy. Reibman například říká, že agentura pomohla vytvořit agenta s umělou inteligencí, který píše blogové příspěvky o společnostech, s nimiž zákazník spolupracuje. Tentýž zákazník nyní používá ovládací panel AgentOps ke sledování výkonu a nákladů agenta. Velcí hráči jako OpenAI a Google pravděpodobně v příštích měsících vytvoří své agentské produkty a startupy AI, jako je Agency, musí přijít na to, jak pracovat vedle těchto pokroků, nikoli proti nim. „V zásobníku je tolik vrstev, že není pravděpodobné, že by se poskytovatel LLM snažil zachytit všechny,“ řekl Reibman. „OpenAI a Anthropic vytvářejí tvůrce agentů, ale kolem toho jsou všechny tyto vrstvy, abyste měli jistotu, že máte kódovou základnu připravenou k produkci.“