Tentokrát se však zaměřuje na oblast, která je v éře masivního rozvoje umělé inteligence stále více diskutovaná – bezpečnost AI. Ve čtvrtek oznámil spuštění svého nového fondu s názvem Safe Artificial Intelligence Fund, zkráceně SAIF.

Fond SAIF má jasně definovanou misi: podpořit startupy, jejichž hlavním cílem je zajistit bezpečné, odpovědné a zabezpečené využití umělé inteligence. Jak Ralston uvedl, jde mu o firmy, které se nejen soustředí na technologický pokrok, ale také na to, aby AI nepředstavovala riziko pro společnost.

Zároveň fond přichází s určitým humorem i symbolikou. Název SAIF je nejen zkratkou pro „Safe Artificial Intelligence Fund“, ale zároveň odkazuje na investiční nástroj SAFE (Simple Agreement for Future Equity), který poprvé zavedl právě Y Combinator. Ralston plánuje vypisovat šeky typicky ve výši 100 000 dolarů, přičemž maximální výše investice do jednotlivého startupu by neměla překročit 10 milionů dolarů.

I když pojem „bezpečná AI“ může působit vágně, Ralston připouští, že jeho definice je záměrně široká. Chce tím pokrýt co nejširší spektrum technologií, které přispívají k větší transparentnosti, odpovědnosti a ochraně proti rizikům, která se s umělou inteligencí pojí.

Které oblasti AI budou mít podporu

Ralstonův fond má zájem o projekty, které například objasňují rozhodovací procesy AI, srovnávají rizika a bezpečnost různých modelů, nebo chrání duševní vlastnictví v kontextu umělé inteligence. Dále ho zajímají firmy, které se zaměřují na soulad s regulacemi, boj proti dezinformacím či detekci AI generovaných útoků. Podle jeho slov by rád investoval i do nástrojů, které v sobě mají „zabudovanou bezpečnost“ – například prediktivní modely AI nebo firemní komunikační nástroje, které neodhalí důvěrná data.

Naopak zdůrazňuje, že podporu neplánuje poskytovat firmám vyvíjejícím plně autonomní zbraně. „Existují využití AI, která jsou nebezpečná – například technologie určené pro vývoj biologických zbraní nebo řízení konvenčních zbraní bez lidské kontroly,“ uvedl. V tomto směru je připraven podpořit spíše obranné mechanismy, které by naopak mohly takové útoky detekovat nebo jim předcházet.

Tento pohled kontrastuje s přístupem některých moderních obranných startupů, které podle Ralstona často zdůrazňují výhody odstranění člověka ze smyčky řízení zbraní. Ralston tak stojí spíše na straně opatrnosti a hledá způsoby, jak učinit AI pro společnost přínosnější a zároveň méně nebezpečnou.

Výhoda dlouholetých zkušeností a sítě kontaktů

V prostředí, kde se do AI startupů hrne obrovské množství investorů, sází Ralston na svou silnou reputaci a kontakty, které získal během více než deseti let v Y Combinatoru. Z této pozice má k dispozici rozsáhlou síť zakladatelů, mentorů i investorů a plánuje jí maximálně využít ve prospěch nového fondu.

Kromě financí nabízí Ralston startupům i osobní mentoring, podobně jako tomu bylo v YC. Zakladatelům bude pomáhat například s přípravou přihlášek do Y Combinatoru nebo s navazováním kontaktů s dalšími investory. Chce tím vytvořit komunitu podporující bezpečnou AI, která bude mít i reálný přístup k prostředkům a know-how pro růst.

O rozsahu fondu, počtu plánovaných investic ani o konkrétních podporovatelích z řad LP (limited partners) Ralston zatím nemluví. Zdůrazňuje ale, že jeho hlavním cílem je kvalita nad kvantitou – tedy podpořit ty zakladatele, kteří se skutečně snaží řešit reálné problémy v oblasti bezpečnosti AI.

Ambice v přeplněném investičním prostoru

V době, kdy se téma umělé inteligence stalo jedním z nejpřetíženějších segmentů rizikového kapitálu, přichází Ralston se zaměřením, které by mohlo zaujmout nejen investory, ale i širší veřejnost. Svůj přístup staví na dlouhodobé důvěře ve startupovou kulturu a hlubokém přesvědčení, že technologie by měla být především bezpečná, etická a transparentní.

Zároveň ale nezastírá, že vnímá i širší odpovědnost investorů v tom, jaký typ AI projektů podpoří. Ve světě, kde se technologie vyvíjí neuvěřitelným tempem, a hranice mezi tím, co je možné a co už je rizikové, se stále posouvají, je právě tato odpovědnost klíčová. SAIF by tak mohl sehrát významnou roli v utváření zdravého a udržitelného prostředí pro vývoj umělé inteligence.

Ralstonův návrat na scénu tak není jen o novém fondu, ale také o zřetelném hodnotovém postoji. V době, kdy se často klade důraz na rychlost a zisk, se rozhodl jít cestou, která klade důraz na bezpečnost a odpovědnost – a právě tím by mohl vyniknout.