Mozilla spouští nový startup zaměřený na důvěryhodnou umělou inteligenci

výročí svého založení spouští Mozilla, nezisková organizace stojící za prohlížečem Firefox, startup zaměřený na umělou inteligenci.

Podle Marka Surmana, výkonného prezidenta společnosti Mozilla a vedoucího Mozilla.ai, není posláním nově vzniklé společnosti vytvářet jen tak nějakou umělou inteligenci – jejím úkolem je vytvářet umělou inteligenci, která je otevřená a „důvěryhodná“.

„Když jsem téměř pět let pracoval na důvěryhodné umělé inteligenci, neustále jsem cítil směs vzrušení a úzkosti,“ řekl v e-mailovém rozhovoru pro TechCrunch. „Poslední měsíc nebo dva, kdy došlo k rychlému ohlášení velkých technologických projektů v oblasti umělé inteligence, nebyl jiný. Objevují se opravdu vzrušující nové technologie – nové nástroje, které okamžitě podnítily umělce, zakladatele… všechny druhy lidí k novým věcem. Znepokojení přichází, když si uvědomíte, že téměř nikdo nehledí na ochranná zábradlí.“

Surman měl na mysli příval modelů umělé inteligence v posledních měsících, které jsou sice působivé svými schopnostmi, ale mají znepokojivé důsledky pro reálný svět. Při vydání mohl být ChatGPT generující text OpenAI vyzván k psaní malwaru, identifikaci exploitů v otevřeném zdrojovém kódu a vytváření phishingových webových stránek, které vypadaly podobně jako dobře sledované stránky. Textově-obrázková AI, jako je Stable Diffusion, byla mezitím kooptována k vytváření pornografických, nekonsensuálních deepfakes a ultra-grafických zobrazení násilí.

Tvůrci těchto modelů tvrdí, že podnikají kroky k omezení zneužívání. Mozilla však měla pocit, že se nedělá dost.

„Na důvěryhodné umělé inteligenci jsme pracovali na straně výzkumu ve veřejném zájmu asi pět let a doufali jsme, že se ostatní průmysloví hráči s většími odbornými znalostmi v oblasti umělé inteligence zapojí do vytváření důvěryhodnějších technologií,“ řekl Surman. „To se nestalo. Proto jsme se v polovině minulého roku rozhodli, že se do toho musíme pustit sami – a najít podobně smýšlející partnery, kteří se do toho pustí spolu s námi. Poté jsme se rozhodli najít někoho se správnou kombinací akademických a průmyslových zkušeností s umělou inteligencí, kdo by to vedl.“

Mozilla.ai, financovaná počáteční investicí ve výši 30 milionů dolarů od Mozilla Foundation, mateřské organizace Mozilly, je dceřinou společností Mozilla Foundation – podobně jako Mozilla Corporation (organizace odpovědná za vývoj Firefoxu) a Mozilla Ventures (fond rizikového kapitálu Mozilla Foundation). Jejím výkonným ředitelem je Moez Draief, který dříve působil jako hlavní vědec v laboratoři umělé inteligence Noah’s Ark společnosti Huawei a jako globální hlavní vědec v poradenské společnosti Capgemini.

Prvními členy správní rady Mozilla.ai budou Karim Lakhani z Harvardu, Navrina Singh ze společnosti Credo a Surman. Lakhani je předsedou a spoluzakladatelem Institutu digitálních technologií, dat a designu na Harvardu, zatímco Singhová je členkou Národního poradního výboru pro umělou inteligenci amerického ministerstva obchodu, který radí prezidentovi v řadě etických otázek týkajících se umělé inteligence.

Surman popisuje Mozilla.ai jako částečně výzkumnou firmu, částečně komunitu – startup, který se snaží pomoci vytvořit důvěryhodný a nezávislý open source stack pro umělou inteligenci. Zpočátku bude prioritou Mozilla.ai vybudovat tým přibližně 25 inženýrů, vědců a produktových manažerů, kteří budou pracovat na „důvěryhodných“ doporučovacích systémech a velkých jazykových modelech po vzoru GPT-4 od OpenAI. Širší ambicí společnosti je však vytvořit síť spřízněných společností a výzkumných skupin – včetně startupů podporovaných Mozilla Ventures a akademických institucí -, které sdílejí její vizi.

„Myslíme si, že existuje komerční trh s důvěryhodnou umělou inteligencí – a že tento trh musí růst, pokud chceme změnit způsob, jakým průmysl zabudovává umělou inteligenci do aplikací, produktů a služeb, které všichni denně používáme,“ řekl Surman. „Mozilla.ai – ve volné spolupráci s mnoha spřátelenými společnostmi, výzkumníky a vládami – [má] příležitost kolektivně vytvořit open source stack AI ‚trust first‘. Pokud budeme úspěšní, hlavní proud průmyslu by z tohoto zásobníku čerpal jako z běžné sady nástrojů, stejně jako tomu bylo v případě zásobníku Linux a Apache v posledních dvou desetiletích.“

Mozilla.ai na to nebude sama – ne zcela. Demokratizaci nástrojů umělé inteligence se věnuje několik neziskových organizací, včetně nedávno založeného institutu EleutherAI, který je financován firemními sponzory, včetně společností Canva a Hugging Face. Existuje také Allenův institut pro umělou inteligenci, který založil zesnulý spoluzakladatel společnosti Microsoft Paul Allen, a Institut Alana Turinga. K menším slibným snahám patří AI startup Cohere For AI a Distributed AI Research Timnita Gebrua, globální decentralizovaná výzkumná organizace.

Příznačné je, že Mozilla.ai není nezisková organizace. Ačkoli je vázána určitými etickými zásadami (konkrétně Manifestem Mozilly), je otevřená tomu, aby kromě projektů s otevřeným zdrojovým kódem rozdělila své úspěšnější výzkumy do produktů a společností.