Fairly nedávno uzavřela pre-seed kolo v hodnotě 1,7 milionu dolarů

Společnost Fairly, která se letos účastní soutěže Startup Battlefield 200 na každoroční konferenci TechCrunch Disrupt v San Francisku, si klade za cíl vytvořit „trh“ pro politiky a kontroly umělé inteligence od partnerů, mezi něž patří partnerství pro umělou inteligenci a neziskový institut Responsible AI Institute. Jak vysvětluje Van Bruwaene, Fairly přebírá rámce a procesy řízení, rizik a dodržování předpisů z jiných odvětví, především z odvětví finančních služeb, a přizpůsobuje a rozšiřuje je na AI.

Platforma Fairly, která je nasazena lokálně nebo v privátním cloudu, porovnává modely a datové sady umělé inteligence společnosti s interními a externími zásadami, jakož i s příslušnými normami a předpisy. Platforma může běžet ručně nebo nepřetržitě, integrovaná se stávajícími CI/CD pipeline prostřednictvím jediného řádku kódu.

Cílem je usnadnit laikům pochopení rizik a problémů s dodržováním předpisů, které mohou být se systémem umělé inteligence spojeny, říká Van Bruwaene – a zmírnit nová rizika, která se objeví.

Jako jeden z příkladů algoritmu, který se pokazil kvůli nedostatkům v řízení, uvádí nabídku společnosti Zillow. V roce 2022 byla společnost Zillow nucena ukončit službu Zillow Offers, která nabízela majitelům domů hotovost za jejich nemovitosti již za dva dny, poté, co algoritmus, který stál za touto službou, způsobil, že společnost Zillow koupila tisíce domů, aniž by zohlednila opravy s prudce rostoucími náklady na materiál a práci.

Nástup generativní umělé inteligence, jako je ChatGPT, dále zkomplikoval řízení rizik. Letošní průzkum společnosti McKinsey zjistil, že pouze 21 % těch, kteří používají AI v práci, uvedlo, že jejich zaměstnavatelé zavedli zásady, jak by zaměstnanci měli – a neměli – AI používat. A pouze 32 % uvedlo, že jejich společnost pracuje na zmírnění rizika nepřesných informací z AI, zatímco 38 % uvedlo, že jejich organizace podniká kroky k řešení souvisejících kybernetických bezpečnostních hrozeb.

„Naše cílová skupina pro Fairly nám řekla, že nechce vidět všechny grafy a tabulky, které jsou běžné ve stávajících nástrojích pro monitorování a sledování strojového učení, protože jim nerozumí,“ řekl Van Bruwaene. „Naše technologie nám umožňuje převést požadavky na shodu s předpisy na technické požadavky a vytvořit tak ‚semaforové‘ signály pro osoby s rozhodovací pravomocí.“

Spuštění společnosti Fairly přichází v době, kdy se odvětví umělé inteligence dostává do zlomového bodu. Politici, zejména v zámoří, zvažují způsoby, jak standardizovat regulaci UI, aby se zabránilo škodám, které by mohly vzniknout jejich nasazením.

EU se blíží k přijetí zákona o umělé inteligenci, jehož cílem je zavést jednotný regulační a právní rámec pro systémy umělé inteligence. V loňském roce Bílý dům zveřejnil návrh „Listiny práv umělé inteligence“, seznam navrhovaných zásad, jimiž se má řídit navrhování a používání technologií umělé inteligence. A Čína zavedla omezení způsobů, jakými lze generativní AI, například umělecké nástroje AI, nasadit na veřejném webu.

Index umělé inteligence Stanfordovy univerzity pro rok 2023 ukazuje, že v roce 2022 bylo na celém světě přijato 37 zákonů týkajících se umělé inteligence. Je to hodně, o čem musí mít společnosti využívající AI přehled, jak správně upozorňuje Van Bruwaene.

„Společnosti musí používat nástroj, jako je Fairly, který jim pomůže nastavit zásady a kontroly předem, aby vývojáři AI věděli, kam míří. V konečném důsledku je to obchodní rozhodnutí,“ řekl. „Tím, že Fairly poskytuje skutečnou vysvětlitelnost pomocí kvalitativních i kvantitativních kontrol, může pomoci urychlit proces dodržování předpisů.“

Společnost Fairly je v předvýrobní fázi, ale Van Bruwaene tvrdí, že již dokončila pilotní projekty „generující příjmy“ s partnery, kteří se podílejí na návrhu, ve čtyřech různých zemích. „Náš beta program jsme rozšířili na tucet zákazníků a jednáme s některými vládními agenturami – a minimálně s jednou z nich jsme již zahájili pilotní projekt,“ dodal.

Na podporu získávání zákazníků společnost Fairly nedávno uzavřela kolo předvstupního financování ve výši 1,7 milionu dolarů, které vedla společnost Flying Fish Partners za účasti společností Loyal VC, Backstage Capital, XFactor Ventures, NEXT Canada a Techstars Toronto. Většina nových prostředků bude použita na vývoj produktu, budování týmu pro uvádění produktů na trh a rozšíření počtu zaměstnanců společnosti Fairly z 12 zaměstnanců a smluvních partnerů na 24 v příštím roce,“ uvedl Van Bruwaene.

„Společnost Fairly umožňuje datovým vědcům a odborníkům na politiku urychlit zavádění umělé inteligence a zároveň minimalizovat rizika uplatňováním zásad a kontrol na interní systémy umělé inteligence i systémy třetích stran,“ řekl Van Bruwaene, který působí jako generální ředitel společnosti Fairly. „Společnost Fairly má za úkol umožnit bezpečné a vyhovující přijetí AI.“Společnost Fairly, která se letos účastní soutěže Startup Battlefield 200 na každoroční konferenci TechCrunch Disrupt v San Francisku, si klade za cíl vytvořit „trh“ pro politiky a kontroly umělé inteligence od partnerů, mezi něž patří partnerství pro umělou inteligenci a neziskový institut Responsible AI Institute. Jak vysvětluje Van Bruwaene, Fairly přebírá rámce a procesy řízení, rizik a dodržování předpisů z jiných odvětví, především z odvětví finančních služeb, a přizpůsobuje a rozšiřuje je na AI.Platforma Fairly, která je nasazena lokálně nebo v privátním cloudu, porovnává modely a datové sady umělé inteligence společnosti s interními a externími zásadami, jakož i s příslušnými normami a předpisy. Platforma může běžet ručně nebo nepřetržitě, integrovaná se stávajícími CI/CD pipeline prostřednictvím jediného řádku kódu.Cílem je usnadnit laikům pochopení rizik a problémů s dodržováním předpisů, které mohou být se systémem umělé inteligence spojeny, říká Van Bruwaene – a zmírnit nová rizika, která se objeví.Jako jeden z příkladů algoritmu, který se pokazil kvůli nedostatkům v řízení, uvádí nabídku společnosti Zillow. V roce 2022 byla společnost Zillow nucena ukončit službu Zillow Offers, která nabízela majitelům domů hotovost za jejich nemovitosti již za dva dny, poté, co algoritmus, který stál za touto službou, způsobil, že společnost Zillow koupila tisíce domů, aniž by zohlednila opravy s prudce rostoucími náklady na materiál a práci.Nástup generativní umělé inteligence, jako je ChatGPT, dále zkomplikoval řízení rizik. Letošní průzkum společnosti McKinsey zjistil, že pouze 21 % těch, kteří používají AI v práci, uvedlo, že jejich zaměstnavatelé zavedli zásady, jak by zaměstnanci měli – a neměli – AI používat. A pouze 32 % uvedlo, že jejich společnost pracuje na zmírnění rizika nepřesných informací z AI, zatímco 38 % uvedlo, že jejich organizace podniká kroky k řešení souvisejících kybernetických bezpečnostních hrozeb.„Naše cílová skupina pro Fairly nám řekla, že nechce vidět všechny grafy a tabulky, které jsou běžné ve stávajících nástrojích pro monitorování a sledování strojového učení, protože jim nerozumí,“ řekl Van Bruwaene. „Naše technologie nám umožňuje převést požadavky na shodu s předpisy na technické požadavky a vytvořit tak ‚semaforové‘ signály pro osoby s rozhodovací pravomocí.“Spuštění společnosti Fairly přichází v době, kdy se odvětví umělé inteligence dostává do zlomového bodu. Politici, zejména v zámoří, zvažují způsoby, jak standardizovat regulaci UI, aby se zabránilo škodám, které by mohly vzniknout jejich nasazením.EU se blíží k přijetí zákona o umělé inteligenci, jehož cílem je zavést jednotný regulační a právní rámec pro systémy umělé inteligence. V loňském roce Bílý dům zveřejnil návrh „Listiny práv umělé inteligence“, seznam navrhovaných zásad, jimiž se má řídit navrhování a používání technologií umělé inteligence. A Čína zavedla omezení způsobů, jakými lze generativní AI, například umělecké nástroje AI, nasadit na veřejném webu.Index umělé inteligence Stanfordovy univerzity pro rok 2023 ukazuje, že v roce 2022 bylo na celém světě přijato 37 zákonů týkajících se umělé inteligence. Je to hodně, o čem musí mít společnosti využívající AI přehled, jak správně upozorňuje Van Bruwaene.„Společnosti musí používat nástroj, jako je Fairly, který jim pomůže nastavit zásady a kontroly předem, aby vývojáři AI věděli, kam míří. V konečném důsledku je to obchodní rozhodnutí,“ řekl. „Tím, že Fairly poskytuje skutečnou vysvětlitelnost pomocí kvalitativních i kvantitativních kontrol, může pomoci urychlit proces dodržování předpisů.“Společnost Fairly je v předvýrobní fázi, ale Van Bruwaene tvrdí, že již dokončila pilotní projekty „generující příjmy“ s partnery, kteří se podílejí na návrhu, ve čtyřech různých zemích. „Náš beta program jsme rozšířili na tucet zákazníků a jednáme s některými vládními agenturami – a minimálně s jednou z nich jsme již zahájili pilotní projekt,“ dodal.Na podporu získávání zákazníků společnost Fairly nedávno uzavřela kolo předvstupního financování ve výši 1,7 milionu dolarů, které vedla společnost Flying Fish Partners za účasti společností Loyal VC, Backstage Capital, XFactor Ventures, NEXT Canada a Techstars Toronto. Většina nových prostředků bude použita na vývoj produktu, budování týmu pro uvádění produktů na trh a rozšíření počtu zaměstnanců společnosti Fairly z 12 zaměstnanců a smluvních partnerů na 24 v příštím roce,“ uvedl Van Bruwaene.