Čína nařizuje bezpečnostní prověrky služeb podobných ChatGPT

Požadavky CAC se přidávají k rostoucím pokusům Pekingu regulovat explozivní růst generativní umělé inteligence od listopadu, kdy ChatGPT společnosti OpenAI odstartoval toto odvětví. Společnosti od Alibaba Group Holding Ltd. po SenseTime Group Inc. a Baidu usilují o vytvoření definitivní platformy AI nové generace pro největší internetový trh na světě. To odráží rostoucí vlnu vývoje v zahraničí, kde mezi mnoha technologickými společnostmi zkoumajícími generativní umělou inteligenci, která dokáže vytvářet originální obsah od poezie až po umění jen na základě jednoduchých pokynů uživatele, jsou i společnosti Google a Microsoft Corp.

Akcie Alibaba v úterý po oznámení CAC odevzdaly většinu svých počátečních zisků, zatímco akcie SenseTime mírně klesly. Větší společnost zabývající se elektronickým obchodováním v úterý popsala, jak plánuje zabudovat generativní umělou inteligenci do své pracovní aplikace podobné Slacku a chytrých reproduktorů podobných Amazon Echo, a poté toto portfolio rozšířit na své další služby. Den předtím společnost SenseTime předvedla velký model AI SenseNova a chatbota pro uživatele s názvem SenseChat.

Následoval tak bot Ernie společnosti Baidu Inc., který byl uvolněn k výběrovému testování zhruba před měsícem. Společnost, která je považována za současného domácího lídra, se v Hongkongu propadla o 7 %.

Kromě toho tento mocný regulátor zdůraznil, že služby umělé inteligence musí být transparentní, pokud jde o data a algoritmy používané při trénování jejich rozsáhlých modelů, což posiluje důraz Pekingu na zachování kontroly nad citlivými a cennými informacemi.

„Poskytovatelé služeb by měli poskytovat určité informace o údajích používaných při tréninku umělé inteligence, včetně původu, velikosti a typu dat,“ uvedla CAC ve svém prohlášení. „Rovněž požaduje, aby platformy AI sdílely základní algoritmy a další použité technologie.“

Čína se netají tím, že by ráda povýšila umělou inteligenci v době, kdy je v konfliktu s USA ohledně technologií od čipů až po elektromobily. Stále však není jisté, jakým způsobem hodlá vláda tuto nově vznikající oblast aktivizovat a zároveň ji hlídat.

Peking plánuje zavést pravidla pro používání umělé inteligence v různých odvětvích. V únoru představitelé ministerstva pro vědu a technologie uvedli, že vláda bude usilovat o bezpečné a kontrolovatelné využívání služeb umělé inteligence, které považuje za strategické odvětví.

Celkově mohou mít tato pravidla za cíl zajistit, aby služby podobné ChatGPT byly podřízeny přísnému zákazu kontroverzního nebo nežádoucího obsahu na internetu, který uplatňuje komunistická strana. Mohla by však také podpořit společnosti jako Baidu a SenseTime tím, že stanoví jasnější základní pravidla pro budoucí služby. V úterý CAC uvedla, že obsah, který je považován za společensky deviantní, bude zakázán, aniž by uvedla další podrobnosti.

Není jasné, jak nové předpisy ovlivní další vývoj umělé inteligence. Téměř všechny velké technologické firmy včetně společnosti Tencent Holdings Ltd. zkoumají způsoby, jak využít její potenciál.

Existují však obavy, zda si čínské společnosti mohou dlouhodobě zajistit spolehlivý přístup ke špičkovým čipům a technologiím potřebným k vývoji rozsáhlých modelů umělé inteligence. Například na společnost SenseTime se vztahují americké sankce, které jí brání v přístupu ke kapitálu i klíčovým americkým komponentům, a Bidenova administrativa loni uvalila omezení na prodej akceleračních čipů AI čínským zákazníkům – což je klíčová součást vývoje jakéhokoli rozsáhlého generativního modelu. Z tohoto důvodu může mít Čína konkurenční problémy do budoucna v oblasti AI a jejího vývoje.

Poskytovatelé služeb musí zajistit, aby obsah byl přesný, respektoval duševní vlastnictví a nediskriminoval ani neohrožoval bezpečnost, uvedla čínská správa kyberprostoru v návrhu pokynů, které chtějí získat od veřejnosti. Provozovatelé umělé inteligence musí také jasně označovat obsah vytvořený umělou inteligencí, uvedl národní orgán pro dohled nad internetem v prohlášení zveřejněném na svých internetových stránkách.Požadavky CAC se přidávají k rostoucím pokusům Pekingu regulovat explozivní růst generativní umělé inteligence od listopadu, kdy ChatGPT společnosti OpenAI odstartoval toto odvětví. Společnosti od Alibaba Group Holding Ltd. po SenseTime Group Inc. a Baidu usilují o vytvoření definitivní platformy AI nové generace pro největší internetový trh na světě. To odráží rostoucí vlnu vývoje v zahraničí, kde mezi mnoha technologickými společnostmi zkoumajícími generativní umělou inteligenci, která dokáže vytvářet originální obsah od poezie až po umění jen na základě jednoduchých pokynů uživatele, jsou i společnosti Google a Microsoft Corp.Akcie Alibaba v úterý po oznámení CAC odevzdaly většinu svých počátečních zisků, zatímco akcie SenseTime mírně klesly. Větší společnost zabývající se elektronickým obchodováním v úterý popsala, jak plánuje zabudovat generativní umělou inteligenci do své pracovní aplikace podobné Slacku a chytrých reproduktorů podobných Amazon Echo, a poté toto portfolio rozšířit na své další služby. Den předtím společnost SenseTime předvedla velký model AI SenseNova a chatbota pro uživatele s názvem SenseChat.Následoval tak bot Ernie společnosti Baidu Inc., který byl uvolněn k výběrovému testování zhruba před měsícem. Společnost, která je považována za současného domácího lídra, se v Hongkongu propadla o 7 %.Kromě toho tento mocný regulátor zdůraznil, že služby umělé inteligence musí být transparentní, pokud jde o data a algoritmy používané při trénování jejich rozsáhlých modelů, což posiluje důraz Pekingu na zachování kontroly nad citlivými a cennými informacemi.„Poskytovatelé služeb by měli poskytovat určité informace o údajích používaných při tréninku umělé inteligence, včetně původu, velikosti a typu dat,“ uvedla CAC ve svém prohlášení. „Rovněž požaduje, aby platformy AI sdílely základní algoritmy a další použité technologie.“Čína se netají tím, že by ráda povýšila umělou inteligenci v době, kdy je v konfliktu s USA ohledně technologií od čipů až po elektromobily. Stále však není jisté, jakým způsobem hodlá vláda tuto nově vznikající oblast aktivizovat a zároveň ji hlídat.Peking plánuje zavést pravidla pro používání umělé inteligence v různých odvětvích. V únoru představitelé ministerstva pro vědu a technologie uvedli, že vláda bude usilovat o bezpečné a kontrolovatelné využívání služeb umělé inteligence, které považuje za strategické odvětví.Celkově mohou mít tato pravidla za cíl zajistit, aby služby podobné ChatGPT byly podřízeny přísnému zákazu kontroverzního nebo nežádoucího obsahu na internetu, který uplatňuje komunistická strana. Mohla by však také podpořit společnosti jako Baidu a SenseTime tím, že stanoví jasnější základní pravidla pro budoucí služby. V úterý CAC uvedla, že obsah, který je považován za společensky deviantní, bude zakázán, aniž by uvedla další podrobnosti.Není jasné, jak nové předpisy ovlivní další vývoj umělé inteligence. Téměř všechny velké technologické firmy včetně společnosti Tencent Holdings Ltd. zkoumají způsoby, jak využít její potenciál.Existují však obavy, zda si čínské společnosti mohou dlouhodobě zajistit spolehlivý přístup ke špičkovým čipům a technologiím potřebným k vývoji rozsáhlých modelů umělé inteligence. Například na společnost SenseTime se vztahují americké sankce, které jí brání v přístupu ke kapitálu i klíčovým americkým komponentům, a Bidenova administrativa loni uvalila omezení na prodej akceleračních čipů AI čínským zákazníkům – což je klíčová součást vývoje jakéhokoli rozsáhlého generativního modelu. Z tohoto důvodu může mít Čína konkurenční problémy do budoucna v oblasti AI a jejího vývoje.