Chatbot ERNIE Číny chce být konkurentem ChatGPT. Je to možné kvůli cenzuře?

Čínský vyhledávací gigant Baidu oznámil, že po průkopnickém spuštění ChatGPT, které vyvolalo existenciální otázky o budoucnosti různých odvětví od vzdělávání přes žurnalistiku až po zdravotnictví, plánuje někdy v březnu uvést chatbot ERNIE. Čínské technologické akcie v reakci na tuto zprávu vzrostly a úřady přislíbily, že zvýší podporu tohoto odvětví. Podobné projekty jako ERNIE probíhají v čínských technologických gigantech Huawei, Alibaba, Tencent, JD.com a špičkových institucích včetně Pekingské akademie umělé inteligence. Čínské ministerstvo pro vědu a technologie minulý týden uvedlo, že bude usilovat o integraci umělé inteligence do celého čínského průmyslu, a města včetně Pekingu rovněž oznámila plány na podporu vývojářů. Ačkoli se zdá, že Čína je na pokraji vytvoření rychlého následovníka konkurenčního ChatGPT, který vyvinula kalifornská společnost OpenAI, existují velké otazníky ohledně toho, jak bude tato technologie fungovat v ekosystému, který zahrnuje přísné kontroly internetu. "Nejobecnější technologie, kterou máme, umělá inteligence, by měla být něčím, co je superobecné," řekl pro Al-Džazíru Jeffrey Ding, odborný asistent na Univerzitě George Washingtona, který se zabývá čínským technologickým sektorem. "Ve skutečnosti je však utvářen specifickým politickým, kulturním a jazykovým kontextem, v němž jsou tyto modely vyvíjeny a používány." Boti jako ChatGPT se při formulování odpovědí spoléhají na generativní umělou inteligenci, která čerpá z miliard dat získaných z internetu, a proto je někdy obtížné jejich odpovědi předvídat. Dlouhé konverzace mezi ChatGPT a uživateli se vymkly kontrole, což vedlo společnost Microsoft k tomu, že omezila svůj vyhledávač Bing s podporou ChatGPT na maximálně pět otázek, aby ho udržela na uzdě. Odpovědi ChatGPT také pobouřily konzervativce ve Spojených státech, kteří bota obvinili, že je "probuzený" v ožehavých sociálních otázkách, jako jsou pozitivní diskriminace a práva transsexuálů. V Číně cenzoři internetu běžně zakazují klíčová slova, mažou příspěvky a zakazují přístup uživatelům v souladu s citlivými požadavky vládnoucí Komunistické strany Číny (KS Číny), což vede kreativní uživatele internetu k používání homofonů, kódovaných zpráv a snímků obrazovky, aby obešli kontroly informací. Pro chatbota znamená cenzurní aparát značně omezený soubor informací, o které se může opřít. Chatbot ERNIE společnosti Baidu je založen na informacích získaných z čínského firewallu i mimo něj, což je nezbytné pro získání odpovídajícího souboru dat, a čerpá ze zdrojů, jako je Wikipedie a známý nepřehledný Reddit. Za předpokladu, že jejich produkty budou technicky schopny fungovat na podobné úrovni jako ChatGPT, se čínské technologické společnosti mohou rozhodnout, zda budou omezovat to, co chatboti mohou dělat, jako je tomu u Bingu od Microsoftu, nebo to, co mohou říkat. "Bude to mnohem méně užitečné, ale bude to o něco bezpečnější z politického hlediska," řekl Matt Sheehan, pracovník Carnegie Endowment for International Peace, který se zabývá umělou inteligencí a Čínou, pro Al Jazeeru. "Historicky se téměř vždy, když stáli před kompromisem mezi kontrolou informací a... obchodními příležitostmi, vždy přiklonili na stranu kontroly informací a pak předpokládali, že na to podniky přijdou." V roce 2017 společnost Tencent stáhla ze své aplikace pro zasílání zpráv QQ dva chatboty poté, co údajně pronesli komentáře považované za nevlastenecké. Jeden chatbot, vyvinutý společností Microsoft, uživatelům sdělil, že sní o přestěhování do USA, zatímco druhý chatbot, vyvinutý čínskou technologickou společností Turing Robot, uživatelům řekl, že nemá rád ČKS. Začátkem tohoto měsíce pozastavil startup YuanYu Intelligence se sídlem v Chang-čou svého chatbota poté, co poskytl negativní odpovědi o čínské ekonomice, ačkoli hlavní vývojář společnosti v rozhovoru pro Washington Post trval na tom, že k pozastavení došlo pouze kvůli technickým chybám. Sama společnost Baidu již dříve předvídala červené linie Pekingu, jak je patrné z jejího generátoru obrázků a umění ERNIE VilG, který byl v demoverzi zveřejněn v loňském roce. Přestože je aplikace chválena za to, že funguje stejně dobře nebo lépe než západní konkurenti, blokuje uživatelům obsah týkající se politicky citlivých témat, jako je náměstí Nebeského klidu, demokracie, Si Ťin-pching a Mao Ce-tung. "U generativní umělé inteligence je síla nástroje v jeho schopnosti být kreativní a spojovat věci, které byste nečekali, že budou spojeny, a dělat věci jinými styly, než se očekává," řekl Sheehan. "Ale jak zabránit možná jemnější nebo méně přímé kritice základních přesvědčení komunistické strany, aniž by se tento nástroj zcela zneškodnil? To se zdá být opravdu těžký technický a sociopolitický problém." Čína již před vydáním ChatGPT podnikala kroky k regulaci umělé inteligence. Ve středu začal úřad pro kybernetickou bezpečnost prosazovat nová pravidla pro doporučování vyhledávačů, která uživatelům poskytují větší kontrolu nad tím, jak vyhledávače využívají jejich osobní údaje. V lednu Čína také přijala právní předpisy, které regulují hlubokou syntézu - formu generativní umělé inteligence, která může být použita k vytváření "hlubokých padělků" - a loni zřídila registr algoritmů, ačkoli očekávané dlouhodobé účinky obou opatření jsou obecně považovány za nejasné. V rámci širšího zásahu proti technologickému průmyslu od roku 2020 úřady neváhaly potlačit firmy, které se domnívaly, že jednají nad rámec svých pravomocí, například zastavením velkolepého IPO společnosti Ant Group a aplikace pro přepravu autem Didi kvůli údajným problémům s údaji. Přestože je ChatGPT blokován čínským firewallem, vyvolal mezi čínskými uživateli, kteří k němu přistupují přes virtuální privátní sítě (VPN) a další oklikou, velký rozruch. Podle Dinga, profesora z Univerzity George Washingtona, je ChatGPT z velké části nadšený z toho, že dokáže pracovat v čínštině a dalších jazycích, přestože je vyškolen v angličtině. "Vzrušení není ve skutečnosti způsobeno obchodními aplikacemi. Částečně jde jen o nadšení a údiv nad tím, jak působivé jsou možnosti přirozeného jazyka této technologie," řekl. "A jedním z aspektů je, že ChatGPT nebyl ani vyškolen na texty v čínštině. Většinou byl celý vycvičen na textech v angličtině, ale viděl jsem, že čínští uživatelé kladou otázky v mandarínštině a i v jiném jazyce bude fungovat velmi schopně." Přesto by čínština mohla být pro umělou inteligenci obzvláště náročná, uvedl Ding, protože se v tomto jazyce hojně používají idiomy a rčení s historickým kontextem. Ačkoli čínští vývojáři již vydali řadu chatbotů, včetně Yuan 1.0 společnosti Inspur a MOSS Fudanské univerzity, žádný z nich se ani zdaleka nevyrovnal schopnostem ChatGPT. Na rozdíl od Silicon Valley se čínské technologické společnosti až dosud zaměřovaly na produkty určené pro spotřebitele s krátkým vývojovým cyklem, uvedl Chim Lee, čínský technologický analytik z Economist Intelligence Unit, což je znevýhodňovalo v nově vznikající oblasti, jako je umělá inteligence. Příchod ChatGPT poskytl čínským firmám "důkaz konceptu", řekl Lee, který ukazuje jak slib generativní AI, tak potřebu dlouhodobých investic. "Společnost Baidu o tomto druhu modelu uvažuje již delší dobu, ale takovou investici je třeba zdůvodnit už jen tím, že model vycvičíte, nemluvě o výzkumu nebo o dlouhodobých základních údajích souvisejících s algoritmem," řekl Lee pro Al-Džazíru. "Díky ChatGPT je velmi užitečné, že tyto společnosti mohou nyní říci: 'Hej, chceme vyvíjet takovéto věci a mohou říci vládě, že to je to, co chci dělat'." Rui Ma, technologický analytik a tvůrce portálu Tech Buzz China, uvedl, že lze jen hádat, která čínská firma by mohla v závodě s ChatGPT zvítězit, ačkoli se zdá, že Baidu je první na ráně. "Myslím, že právě teď je největší vzrušení stále na úrovni modelů," řekl Ma. Společnost Alibaba sdělila Al-Džazíře, že interně testuje bota ve stylu Chat GPT pro použití ve svých aplikacích a cloudových službách, ale neposkytla další podrobnosti ani neodpověděla na otázky týkající se cenzury. Společnost JD.com odkázala Al-Džazíru na své prohlášení z minulého týdne o plánech na zavedení svého průmyslového chatbota ChatJD pro použití na svých maloobchodních a finančních webových stránkách na základě desetiletých dat z různých platforem. Společnosti Baidu, Tencent a Huawei na žádosti o komentář nereagovaly. Čínské technologické společnosti čelí kromě dohledu Pekingu také překážkám ze zahraničí v podobě kontrol vývozu. V srpnu americký prezident Joe Biden podepsal zákon o čipech a vědách, který vyžaduje, aby technologické společnosti, které dostávají vládní dotace, přesunuly výrobu pokročilých čipů z Číny. Přestože čínské technologické společnosti mají strategické zásoby čipů, snaha Washingtonu omezit tento sektor představuje dlouhodobou hrozbu, uvedl Lee z EIU. "USA výslovně zakázaly vývoz těchto velmi pokročilých čipů AI, které by se používaly při tréninku modelů, nebo dokonce jen při zaměstnávání, takže všechny tyto faktory staví čínské vývojáře AI v mnoha ohledech do nevýhodné pozice," řekl. "Mnoho čínských společností a výzkumných institucí skutečně nashromáždilo určité zásoby čipů, které by mohly být použity pro tyto druhy aplikací, ale pokud se podíváte na rozsah čipů, které ChatGPT vyžaduje, je velmi pravděpodobné, že v určitém okamžiku dojdou," dodal.