Technologie, která stojí za úžasnými a chybnými novými chatboty

Skutečné změny paradigmat jsou vzácné, což vysvětluje rozruch kolem ChatGPT, chatbota řízeného takzvanou generativní umělou inteligencí, který slibuje revoluci ve způsobu, jakým lidé komunikují s počítači. Od svého listopadového uvedení na trh se stal celosvětovou senzací, protože poskytuje zdánlivě sofistikované a přitom srozumitelné odpovědi na téměř jakýkoli druh otázek. Technologičtí giganti jako Microsoft Corp., Google a Baidu Inc. na tuto novou technologii, která má potenciál převrátit lukrativní trh s vyhledáváním, hodně sázejí, i když se při jejím širším používání objevují potenciálně závažné nedostatky. Co je generativní umělá inteligence? Tyto systémy využívají neuronové sítě, které jsou volně modelovány podle struktury lidského mozku a učí se plnit úkoly podobným způsobem, především metodou pokus-omyl. Během tréninku jsou zásobovány obrovským množstvím informací (například všemi bestsellery New York Times vydanými v roce 2022) a dostanou úkol, který mají splnit třeba s využitím těchto dat: "Napište reklamu na nový román." (Napište reklamu na nový román.) Postupem času se dozvídají, která slova a věty dávají smysl a která ne, a následné pokusy se zlepšují. Je to jako když se dítě učí vyslovovat obtížné slovo pod vedením rodiče. Pomalu se učí a tuto schopnost uplatňuje při dalších pokusech. Od starších počítačových systémů se liší tím, že výsledky jsou pravděpodobnostní, což znamená, že odpovědi se pokaždé liší, ale postupně se stávají chytřejšími, rychlejšími a jemnějšími. Jak ChatGPT funguje? ChatGPT je nejnovější iterací GPT (Generative Pre-Trained Transformer), rodiny programů pro generování textů umělou inteligencí vyvinutých sanfranciskou laboratoří OpenAI. GPT jsou trénovány v procesu zvaném unsupervised learning, který spočívá v hledání vzorů v souboru dat, aniž by jim byly zadány označené příklady nebo výslovné pokyny, co mají hledat. Nejnovější verze GPT-4 navazuje na svého předchůdce GPT-3.5, který přijímal texty z celého webu, včetně Wikipedie, zpravodajských webů, knih a blogů, ve snaze zajistit, aby jeho odpovědi byly relevantní a dobře informované. ChatGPT přidává na program konverzační rozhraní. Systémy jako ChatGPT ve své podstatě generují přesvědčivé řetězce slov, ale nemají vrozenou představu o jejich významu, ani o tom, zda jsou neobjektivní nebo zavádějící. Vědí jen to, že znějí jako něco, co by řekl člověk. Kdo stojí za OpenAI? Jako neziskovou organizaci ji spoluzaložil programátor a podnikatel Sam Altman s cílem vyvinout technologii umělé inteligence, která "bude prospěšná celému lidstvu". Mezi první investory patřila charitativní nadace Reida Hoffmana, spoluzakladatele LinkedIn, Khosla Ventures a Elon Musk, který svou účast ukončil v roce 2018. V roce 2019 se společnost OpenAI přesunula k vytvoření ziskového subjektu, když do ní Microsoft investoval 1 miliardu dolarů. Jaký byl ohlas na ChatGPT? Po spuštění na konci listopadu se do něj přihlásilo více než milion lidí. Sociální média se hemžila uživateli, kteří zkoušeli zábavné a nenáročné využití této technologie. Někteří sdíleli odpovědi na nejasné otázky. Jiní žasli nad jejími sofistikovanými historickými argumenty, vysokoškolskými "eseji", texty popových písní, básněmi o kryptoměnách, jídelními plány splňujícími specifické stravovací potřeby a řešeními programátorských výzev. Příval zájmu také zviditelnil další produkty OpenAI, včetně softwaru, který dokáže porazit člověka ve videohrách, a nástroje známého jako Dall-E, který dokáže na základě textových popisů generovat obrazy - od fotorealistických až po fantastické. Kdo na tom všem vydělá? Technologičtí giganti jako Microsoft si všimli potenciálu generativní umělé inteligence změnit způsob, jakým se lidé pohybují na webu. Místo toho, aby tyto systémy prohledávaly desítky článků na dané téma a vypálily zpět řádek relevantního textu z webové stránky, mohou poskytnout odpověď na míru. Microsoft v lednu prohloubil svůj vztah s OpenAI víceletou investicí v hodnotě 10 miliard dolarů, která mu výměnou za výpočetní výkon cloudové sítě Microsoft Azure dává částečný nárok na budoucí zisky OpenAI. V únoru Microsoft integroval do svého vyhledávače Bing bratrance ChatGPT. Toto oznámení bylo výzvou konkurenčnímu vyhledávacímu gigantu Google, který reagoval vlekoucím se spuštěním vlastní konverzační služby AI Bard. Čínská společnost Baidu rovněž plánovala představit chatbota s umělou inteligencí. Otázkou však zůstává, jak zpeněžit vyhledávání, když neexistují stránky s výsledky, do kterých by bylo možné vkládat reklamy. Jak probíhá soutěž? Společnost OpenAI strávila několik měsíců od spuštění ChatGPT zdokonalováním programu na základě zpětné vazby, která identifikovala problémy s přesností, zkreslením a bezpečností. Podle laboratoře je pravděpodobnost, že ChatGPT-4 bude poskytovat věcné odpovědi, o 40 % vyšší a je také kreativnější a více spolupracuje. V testech agentury Bloomberg se však stále potýkal se složením cinquainovské básně o surikatách a opakoval genderové stereotypy. Bard Googlu měl raketový start, když se v únoru při veřejné ukázce dopustil chyby, která vyvolala obavy, že společnost ztratila půdu pod nohama v závodě o budoucnost vyhledávání. Mateřská společnost Facebooku Meta Platforms Inc. si pospíšila se sestavením produktové skupiny pro generativní umělou inteligenci z týmů, které byly dříve rozptýleny po celé společnosti. Jaká další odvětví by z toho mohla mít prospěch? Ekonomický potenciál generativních systémů umělé inteligence dalece přesahuje vyhledávání na webu. Mohly by umožnit společnostem posunout automatizované služby zákazníkům na novou úroveň sofistikovanosti a poskytnout relevantní odpověď hned napoprvé, aby uživatelé nemuseli čekat, až se jim ozve člověk. Mohly by také připravovat blogové příspěvky a další typy PR obsahu pro společnosti, které by jinak vyžadovaly pomoc copywritera. Jaká jsou omezení generativní umělé inteligence? Odpovědi, které sestavuje z informací z druhé ruky, mohou znít tak důvěryhodně, že uživatelé mohou předpokládat, že si ověřil jejich správnost. Ve skutečnosti však chrlí text, který se dobře čte a zní chytře, ale může být neúplný, neobjektivní, částečně chybný nebo občas i nesmyslný. Tyto systémy jsou jen tak dobré, jak dobrá jsou data, na kterých jsou vyškoleny. Obsah ChatGPT, zbavený užitečných souvislostí, jako je zdroj informací, a s minimem překlepů a dalších nedokonalostí, které často signalizují nespolehlivý materiál, by mohl být minovým polem pro ty, kteří se v tématu neorientují dostatečně dobře, aby si všimli chybné odpovědi. Tento problém vedl k tomu, že StackOverflow, webový portál pro programování s fórem pro kódovací rady, zakázal odpovědi ChatGPT, protože byly často nepřesné. Jak je to s etickými riziky? S tím, jak se strojová inteligence stává sofistikovanější, roste i její potenciál pro podvody a lumpárny. V roce 2016 byl stažen bot Tay společnosti Microsoft s umělou inteligencí poté, co ho někteří uživatelé naučili rasistickým a sexistickým poznámkám. Další vyvinutý společností Meta se s podobnými problémy setkal v roce 2022. Společnost OpenAI se pokusila vycvičit ChatGPT, aby odmítal nevhodné požadavky, čímž omezila jeho schopnost chrlit nenávistné projevy a dezinformace. Altman, výkonný ředitel společnosti OpenAI, vyzval lidi, aby "palcem dolů" odmítali nechutné nebo urážlivé odpovědi, aby se systém zlepšil. Někteří uživatelé však našli způsoby, jak to obejít. Generativní systémy umělé inteligence nemusí zachytit genderové a rasové předsudky, kterých by si v knihách a dalších textech všiml člověk. Jsou také potenciální zbraní pro podvody. Vysokoškolští učitelé se obávají, že studenti dostanou od chatbotů domácí úkoly. Zákonodárci mohou být zaplaveni dopisy, které zřejmě pocházejí od voličů stěžujících si na navrhovanou legislativu, a netuší, zda jsou pravé, nebo je vygeneroval chatbot používaný lobbistickou firmou.