OpenAI spouští rozhraní API pro ChatGPT a vyhrazenou kapacitu pro podnikové zákazníky

V prosinci měla ChatGPT odhadem více než 100 milionů aktivních uživatelů měsíčně. Přitáhla velkou pozornost médií a na sociálních sítích se objevilo nespočet memů. Byly na něm napsány stovky elektronických knih v obchodě Kindle společnosti Amazon. A připisuje se mu spoluautorství nejméně jedné vědecké práce.

Ale OpenAI, jakožto firma – i když s omezeným ziskem – musela ChatGPT nějak zpeněžit, aby investoři nebyli nervózní. Krok k tomu učinila v únoru, kdy spustila prémiovou službu ChatGPT Plus. A dnes udělala ještě větší krok – představila rozhraní API, které umožní všem firmám zabudovat technologii ChatGPT do svých aplikací, webových stránek, produktů a služeb.

API bylo vždy v plánu. To tvrdí Greg Brockman, prezident a předseda OpenAI (a také jeden ze zakladatelů). Včera odpoledne se mnou mluvil prostřednictvím videohovoru před spuštěním rozhraní API ChatGPT.

„Chvíli nám trvá, než se nám podaří dostat tato rozhraní API na určitou úroveň kvality,“ řekl Brockman. „Myslím, že je to něco jako schopnost uspokojit poptávku a rozsah.“

Brockman říká, že rozhraní API ChatGPT je poháněno stejným modelem umělé inteligence, který stojí za velmi populárním rozhraním ChatGPT společnosti OpenAI, nazvaným „gpt-3.5-turbo“. GPT-3.5 je nejvýkonnější model pro generování textu, který dnes OpenAI nabízí prostřednictvím své sady API; přezdívka „turbo“ odkazuje na optimalizovanou, svižnější verzi GPT-3.5, kterou OpenAI v tichosti testuje pro ChatGPT.

Brockman tvrdí, že cena 0,002 dolaru za 1 000 tokenů, tedy asi 750 slov, umožňuje rozhraní API využívat celou řadu zážitků, včetně „nechatových“ aplikací. Mezi prvními uživateli jsou společnosti Snap, Quizlet, Instacart a Shopify.

Původní motivací pro vývoj gpt-3.5turbo mohlo být snížení obrovských výpočetních nákladů ChatGPT. Generální ředitel OpenAI Sam Altman kdysi označil náklady ChatGPT za „do očí bijící“ a odhadl je na několik centů na jeden chat. (S více než milionem uživatelů se to pravděpodobně rychle sčítá.)

„Pokud vytváříte tutora s umělou inteligencí, nikdy nechcete, aby tutor studentovi pouze odpovídal. Chtěli byste, aby vám ji vždy vysvětlil a pomohl mu se učit – to je příklad systému, který byste měli být schopni vytvořit [pomocí rozhraní API],“ řekl Brockman. „Myslíme si, že to bude něco, co prostě udělá API mnohem použitelnější a přístupnější.“

Rozhraní API ChatGPT je základem nedávno oznámeného chatbota My AI pro předplatitele služby Snapchat+ a nové funkce virtuálního učitele Q-Chat společnosti Quizlet. Společnost Shopify použila rozhraní ChatGPT API k vytvoření personalizovaného asistenta pro nákupní doporučení, zatímco společnost Instacart jej využila k vytvoření Ask Instacart, připravovaného mýtného, které umožní zákazníkům společnosti Instacart ptát se na potraviny a získávat „nakupovatelné“ odpovědi na základě údajů o produktech od maloobchodních partnerů společnosti.

„Nakupování potravin může vyžadovat velkou psychickou zátěž, protože v něm hraje roli mnoho faktorů, jako je rozpočet, zdraví a výživa, osobní chutě, sezónnost, kulinářské dovednosti, čas na přípravu a inspirace recepty,“ řekl mi e-mailem hlavní architekt společnosti Instacart JJ Zhuang. „Co kdyby umělá inteligence mohla převzít tuto mentální zátěž a my mohli pomoci vedoucím domácností, kteří jsou běžně zodpovědní za nákup potravin, plánování jídla a pokládání jídla na stůl – a skutečně udělat nákup potravin skutečně zábavným? Systém AI společnosti Instacart nám po integraci se systémem ChatGPT společnosti OpenAI přesně tohle umožní a my jsme nadšeni, že můžeme začít experimentovat s tím, co je v aplikaci Instacart možné.“

Ti, kteří ságu ChatGPT pozorně sledují, se však možná ptají, zda je zralá na vydání – a to oprávněně.

Uživatelé mohli ChatGPT zpočátku navádět k rasistickým a sexistickým odpovědím na otázky, což bylo odrazem neobjektivních dat, na kterých byl ChatGPT zpočátku vyškolen. (Tréninková data ChatGPT zahrnují širokou škálu internetového obsahu, zejména elektronické knihy, příspěvky na Redditu a články na Wikipedii.) ChatGPT si také vymýšlí fakta, aniž by odhalil, že tak činí, což je v umělé inteligenci jev známý jako halucinace.

ChatGPT – a jemu podobné systémy – jsou také náchylné k útokům založeným na výzvách, tedy na škodlivých výzvách protivníka, které je nutí provádět úkoly, jež nebyly součástí jejich původních cílů. Na Redditu se vytvořily celé komunity, které hledají způsoby, jak ChatGPT „zlomit“ a obejít všechna ochranná opatření, která OpenAI zavedla. V jednom z méně útočných příkladů se zaměstnanci startupu Scale AI podařilo přimět ChatGPT, aby prozradil informace o svém vnitřním technickém fungování.

Značky by se bezpochyby nechtěly dostat do křížku. Brockman je přesvědčen, že se tak nestane. Proč? Jedním z důvodů je podle něj neustálé zlepšování.. Brockman však zdůraznil nový (a rozhodně méně kontroverzní) přístup, který OpenAI nazývá Chat Markup Language neboli ChatML. ChatML dodává text do rozhraní ChatGPT API jako sekvenci zpráv spolu s metadaty. To je rozdíl od standardního ChatGPT, který spotřebovává surový text reprezentovaný jako série tokenů (například slovo „fantastický“ by bylo rozděleno na tokeny „fan“, „tas“ a „tic“).

Například při zadání výzvy „Jaké jsou zajímavé nápady na oslavu mých 30. narozenin?“ se vývojář může rozhodnout doplnit tuto výzvu o další výzvu, například „Jste zábavný konverzační chatbot, který má uživatelům pomáhat s otázkami, které kladou. Měli byste odpovídat pravdivě a zábavně!“ nebo „Jste bot“ předtím, než je rozhraní ChatGPT API zpracuje. Podle Brockmana tyto pokyny pomáhají lépe přizpůsobit – a filtrovat – odpovědi modelu ChatGPT.

„Přecházíme na vyšší úroveň rozhraní API. Pokud máte strukturovanější způsob reprezentace vstupu do systému, kde říkáte, ‚toto je od vývojáře‘ nebo ‚toto je od uživatele‘ … měl bych očekávat, že jako vývojář můžete být ve skutečnosti odolnější [pomocí ChatML] proti těmto druhům útoků,“ řekl Brockman.

Další změnou, která (doufejme) zabrání nechtěnému chování ChatGPT, jsou častější aktualizace modelů. S vydáním verze gpt-3.5-turbo budou vývojáři ve výchozím nastavení automaticky aktualizováni na nejnovější stabilní model OpenAI, říká Brockman, počínaje verzí gpt-3.5-turbo-0301 (vydanou dnes). Vývojáři však budou mít možnost zůstat u staršího modelu, pokud se tak rozhodnou, což může tuto výhodu poněkud znehodnotit.

Ať už se rozhodnou pro aktualizaci na nejnovější model, nebo ne, Brockman poznamenává, že někteří zákazníci – hlavně velké podniky s odpovídajícím vysokým rozpočtem – budou mít díky zavedení vyhrazených kapacitních plánů větší kontrolu nad výkonem systému. Dnes spuštěné plány vyhrazené kapacity, které byly poprvé podrobně popsány v dokumentaci uniklé na začátku tohoto měsíce, umožňují zákazníkům platit za přidělení výpočetní infrastruktury pro provoz modelu OpenAI – například gpt-3.5-turbo. (Mimochodem, na zadní straně je Azure.)