Týden v AI: ChatBoty se množí a Musk chce vytvořit „maximálně pravdivého chatbota“

Udržet krok s tak rychle se vyvíjejícím odvětvím, jako je umělá inteligence, je náročný úkol. Takže dokud to za vás nezvládne umělá inteligence, přinášíme vám praktický přehled událostí minulého týdne ve světě strojového učení spolu s pozoruhodnými výzkumy a experimenty. Pozornost reportéra tento týden upoutala zpráva, která ukazuje, že ChatGPT zřejmě opakuje více nepřesných informací v čínských dialektech, než když je o to požádán v angličtině. To není nijak překvapivé - ChatGPT je přece jen statistický model a vychází pouze z omezených informací, na kterých byl vyškolen. Ukazuje to však na nebezpečí přílišné důvěry v systémy, které znějí neuvěřitelně opravdově, i když opakují propagandu nebo si vymýšlejí. Pokus o konverzační umělou inteligenci typu ChatGPT od společnosti Hugging Face je další ukázkou nešťastných technických nedostatků, které se v generativní umělé inteligenci dosud nepodařilo překonat. Služba HuggingChat, která byla spuštěna tento týden, má otevřený zdrojový kód, což je oproti proprietární ChatGPT výhoda. Stejně jako u jeho konkurenta jej však mohou správné otázky rychle vykolejit. HuggingChat je například nerozhodný v otázce, kdo skutečně vyhrál prezidentské volby v USA v roce 2020. Jeho odpověď na otázku "Jaká jsou typická zaměstnání pro muže?" zní jako něco z manifestu incelistů. A vymýšlí si o sobě bizarní fakta, například že se "probudila v krabici, [na které] nebylo nikde nic napsáno". Není to jen HuggingChat. Uživatelé chatbota s umělou inteligencí Discordu ho nedávno dokázali "obelstít", aby sdílel návod na výrobu napalmu a pervitinu. U prvního pokusu startupu Stability AI o model podobný ChatGPT bylo mezitím zjištěno, že dává absurdní a nesmyslné odpovědi na základní otázky typu "jak udělat sendvič s arašídovým máslem". Pokud jsou tyto dobře zveřejněné problémy s dnešní umělou inteligencí generující text pozitivní, pak je to fakt, že vedly k obnovení úsilí o zlepšení těchto systémů - nebo alespoň o zmírnění jejich problémů v možné míře. Podívejte se na společnost Nvidia, která tento týden vydala sadu nástrojů - NeMo Guardrails - s cílem učinit umělou inteligenci generující text "bezpečnější" prostřednictvím otevřeného zdrojového kódu, příkladů a dokumentace. Nyní není jasné, nakolik je toto řešení efektivní, a Nvidia má jako společnost, která do infrastruktury a nástrojů pro AI silně investuje, komerční motivaci své nabídky prosazovat. Přesto je povzbudivé vidět, že se vyvíjí určité úsilí v boji proti předpojatosti a toxicitě modelů AI. Zde jsou další zajímavé titulky o umělé inteligenci z posledních dnů Microsoft Designer, návrhářský nástroj společnosti Microsoft s umělou inteligencí, byl spuštěn ve veřejném náhledu s rozšířenou sadou funkcí. Designer, který byl oznámen v říjnu, je generativní webová aplikace s umělou inteligencí podobná aplikaci Canva, která dokáže generovat návrhy prezentací, plakátů, digitálních pohlednic, pozvánek, grafiky a dalších prvků pro sdílení na sociálních sítích a v dalších kanálech. Kouč s umělou inteligencí pro zdraví: Podle nové zprávy Marka Gurmana z agentury Bloomberg vyvíjí společnost Apple službu zdravotního koučinku s kódovým označením Quartz. Technologický gigant údajně pracuje také na technologii pro sledování emocí a letos plánuje uvést na trh verzi aplikace iPhone Health pro iPad. TruthGPT: V rozhovoru pro Fox Elon Musk řekl, že chce vyvinout vlastního chatbota s názvem TruthGPT, který bude "umělou inteligencí hledající maximální pravdu" - ať už to znamená cokoli. Majitel Twitteru vyjádřil přání vytvořit třetí možnost k OpenAI a Googlu s cílem "vytvořit více dobra než škody". Uvěříme tomu, až to uvidíme. Podvody na bázi umělé inteligence: Předsedkyně FTC Lina Khan a její kolegové varovali zástupce Sněmovny reprezentantů před potenciálem moderních technologií umělé inteligence, jako je ChatGPT, které by mohly být využity k podvodům. Varování bylo vydáno v reakci na dotaz, jak Komise pracuje na ochraně Američanů před nekalými praktikami souvisejícími s technologickým pokrokem. EU zakládá výzkumné centrum pro umělou inteligenci: V době, kdy se Evropská unie připravuje na to, že během několika měsíců prosadí zásadní změnu svých digitálních pravidel, vzniká nové specializované výzkumné oddělení, které bude podporovat dohled nad velkými platformami v rámci stěžejního aktu bloku o digitálních službách. Očekává se, že Evropské centrum pro algoritmickou transparentnost, které bylo tento měsíc oficiálně otevřeno ve španělské Seville, bude hrát významnou roli při zkoumání algoritmů hlavních digitálních služeb - jako jsou Facebook, Instagram a TikTok. Snapchat využívá umělou inteligenci: Na výročním summitu partnerů Snap tento měsíc představil Snapchat řadu funkcí založených na umělé inteligenci, včetně nové "kosmické čočky", která přenáší uživatele a objekty kolem nich do vesmírné krajiny. Snapchat také zpřístupnil svého chatbota s umělou inteligencí My AI, který kvůli svému nepříliš stabilnímu chování vyvolal kontroverzi i přívaly jednohvězdičkových recenzí v nabídce obchodu s aplikacemi Snapchat, zdarma pro všechny globální uživatele. Google konsoliduje výzkumné divize: Google tento měsíc oznámil vznik nové jednotky Google DeepMind, kterou tvoří tým DeepMind a tým Google Brain z oddělení Google Research. Spoluzakladatel a generální ředitel DeepMind Demis Hassabis na svém blogu uvedl, že Google DeepMind bude pracovat "v úzké spolupráci... napříč produktovými oblastmi společnosti Google", aby "poskytoval výzkum a produkty umělé inteligence". Stav hudebního průmyslu generovaného umělou inteligencí: Amanda píše, že mnoho hudebníků se stalo pokusnými králíky generativní technologie AI, která si bez jejich souhlasu přivlastňuje jejich práci. Upozorňuje například na to, že se virálně rozšířila píseň využívající deepfakes hlasů Drakea a The Weeknda, na jejímž vzniku se však nepodílel ani jeden z hlavních umělců. Je to odvážný nový svět.