Schopnost těchto systémů je omezována střety s pravdou.
Společnost Nvidia vyvinula „ochranná zábradlí“, aby je udržela na správné cestě.
Spuštění aplikace ChatGPT koncem loňského roku vzalo svět útokem a do ledna dosáhlo 100 milionů aktivních uživatelů měsíčně, což znamenalo nejrychlejší přijetí spotřebitelské aplikace v historii.
Vzrušení se brzy změnilo v nadšení, když se objevila zpráva, že Microsoft investoval 13 miliard dolarů do společnosti OpenAI, tvůrce ChatGPT. To odstartovalo zběsilý úprk dalších společností s odbornými znalostmi v oblasti umělé inteligence, které chtěly vydat své vlastní chatboty nové generace.
Tyto pokroky však s sebou nesou některá výrazná omezení. Následné testování ChatGPT a Google Bard společnosti Alphabet odhalilo vnitřní problém těchto systémů: Podle deníku The New York Times mohou (někdy) poskytovat odpovědi, které jsou „irelevantní, nesmyslné nebo věcně nesprávné“. Tento kritický nedostatek, označovaný jako „halucinace“, zpochybnil tyto zdánlivě převratné pokroky.
Společnost Nvidia (NVDA) věří, že by na tento problém mohla najít odpověď.
Zdroj: Gettyimages
Kde je pravda?
Jonathan Cohen, viceprezident společnosti Nvidia pro aplikovaný výzkum, na svém blogu zveřejnil podrobné informace o řešení, které společnost vyvinula pro zmírnění problémů s chatboty, kteří odbočují do fantazie nebo přímo lžou. Uvedl, že společnost vyvinula NeMo Guardrails, „nově uvolněný software s otevřeným zdrojovým kódem“, který má chatbotům pomoci „zůstat na správné cestě“.
Tento software poskytuje vývojářům možnost integrovat systémy založené na pravidlech, které zabrání chatbotům v šíření nepřesných informací a zajistí, že jejich odpovědi budou „přesné, vhodné, k tématu a bezpečné“, napsal. Na brífinku, který Cohen poskytl tisku, uvedl, že NeMo Guardrails dokáže „odhalit a zmírnit halucinace“.
„Můžete si napsat scénář, který říká, že pokud někdo mluví o tomto tématu, ať se děje cokoli, reagujte tímto způsobem,“ řekl Cohen. „Nemusíte se spoléhat na to, že jazykový model bude následovat výzvu nebo se řídit vašimi pokyny. V logice provádění systému guardrail je vlastně natvrdo zakódováno, co se stane.“
Zdroj: Fussybytes
Problém spočívá v tom, jak jsou tyto systémy trénovány. Chatboti jsou rozhraním mezi uživateli a rozsáhlými jazykovými modely (LLM), které byly vyškoleny na základě obrovského množství veřejně dostupných dat nalezených na internetu. Problémem je, že ne všechna procházená data jsou věcně správná – a mohou obsahovat názory, předsudky a nepodložené závěry. V důsledku toho mohou některé odpovědi chatbotů vybočovat ze zajetých kolejí a mohou být nelogické, urážlivé nebo dokonce vyloženě děsivé.
Pokud se řešení společnosti Nvidia ukáže jako efektivní, mohlo by to být minulostí.
Zájem
Společnost Nvidia má eminentní zájem na tom, aby pomohla nastolit budoucnost. Širší přijetí umělé inteligence by pro ni bylo nepochybně přínosem, protože dodává polovodiče, které se používají k napájení cloudových počítačů, datových center a také těch, které slouží k trénování a spouštění těchto složitých modelů umělé inteligence.
Vedení odhaduje, že podnikový software s umělou inteligencí představuje pro společnost Nvidia příležitost v hodnotě 150 miliard dolarů, zatímco čipy a systémy by mohly vygenerovat dalších 300 milionů dolarů. Celkově se Nvidia domnívá, že se honí za celkovým oslovitelným trhem (TAM) ve výši zhruba 1 bilionu dolarů, což je o důvod víc, proč chce společnost v AI prosperovat. Příležitost, která je před námi, však zdaleka přesahuje rámec společnosti Nvidia.
Zdroj: Getty Images
Další fáze vývoje umělé inteligence
Cathie Woodová, generální ředitelka společnosti Ark Investment Management, nedávno zveřejnila zprávu Big Ideas 2023 a závěr, ke kterému dospěla, je ohromující. Pokud by vývojáři softwaru dokázali realizovat jen 10 % hodnoty vytvořené jejich výtvory, mohl by podle zprávy pokrok v oblasti umělé inteligence přinést až 14 bilionů dolarů dodatečných příjmů a 90 bilionů dolarů hodnoty podniku.
Ačkoli by umělá inteligence mohla být klíčem k další generaci pokroku v oblasti špičkových technologií, široké přijetí této technologie bude zcela jistě záviset na schopnosti uživatelů získat od těchto modelů umělé inteligence užitečné, přesné a pravdivé odpovědi.
Technologie společnosti Nvidia by mohla pomoci udržet budoucí pokrok na správné cestě.
Debut chatbotů nové generace zaujal veřejnost.
Schopnost těchto systémů je omezována střety s pravdou.
Společnost Nvidia vyvinula "ochranná zábradlí", aby je udržela na správné cestě.
Někteří tvrdí, že rok 2023 je rokem umělé inteligence (AI) - a mají k tomu dobrý důvod. Spuštění aplikace ChatGPT koncem loňského roku vzalo svět útokem a do ledna dosáhlo 100 milionů aktivních uživatelů měsíčně, což znamenalo nejrychlejší přijetí spotřebitelské aplikace v historii.
Vzrušení se brzy změnilo v nadšení, když se objevila zpráva, že Microsoft investoval 13 miliard dolarů do společnosti OpenAI, tvůrce ChatGPT. To odstartovalo zběsilý úprk dalších společností s odbornými znalostmi v oblasti umělé inteligence, které chtěly vydat své vlastní chatboty nové generace.
Tyto pokroky však s sebou nesou některá výrazná omezení. Následné testování ChatGPT a Google Bard společnosti Alphabet odhalilo vnitřní problém těchto systémů: Podle deníku The New York Times mohou (někdy) poskytovat odpovědi, které jsou "irelevantní, nesmyslné nebo věcně nesprávné". Tento kritický nedostatek, označovaný jako "halucinace", zpochybnil tyto zdánlivě převratné pokroky.
Společnost Nvidia (NVDA) věří, že by na tento problém mohla najít odpověď.
Zdroj: Gettyimages
Kde je pravda?
Jonathan Cohen, viceprezident společnosti Nvidia pro aplikovaný výzkum, na svém blogu zveřejnil podrobné informace o řešení, které společnost vyvinula pro zmírnění problémů s chatboty, kteří odbočují do fantazie nebo přímo lžou. Uvedl, že společnost vyvinula NeMo Guardrails, "nově uvolněný software s otevřeným zdrojovým kódem", který má chatbotům pomoci "zůstat na správné cestě".
Tento software poskytuje vývojářům možnost integrovat systémy založené na pravidlech, které zabrání chatbotům v šíření nepřesných informací a zajistí, že jejich odpovědi budou "přesné, vhodné, k tématu a bezpečné", napsal. Na brífinku, který Cohen poskytl tisku, uvedl, že NeMo Guardrails dokáže "odhalit a zmírnit halucinace".
"Můžete si napsat scénář, který říká, že pokud někdo mluví o tomto tématu, ať se děje cokoli, reagujte tímto způsobem," řekl Cohen. "Nemusíte se spoléhat na to, že jazykový model bude následovat výzvu nebo se řídit vašimi pokyny. V logice provádění systému guardrail je vlastně natvrdo zakódováno, co se stane."
Zdroj: Fussybytes
Problém spočívá v tom, jak jsou tyto systémy trénovány. Chatboti jsou rozhraním mezi uživateli a rozsáhlými jazykovými modely (LLM), které byly vyškoleny na základě obrovského množství veřejně dostupných dat nalezených na internetu. Problémem je, že ne všechna procházená data jsou věcně správná - a mohou obsahovat názory, předsudky a nepodložené závěry. V důsledku toho mohou některé odpovědi chatbotů vybočovat ze zajetých kolejí a mohou být nelogické, urážlivé nebo dokonce vyloženě děsivé.
Pokud se řešení společnosti Nvidia ukáže jako efektivní, mohlo by to být minulostí.
Zájem
Společnost Nvidia má eminentní zájem na tom, aby pomohla nastolit budoucnost. Širší přijetí umělé inteligence by pro ni bylo nepochybně přínosem, protože dodává polovodiče, které se používají k napájení cloudových počítačů, datových center a také těch, které slouží k trénování a spouštění těchto složitých modelů umělé inteligence.
Vedení odhaduje, že podnikový software s umělou inteligencí představuje pro společnost Nvidia příležitost v hodnotě 150 miliard dolarů, zatímco čipy a systémy by mohly vygenerovat dalších 300 milionů dolarů. Celkově se Nvidia domnívá, že se honí za celkovým oslovitelným trhem (TAM) ve výši zhruba 1 bilionu dolarů, což je o důvod víc, proč chce společnost v AI prosperovat. Příležitost, která je před námi, však zdaleka přesahuje rámec společnosti Nvidia.
Zdroj: Getty Images
Další fáze vývoje umělé inteligence
Cathie Woodová, generální ředitelka společnosti Ark Investment Management, nedávno zveřejnila zprávu Big Ideas 2023 a závěr, ke kterému dospěla, je ohromující. Pokud by vývojáři softwaru dokázali realizovat jen 10 % hodnoty vytvořené jejich výtvory, mohl by podle zprávy pokrok v oblasti umělé inteligence přinést až 14 bilionů dolarů dodatečných příjmů a 90 bilionů dolarů hodnoty podniku.
Ačkoli by umělá inteligence mohla být klíčem k další generaci pokroku v oblasti špičkových technologií, široké přijetí této technologie bude zcela jistě záviset na schopnosti uživatelů získat od těchto modelů umělé inteligence užitečné, přesné a pravdivé odpovědi.
Technologie společnosti Nvidia by mohla pomoci udržet budoucí pokrok na správné cestě.
