Týden v AI: Společnosti se dobrovolně podřizují směrnicím pro umělou inteligenci

Takže dokud to za vás nezvládne umělá inteligence, přinášíme vám praktický přehled nejnovějších zpráv ze světa strojového učení, spolu s pozoruhodnými výzkumy a experimenty, které jsme sami nepokryli.

Tento týden se v oblasti umělé inteligence dobrovolně zavázaly společnosti OpenAI, Anthropic, Google, Inflection, Microsoft, Meta a Amazon k plnění společných cílů v oblasti bezpečnosti a transparentnosti umělé inteligence před plánovaným nařízením Bidenovy administrativy.

Nenavrhuje se zde žádné pravidlo ani vynucování – dohodnuté postupy jsou čistě dobrovolné. Závazky však v hrubých rysech naznačují regulační přístupy a politiky v oblasti umělé inteligence, které by každý prodejce mohl považovat za změnitelné v USA i v zahraničí.

Společnosti se mimo jiné zavázaly, že budou před zveřejněním provádět bezpečnostní testy systémů umělé inteligence, sdílet informace o technikách zmírňování dopadů umělé inteligence a vyvíjet techniky vodoznaků, které usnadňují identifikaci obsahu generovaného umělou inteligencí. Rovněž uvedly, že budou investovat do kybernetické bezpečnosti, aby ochránily soukromé údaje o UI a usnadnily hlášení zranitelností, a že budou upřednostňovat výzkum společenských rizik, jako je systémová zaujatost a otázky ochrany soukromí.

Závazky jsou jistě důležitým krokem, i když nejsou vymahatelné. Člověk si však klade otázku, zda za nimi nestojí postranní úmysly těch, kdo je nepodepsali.

Společnost OpenAI údajně vypracovala interní politické memorandum, z něhož vyplývá, že podporuje myšlenku vyžadovat vládní licence od každého, kdo chce vyvíjet systémy umělé inteligence. Generální ředitel Sam Altman tuto myšlenku poprvé vznesl na květnovém slyšení v americkém Senátu, během něhož podpořil vytvoření agentury, která by mohla vydávat licence pro produkty AI – a odebírat je v případě, že by někdo porušil stanovená pravidla.

V nedávném rozhovoru s novináři Anna Makanju, viceprezidentka pro globální záležitosti společnosti OpenAI, zdůraznila, že OpenAI na licence „netlačí“ a že společnost podporuje pouze licenční režimy pro modely umělé inteligence, které jsou výkonnější než současný model GPT-4 společnosti OpenAI. Pokud však budou vládní licence zavedeny způsobem, který navrhuje OpenAI, vytvářejí předpoklady pro potenciální střet se startupy a vývojáři open source, kteří je mohou vnímat jako snahu ztížit ostatním průnik do této oblasti.

Mám zájem o více informací

Zde jsou další zajímavé zprávy o umělé inteligenci z posledních dnů:

Odstupuje vedoucí oddělení důvěryhodnosti a bezpečnosti společnosti OpenAI: Dave Willner, veterán v oboru, který byl vedoucím oddělení důvěryhodnosti a bezpečnosti v OpenAI, oznámil v příspěvku na LinkedIn, že z této pozice odchází a přechází do poradenské role. Společnost OpenAI ve svém prohlášení uvedla, že hledá náhradu a že tým bude dočasně řídit technický ředitel Mira Murati.

Přizpůsobené pokyny pro ChatGPT: Společnost OpenAI také spustila přizpůsobené pokyny pro uživatele ChatGPT, aby nemuseli chatbotovi při každé interakci psát stejné pokyny.

Umělá inteligence společnosti Google pro psaní zpráv: Podle nové zprávy deníku The New York Times testuje společnost Google nástroj, který využívá umělou inteligenci k psaní zpráv, a začala jej předvádět publikacím. Technologický gigant představil systém umělé inteligence deníkům The New York Times, The Washington Post a vlastníkovi deníku The Wall Street Journal, společnosti News Corp.

Apple testuje chatbota podobného ChatGPT: Podle nové zprávy Marka Gurmana z agentury Bloomberg vyvíjí Apple umělou inteligenci, aby se postavil OpenAI, Googlu a dalším. Technologický gigant konkrétně vytvořil chatbota, kterého někteří inženýři interně označují jako „Apple GPT“.

Meta vydává Llama 2: Společnost Meta představila novou rodinu modelů umělé inteligence Llama 2, která je určena k řízení aplikací po vzoru ChatGPT od OpenAI, Bing Chat a dalších moderních chatbotů. Společnost Meta tvrdí, že modely Llama 2, vyškolené na kombinaci veřejně dostupných dat, mají oproti předchozí generaci modelů Llama výrazně lepší výkon.

Autoři protestují proti generativní umělé inteligenci: Generativní systémy umělé inteligence, jako je ChatGPT, jsou trénovány na veřejně dostupných datech, včetně knih, a ne všichni tvůrci obsahu jsou s tímto uspořádáním spokojeni. V otevřeném dopise, který podepsalo více než 8 500 autorů beletrie, literatury faktu a poezie, se technologické společnosti, které stojí za velkými jazykovými modely, jako jsou ChatGPT, Bard, LLaMa a další, ohrazují proti tomu, že jejich díla používají bez svolení a bez náhrady.

Společnost Microsoft přináší do podniků službu Bing Chat: Microsoft na své výroční konferenci Inspire oznámil Bing Chat Enterprise, verzi svého chatbota Bing Chat s umělou inteligencí, který je zaměřen na ochranu a správu dat. V Bing Chat Enterprise se neukládají data z chatu, společnost Microsoft nemůže zobrazit údaje o zaměstnancích nebo obchodních údajích zákazníka a údaje o zákaznících se nepoužívají k trénování základních modelů umělé inteligence.

Upozornění pro uživatele

Veškeré informace a materiály zveřejněné na internetových stránkách Burzovního Světa vycházejí z veřejně dostupných a důvěryhodných zdrojů. Při jejich zpracování je postupováno s odbornou péčí a cílem poskytovat čtenářům objektivní, aktuální a srozumitelné informace.

Obsah internetových stránek slouží výhradně k informačním a vzdělávacím účelům. Nepředstavuje individuální investiční doporučení, investiční poradenství ani nabídku či výzvu ke koupi nebo prodeji konkrétních finančních nástrojů. Veškeré názory, odhady, prognózy nebo očekávání uvedené v článcích vyjadřují informace dostupné v době jejich zveřejnění a mohou se v čase měnit.

Investování na kapitálových trzích je spojeno s rizikem. Hodnota investic může růst i klesat a návratnost investované částky není zaručena. Minulé výnosy nejsou zárukou výnosů budoucích. Před přijetím jakéhokoli investičního rozhodnutí doporučujeme posoudit vlastní finanční situaci, investiční cíle a toleranci k riziku, případně využít služeb licencovaného poskytovatele investičních služeb.

Burzovní Svět nenese odpovědnost za investiční rozhodnutí učiněná na základě informací zveřejněných na těchto internetových stránkách.

Diskusní příspěvky a komentáře zveřejněné uživateli vyjadřují názory jejich autorů a nemusí odpovídat stanovisku provozovatele portálu.

Odesláním kontaktního formuláře nebo udělením příslušného souhlasu bere uživatel na vědomí, že může být kontaktován obchodním partnerem Burzovního Světa za účelem poskytnutí informací o investičních službách nebo finančních nástrojích. Podrobnosti o zpracování osobních údajů, využívání souborů cookies a obchodních partnerech jsou uvedeny v příslušných dokumentech dostupných na těchto internetových stránkách.

U jednotlivých článků mohou být uvedeny informace o použitých zdrojích, datu původní analýzy nebo datu, ke kterému se vztahují uvedené tržní údaje.

Udržet krok s tak rychle se vyvíjejícím odvětvím, jako je umělá inteligence, je náročný úkol. Takže dokud to za vás nezvládne umělá inteligence, přinášíme vám praktický přehled nejnovějších zpráv ze světa strojového učení, spolu s pozoruhodnými výzkumy a experimenty, které jsme sami nepokryli. Tento týden se v oblasti umělé inteligence dobrovolně zavázaly společnosti OpenAI, Anthropic, Google, Inflection, Microsoft, Meta a Amazon k plnění společných cílů v oblasti bezpečnosti a transparentnosti umělé inteligence před plánovaným nařízením Bidenovy administrativy. Nenavrhuje se zde žádné pravidlo ani vynucování - dohodnuté postupy jsou čistě dobrovolné. Závazky však v hrubých rysech naznačují regulační přístupy a politiky v oblasti umělé inteligence, které by každý prodejce mohl považovat za změnitelné v USA i v zahraničí. Společnosti se mimo jiné zavázaly, že budou před zveřejněním provádět bezpečnostní testy systémů umělé inteligence, sdílet informace o technikách zmírňování dopadů umělé inteligence a vyvíjet techniky vodoznaků, které usnadňují identifikaci obsahu generovaného umělou inteligencí. Rovněž uvedly, že budou investovat do kybernetické bezpečnosti, aby ochránily soukromé údaje o UI a usnadnily hlášení zranitelností, a že budou upřednostňovat výzkum společenských rizik, jako je systémová zaujatost a otázky ochrany soukromí. Závazky jsou jistě důležitým krokem, i když nejsou vymahatelné. Člověk si však klade otázku, zda za nimi nestojí postranní úmysly těch, kdo je nepodepsali. Společnost OpenAI údajně vypracovala interní politické memorandum, z něhož vyplývá, že podporuje myšlenku vyžadovat vládní licence od každého, kdo chce vyvíjet systémy umělé inteligence. Generální ředitel Sam Altman tuto myšlenku poprvé vznesl na květnovém slyšení v americkém Senátu, během něhož podpořil vytvoření agentury, která by mohla vydávat licence pro produkty AI - a odebírat je v případě, že by někdo porušil stanovená pravidla. V nedávném rozhovoru s novináři Anna Makanju, viceprezidentka pro globální záležitosti společnosti OpenAI, zdůraznila, že OpenAI na licence "netlačí" a že společnost podporuje pouze licenční režimy pro modely umělé inteligence, které jsou výkonnější než současný model GPT-4 společnosti OpenAI. Pokud však budou vládní licence zavedeny způsobem, který navrhuje OpenAI, vytvářejí předpoklady pro potenciální střet se startupy a vývojáři open source, kteří je mohou vnímat jako snahu ztížit ostatním průnik do této oblasti. Zde jsou další zajímavé zprávy o umělé inteligenci z posledních dnů: Odstupuje vedoucí oddělení důvěryhodnosti a bezpečnosti společnosti OpenAI: Dave Willner, veterán v oboru, který byl vedoucím oddělení důvěryhodnosti a bezpečnosti v OpenAI, oznámil v příspěvku na LinkedIn, že z této pozice odchází a přechází do poradenské role. Společnost OpenAI ve svém prohlášení uvedla, že hledá náhradu a že tým bude dočasně řídit technický ředitel Mira Murati. Přizpůsobené pokyny pro ChatGPT: Společnost OpenAI také spustila přizpůsobené pokyny pro uživatele ChatGPT, aby nemuseli chatbotovi při každé interakci psát stejné pokyny. Umělá inteligence společnosti Google pro psaní zpráv: Podle nové zprávy deníku The New York Times testuje společnost Google nástroj, který využívá umělou inteligenci k psaní zpráv, a začala jej předvádět publikacím. Technologický gigant představil systém umělé inteligence deníkům The New York Times, The Washington Post a vlastníkovi deníku The Wall Street Journal, společnosti News Corp. Apple testuje chatbota podobného ChatGPT: Podle nové zprávy Marka Gurmana z agentury Bloomberg vyvíjí Apple umělou inteligenci, aby se postavil OpenAI, Googlu a dalším. Technologický gigant konkrétně vytvořil chatbota, kterého někteří inženýři interně označují jako "Apple GPT". Meta vydává Llama 2: Společnost Meta představila novou rodinu modelů umělé inteligence Llama 2, která je určena k řízení aplikací po vzoru ChatGPT od OpenAI, Bing Chat a dalších moderních chatbotů. Společnost Meta tvrdí, že modely Llama 2, vyškolené na kombinaci veřejně dostupných dat, mají oproti předchozí generaci modelů Llama výrazně lepší výkon. Autoři protestují proti generativní umělé inteligenci: Generativní systémy umělé inteligence, jako je ChatGPT, jsou trénovány na veřejně dostupných datech, včetně knih, a ne všichni tvůrci obsahu jsou s tímto uspořádáním spokojeni. V otevřeném dopise, který podepsalo více než 8 500 autorů beletrie, literatury faktu a poezie, se technologické společnosti, které stojí za velkými jazykovými modely, jako jsou ChatGPT, Bard, LLaMa a další, ohrazují proti tomu, že jejich díla používají bez svolení a bez náhrady. Společnost Microsoft přináší do podniků službu Bing Chat: Microsoft na své výroční konferenci Inspire oznámil Bing Chat Enterprise, verzi svého chatbota Bing Chat s umělou inteligencí, který je zaměřen na ochranu a správu dat. V Bing Chat Enterprise se neukládají data z chatu, společnost Microsoft nemůže zobrazit údaje o zaměstnancích nebo obchodních údajích zákazníka a údaje o zákaznících se nepoužívají k trénování základních modelů umělé inteligence.