Týden v AI: Společnosti se dobrovolně podřizují směrnicím pro umělou inteligenci

Tento týden se v oblasti umělé inteligence dobrovolně zavázaly společnosti OpenAI, Anthropic, Google, Inflection, Microsoft, Meta a Amazon k plnění společných cílů v oblasti bezpečnosti a transparentnosti umělé inteligence před plánovaným nařízením Bidenovy administrativy.

Nenavrhuje se zde žádné pravidlo ani vynucování – dohodnuté postupy jsou čistě dobrovolné. Závazky však v hrubých rysech naznačují regulační přístupy a politiky v oblasti umělé inteligence, které by každý prodejce mohl považovat za změnitelné v USA i v zahraničí.

Společnosti se mimo jiné zavázaly, že budou před zveřejněním provádět bezpečnostní testy systémů umělé inteligence, sdílet informace o technikách zmírňování dopadů umělé inteligence a vyvíjet techniky vodoznaků, které usnadňují identifikaci obsahu generovaného umělou inteligencí. Rovněž uvedly, že budou investovat do kybernetické bezpečnosti, aby ochránily soukromé údaje o UI a usnadnily hlášení zranitelností, a že budou upřednostňovat výzkum společenských rizik, jako je systémová zaujatost a otázky ochrany soukromí.

Závazky jsou jistě důležitým krokem, i když nejsou vymahatelné. Člověk si však klade otázku, zda za nimi nestojí postranní úmysly těch, kdo je nepodepsali.

Společnost OpenAI údajně vypracovala interní politické memorandum, z něhož vyplývá, že podporuje myšlenku vyžadovat vládní licence od každého, kdo chce vyvíjet systémy umělé inteligence. Generální ředitel Sam Altman tuto myšlenku poprvé vznesl na květnovém slyšení v americkém Senátu, během něhož podpořil vytvoření agentury, která by mohla vydávat licence pro produkty AI – a odebírat je v případě, že by někdo porušil stanovená pravidla.

V nedávném rozhovoru s novináři Anna Makanju, viceprezidentka pro globální záležitosti společnosti OpenAI, zdůraznila, že OpenAI na licence „netlačí“ a že společnost podporuje pouze licenční režimy pro modely umělé inteligence, které jsou výkonnější než současný model GPT-4 společnosti OpenAI. Pokud však budou vládní licence zavedeny způsobem, který navrhuje OpenAI, vytvářejí předpoklady pro potenciální střet se startupy a vývojáři open source, kteří je mohou vnímat jako snahu ztížit ostatním průnik do této oblasti.

Zde jsou další zajímavé zprávy o umělé inteligenci z posledních dnů:

Odstupuje vedoucí oddělení důvěryhodnosti a bezpečnosti společnosti OpenAI: Dave Willner, veterán v oboru, který byl vedoucím oddělení důvěryhodnosti a bezpečnosti v OpenAI, oznámil v příspěvku na LinkedIn, že z této pozice odchází a přechází do poradenské role. Společnost OpenAI ve svém prohlášení uvedla, že hledá náhradu a že tým bude dočasně řídit technický ředitel Mira Murati.

Přizpůsobené pokyny pro ChatGPT: Společnost OpenAI také spustila přizpůsobené pokyny pro uživatele ChatGPT, aby nemuseli chatbotovi při každé interakci psát stejné pokyny.

Umělá inteligence společnosti Google pro psaní zpráv: Podle nové zprávy deníku The New York Times testuje společnost Google nástroj, který využívá umělou inteligenci k psaní zpráv, a začala jej předvádět publikacím. Technologický gigant představil systém umělé inteligence deníkům The New York Times, The Washington Post a vlastníkovi deníku The Wall Street Journal, společnosti News Corp.

Apple testuje chatbota podobného ChatGPT: Podle nové zprávy Marka Gurmana z agentury Bloomberg vyvíjí Apple umělou inteligenci, aby se postavil OpenAI, Googlu a dalším. Technologický gigant konkrétně vytvořil chatbota, kterého někteří inženýři interně označují jako „Apple GPT“.

Meta vydává Llama 2: Společnost Meta představila novou rodinu modelů umělé inteligence Llama 2, která je určena k řízení aplikací po vzoru ChatGPT od OpenAI, Bing Chat a dalších moderních chatbotů. Společnost Meta tvrdí, že modely Llama 2, vyškolené na kombinaci veřejně dostupných dat, mají oproti předchozí generaci modelů Llama výrazně lepší výkon.

Autoři protestují proti generativní umělé inteligenci: Generativní systémy umělé inteligence, jako je ChatGPT, jsou trénovány na veřejně dostupných datech, včetně knih, a ne všichni tvůrci obsahu jsou s tímto uspořádáním spokojeni. V otevřeném dopise, který podepsalo více než 8 500 autorů beletrie, literatury faktu a poezie, se technologické společnosti, které stojí za velkými jazykovými modely, jako jsou ChatGPT, Bard, LLaMa a další, ohrazují proti tomu, že jejich díla používají bez svolení a bez náhrady.

Společnost Microsoft přináší do podniků službu Bing Chat: Microsoft na své výroční konferenci Inspire oznámil Bing Chat Enterprise, verzi svého chatbota Bing Chat s umělou inteligencí, který je zaměřen na ochranu a správu dat. V Bing Chat Enterprise se neukládají data z chatu, společnost Microsoft nemůže zobrazit údaje o zaměstnancích nebo obchodních údajích zákazníka a údaje o zákaznících se nepoužívají k trénování základních modelů umělé inteligence.

Takže dokud to za vás nezvládne umělá inteligence, přinášíme vám praktický přehled nejnovějších zpráv ze světa strojového učení, spolu s pozoruhodnými výzkumy a experimenty, které jsme sami nepokryli.Tento týden se v oblasti umělé inteligence dobrovolně zavázaly společnosti OpenAI, Anthropic, Google, Inflection, Microsoft, Meta a Amazon k plnění společných cílů v oblasti bezpečnosti a transparentnosti umělé inteligence před plánovaným nařízením Bidenovy administrativy.Nenavrhuje se zde žádné pravidlo ani vynucování – dohodnuté postupy jsou čistě dobrovolné. Závazky však v hrubých rysech naznačují regulační přístupy a politiky v oblasti umělé inteligence, které by každý prodejce mohl považovat za změnitelné v USA i v zahraničí.Společnosti se mimo jiné zavázaly, že budou před zveřejněním provádět bezpečnostní testy systémů umělé inteligence, sdílet informace o technikách zmírňování dopadů umělé inteligence a vyvíjet techniky vodoznaků, které usnadňují identifikaci obsahu generovaného umělou inteligencí. Rovněž uvedly, že budou investovat do kybernetické bezpečnosti, aby ochránily soukromé údaje o UI a usnadnily hlášení zranitelností, a že budou upřednostňovat výzkum společenských rizik, jako je systémová zaujatost a otázky ochrany soukromí.Závazky jsou jistě důležitým krokem, i když nejsou vymahatelné. Člověk si však klade otázku, zda za nimi nestojí postranní úmysly těch, kdo je nepodepsali.Společnost OpenAI údajně vypracovala interní politické memorandum, z něhož vyplývá, že podporuje myšlenku vyžadovat vládní licence od každého, kdo chce vyvíjet systémy umělé inteligence. Generální ředitel Sam Altman tuto myšlenku poprvé vznesl na květnovém slyšení v americkém Senátu, během něhož podpořil vytvoření agentury, která by mohla vydávat licence pro produkty AI – a odebírat je v případě, že by někdo porušil stanovená pravidla.V nedávném rozhovoru s novináři Anna Makanju, viceprezidentka pro globální záležitosti společnosti OpenAI, zdůraznila, že OpenAI na licence „netlačí“ a že společnost podporuje pouze licenční režimy pro modely umělé inteligence, které jsou výkonnější než současný model GPT-4 společnosti OpenAI. Pokud však budou vládní licence zavedeny způsobem, který navrhuje OpenAI, vytvářejí předpoklady pro potenciální střet se startupy a vývojáři open source, kteří je mohou vnímat jako snahu ztížit ostatním průnik do této oblasti.Zde jsou další zajímavé zprávy o umělé inteligenci z posledních dnů:Odstupuje vedoucí oddělení důvěryhodnosti a bezpečnosti společnosti OpenAI: Dave Willner, veterán v oboru, který byl vedoucím oddělení důvěryhodnosti a bezpečnosti v OpenAI, oznámil v příspěvku na LinkedIn, že z této pozice odchází a přechází do poradenské role. Společnost OpenAI ve svém prohlášení uvedla, že hledá náhradu a že tým bude dočasně řídit technický ředitel Mira Murati.Přizpůsobené pokyny pro ChatGPT: Společnost OpenAI také spustila přizpůsobené pokyny pro uživatele ChatGPT, aby nemuseli chatbotovi při každé interakci psát stejné pokyny.Umělá inteligence společnosti Google pro psaní zpráv: Podle nové zprávy deníku The New York Times testuje společnost Google nástroj, který využívá umělou inteligenci k psaní zpráv, a začala jej předvádět publikacím. Technologický gigant představil systém umělé inteligence deníkům The New York Times, The Washington Post a vlastníkovi deníku The Wall Street Journal, společnosti News Corp.Apple testuje chatbota podobného ChatGPT: Podle nové zprávy Marka Gurmana z agentury Bloomberg vyvíjí Apple umělou inteligenci, aby se postavil OpenAI, Googlu a dalším. Technologický gigant konkrétně vytvořil chatbota, kterého někteří inženýři interně označují jako „Apple GPT“.Meta vydává Llama 2: Společnost Meta představila novou rodinu modelů umělé inteligence Llama 2, která je určena k řízení aplikací po vzoru ChatGPT od OpenAI, Bing Chat a dalších moderních chatbotů. Společnost Meta tvrdí, že modely Llama 2, vyškolené na kombinaci veřejně dostupných dat, mají oproti předchozí generaci modelů Llama výrazně lepší výkon.Autoři protestují proti generativní umělé inteligenci: Generativní systémy umělé inteligence, jako je ChatGPT, jsou trénovány na veřejně dostupných datech, včetně knih, a ne všichni tvůrci obsahu jsou s tímto uspořádáním spokojeni. V otevřeném dopise, který podepsalo více než 8 500 autorů beletrie, literatury faktu a poezie, se technologické společnosti, které stojí za velkými jazykovými modely, jako jsou ChatGPT, Bard, LLaMa a další, ohrazují proti tomu, že jejich díla používají bez svolení a bez náhrady.Společnost Microsoft přináší do podniků službu Bing Chat: Microsoft na své výroční konferenci Inspire oznámil Bing Chat Enterprise, verzi svého chatbota Bing Chat s umělou inteligencí, který je zaměřen na ochranu a správu dat. V Bing Chat Enterprise se neukládají data z chatu, společnost Microsoft nemůže zobrazit údaje o zaměstnancích nebo obchodních údajích zákazníka a údaje o zákaznících se nepoužívají k trénování základních modelů umělé inteligence.