Minulý týden italský úřad pro ochranu osobních údajů nařídil společnosti OpenAI, aby dočasně přestala zpracovávat údaje italských uživatelů v rámci vyšetřování podezření z porušení přísných evropských předpisů o ochraně osobních údajů.
Regulační orgán, který je známý také pod zkratkou Garante, se odvolával na porušení ochrany údajů u společnosti OpenAI, které umožnilo uživatelům zobrazit názvy konverzací, které s chatbotem vedli jiní uživatelé.
Zdá se, že „neexistuje žádný právní základ, na němž by bylo založeno masivní shromažďování a zpracovávání osobních údajů za účelem „trénování“ algoritmů, na něž se platforma spoléhá,“ uvedl Garante v pátečním prohlášení.
Garante také upozornil na obavy z nedostatečného věkového omezení ChatGPT a na to, že chatbot může ve svých odpovědích podávat věcně nesprávné informace.
Společnosti OpenAI, kterou podporuje společnost Microsoft (MSFT), hrozí pokuta ve výši 20 milionů eur (21,8 milionu dolarů), tedy 4 % jejích celosvětových ročních příjmů, pokud do 20 dnů nepřijde s nápravou situace.
Zdroj: Getty Images
Itálie není jedinou zemí, která počítá s rychlým tempem vývoje umělé inteligence a jeho důsledky pro společnost. Vlády dalších zemí přicházejí s vlastními pravidly pro AI, která se jí, ať už se o generativní AI zmiňují, nebo ne, nepochybně dotknou. Generativní AI označuje soubor technologií AI, které generují nový obsah na základě podnětů od uživatelů. Je pokročilejší než předchozí iterace AI, a to zejména díky novým velkým jazykovým modelům, které jsou trénovány na obrovském množství dat.
Již dlouho se ozývají hlasy, že je třeba AI regulovat. Tempo, jakým tato technologie pokročila, je však takové, že se ukazuje, že je pro vlády obtížné s ní držet krok. Počítače dnes dokáží během několika sekund vytvořit realistické umělecké dílo, napsat celou esej nebo dokonce vygenerovat řádky kódu.
„Musíme být velmi opatrní, abychom nevytvořili svět, kde jsou lidé nějakým způsobem podřízeni větší strojové budoucnosti,“ řekla v pondělí v pořadu „Squawk Box Europe“ televize CNBC Sophie Hackfordová, futuristka a globální poradkyně pro technologické inovace amerického výrobce zemědělské techniky John Deere.
„Technologie jsou tu proto, aby nám sloužily. jsou tu proto, aby nám urychlily diagnostiku rakoviny nebo aby lidé nemuseli dělat práci, kterou dělat nechceme.“
„Musíme o tom nyní velmi pečlivě přemýšlet a z hlediska regulace musíme nyní jednat,“ dodala.
Různé regulační orgány jsou znepokojeny výzvami, které umělá inteligence představuje pro bezpečnost pracovních míst, ochranu osobních údajů a rovnost. Existují také obavy z manipulace pokročilé AI s politickým diskurzem prostřednictvím generování nepravdivých informací.
Mnoho vlád také začíná přemýšlet o tom, jak se vypořádat se systémy pro všeobecné použití, jako je ChatGPT, přičemž některé dokonce zvažují, že se připojí k Itálii a tuto technologii zakážou.
Zdroj: Getty Images
Británie Minulý týden oznámila Velká Británie plány na regulaci umělé inteligence. Namísto stanovení nových předpisů vláda požádala regulační orgány v různých odvětvích, aby na AI aplikovaly stávající předpisy.
Britské návrhy, v nichž není ChatGPT jmenovitě zmíněna, uvádějí některé klíčové zásady, kterými by se měly společnosti při používání AI ve svých produktech řídit, včetně bezpečnosti, transparentnosti, spravedlnosti, odpovědnosti a napadnutelnosti.
Británie v této fázi nenavrhuje omezení ChatGPT ani žádného jiného druhu umělé inteligence. Místo toho chce zajistit, aby společnosti vyvíjely a používaly nástroje AI zodpovědně a poskytovaly uživatelům dostatek informací o tom, jak a proč jsou přijímána určitá rozhodnutí.
Ministryně pro digitální technologie Michelle Donelanová ve svém projevu v parlamentu minulou středu uvedla, že náhlá popularita generativní umělé inteligence ukazuje, že rizika a příležitosti spojené s touto technologií se „objevují mimořádným tempem“.
Díky tomu, že vláda zaujme nestatutární přístup, bude moci „rychle reagovat na pokroky v oblasti umělé inteligence a v případě potřeby dále zasahovat“, dodala.
Dan Holmes, vedoucí prevence podvodů ve společnosti Feedzai, která využívá AI v boji proti finanční kriminalitě, uvedl, že hlavní prioritou přístupu Spojeného království je řešení otázky, „jak vypadá dobré využívání AI“.
Zdroj: Getty Images
„Jde spíše o to, že pokud používáte AI, měli byste myslet na tyto zásady,“ řekl Holmes televizi CNBC. „A často se to omezuje na dvě věci, kterými jsou transparentnost a spravedlnost.“
EU Očekává se, že zbytek Evropy zaujme k AI mnohem restriktivnější postoj než jeho britské protějšky, které se po vystoupení Spojeného království z bloku stále více odchylují od digitálních zákonů EU.
Evropská unie, která je často v čele, pokud jde o regulaci v oblasti technologií, navrhla průlomový právní předpis týkající se umělé inteligence.
Pravidla známá jako Evropský zákon o umělé inteligenci výrazně omezí využívání umělé inteligence v kritické infrastruktuře, vzdělávání, prosazování práva a soudním systému.
Bude fungovat ve spojení s obecným nařízením EU o ochraně osobních údajů. Tato pravidla upravují, jak mohou společnosti zpracovávat a uchovávat osobní údaje.
Když byl zákon o UI poprvé navržen, úředníci nepočítali s překotným pokrokem systémů UI, které jsou schopny generovat působivé umění, příběhy, vtipy, básně a písně.
Podle agentury Reuters návrh pravidel EU považuje ChatGPT za formu umělé inteligence pro všeobecné účely, která se používá ve vysoce rizikových aplikacích. Vysoce rizikové systémy AI definuje komise jako ty, které by mohly ovlivnit základní práva nebo bezpečnost lidí.
Ty by musely čelit opatřením včetně přísného posuzování rizik a požadavku na odstranění diskriminace vyplývající z datových souborů, které slouží jako zdroj pro algoritmy.
Zdroj: Getty Images
„EU má v oblasti umělé inteligence velké a hluboké odborné znalosti. Mají přístup k nejlepším talentům na světě a není to pro ně nová konverzace,“ řekl CNBC Max Heinemeyer, produktový ředitel společnosti Darktrace.
„Vyplatí se jim věřit, že mají na srdci to nejlepší pro členské státy a plně si uvědomují potenciální konkurenční výhody, které by tyto technologie mohly přinést, oproti rizikům.“
Zatímco však Brusel připravuje zákony pro umělou inteligenci, některé země EU již sledují kroky Itálie v oblasti ChatGPT a diskutují o tom, zda je budou následovat.
„V zásadě je podobný postup možný i v Německu,“ řekl deníku Handelsblatt Ulrich Kelber, německý spolkový zmocněnec pro ochranu osobních údajů.
Francouzský a irský regulátor ochrany osobních údajů kontaktoval své protějšky v Itálii, aby se o jeho zjištěních dozvěděl více, uvedla agentura Reuters. Švédský úřad pro ochranu údajů zákaz vyloučil. Itálie může k takovému kroku přistoupit, protože OpenAI nemá v EU jedinou pobočku.
Irsko je obvykle nejaktivnějším regulačním orgánem, pokud jde o ochranu osobních údajů, protože většina amerických technologických gigantů, jako jsou Meta a Google, má své pobočky právě tam.
USA USA zatím nenavrhly žádná formální pravidla, která by zavedla dohled nad technologiemi umělé inteligence.
Národní institut pro vědu a technologie v zemi vydal národní rámec, který poskytuje společnostem používajícím, navrhujícím nebo zavádějícím systémy AI pokyny pro řízení rizik a možných škod.
Funguje však na dobrovolné bázi, což znamená, že firmy nebudou čelit žádným důsledkům za nedodržování pravidel.
Zatím se neobjevily žádné informace o tom, že by se v USA přijímala opatření k omezení ChatGPT.
Minulý měsíc obdržela Federální obchodní komise stížnost od neziskové výzkumné skupiny, která tvrdí, že GPT-4, nejnovější velký jazykový model OpenAI, je „neobjektivní, klamavý a představuje riziko pro soukromí a veřejnou bezpečnost“ a porušuje pokyny agentury pro umělou inteligenci.
Zdroj: Getty Images
Stížnost by mohla vést k vyšetřování společnosti OpenAI a k pozastavení komerčního nasazení jejích velkých jazykových modelů. FTC se odmítla vyjádřit.
Čína ChatGPT není k dispozici v Číně, ani v různých zemích se silnou cenzurou internetu, jako je Severní Korea, Írán a Rusko. Oficiálně není blokována, ale společnost OpenAI neumožňuje uživatelům v této zemi registraci.
Několik velkých technologických společností v Číně vyvíjí alternativy. Baidu, Alibaba a JD.com, jedny z největších čínských technologických firem, oznámily plány na vytvoření konkurentů ChatGPT.
Čína se snaží zajistit, aby její technologičtí giganti vyvíjeli produkty v souladu s jejími přísnými předpisy.
Minulý měsíc Peking zavedl první regulaci svého druhu týkající se tzv. deepfakes, synteticky generovaných nebo pozměněných obrázků, videí nebo textů vytvořených pomocí umělé inteligence.
Čínské regulační orgány již dříve zavedly pravidla upravující způsob, jakým společnosti pracují s doporučovacími algoritmy. Jedním z požadavků je, že společnosti musí regulátorovi kyberprostoru předkládat podrobnosti o svých algoritmech.
Takové předpisy by se teoreticky mohly vztahovat na jakýkoli druh technologie typu ChatGPT.
Minulý týden italský úřad pro ochranu osobních údajů nařídil společnosti OpenAI, aby dočasně přestala zpracovávat údaje italských uživatelů v rámci vyšetřování podezření z porušení přísných evropských předpisů o ochraně osobních údajů.Regulační orgán, který je známý také pod zkratkou Garante, se odvolával na porušení ochrany údajů u společnosti OpenAI, které umožnilo uživatelům zobrazit názvy konverzací, které s chatbotem vedli jiní uživatelé.Zdá se, že „neexistuje žádný právní základ, na němž by bylo založeno masivní shromažďování a zpracovávání osobních údajů za účelem „trénování“ algoritmů, na něž se platforma spoléhá,“ uvedl Garante v pátečním prohlášení.Garante také upozornil na obavy z nedostatečného věkového omezení ChatGPT a na to, že chatbot může ve svých odpovědích podávat věcně nesprávné informace.Společnosti OpenAI, kterou podporuje společnost Microsoft , hrozí pokuta ve výši 20 milionů eur , tedy 4 % jejích celosvětových ročních příjmů, pokud do 20 dnů nepřijde s nápravou situace.Itálie není jedinou zemí, která počítá s rychlým tempem vývoje umělé inteligence a jeho důsledky pro společnost. Vlády dalších zemí přicházejí s vlastními pravidly pro AI, která se jí, ať už se o generativní AI zmiňují, nebo ne, nepochybně dotknou. Generativní AI označuje soubor technologií AI, které generují nový obsah na základě podnětů od uživatelů. Je pokročilejší než předchozí iterace AI, a to zejména díky novým velkým jazykovým modelům, které jsou trénovány na obrovském množství dat.Chcete využít této příležitosti?Již dlouho se ozývají hlasy, že je třeba AI regulovat. Tempo, jakým tato technologie pokročila, je však takové, že se ukazuje, že je pro vlády obtížné s ní držet krok. Počítače dnes dokáží během několika sekund vytvořit realistické umělecké dílo, napsat celou esej nebo dokonce vygenerovat řádky kódu.„Musíme být velmi opatrní, abychom nevytvořili svět, kde jsou lidé nějakým způsobem podřízeni větší strojové budoucnosti,“ řekla v pondělí v pořadu „Squawk Box Europe“ televize CNBC Sophie Hackfordová, futuristka a globální poradkyně pro technologické inovace amerického výrobce zemědělské techniky John Deere.„Technologie jsou tu proto, aby nám sloužily. jsou tu proto, aby nám urychlily diagnostiku rakoviny nebo aby lidé nemuseli dělat práci, kterou dělat nechceme.“„Musíme o tom nyní velmi pečlivě přemýšlet a z hlediska regulace musíme nyní jednat,“ dodala.Různé regulační orgány jsou znepokojeny výzvami, které umělá inteligence představuje pro bezpečnost pracovních míst, ochranu osobních údajů a rovnost. Existují také obavy z manipulace pokročilé AI s politickým diskurzem prostřednictvím generování nepravdivých informací.Mnoho vlád také začíná přemýšlet o tom, jak se vypořádat se systémy pro všeobecné použití, jako je ChatGPT, přičemž některé dokonce zvažují, že se připojí k Itálii a tuto technologii zakážou.BritánieMinulý týden oznámila Velká Británie plány na regulaci umělé inteligence. Namísto stanovení nových předpisů vláda požádala regulační orgány v různých odvětvích, aby na AI aplikovaly stávající předpisy.Britské návrhy, v nichž není ChatGPT jmenovitě zmíněna, uvádějí některé klíčové zásady, kterými by se měly společnosti při používání AI ve svých produktech řídit, včetně bezpečnosti, transparentnosti, spravedlnosti, odpovědnosti a napadnutelnosti.Británie v této fázi nenavrhuje omezení ChatGPT ani žádného jiného druhu umělé inteligence. Místo toho chce zajistit, aby společnosti vyvíjely a používaly nástroje AI zodpovědně a poskytovaly uživatelům dostatek informací o tom, jak a proč jsou přijímána určitá rozhodnutí.Ministryně pro digitální technologie Michelle Donelanová ve svém projevu v parlamentu minulou středu uvedla, že náhlá popularita generativní umělé inteligence ukazuje, že rizika a příležitosti spojené s touto technologií se „objevují mimořádným tempem“.Díky tomu, že vláda zaujme nestatutární přístup, bude moci „rychle reagovat na pokroky v oblasti umělé inteligence a v případě potřeby dále zasahovat“, dodala.Dan Holmes, vedoucí prevence podvodů ve společnosti Feedzai, která využívá AI v boji proti finanční kriminalitě, uvedl, že hlavní prioritou přístupu Spojeného království je řešení otázky, „jak vypadá dobré využívání AI“.„Jde spíše o to, že pokud používáte AI, měli byste myslet na tyto zásady,“ řekl Holmes televizi CNBC. „A často se to omezuje na dvě věci, kterými jsou transparentnost a spravedlnost.“EUOčekává se, že zbytek Evropy zaujme k AI mnohem restriktivnější postoj než jeho britské protějšky, které se po vystoupení Spojeného království z bloku stále více odchylují od digitálních zákonů EU.Evropská unie, která je často v čele, pokud jde o regulaci v oblasti technologií, navrhla průlomový právní předpis týkající se umělé inteligence.Pravidla známá jako Evropský zákon o umělé inteligenci výrazně omezí využívání umělé inteligence v kritické infrastruktuře, vzdělávání, prosazování práva a soudním systému.Bude fungovat ve spojení s obecným nařízením EU o ochraně osobních údajů. Tato pravidla upravují, jak mohou společnosti zpracovávat a uchovávat osobní údaje.Když byl zákon o UI poprvé navržen, úředníci nepočítali s překotným pokrokem systémů UI, které jsou schopny generovat působivé umění, příběhy, vtipy, básně a písně.Podle agentury Reuters návrh pravidel EU považuje ChatGPT za formu umělé inteligence pro všeobecné účely, která se používá ve vysoce rizikových aplikacích. Vysoce rizikové systémy AI definuje komise jako ty, které by mohly ovlivnit základní práva nebo bezpečnost lidí.Ty by musely čelit opatřením včetně přísného posuzování rizik a požadavku na odstranění diskriminace vyplývající z datových souborů, které slouží jako zdroj pro algoritmy.„EU má v oblasti umělé inteligence velké a hluboké odborné znalosti. Mají přístup k nejlepším talentům na světě a není to pro ně nová konverzace,“ řekl CNBC Max Heinemeyer, produktový ředitel společnosti Darktrace.„Vyplatí se jim věřit, že mají na srdci to nejlepší pro členské státy a plně si uvědomují potenciální konkurenční výhody, které by tyto technologie mohly přinést, oproti rizikům.“Zatímco však Brusel připravuje zákony pro umělou inteligenci, některé země EU již sledují kroky Itálie v oblasti ChatGPT a diskutují o tom, zda je budou následovat.„V zásadě je podobný postup možný i v Německu,“ řekl deníku Handelsblatt Ulrich Kelber, německý spolkový zmocněnec pro ochranu osobních údajů.Francouzský a irský regulátor ochrany osobních údajů kontaktoval své protějšky v Itálii, aby se o jeho zjištěních dozvěděl více, uvedla agentura Reuters. Švédský úřad pro ochranu údajů zákaz vyloučil. Itálie může k takovému kroku přistoupit, protože OpenAI nemá v EU jedinou pobočku.Irsko je obvykle nejaktivnějším regulačním orgánem, pokud jde o ochranu osobních údajů, protože většina amerických technologických gigantů, jako jsou Meta a Google, má své pobočky právě tam.USAUSA zatím nenavrhly žádná formální pravidla, která by zavedla dohled nad technologiemi umělé inteligence.Národní institut pro vědu a technologie v zemi vydal národní rámec, který poskytuje společnostem používajícím, navrhujícím nebo zavádějícím systémy AI pokyny pro řízení rizik a možných škod.Funguje však na dobrovolné bázi, což znamená, že firmy nebudou čelit žádným důsledkům za nedodržování pravidel.Zatím se neobjevily žádné informace o tom, že by se v USA přijímala opatření k omezení ChatGPT.Minulý měsíc obdržela Federální obchodní komise stížnost od neziskové výzkumné skupiny, která tvrdí, že GPT-4, nejnovější velký jazykový model OpenAI, je „neobjektivní, klamavý a představuje riziko pro soukromí a veřejnou bezpečnost“ a porušuje pokyny agentury pro umělou inteligenci.Stížnost by mohla vést k vyšetřování společnosti OpenAI a k pozastavení komerčního nasazení jejích velkých jazykových modelů. FTC se odmítla vyjádřit.ČínaChatGPT není k dispozici v Číně, ani v různých zemích se silnou cenzurou internetu, jako je Severní Korea, Írán a Rusko. Oficiálně není blokována, ale společnost OpenAI neumožňuje uživatelům v této zemi registraci.Několik velkých technologických společností v Číně vyvíjí alternativy. Baidu, Alibaba a JD.com, jedny z největších čínských technologických firem, oznámily plány na vytvoření konkurentů ChatGPT.Čína se snaží zajistit, aby její technologičtí giganti vyvíjeli produkty v souladu s jejími přísnými předpisy.Minulý měsíc Peking zavedl první regulaci svého druhu týkající se tzv. deepfakes, synteticky generovaných nebo pozměněných obrázků, videí nebo textů vytvořených pomocí umělé inteligence.Čínské regulační orgány již dříve zavedly pravidla upravující způsob, jakým společnosti pracují s doporučovacími algoritmy. Jedním z požadavků je, že společnosti musí regulátorovi kyberprostoru předkládat podrobnosti o svých algoritmech.Takové předpisy by se teoreticky mohly vztahovat na jakýkoli druh technologie typu ChatGPT.
