Komisařka EU pro hodnoty a transparentnost Vera Jourová včera po setkání s více než 40 signatáři kodexu uvedla, že signatáři, kteří se zavázali bojovat proti dezinformacím, by měli zavést technologii pro rozpoznávání obsahu umělé inteligence a jeho jasné označování pro uživatele.
„Nové technologie umělé inteligence mohou být přínosem pro dobro a nabízejí nové možnosti zvýšení efektivity a kreativního vyjádření. Ale jako vždy musíme zmínit i temnou stránku této záležitosti a představují také nová rizika a potenciál negativních důsledků pro společnost,“ varovala. „Také pokud jde o vytváření a šíření dezinformací.
„Pokročilí chatboti, jako je ChatGPT, jsou schopni během několika sekund vytvořit složitý, zdánlivě dobře podložený obsah a vizuály. Generátory obrázků dokáží vytvořit autenticky vypadající obrázky událostí, které se nikdy nestaly. Software pro generování hlasu dokáže napodobit hlas člověka na základě několikavteřinového vzorku. Nové technologie přinášejí nové výzvy i pro boj proti dezinformacím. Proto jsem dnes požádal signatáře, aby v rámci kodexu vytvořili zvláštní a oddělenou stopu, kde by se o tom diskutovalo.“
Zdroj: Getty Images
Současná verze kodexu, kterou EU loni v létě posílila a zároveň potvrdila, že se tento dobrovolný nástroj má stát zmírňujícím opatřením, které se započítává do plnění (právně závazného) zákona o digitálních službách (DSA), se v současnosti nezavazuje k identifikaci a označování deepfakes. Komise však doufá, že se to změní.
Komisař EU uvedl, že vidí dva hlavní směry diskuse o tom, jak do kodexu zahrnout opatření na zmírnění dopadů obsahu vytvořeného umělou inteligencí: První by se zaměřil na služby, které integrují generativní umělou inteligenci, jako je nový Bing společnosti Microsoft nebo vyhledávací služby Bard s umělou inteligencí společnosti Google, které by se měly zavázat k zavedení „nezbytných ochranných opatření, aby tyto služby nemohly být zneužívány škodlivými subjekty k vytváření dezinformací“.
Druhá by zavazovala signatáře, kteří mají služby s potenciálem šířit dezinformace generované umělou inteligencí, k zavedení „technologie pro rozpoznání takového obsahu a jeho jasné označení pro uživatele“.
Zdroj: Unsplash
Jourová uvedla, že hovořila se Sundarem Pichaiem ze společnosti Google a že jí bylo sděleno, že společnost Google má technologii, která dokáže rozpoznat textový obsah vytvořený umělou inteligencí, ale že také pokračuje ve vývoji této technologie, aby zlepšila její schopnosti.
V dalších poznámkách během tiskových otázek a odpovědí komisařka uvedla, že EU chce, aby označení pro deepfakes a další obsah generovaný umělou inteligencí bylo jasné a rychlé – aby běžní uživatelé okamžitě pochopili, že obsah, který je jim předkládán, vytvořil stroj, nikoli člověk.
Upřesnila také, že Komise chce, aby platformy zavedly označování „okamžitě“.
DSA sice obsahuje některá ustanovení, podle nichž musí velmi velké online platformy (VLOP) označovat zmanipulované zvukové a obrazové záznamy, ale podle Jourové je záměrem přidat označování do dezinformačního kodexu to, že se tak může stát ještě dříve, než 25. srpna, kdy má VLOP podle DSA splnit požadavky.
„Mnohokrát jsem řekl, že naším hlavním úkolem je chránit svobodu slova. Ale pokud jde o výrobu umělé inteligence, nevidím žádné právo strojů na svobodu slova. A tak se to také vrací ke starým dobrým pilířům našeho práva. A proto na tom chceme dále pracovat i v rámci kodexu na základě této velmi zásadní myšlenky,“ dodala.
Komise rovněž očekává, že příští měsíc budou přijata opatření týkající se hlášení rizik dezinformací generovaných umělou inteligencí – Jourová uvedla, že příslušní signatáři by měli červencové zprávy využít k „informování veřejnosti o bezpečnostních opatřeních, která zavádějí, aby zabránili zneužití generativní umělé inteligence k šíření dezinformací“.
Zdroj: Getty Images
Dezinformační kodex má nyní celkem 44 signatářů, mezi nimiž jsou technologičtí giganti jako Google, Facebook a Microsoft, ale i menší reklamní subjekty a organizace občanské společnosti, což je více než 34 signatářů, kteří se k závazkům přihlásili v červnu 2022.
Koncem minulého měsíce však Twitter učinil neobvyklý krok a od dobrovolného kodexu EU odstoupil.
Jourová uvedla, že na včerejší schůzce se zbývajícími signatáři vznesla i další důležité otázky, které se týkaly ruské válečné propagandy a prokremelských dezinformací, potřeby „důsledného“ moderování a ověřování faktů, úsilí o bezpečnost voleb a přístupu výzkumných pracovníků k údajům.
„Na platformách stále koluje příliš mnoho nebezpečného dezinformačního obsahu,“ varovala a zdůraznila dlouhodobou stížnost Komise, že iniciativy na ověřování faktů nejsou komplexně uplatňovány na obsah zaměřený na všechny jazyky používané v členských státech EU, včetně menších národů.
Komisařka EU pro hodnoty a transparentnost Vera Jourová včera po setkání s více než 40 signatáři kodexu uvedla, že signatáři, kteří se zavázali bojovat proti dezinformacím, by měli zavést technologii pro rozpoznávání obsahu umělé inteligence a jeho jasné označování pro uživatele.„Nové technologie umělé inteligence mohou být přínosem pro dobro a nabízejí nové možnosti zvýšení efektivity a kreativního vyjádření. Ale jako vždy musíme zmínit i temnou stránku této záležitosti a představují také nová rizika a potenciál negativních důsledků pro společnost,“ varovala. „Také pokud jde o vytváření a šíření dezinformací.„Pokročilí chatboti, jako je ChatGPT, jsou schopni během několika sekund vytvořit složitý, zdánlivě dobře podložený obsah a vizuály. Generátory obrázků dokáží vytvořit autenticky vypadající obrázky událostí, které se nikdy nestaly. Software pro generování hlasu dokáže napodobit hlas člověka na základě několikavteřinového vzorku. Nové technologie přinášejí nové výzvy i pro boj proti dezinformacím. Proto jsem dnes požádal signatáře, aby v rámci kodexu vytvořili zvláštní a oddělenou stopu, kde by se o tom diskutovalo.“Současná verze kodexu, kterou EU loni v létě posílila a zároveň potvrdila, že se tento dobrovolný nástroj má stát zmírňujícím opatřením, které se započítává do plnění zákona o digitálních službách , se v současnosti nezavazuje k identifikaci a označování deepfakes. Komise však doufá, že se to změní.Komisař EU uvedl, že vidí dva hlavní směry diskuse o tom, jak do kodexu zahrnout opatření na zmírnění dopadů obsahu vytvořeného umělou inteligencí: První by se zaměřil na služby, které integrují generativní umělou inteligenci, jako je nový Bing společnosti Microsoft nebo vyhledávací služby Bard s umělou inteligencí společnosti Google, které by se měly zavázat k zavedení „nezbytných ochranných opatření, aby tyto služby nemohly být zneužívány škodlivými subjekty k vytváření dezinformací“.Druhá by zavazovala signatáře, kteří mají služby s potenciálem šířit dezinformace generované umělou inteligencí, k zavedení „technologie pro rozpoznání takového obsahu a jeho jasné označení pro uživatele“.Jourová uvedla, že hovořila se Sundarem Pichaiem ze společnosti Google a že jí bylo sděleno, že společnost Google má technologii, která dokáže rozpoznat textový obsah vytvořený umělou inteligencí, ale že také pokračuje ve vývoji této technologie, aby zlepšila její schopnosti.V dalších poznámkách během tiskových otázek a odpovědí komisařka uvedla, že EU chce, aby označení pro deepfakes a další obsah generovaný umělou inteligencí bylo jasné a rychlé – aby běžní uživatelé okamžitě pochopili, že obsah, který je jim předkládán, vytvořil stroj, nikoli člověk.Upřesnila také, že Komise chce, aby platformy zavedly označování „okamžitě“.DSA sice obsahuje některá ustanovení, podle nichž musí velmi velké online platformy označovat zmanipulované zvukové a obrazové záznamy, ale podle Jourové je záměrem přidat označování do dezinformačního kodexu to, že se tak může stát ještě dříve, než 25. srpna, kdy má VLOP podle DSA splnit požadavky.„Mnohokrát jsem řekl, že naším hlavním úkolem je chránit svobodu slova. Ale pokud jde o výrobu umělé inteligence, nevidím žádné právo strojů na svobodu slova. A tak se to také vrací ke starým dobrým pilířům našeho práva. A proto na tom chceme dále pracovat i v rámci kodexu na základě této velmi zásadní myšlenky,“ dodala.Komise rovněž očekává, že příští měsíc budou přijata opatření týkající se hlášení rizik dezinformací generovaných umělou inteligencí – Jourová uvedla, že příslušní signatáři by měli červencové zprávy využít k „informování veřejnosti o bezpečnostních opatřeních, která zavádějí, aby zabránili zneužití generativní umělé inteligence k šíření dezinformací“.Dezinformační kodex má nyní celkem 44 signatářů, mezi nimiž jsou technologičtí giganti jako Google, Facebook a Microsoft, ale i menší reklamní subjekty a organizace občanské společnosti, což je více než 34 signatářů, kteří se k závazkům přihlásili v červnu 2022.Koncem minulého měsíce však Twitter učinil neobvyklý krok a od dobrovolného kodexu EU odstoupil.Jourová uvedla, že na včerejší schůzce se zbývajícími signatáři vznesla i další důležité otázky, které se týkaly ruské válečné propagandy a prokremelských dezinformací, potřeby „důsledného“ moderování a ověřování faktů, úsilí o bezpečnost voleb a přístupu výzkumných pracovníků k údajům.„Na platformách stále koluje příliš mnoho nebezpečného dezinformačního obsahu,“ varovala a zdůraznila dlouhodobou stížnost Komise, že iniciativy na ověřování faktů nejsou komplexně uplatňovány na obsah zaměřený na všechny jazyky používané v členských státech EU, včetně menších národů.
