Skupina spotřebitelů vyzývá EU, aby urychleně prošetřila „rizika generativní umělé inteligence“

BEUC, která zastupuje spotřebitelské organizace ve 13 zemích EU, vydala tuto výzvu v souvislosti s dnešní zprávou jednoho ze svých členů, norské organizace Forbrukerrådet.

Tato norská zpráva je ve svém stanovisku jednoznačná: Umělá inteligence poškozuje spotřebitele (název zprávy hovoří za vše: „Duch ve stroji: řešení poškození spotřebitele generativní umělou inteligencí“) a představuje řadu problematických otázek.

Zatímco někteří technologové bijí na poplach v souvislosti s umělou inteligencí jako nástrojem zániku lidstva, v Evropě se debata vedla spíše o dopadech umělé inteligence v oblastech, jako je spravedlivý přístup ke službám, dezinformace a hospodářská soutěž.

Upozorňuje například na to, že „někteří vývojáři umělé inteligence včetně velkých technologických společností“ uzavřeli své systémy před vnější kontrolou, což ztěžuje přehled o tom, jak jsou data shromažďována nebo jak algoritmy fungují; na skutečnost, že některé systémy poskytují nesprávné informace stejně bezstarostně jako správné výsledky, přičemž uživatelé často nevědí, které z nich to mohou být; na umělou inteligenci, která je vytvořena tak, aby klamala uživatele nebo s nimi manipulovala; na problém zaujatosti na základě informací, které jsou do konkrétního modelu umělé inteligence vkládány; a na bezpečnost, konkrétně na to, jak by umělá inteligence mohla být zneužita k podvodům na lidech nebo k narušení systémů.

Ačkoli se AI a potenciál jejího dosahu rozhodně dostaly do povědomí veřejnosti díky zveřejnění aplikace ChatGPT společnosti OpenAI, zaměření EU na dopad AI není novinkou. Již v roce 2020 uvedla, že diskutuje o otázkách „rizika“, ačkoli tyto počáteční snahy byly obsazeny jako základ pro zvýšení „důvěry“ v tuto technologii.

Chcete využít této příležitosti?

Do roku 2021 se hovořilo konkrétněji o „vysoce rizikových“ aplikacích umělé inteligence a přibližně 300 organizací se spojilo, aby se zasadilo o úplný zákaz některých forem umělé inteligence.

S postupem času se kritické názory stávají stále ostřejšími, protože EU pracuje na svých regionálních právních předpisech. V minulém týdnu hovořila šéfka EU pro hospodářskou soutěž Margarethe Vestagerová konkrétně o tom, že umělá inteligence představuje riziko podjatosti, pokud se používá v kritických oblastech, jako jsou finanční služby, například hypotéky a další žádosti o půjčky.

Její komentáře přišly těsně poté, co EU schválila svůj oficiální zákon o umělé inteligenci, který předběžně rozděluje aplikace umělé inteligence do kategorií jako nepřijatelné, vysoké a omezené riziko, přičemž zahrnuje širokou škálu parametrů, podle nichž se určuje, do které kategorie spadají.

Zákon o umělé inteligenci bude po svém zavedení prvním pokusem na světě o kodifikaci určitého chápání a právního prosazování způsobu komerčního i nekomerčního využití umělé inteligence.

Dalším krokem v tomto procesu je spolupráce EU s jednotlivými zeměmi EU, aby se vyjasnila konečná podoba zákona – konkrétně aby se určilo, co (a kdo) bude spadat do jeho kategorií a co nikoli. Otázkou bude, jak snadno se jednotlivé země společně dohodnou. EU chce tento proces dokončit do konce letošního roku, uvedla.

„Je velmi důležité, aby EU zajistila co nejtěsnější ochranu spotřebitelů,“ uvedla Pachlová ve svém prohlášení. „Všechny systémy umělé inteligence, včetně generativní umělé inteligence, potřebují veřejnou kontrolu a veřejné orgány nad nimi musí znovu získat kontrolu. Zákonodárci musí vyžadovat, aby výstupy z jakéhokoli generativního systému AI byly pro spotřebitele bezpečné, spravedlivé a transparentní.“

Výbor BEUC je známý tím, že v kritických okamžicích zasahuje do dění a vydává vlivná stanoviska, která odrážejí směr, jímž se regulační orgány nakonec ubírají. Například v dlouhodobém antimonopolním vyšetřování Googlu proti tomuto vyhledávacímu a mobilnímu gigantu se ozvala již několik let předtím, než byla proti společnosti přijata opatření. Tento příklad však podtrhuje něco jiného: debata o umělé inteligenci a jejích dopadech a o tom, jakou roli v ní může hrát regulace, bude pravděpodobně dlouhá.

„Generativní umělá inteligence, jako je ChatGPT, otevřela spotřebitelům nejrůznější možnosti, ale existují vážné obavy, že tyto systémy mohou lidi klamat, manipulovat s nimi a škodit jim. Mohou být také použity k šíření dezinformací, udržování stávajících předsudků, které posilují diskriminaci, nebo mohou být využity k podvodům,“ uvedla Ursula Pachl, zástupkyně generálního ředitele BEUC, ve svém prohlášení. „Vyzýváme orgány pro bezpečnost, ochranu údajů a ochranu spotřebitele, aby zahájily vyšetřování již nyní a nečekaly nečinně, až dojde k nejrůznějším škodám na straně spotřebitelů, a teprve poté přijaly opatření. Tyto zákony se vztahují na všechny výrobky a služby, ať už jsou poháněny umělou inteligencí, nebo ne, a úřady je musí prosazovat.“BEUC, která zastupuje spotřebitelské organizace ve 13 zemích EU, vydala tuto výzvu v souvislosti s dnešní zprávou jednoho ze svých členů, norské organizace Forbrukerrådet.Tato norská zpráva je ve svém stanovisku jednoznačná: Umělá inteligence poškozuje spotřebitele a představuje řadu problematických otázek.Zatímco někteří technologové bijí na poplach v souvislosti s umělou inteligencí jako nástrojem zániku lidstva, v Evropě se debata vedla spíše o dopadech umělé inteligence v oblastech, jako je spravedlivý přístup ke službám, dezinformace a hospodářská soutěž.Upozorňuje například na to, že „někteří vývojáři umělé inteligence včetně velkých technologických společností“ uzavřeli své systémy před vnější kontrolou, což ztěžuje přehled o tom, jak jsou data shromažďována nebo jak algoritmy fungují; na skutečnost, že některé systémy poskytují nesprávné informace stejně bezstarostně jako správné výsledky, přičemž uživatelé často nevědí, které z nich to mohou být; na umělou inteligenci, která je vytvořena tak, aby klamala uživatele nebo s nimi manipulovala; na problém zaujatosti na základě informací, které jsou do konkrétního modelu umělé inteligence vkládány; a na bezpečnost, konkrétně na to, jak by umělá inteligence mohla být zneužita k podvodům na lidech nebo k narušení systémů.Ačkoli se AI a potenciál jejího dosahu rozhodně dostaly do povědomí veřejnosti díky zveřejnění aplikace ChatGPT společnosti OpenAI, zaměření EU na dopad AI není novinkou. Již v roce 2020 uvedla, že diskutuje o otázkách „rizika“, ačkoli tyto počáteční snahy byly obsazeny jako základ pro zvýšení „důvěry“ v tuto technologii.Chcete využít této příležitosti?Do roku 2021 se hovořilo konkrétněji o „vysoce rizikových“ aplikacích umělé inteligence a přibližně 300 organizací se spojilo, aby se zasadilo o úplný zákaz některých forem umělé inteligence.S postupem času se kritické názory stávají stále ostřejšími, protože EU pracuje na svých regionálních právních předpisech. V minulém týdnu hovořila šéfka EU pro hospodářskou soutěž Margarethe Vestagerová konkrétně o tom, že umělá inteligence představuje riziko podjatosti, pokud se používá v kritických oblastech, jako jsou finanční služby, například hypotéky a další žádosti o půjčky.Její komentáře přišly těsně poté, co EU schválila svůj oficiální zákon o umělé inteligenci, který předběžně rozděluje aplikace umělé inteligence do kategorií jako nepřijatelné, vysoké a omezené riziko, přičemž zahrnuje širokou škálu parametrů, podle nichž se určuje, do které kategorie spadají.Zákon o umělé inteligenci bude po svém zavedení prvním pokusem na světě o kodifikaci určitého chápání a právního prosazování způsobu komerčního i nekomerčního využití umělé inteligence.Dalším krokem v tomto procesu je spolupráce EU s jednotlivými zeměmi EU, aby se vyjasnila konečná podoba zákona – konkrétně aby se určilo, co bude spadat do jeho kategorií a co nikoli. Otázkou bude, jak snadno se jednotlivé země společně dohodnou. EU chce tento proces dokončit do konce letošního roku, uvedla.„Je velmi důležité, aby EU zajistila co nejtěsnější ochranu spotřebitelů,“ uvedla Pachlová ve svém prohlášení. „Všechny systémy umělé inteligence, včetně generativní umělé inteligence, potřebují veřejnou kontrolu a veřejné orgány nad nimi musí znovu získat kontrolu. Zákonodárci musí vyžadovat, aby výstupy z jakéhokoli generativního systému AI byly pro spotřebitele bezpečné, spravedlivé a transparentní.“Výbor BEUC je známý tím, že v kritických okamžicích zasahuje do dění a vydává vlivná stanoviska, která odrážejí směr, jímž se regulační orgány nakonec ubírají. Například v dlouhodobém antimonopolním vyšetřování Googlu proti tomuto vyhledávacímu a mobilnímu gigantu se ozvala již několik let předtím, než byla proti společnosti přijata opatření. Tento příklad však podtrhuje něco jiného: debata o umělé inteligenci a jejích dopadech a o tom, jakou roli v ní může hrát regulace, bude pravděpodobně dlouhá.