Skupina spotřebitelů vyzývá EU, aby urychleně prošetřila „rizika generativní umělé inteligence“

Evropské regulační orgány stojí na křižovatce, jak bude umělá inteligence v regionu regulována - a nakonec i komerčně a nekomerčně využívána - a největší spotřebitelská skupina v EU, BEUC, dnes přišla s vlastním stanoviskem: přestaňte otálet a "okamžitě zahajte naléhavé vyšetřování rizik generativní umělé inteligence", uvedla. "Generativní umělá inteligence, jako je ChatGPT, otevřela spotřebitelům nejrůznější možnosti, ale existují vážné obavy, že tyto systémy mohou lidi klamat, manipulovat s nimi a škodit jim. Mohou být také použity k šíření dezinformací, udržování stávajících předsudků, které posilují diskriminaci, nebo mohou být využity k podvodům," uvedla Ursula Pachl, zástupkyně generálního ředitele BEUC, ve svém prohlášení. "Vyzýváme orgány pro bezpečnost, ochranu údajů a ochranu spotřebitele, aby zahájily vyšetřování již nyní a nečekaly nečinně, až dojde k nejrůznějším škodám na straně spotřebitelů, a teprve poté přijaly opatření. Tyto zákony se vztahují na všechny výrobky a služby, ať už jsou poháněny umělou inteligencí, nebo ne, a úřady je musí prosazovat." BEUC, která zastupuje spotřebitelské organizace ve 13 zemích EU, vydala tuto výzvu v souvislosti s dnešní zprávou jednoho ze svých členů, norské organizace Forbrukerrådet. Zdroj: Burzovnísvět.cz Tato norská zpráva je ve svém stanovisku jednoznačná: Umělá inteligence poškozuje spotřebitele (název zprávy hovoří za vše: "Duch ve stroji: řešení poškození spotřebitele generativní umělou inteligencí") a představuje řadu problematických otázek. Zatímco někteří technologové bijí na poplach v souvislosti s umělou inteligencí jako nástrojem zániku lidstva, v Evropě se debata vedla spíše o dopadech umělé inteligence v oblastech, jako je spravedlivý přístup ke službám, dezinformace a hospodářská soutěž. Upozorňuje například na to, že "někteří vývojáři umělé inteligence včetně velkých technologických společností" uzavřeli své systémy před vnější kontrolou, což ztěžuje přehled o tom, jak jsou data shromažďována nebo jak algoritmy fungují; na skutečnost, že některé systémy poskytují nesprávné informace stejně bezstarostně jako správné výsledky, přičemž uživatelé často nevědí, které z nich to mohou být; na umělou inteligenci, která je vytvořena tak, aby klamala uživatele nebo s nimi manipulovala; na problém zaujatosti na základě informací, které jsou do konkrétního modelu umělé inteligence vkládány; a na bezpečnost, konkrétně na to, jak by umělá inteligence mohla být zneužita k podvodům na lidech nebo k narušení systémů. Ačkoli se AI a potenciál jejího dosahu rozhodně dostaly do povědomí veřejnosti díky zveřejnění aplikace ChatGPT společnosti OpenAI, zaměření EU na dopad AI není novinkou. Již v roce 2020 uvedla, že diskutuje o otázkách "rizika", ačkoli tyto počáteční snahy byly obsazeny jako základ pro zvýšení "důvěry" v tuto technologii. Zdroj: Unsplash Do roku 2021 se hovořilo konkrétněji o "vysoce rizikových" aplikacích umělé inteligence a přibližně 300 organizací se spojilo, aby se zasadilo o úplný zákaz některých forem umělé inteligence. S postupem času se kritické názory stávají stále ostřejšími, protože EU pracuje na svých regionálních právních předpisech. V minulém týdnu hovořila šéfka EU pro hospodářskou soutěž Margarethe Vestagerová konkrétně o tom, že umělá inteligence představuje riziko podjatosti, pokud se používá v kritických oblastech, jako jsou finanční služby, například hypotéky a další žádosti o půjčky. Její komentáře přišly těsně poté, co EU schválila svůj oficiální zákon o umělé inteligenci, který předběžně rozděluje aplikace umělé inteligence do kategorií jako nepřijatelné, vysoké a omezené riziko, přičemž zahrnuje širokou škálu parametrů, podle nichž se určuje, do které kategorie spadají. Zákon o umělé inteligenci bude po svém zavedení prvním pokusem na světě o kodifikaci určitého chápání a právního prosazování způsobu komerčního i nekomerčního využití umělé inteligence. Dalším krokem v tomto procesu je spolupráce EU s jednotlivými zeměmi EU, aby se vyjasnila konečná podoba zákona - konkrétně aby se určilo, co (a kdo) bude spadat do jeho kategorií a co nikoli. Otázkou bude, jak snadno se jednotlivé země společně dohodnou. EU chce tento proces dokončit do konce letošního roku, uvedla. Zdroj: Gettyimages "Je velmi důležité, aby EU zajistila co nejtěsnější ochranu spotřebitelů," uvedla Pachlová ve svém prohlášení. "Všechny systémy umělé inteligence, včetně generativní umělé inteligence, potřebují veřejnou kontrolu a veřejné orgány nad nimi musí znovu získat kontrolu. Zákonodárci musí vyžadovat, aby výstupy z jakéhokoli generativního systému AI byly pro spotřebitele bezpečné, spravedlivé a transparentní." Výbor BEUC je známý tím, že v kritických okamžicích zasahuje do dění a vydává vlivná stanoviska, která odrážejí směr, jímž se regulační orgány nakonec ubírají. Například v dlouhodobém antimonopolním vyšetřování Googlu proti tomuto vyhledávacímu a mobilnímu gigantu se ozvala již několik let předtím, než byla proti společnosti přijata opatření. Tento příklad však podtrhuje něco jiného: debata o umělé inteligenci a jejích dopadech a o tom, jakou roli v ní může hrát regulace, bude pravděpodobně dlouhá.