Zákonodárci Evropského parlamentu mají o návrhu – včetně kontroverzních pozměňovacích návrhů týkajících se rozpoznávání obličejů – hlasovat a směřovat k jeho schválení.
Již několik let trvající snaha Bruselu o vytvoření ochranných rámců pro umělou inteligenci nabyla na naléhavosti, protože rychlý pokrok v oblasti chatbotů, jako je ChatGPT, ukazuje, jaké výhody může tato nová technologie přinést – a jaká nová nebezpečí představuje.
Zdroj: Shutterstock
Podívejte se na zákon EU o umělé inteligenci:
JAK PRAVIDLA FUNGUJÍ?
Opatření, které bylo poprvé navrženo v roce 2021, bude upravovat jakýkoli výrobek nebo službu, která využívá systém umělé inteligence. Zákon bude klasifikovat systémy umělé inteligence podle čtyř úrovní rizika, od minimálního po nepřijatelné.
Na rizikovější aplikace, například pro najímání zaměstnanců nebo technologie zaměřené na děti, se budou vztahovat přísnější požadavky, včetně větší transparentnosti a používání přesných údajů.
Za porušení budou hrozit pokuty až do výše 30 milionů eur (33 milionů dolarů) nebo 6 % ročních celosvětových příjmů společnosti, což v případě technologických společností, jako jsou Google a Microsoft, může činit miliardy.
Prosazování pravidel bude na 27 členských státech EU.
JAKÁ JSOU RIZIKA?
Jedním z hlavních cílů EU je chránit před jakýmkoli ohrožením zdraví a bezpečnosti ze strany umělé inteligence a chránit základní práva a hodnoty.
To znamená, že některá využití AI jsou absolutně nepřípustná, například systémy „sociálního bodování“, které posuzují lidi na základě jejich chování.
Zakázána je také UI, která zneužívá zranitelné osoby, včetně dětí, nebo používá podprahovou manipulaci, která může vést k poškození, například interaktivní mluvící hračka, která podporuje nebezpečné chování.
Zdroj: Getty Images
Zakázány jsou také prediktivní policejní nástroje, které zpracovávají data a předpovídají, kdo spáchá trestný čin.
Zákonodárci posílili původní návrh Evropské komise, výkonné složky EU, rozšířením zákazu rozpoznávání obličeje na dálku a biometrické identifikace na veřejnosti. Tato technologie skenuje kolemjdoucí a pomocí umělé inteligence porovnává jejich obličeje nebo jiné fyzické znaky s databází.
Na poslední chvíli však čelí výzvě poté, co středopravicová strana přidala pozměňovací návrh umožňující výjimky v oblasti prosazování práva, jako je hledání pohřešovaných dětí, identifikace podezřelých z vážných trestných činů nebo předcházení teroristickým hrozbám.
„Nechceme masový dohled, nechceme sociální skóring, nechceme prediktivní policejní dohled v Evropské unii, tečka. To dělá Čína, ne my,“ řekl v úterý Dragos Tudorache, rumunský poslanec Evropského parlamentu, který spoluvede práci na Aktu o umělé inteligenci.
Na systémy umělé inteligence používané v kategoriích, jako je zaměstnání a vzdělávání, které by ovlivňovaly běh života člověka, se vztahují přísné požadavky, jako je transparentnost vůči uživatelům a přijetí opatření k posouzení a snížení rizik zkreslení ze strany algoritmů.
Většina systémů umělé inteligence, jako jsou videohry nebo spamové filtry, spadá do kategorie s nízkým nebo žádným rizikem, uvádí komise.
CO JE TO CHATGPT?
Původní opatření se o chatbotech téměř nezmiňuje, hlavně tím, že požaduje jejich označení, aby uživatelé věděli, že komunikují se strojem. Vyjednavači později přidali ustanovení, která se vztahují na umělou inteligenci pro obecné účely, jako je ChatGPT, poté, co její popularita prudce vzrostla, a podrobili tuto technologii některým stejným požadavkům jako vysoce rizikové systémy.
Zdroj: Getty Images
Jedním z klíčových dodatků je požadavek na důkladné zdokumentování veškerého materiálu chráněného autorskými právy, který se používá k učení systémů umělé inteligence, jak generovat text, obrázky, video a hudbu, které se podobají lidské práci.
To by tvůrcům obsahu umožnilo zjistit, zda byly jejich příspěvky na blogu, digitální knihy, vědecké články nebo písně použity k trénování algoritmů, které pohánějí systémy jako ChatGPT. Pak by se mohli rozhodnout, zda byla jejich práce zkopírována, a žádat nápravu.
PROČ JSOU PRAVIDLA EU TAK DŮLEŽITÁ?
Evropská unie není velkým hráčem v oblasti špičkového vývoje umělé inteligence. Tuto roli přebírají Spojené státy a Čína. Brusel však často hraje roli určovatele trendů prostřednictvím předpisů, které mají tendenci stát se de facto globálními standardy.
Už jen velikost jednotného trhu EU se 450 miliony spotřebitelů usnadňuje společnostem dodržování předpisů, než aby vyvíjely různé produkty pro různé regiony, říkají odborníci.
Nejedná se však jen o omezení. Stanovením společných pravidel pro umělou inteligenci se Brusel také snaží rozvíjet trh tím, že v uživatelích vzbuzuje důvěru.
„Skutečnost, že se jedná o regulaci, která může být vymáhána a společnosti budou pohnány k odpovědnosti, je významná“, protože jiná místa, jako jsou Spojené státy, Singapur a Británie, nabídla pouze „pokyny a doporučení“, řekl Kris Shashak, technolog a vedoucí pracovník Irské rady pro občanské svobody.
Dodal, že „ostatní země by se mohly chtít přizpůsobit a kopírovat“ pravidla EU.
Zdroj: Getty Images
Jiné země je dohánějí. Británie, která v roce 2020 vystoupila z EU, se uchází o vedoucí postavení v oblasti umělé inteligence. Premiér Rishi Sunak plánuje na podzim uspořádat světový summit o bezpečnosti UI.
„Chci, aby se Velká Británie stala nejen intelektuálním, ale i geografickým domovem globální regulace bezpečnosti AI,“ řekl Sunak tento týden na technologické konferenci.
Na britském summitu se sejdou lidé z „akademické obce, podniků a vlád z celého světa“, aby pracovali na „mnohostranném rámci“, uvedl.
CO BUDE DÁL?
Než pravidla plně vstoupí v platnost, může to trvat několik let. Po hlasování budou následovat třístranná jednání za účasti členských zemí, Parlamentu a Evropské komise, které možná čekají další změny, protože se budou snažit dohodnout na znění.
Konečné schválení se očekává do konce letošního roku, poté bude následovat odkladná lhůta pro společnosti a organizace na přizpůsobení, často kolem dvou let.
Aby Evropa a USA vyplnily mezeru, než legislativa vstoupí v platnost, připravují dobrovolný kodex chování, který úředníci na konci května slíbili, že bude vypracován během několika týdnů a mohl by být rozšířen na další „podobně smýšlející země“.
Úřady po celém světě se snaží omezit umělou inteligenci, a to i v Evropské unii, kde má ve středu projít klíčovou překážkou průlomová legislativa.
Zákonodárci Evropského parlamentu mají o návrhu - včetně kontroverzních pozměňovacích návrhů týkajících se rozpoznávání obličejů - hlasovat a směřovat k jeho schválení.
Již několik let trvající snaha Bruselu o vytvoření ochranných rámců pro umělou inteligenci nabyla na naléhavosti, protože rychlý pokrok v oblasti chatbotů, jako je ChatGPT, ukazuje, jaké výhody může tato nová technologie přinést - a jaká nová nebezpečí představuje.
Zdroj: Shutterstock
Podívejte se na zákon EU o umělé inteligenci:
JAK PRAVIDLA FUNGUJÍ?
Opatření, které bylo poprvé navrženo v roce 2021, bude upravovat jakýkoli výrobek nebo službu, která využívá systém umělé inteligence. Zákon bude klasifikovat systémy umělé inteligence podle čtyř úrovní rizika, od minimálního po nepřijatelné.
Na rizikovější aplikace, například pro najímání zaměstnanců nebo technologie zaměřené na děti, se budou vztahovat přísnější požadavky, včetně větší transparentnosti a používání přesných údajů.
Za porušení budou hrozit pokuty až do výše 30 milionů eur (33 milionů dolarů) nebo 6 % ročních celosvětových příjmů společnosti, což v případě technologických společností, jako jsou Google a Microsoft, může činit miliardy.
Prosazování pravidel bude na 27 členských státech EU.
JAKÁ JSOU RIZIKA?
Jedním z hlavních cílů EU je chránit před jakýmkoli ohrožením zdraví a bezpečnosti ze strany umělé inteligence a chránit základní práva a hodnoty.
To znamená, že některá využití AI jsou absolutně nepřípustná, například systémy "sociálního bodování", které posuzují lidi na základě jejich chování.
Zakázána je také UI, která zneužívá zranitelné osoby, včetně dětí, nebo používá podprahovou manipulaci, která může vést k poškození, například interaktivní mluvící hračka, která podporuje nebezpečné chování.
Zdroj: Getty Images
Zakázány jsou také prediktivní policejní nástroje, které zpracovávají data a předpovídají, kdo spáchá trestný čin.
Zákonodárci posílili původní návrh Evropské komise, výkonné složky EU, rozšířením zákazu rozpoznávání obličeje na dálku a biometrické identifikace na veřejnosti. Tato technologie skenuje kolemjdoucí a pomocí umělé inteligence porovnává jejich obličeje nebo jiné fyzické znaky s databází.
Na poslední chvíli však čelí výzvě poté, co středopravicová strana přidala pozměňovací návrh umožňující výjimky v oblasti prosazování práva, jako je hledání pohřešovaných dětí, identifikace podezřelých z vážných trestných činů nebo předcházení teroristickým hrozbám.
"Nechceme masový dohled, nechceme sociální skóring, nechceme prediktivní policejní dohled v Evropské unii, tečka. To dělá Čína, ne my," řekl v úterý Dragos Tudorache, rumunský poslanec Evropského parlamentu, který spoluvede práci na Aktu o umělé inteligenci.
Na systémy umělé inteligence používané v kategoriích, jako je zaměstnání a vzdělávání, které by ovlivňovaly běh života člověka, se vztahují přísné požadavky, jako je transparentnost vůči uživatelům a přijetí opatření k posouzení a snížení rizik zkreslení ze strany algoritmů.
Většina systémů umělé inteligence, jako jsou videohry nebo spamové filtry, spadá do kategorie s nízkým nebo žádným rizikem, uvádí komise.
CO JE TO CHATGPT?
Původní opatření se o chatbotech téměř nezmiňuje, hlavně tím, že požaduje jejich označení, aby uživatelé věděli, že komunikují se strojem. Vyjednavači později přidali ustanovení, která se vztahují na umělou inteligenci pro obecné účely, jako je ChatGPT, poté, co její popularita prudce vzrostla, a podrobili tuto technologii některým stejným požadavkům jako vysoce rizikové systémy.
Zdroj: Getty Images
Jedním z klíčových dodatků je požadavek na důkladné zdokumentování veškerého materiálu chráněného autorskými právy, který se používá k učení systémů umělé inteligence, jak generovat text, obrázky, video a hudbu, které se podobají lidské práci.
To by tvůrcům obsahu umožnilo zjistit, zda byly jejich příspěvky na blogu, digitální knihy, vědecké články nebo písně použity k trénování algoritmů, které pohánějí systémy jako ChatGPT. Pak by se mohli rozhodnout, zda byla jejich práce zkopírována, a žádat nápravu.
PROČ JSOU PRAVIDLA EU TAK DŮLEŽITÁ?
Evropská unie není velkým hráčem v oblasti špičkového vývoje umělé inteligence. Tuto roli přebírají Spojené státy a Čína. Brusel však často hraje roli určovatele trendů prostřednictvím předpisů, které mají tendenci stát se de facto globálními standardy.
Už jen velikost jednotného trhu EU se 450 miliony spotřebitelů usnadňuje společnostem dodržování předpisů, než aby vyvíjely různé produkty pro různé regiony, říkají odborníci.
Nejedná se však jen o omezení. Stanovením společných pravidel pro umělou inteligenci se Brusel také snaží rozvíjet trh tím, že v uživatelích vzbuzuje důvěru.
"Skutečnost, že se jedná o regulaci, která může být vymáhána a společnosti budou pohnány k odpovědnosti, je významná", protože jiná místa, jako jsou Spojené státy, Singapur a Británie, nabídla pouze "pokyny a doporučení", řekl Kris Shashak, technolog a vedoucí pracovník Irské rady pro občanské svobody.
Dodal, že "ostatní země by se mohly chtít přizpůsobit a kopírovat" pravidla EU.
Zdroj: Getty Images
Jiné země je dohánějí. Británie, která v roce 2020 vystoupila z EU, se uchází o vedoucí postavení v oblasti umělé inteligence. Premiér Rishi Sunak plánuje na podzim uspořádat světový summit o bezpečnosti UI.
"Chci, aby se Velká Británie stala nejen intelektuálním, ale i geografickým domovem globální regulace bezpečnosti AI," řekl Sunak tento týden na technologické konferenci.
Na britském summitu se sejdou lidé z "akademické obce, podniků a vlád z celého světa", aby pracovali na "mnohostranném rámci", uvedl.
CO BUDE DÁL?
Než pravidla plně vstoupí v platnost, může to trvat několik let. Po hlasování budou následovat třístranná jednání za účasti členských zemí, Parlamentu a Evropské komise, které možná čekají další změny, protože se budou snažit dohodnout na znění.
Konečné schválení se očekává do konce letošního roku, poté bude následovat odkladná lhůta pro společnosti a organizace na přizpůsobení, často kolem dvou let.
Aby Evropa a USA vyplnily mezeru, než legislativa vstoupí v platnost, připravují dobrovolný kodex chování, který úředníci na konci května slíbili, že bude vypracován během několika týdnů a mohl by být rozšířen na další "podobně smýšlející země".
