Zákonodárci EU zvažují odstupňovaný přístup k regulaci generativní umělé inteligence

Doufáme tedy, že se do konce roku podaří dosáhnout konečné shody na návrhu zákona bloku o regulaci umělé inteligence.

„Je to poslední věc, která v jednání ještě zůstává,“ říká v rozhovoru pro TechCrunch Dragos Tudorache, spoluzpravodaj Aktu EU o umělé inteligenci, když hovoří o jednání poslanců Evropského parlamentu o generativní umělé inteligenci. „Právě teď, když spolu mluvíme, křížkujeme poslední ‚T‘ a děláme tečky za posledními ‚I‘. A někdy příští týden doufám, že to skutečně uzavřeme – což znamená, že někdy v květnu budeme hlasovat.“

Rada přijala svůj postoj k nařízení již v prosinci. Členské státy však většinou upřednostňovaly odklad řešení generativní umělé inteligence na další prováděcí právní předpisy, poslanci Evropského parlamentu však zřejmě navrhnou, aby byly do samotného aktu doplněny tvrdé požadavky.

V posledních měsících lobbisté technologických gigantů samozřejmě prosazují opačný směr a společnosti jako Google a Microsoft se zasazují o to, aby generativní umělá inteligence získala regulační výjimku z připravovaných pravidel EU pro umělou inteligenci.

Jak to nakonec dopadne, zatím není známo. Když však Tudorache hovoří o tom, jaký bude pravděpodobně postoj parlamentu ke generativním technologiím umělé inteligence v zákoně, naznačuje, že poslanci se přiklánějí k vícevrstvému přístupu – ve skutečnosti ke třem vrstvám – jedna se týká odpovědnosti v celém hodnotovém řetězci umělé inteligence, druhá zajišťuje, že základní modely dostanou určité ochranné prvky, a třetí řeší konkrétní obsahové otázky spojené s generativními modely, jako je například ChatGPT společnosti OpenAI.

Podle současných úvah poslanců Evropského parlamentu by se jedna z těchto tří vrstev vztahovala na všechny umělé inteligence pro všeobecné účely (GPAI) – ať už jde o velké nebo malé, základní nebo nezakladní modely – a byla by zaměřena na regulaci vztahů v hodnotovém řetězci umělé inteligence.

„Domníváme se, že je třeba stanovit pravidla, která by říkala, že subjekt A, který uvede na trh UI pro všeobecné účely, má povinnost vůči subjektu B, který tuto UI pro všeobecné účely koupí a skutečně jí dá nějaký účel,“ vysvětluje. „Protože jí dává účel, který se může stát vysoce rizikovým, potřebuje určité informace. Aby dodržel [zákon o UI], musí vysvětlit, jak byl model vycvičen. Přesnost datových sad od zkreslení [atd.].“

Druhá navrhovaná vrstva by se týkala základních modelů – stanovením některých konkrétních povinností pro tvůrce těchto základních modelů.

„Vzhledem k jejich síle, způsobu výcviku a všestrannosti se domníváme, že poskytovatelé těchto základních modelů musí udělat určité věci – a to jak ex ante…, tak i během životnosti modelu,“ říká. „A to souvisí s transparentností, souvisí to opět s tím, jak trénují, jak testují před uvedením na trh. Takže v podstatě jde o to, jaká je úroveň pečlivosti, odpovědnost, kterou mají jako vývojáři těchto modelů.“

Třetí vrstva, kterou navrhují poslanci Evropského parlamentu, by se zaměřila konkrétně na generativní umělé inteligence – tedy na podmnožinu GPAI/základních modelů, jako jsou velké jazykové modely nebo generativní umělé inteligence v oblasti umění a hudby. Zde zákonodárci pracující na stanovení mandátu parlamentu zastávají názor, že tyto nástroje potřebují ještě specifičtější odpovědnost; jak pokud jde o typ obsahu, který mohou vytvářet (s prvními riziky, která vznikají v souvislosti s dezinformacemi a pomluvami), tak v souvislosti s ožehavou (a stále častěji soudně řešenou) otázkou materiálů chráněných autorskými právy, které se používají k výcviku UI.

„Nevymýšlíme nový režim autorského práva, protože autorský zákon již existuje. To, co říkáme… je, že musí existovat dokumentace a transparentnost o materiálu, který vývojář použil při školení modelu,“ zdůrazňuje. „Aby potom nositelé těchto práv… mohli říct hele, počkej, co jsi použil moje data, použil jsi moje písničky, použil jsi můj vědecký článek – no, děkuji pěkně, že to bylo chráněno zákonem, tudíž mi něco dlužíš – nebo ne. K tomu využije stávající autorské právo. To v zákoně o umělé inteligenci nenahrazujeme ani neděláme. Pouze to vnášíme dovnitř.“

Komise navrhla návrh právních předpisů o umělé inteligenci před dvěma lety a stanovila v něm přístup k regulaci aplikací umělé inteligence založený na rizicích a uložila spoluzákonodárcům bloku, Parlamentu a Radě, nemalý úkol přijmout první horizontální nařízení o umělé inteligenci na světě.

Přijetí tohoto plánovaného souboru pravidel EU pro umělou inteligenci je ještě v nedohlednu. Podle Tudoracheho však dochází k pokroku a dohoda mezi poslanci Evropského parlamentu a členskými státy o konečném znění by mohla být uzavřena do konce roku, přičemž upozorňuje, že Španělsko, které v červenci převezme rotující šestiměsíční předsednictví Rady, je ochotné tento dokument připravit. Zároveň však připouští, že mezi poslanci Evropského parlamentu a členskými státy bude pravděpodobně ještě mnoho sporných bodů, které bude třeba vyřešit. Konečný časový harmonogram tak zůstává nejistý. (A předpovídat, jak budou probíhat trialogy EU za zavřenými dveřmi, není nikdy přesná věda.)

Jedno je jisté: tato snaha je na místě – vzhledem k tomu, jak v posledních měsících vzrostl zájem o umělou inteligenci díky vývoji výkonných generativních nástrojů umělé inteligence, jako jsou DALL-E a ChatGPT.