Pokročilá umělá inteligence čelí v Evropě novému regulačnímu tlaku

Skupina zákonodárců, kteří byli pověřeni vypracováním nového návrhu zákona o umělé inteligenci, se podle kopie dopisu, do níž nahlédl deník The Wall Street Journal, zavázala doplnit návrh zákona o ustanovení, jejichž cílem je „řídit vývoj velmi výkonné umělé inteligence směrem, který je zaměřen na člověka, je bezpečný a důvěryhodný“.

„S rychlým vývojem výkonné umělé inteligence vidíme, že je třeba věnovat značnou politickou pozornost,“. Dodávají, že připravovaný návrh zákona EU, který chtějí politici schválit ještě letos, „by mohl sloužit jako vzor pro další regulační iniciativy v různých regulačních tradicích a prostředích po celém světě“.

Prohlášení Evropského parlamentu, které pochází od některých z nejvlivnějších hlasů při tvorbě zákona o umělé inteligenci, dodává nový impuls výzvám některých výzkumných pracovníků a technologů, aby regulační orgány zpomalily nebo pozastavily vývoj velmi výkonných nástrojů umělé inteligence, a to částečně proto, aby regulační orgány mohly dohnat vývoj.

Koncem minulého měsíce podepsala skupina výzkumných pracovníků a vedoucích pracovníků v oblasti umělé inteligence včetně Elona Muska otevřený dopis Future of Life Institute, který vyzval k šestiměsíčnímu moratoriu na výcvik nové generace nástrojů umělé inteligence, aby regulační orgány a průmysl měly čas stanovit bezpečnostní normy. Samostatná skupina odborníků na etiku umělé inteligence a výzkumných pracovníků napsala minulý týden další otevřený dopis, v němž naléhá na EU, aby do něj zahrnula ustanovení, která se týkají možných rizik plynoucích z „umělé inteligence pro všeobecné účely“.

Dragos Tudorache, rumunský poslanec Evropského parlamentu, který spolu s italským poslancem Brandem Benifeiem vede práci tohoto orgánu na Aktu o umělé inteligenci, uvedl, že skupina vypracovala dopis částečně v reakci na dopis Institutu budoucnosti života. Kromě výzvy k pozastavení výcviku pokročilých modelů AI tento dopis popsal jedno z možných rizik plynoucích z AI jako „ztrátu kontroly nad naší civilizací“ a vyzval regulační orgány, aby zintenzivnily práci s vývojáři AI.

„Sdílíme některé obavy vyjádřené v tomto dopise [Institutu], i když nesouhlasíme s některými alarmujícími tvrzeními,“ uvedli zákonodárci EU v dopise. Dodávají, že se domnívají, že regulace může lidstvu pomoci využít výhod umělé inteligence a vyhnout se „náročnějším scénářům budoucnosti“.

„Společně můžeme nasměrovat dějiny správným směrem,“

Debata o návrhu zákona EU o umělé inteligenci se blíží do finále, protože se do ní zapojuje stále více regulačních orgánů po celém světě. Nejvyšší čínský internetový regulátor na začátku tohoto měsíce navrhl pravidla pro kontrolu nástrojů umělé inteligence podobných ChatGPT.

V USA začala Bidenova administrativa zkoumat, zda je třeba tyto nástroje kontrolovat. Minulý měsíc Itálie dočasně zakázala ChatGPT z důvodu ochrany soukromí a Velká Británie vydala dokument, ve kterém navrhuje, aby regulační orgány dohlížely na vývoj umělé inteligence se zaměřením na bezpečnost, transparentnost a spravedlnost nástrojů.

Zatím není jasné, jaká nová ustanovení navrhne Evropský parlament do aktu o umělé inteligenci doplnit. V pondělním dopise se uvádí, že pravidla jsou potřebná pro typ nástrojů umělé inteligence zvaných nadační modely, které se trénují na obrovských souborech dat a jsou základem některých nejnovějších pokroků v oblasti umělé inteligence. Mezi základní modely patří některé rozsáhlé jazykové modely, které stojí za nástroji jako ChatGPT od startupu OpenAI podporovaného společností Microsoft Corp., který dokáže přesvědčivě odpovídat na textové otázky.

Signatáři pondělního dopisu se mají tento týden sejít, aby vyjasnili své návrhy a dohodli se na společném postoji, o němž by v květnu hlasoval celý Parlament. Někteří poslanci Evropského parlamentu v minulosti požadovali mnohem větší transparentnost ohledně toho, jak jsou tyto výkonné nástroje umělé inteligence vytvářeny, požadavky na spravedlnost údajů používaných k jejich vytváření a průběžné audity jejich bezpečnosti a předvídatelnosti.

Poté, co se Evropský parlament dohodne na návrhu, což se očekává příští měsíc, bude jednat s členy Rady EU, která zastupuje členské státy. Rada se koncem loňského roku usnesla na vlastním návrhu Aktu o umělé inteligenci, ale její návrh ponechal na Evropské komisi, výkonné složce bloku, aby stanovila případné konkrétní požadavky na umělou inteligenci pro všeobecné účely. Aby se návrh zákona stal zákonem, musí obě komory odhlasovat kompromisní znění – v což tvůrci politik podle svých slov doufají ještě letos.

Švédská vláda, která radě předsedá, označila tento právní předpis za prioritu a uvedla, že je připravena svolat jednání, jakmile se Parlament dohodne na svém postoji.

Evropská komise si uvědomuje, že je třeba zvážit zvláštní pravidla pro umělou inteligenci pro všeobecné účely, a bude zákonodárce v jejich úsilí podporovat, uvedl jeden z úředníků.

Přidání jakýchkoli nových pravidel do zákona o umělé inteligenci, která by upravovala vývoj nástrojů umělé inteligence pro obecné účely, by znamenalo zásadní změnu přístupu. Doposud se v legislativě uplatňoval přístup, který tvůrci politiky nazývají rizikový, a nejpřísnější pravidla se šetřila pro to, co EU považuje za rizikové aplikace UI, jako je například zákaz většiny policejních aplikací technologie rozpoznávání obličeje. Nová pravidla pro modely základů by se však na tyto technologie vztahovala bez ohledu na to, k jakému konečnému využití by mohly být použity.

Technologické společnosti a jejich lobbisté v minulosti tvrdili, že zákon by se měl zaměřit na konkrétní aplikace umělé inteligence na základě rizik a neměl by vývoj umělé inteligence příliš omezovat, protože by to bránilo inovacím. Někteří technologičtí výzkumníci se však také připojili k akademikům a technologům a vyjádřili podporu pravidlům, která by zpomalila závod společností v zavádění nových pokročilých nástrojů AI.

Současné návrhy zákona by v případě nedodržení ukládaly pokuty až do výše 6 % celosvětových příjmů společnosti.

Pondělní otevřený dopis obsahoval i další, širší výzvy k akci ze strany zákonodárců EU. Vyzvali výkonnou složku EU a prezidenta Bidena, aby svolali celosvětový summit na vysoké úrovni o umělé inteligenci, jehož cílem by bylo dohodnout se na předběžných zásadách, jimiž se bude řídit zavádění této technologie. Navrhli také, aby Rada pro obchod a technologie, orgán USA-EU, který se znovu sejde příští měsíc, na svém příštím zasedání vypracovala program summitu.

Zákonodárci rovněž vyzvali společnosti a laboratoře umělé inteligence, aby „výrazně zvýšily transparentnost vůči regulačním orgánům a dialog s nimi“ a „zajistily, že si udrží kontrolu nad vývojem umělé inteligence, kterou vytvářejí“.

Skupina vlivných zákonodárců EU v otevřeném dopise uvádí, že závratné tempo vývoje umělé inteligence v posledních měsících vyžaduje nový soubor pravidel přizpůsobených výkonným nástrojům umělé inteligence pro všeobecné použití.Skupina zákonodárců, kteří byli pověřeni vypracováním nového návrhu zákona o umělé inteligenci, se podle kopie dopisu, do níž nahlédl deník The Wall Street Journal, zavázala doplnit návrh zákona o ustanovení, jejichž cílem je „řídit vývoj velmi výkonné umělé inteligence směrem, který je zaměřen na člověka, je bezpečný a důvěryhodný“.„S rychlým vývojem výkonné umělé inteligence vidíme, že je třeba věnovat značnou politickou pozornost,“. Dodávají, že připravovaný návrh zákona EU, který chtějí politici schválit ještě letos, „by mohl sloužit jako vzor pro další regulační iniciativy v různých regulačních tradicích a prostředích po celém světě“.Prohlášení Evropského parlamentu, které pochází od některých z nejvlivnějších hlasů při tvorbě zákona o umělé inteligenci, dodává nový impuls výzvám některých výzkumných pracovníků a technologů, aby regulační orgány zpomalily nebo pozastavily vývoj velmi výkonných nástrojů umělé inteligence, a to částečně proto, aby regulační orgány mohly dohnat vývoj.Koncem minulého měsíce podepsala skupina výzkumných pracovníků a vedoucích pracovníků v oblasti umělé inteligence včetně Elona Muska otevřený dopis Future of Life Institute, který vyzval k šestiměsíčnímu moratoriu na výcvik nové generace nástrojů umělé inteligence, aby regulační orgány a průmysl měly čas stanovit bezpečnostní normy. Samostatná skupina odborníků na etiku umělé inteligence a výzkumných pracovníků napsala minulý týden další otevřený dopis, v němž naléhá na EU, aby do něj zahrnula ustanovení, která se týkají možných rizik plynoucích z „umělé inteligence pro všeobecné účely“.Dragos Tudorache, rumunský poslanec Evropského parlamentu, který spolu s italským poslancem Brandem Benifeiem vede práci tohoto orgánu na Aktu o umělé inteligenci, uvedl, že skupina vypracovala dopis částečně v reakci na dopis Institutu budoucnosti života. Kromě výzvy k pozastavení výcviku pokročilých modelů AI tento dopis popsal jedno z možných rizik plynoucích z AI jako „ztrátu kontroly nad naší civilizací“ a vyzval regulační orgány, aby zintenzivnily práci s vývojáři AI.„Sdílíme některé obavy vyjádřené v tomto dopise [Institutu], i když nesouhlasíme s některými alarmujícími tvrzeními,“ uvedli zákonodárci EU v dopise. Dodávají, že se domnívají, že regulace může lidstvu pomoci využít výhod umělé inteligence a vyhnout se „náročnějším scénářům budoucnosti“.Debata o návrhu zákona EU o umělé inteligenci se blíží do finále, protože se do ní zapojuje stále více regulačních orgánů po celém světě. Nejvyšší čínský internetový regulátor na začátku tohoto měsíce navrhl pravidla pro kontrolu nástrojů umělé inteligence podobných ChatGPT.V USA začala Bidenova administrativa zkoumat, zda je třeba tyto nástroje kontrolovat. Minulý měsíc Itálie dočasně zakázala ChatGPT z důvodu ochrany soukromí a Velká Británie vydala dokument, ve kterém navrhuje, aby regulační orgány dohlížely na vývoj umělé inteligence se zaměřením na bezpečnost, transparentnost a spravedlnost nástrojů.Zatím není jasné, jaká nová ustanovení navrhne Evropský parlament do aktu o umělé inteligenci doplnit. V pondělním dopise se uvádí, že pravidla jsou potřebná pro typ nástrojů umělé inteligence zvaných nadační modely, které se trénují na obrovských souborech dat a jsou základem některých nejnovějších pokroků v oblasti umělé inteligence. Mezi základní modely patří některé rozsáhlé jazykové modely, které stojí za nástroji jako ChatGPT od startupu OpenAI podporovaného společností Microsoft Corp., který dokáže přesvědčivě odpovídat na textové otázky.Signatáři pondělního dopisu se mají tento týden sejít, aby vyjasnili své návrhy a dohodli se na společném postoji, o němž by v květnu hlasoval celý Parlament. Někteří poslanci Evropského parlamentu v minulosti požadovali mnohem větší transparentnost ohledně toho, jak jsou tyto výkonné nástroje umělé inteligence vytvářeny, požadavky na spravedlnost údajů používaných k jejich vytváření a průběžné audity jejich bezpečnosti a předvídatelnosti.Poté, co se Evropský parlament dohodne na návrhu, což se očekává příští měsíc, bude jednat s členy Rady EU, která zastupuje členské státy. Rada se koncem loňského roku usnesla na vlastním návrhu Aktu o umělé inteligenci, ale její návrh ponechal na Evropské komisi, výkonné složce bloku, aby stanovila případné konkrétní požadavky na umělou inteligenci pro všeobecné účely. Aby se návrh zákona stal zákonem, musí obě komory odhlasovat kompromisní znění – v což tvůrci politik podle svých slov doufají ještě letos.Švédská vláda, která radě předsedá, označila tento právní předpis za prioritu a uvedla, že je připravena svolat jednání, jakmile se Parlament dohodne na svém postoji.Evropská komise si uvědomuje, že je třeba zvážit zvláštní pravidla pro umělou inteligenci pro všeobecné účely, a bude zákonodárce v jejich úsilí podporovat, uvedl jeden z úředníků.Přidání jakýchkoli nových pravidel do zákona o umělé inteligenci, která by upravovala vývoj nástrojů umělé inteligence pro obecné účely, by znamenalo zásadní změnu přístupu. Doposud se v legislativě uplatňoval přístup, který tvůrci politiky nazývají rizikový, a nejpřísnější pravidla se šetřila pro to, co EU považuje za rizikové aplikace UI, jako je například zákaz většiny policejních aplikací technologie rozpoznávání obličeje. Nová pravidla pro modely základů by se však na tyto technologie vztahovala bez ohledu na to, k jakému konečnému využití by mohly být použity.Technologické společnosti a jejich lobbisté v minulosti tvrdili, že zákon by se měl zaměřit na konkrétní aplikace umělé inteligence na základě rizik a neměl by vývoj umělé inteligence příliš omezovat, protože by to bránilo inovacím. Někteří technologičtí výzkumníci se však také připojili k akademikům a technologům a vyjádřili podporu pravidlům, která by zpomalila závod společností v zavádění nových pokročilých nástrojů AI.Současné návrhy zákona by v případě nedodržení ukládaly pokuty až do výše 6 % celosvětových příjmů společnosti.Pondělní otevřený dopis obsahoval i další, širší výzvy k akci ze strany zákonodárců EU. Vyzvali výkonnou složku EU a prezidenta Bidena, aby svolali celosvětový summit na vysoké úrovni o umělé inteligenci, jehož cílem by bylo dohodnout se na předběžných zásadách, jimiž se bude řídit zavádění této technologie. Navrhli také, aby Rada pro obchod a technologie, orgán USA-EU, který se znovu sejde příští měsíc, na svém příštím zasedání vypracovala program summitu.Zákonodárci rovněž vyzvali společnosti a laboratoře umělé inteligence, aby „výrazně zvýšily transparentnost vůči regulačním orgánům a dialog s nimi“ a „zajistily, že si udrží kontrolu nad vývojem umělé inteligence, kterou vytvářejí“.