Složitá nová oblast umělé inteligence, která již zaujala díky ChatGPT, vyvolává obavy z hlediska práva, národní bezpečnosti a občanských práv a již nyní přitahuje zájem budoucích vládních regulačních orgánů. Dokonce i tvůrce ChatGPT Sam Altman se vyslovil pro „regulační zásahy vlád“ s cílem „zmírnit rizika“ umělé inteligence. Pokud je však potřeba regulovat AI jasná, otázka, kdo a jak by to měl dělat, není zdaleka tak zřejmá.
1. Vztahují se v současné době na AI nějaké předpisy USA?
Někteří to dělají po částech. Federální obchodní komise tvrdí, že stávající antimonopolní zákony mohou podpořit spravedlivou hospodářskou soutěž mezi vývojáři umělé inteligence a stávající zákony o reklamě mohou být použity k potrestání přehnaných tvrzení o tom, co produkty založené na umělé inteligenci dokážou. Ministerstvo zdravotnictví a sociálních služeb tvrdí, že může regulovat aplikace AI, které „vedou k diskriminačním výsledkům“ nebo zahrnují výměnu zdravotních informací. Ministerstvo spravedlnosti varovalo, že společnosti, které prodávají algoritmy pro prověřování potenciálních nájemníků, jsou odpovědné podle zákona o spravedlivém bydlení, pokud diskriminují černošské žadatele. Žádný jednotlivý úřad ani žádný konkrétní zákon však neupravuje umělou inteligenci komplexně. Národní poradní výbor pro umělou inteligenci, skupina odborníků zřízená zákonem z roku 2020, v dubnu doporučil prezidentu Joeovi Bidenovi, aby jmenoval koordinátora, který by dohlížel na přístup jeho administrativy k této technologii.
2. Podnikl Biden nějaké kroky?
Pokud jde o určení koordinátora, zatím ne. V říjnu Bílý dům vydal Listinu práv umělé inteligence, která má ovlivnit vývoj a používání této technologie. Žádá Američany, aby se vyjádřili k otázkám, kterými by se vláda měla zabývat.
3. Která agentura by mohla převzít odpovědnost?
Zdroj: Burzovnísvět.cz
Ministerstvo obchodu, které samo sebe označuje za „hlas podnikatelů ve federální vládě“, podniká kroky k regulaci umělé inteligence. Jeho telekomunikační skupina žádá veřejnost o radu, jak minimalizovat škody způsobené touto technologií v konkrétních odvětvích, včetně zdravotnictví a zaměstnanosti. V lednu vědci z ministerstva obchodu navrhli dobrovolné standardy pro organizace, které navrhují nebo zavádějí umělou inteligenci.
4. Jak se věci mají v Kongresu?
Vůdce senátní většiny Chuck Schumer připravuje legislativní podklady pro regulaci umělé inteligence. Podle rámce, který představil v dubnu, by nové technologie umělé inteligence mohly být uvolňovány pouze po testování nezávislými odborníky. Výbory Kongresu uspořádaly slyšení o otázkách AI, včetně obav umělců z možného využití této technologie. Mezi návrhy zákonů, které předložili někteří senátoři, je i takový, který by vládě USA zakázal použít automatizovaný systém k odpálení jaderné zbraně bez přispění člověka; jiný by vyžadoval, aby obrázky generované umělou inteligencí v politických reklamách byly jasně označeny.
5. Co se děje na státní úrovni?
Obecně lze říci, že státní úředníci pracují rychleji než národní představitelé při uplatňování omezení UI, zejména pokud jde o občanská práva. V Kalifornii tvůrci politik sepisují požadavky na řešení rasové zaujatosti v algoritmech, které zaměstnavatelé používají k filtrování uchazečů o zaměstnání. New York zavádí podobná pravidla pro automatizované nástroje pro přijímání zaměstnanců. V Connecticutu by podle návrhu zákona, který prošel senátem státu, museli státní úředníci před použitím nového systému umělé inteligence ověřit, zda neznevýhodňuje ženy. Podle agentury Bloomberg Government bylo v polovině května na posledním legislativním zasedání ve 34 státech a v District of Columbia předloženo nejméně 163 opatření zmiňujících umělou inteligenci. Nejvíce projednávaných návrhů zákonů odkazujících na UI mají New York a Virginie.
6. Jak k tomuto úkolu přistupují ostatní země?
Zdroj: Burzovnísvět.cz
Vedoucí představitelé skupiny G-7, jejíž součástí jsou i Spojené státy, se v květnu dohodli, že budou spolupracovat na systému správy umělé inteligence, který umožní dosáhnout „naší společné vize a cíle důvěryhodné umělé inteligence v souladu s našimi společnými demokratickými hodnotami“. Evropská unie projednává návrh, který by reguloval využívání UI ve všech oblastech, od vymáhání práva až po kritickou infrastrukturu. Zákonodárci EU však chtějí více. Navrhli, aby společnosti, které vytvářejí „základní modely“ – systémy AI, které lze přizpůsobit mnoha aplikacím -, musely vypracovávat posouzení rizik.
7. Proč vlastně potřebuje umělá inteligence regulaci?
Američané již dnes používají umělou inteligenci k psaní projevů, plánování tréninků a (někdy nesprávným) odpovědím na otázky při odborných zkouškách. Další využití umělé inteligence má široké důsledky. Na sociálních sítích se rozšířila falešná fotografie výbuchu poblíž Pentagonu pořízená umělou inteligencí, která na krátkou dobu srazila americké akcie. Podvodníci využívají AI k tomu, aby se vydávali za vnoučata v nouzi a vylákali od starších Američanů tisíce dolarů. A dětští predátoři využívají generativní technologie AI ke sdílení zfalšovaných materiálů o sexuálním zneužívání dětí na internetu. „Jsme svědky opravdu rychlého rozvoje schopností velkých jazykových modelů a dalších fundamentálních modelů, které jednak dokážou spoustu věcí, ale také představují potenciál pro vážné škody, pokud jsou zneužity,“ řekl Daniel Ho, profesor Stanfordovy univerzity, který se zabývá umělou inteligencí.
Složitá nová oblast umělé inteligence, která již zaujala díky ChatGPT, vyvolává obavy z hlediska práva, národní bezpečnosti a občanských práv a již nyní přitahuje zájem budoucích vládních regulačních orgánů. Dokonce i tvůrce ChatGPT Sam Altman se vyslovil pro „regulační zásahy vlád“ s cílem „zmírnit rizika“ umělé inteligence. Pokud je však potřeba regulovat AI jasná, otázka, kdo a jak by to měl dělat, není zdaleka tak zřejmá.1. Vztahují se v současné době na AI nějaké předpisy USA?Někteří to dělají po částech. Federální obchodní komise tvrdí, že stávající antimonopolní zákony mohou podpořit spravedlivou hospodářskou soutěž mezi vývojáři umělé inteligence a stávající zákony o reklamě mohou být použity k potrestání přehnaných tvrzení o tom, co produkty založené na umělé inteligenci dokážou. Ministerstvo zdravotnictví a sociálních služeb tvrdí, že může regulovat aplikace AI, které „vedou k diskriminačním výsledkům“ nebo zahrnují výměnu zdravotních informací. Ministerstvo spravedlnosti varovalo, že společnosti, které prodávají algoritmy pro prověřování potenciálních nájemníků, jsou odpovědné podle zákona o spravedlivém bydlení, pokud diskriminují černošské žadatele. Žádný jednotlivý úřad ani žádný konkrétní zákon však neupravuje umělou inteligenci komplexně. Národní poradní výbor pro umělou inteligenci, skupina odborníků zřízená zákonem z roku 2020, v dubnu doporučil prezidentu Joeovi Bidenovi, aby jmenoval koordinátora, který by dohlížel na přístup jeho administrativy k této technologii.2. Podnikl Biden nějaké kroky?Pokud jde o určení koordinátora, zatím ne. V říjnu Bílý dům vydal Listinu práv umělé inteligence, která má ovlivnit vývoj a používání této technologie. Žádá Američany, aby se vyjádřili k otázkám, kterými by se vláda měla zabývat.3. Která agentura by mohla převzít odpovědnost?Ministerstvo obchodu, které samo sebe označuje za „hlas podnikatelů ve federální vládě“, podniká kroky k regulaci umělé inteligence. Jeho telekomunikační skupina žádá veřejnost o radu, jak minimalizovat škody způsobené touto technologií v konkrétních odvětvích, včetně zdravotnictví a zaměstnanosti. V lednu vědci z ministerstva obchodu navrhli dobrovolné standardy pro organizace, které navrhují nebo zavádějí umělou inteligenci.4. Jak se věci mají v Kongresu?Vůdce senátní většiny Chuck Schumer připravuje legislativní podklady pro regulaci umělé inteligence. Podle rámce, který představil v dubnu, by nové technologie umělé inteligence mohly být uvolňovány pouze po testování nezávislými odborníky. Výbory Kongresu uspořádaly slyšení o otázkách AI, včetně obav umělců z možného využití této technologie. Mezi návrhy zákonů, které předložili někteří senátoři, je i takový, který by vládě USA zakázal použít automatizovaný systém k odpálení jaderné zbraně bez přispění člověka; jiný by vyžadoval, aby obrázky generované umělou inteligencí v politických reklamách byly jasně označeny.5. Co se děje na státní úrovni?Obecně lze říci, že státní úředníci pracují rychleji než národní představitelé při uplatňování omezení UI, zejména pokud jde o občanská práva. V Kalifornii tvůrci politik sepisují požadavky na řešení rasové zaujatosti v algoritmech, které zaměstnavatelé používají k filtrování uchazečů o zaměstnání. New York zavádí podobná pravidla pro automatizované nástroje pro přijímání zaměstnanců. V Connecticutu by podle návrhu zákona, který prošel senátem státu, museli státní úředníci před použitím nového systému umělé inteligence ověřit, zda neznevýhodňuje ženy. Podle agentury Bloomberg Government bylo v polovině května na posledním legislativním zasedání ve 34 státech a v District of Columbia předloženo nejméně 163 opatření zmiňujících umělou inteligenci. Nejvíce projednávaných návrhů zákonů odkazujících na UI mají New York a Virginie.6. Jak k tomuto úkolu přistupují ostatní země?Vedoucí představitelé skupiny G-7, jejíž součástí jsou i Spojené státy, se v květnu dohodli, že budou spolupracovat na systému správy umělé inteligence, který umožní dosáhnout „naší společné vize a cíle důvěryhodné umělé inteligence v souladu s našimi společnými demokratickými hodnotami“. Evropská unie projednává návrh, který by reguloval využívání UI ve všech oblastech, od vymáhání práva až po kritickou infrastrukturu. Zákonodárci EU však chtějí více. Navrhli, aby společnosti, které vytvářejí „základní modely“ – systémy AI, které lze přizpůsobit mnoha aplikacím -, musely vypracovávat posouzení rizik.7. Proč vlastně potřebuje umělá inteligence regulaci?Američané již dnes používají umělou inteligenci k psaní projevů, plánování tréninků a odpovědím na otázky při odborných zkouškách. Další využití umělé inteligence má široké důsledky. Na sociálních sítích se rozšířila falešná fotografie výbuchu poblíž Pentagonu pořízená umělou inteligencí, která na krátkou dobu srazila americké akcie. Podvodníci využívají AI k tomu, aby se vydávali za vnoučata v nouzi a vylákali od starších Američanů tisíce dolarů. A dětští predátoři využívají generativní technologie AI ke sdílení zfalšovaných materiálů o sexuálním zneužívání dětí na internetu. „Jsme svědky opravdu rychlého rozvoje schopností velkých jazykových modelů a dalších fundamentálních modelů, které jednak dokážou spoustu věcí, ale také představují potenciál pro vážné škody, pokud jsou zneužity,“ řekl Daniel Ho, profesor Stanfordovy univerzity, který se zabývá umělou inteligencí.
