Deepfaking: Americké volby v roce 2024 se střetávají s boomem umělé inteligence

"Rona DeSantise mám vlastně moc ráda," prozrazuje Hillary Clintonová v překvapivém videu na internetu. "Je to přesně ten typ člověka, kterého tato země potřebuje, a myslím to opravdu vážně." Joe Biden konečně nechává sklouznout masku a vystupuje s krutou tirádou na adresu transgenderové osoby. "Nikdy nebudeš skutečnou ženou," zavrčí prezident. Vítejte v americkém prezidentském klání v roce 2024, kde se rozhoduje o realitě. Deepfakes Clintonové a Bidena - realistická, ale vymyšlená videa vytvořená algoritmy umělé inteligence na základě velkého množství online záznamů - patří k tisícům videí, která se objevují na sociálních sítích a v polarizovaném světě americké politiky rozmazávají fakta a fikci. Podle rozhovorů agentury Reuters s asi dvěma desítkami odborníků z oborů, jako je umělá inteligence, online dezinformace a politický aktivismus, jsou tato syntetická média známá již několik let, ale v posledním roce se jejich vývoj ještě zvýšil díky řadě nových nástrojů "generativní umělé inteligence", jako je Midjourney, které umožňují levně a snadno vytvářet přesvědčivé falešné informace. "Pro voliče bude velmi obtížné rozlišit skutečné od falešných. A můžete si jen představit, jak by buď Trumpovi, nebo Bidenovi příznivci mohli tuto technologii využít k tomu, aby protivník vypadal špatně," řekl Darrell West, vedoucí pracovník Centra pro technologické inovace Brookingsova institutu. "Těsně před volbami by se mohly objevit věci, které nikdo nebude mít šanci sejmout." Podle Azy Raskinové, spoluzakladatelky neziskové organizace Center for Human Technology, která se zabývá studiem dopadu technologií na společnost, jsou nástroje, které mohou vytvářet falešné informace, uvolňovány bez dostatečných nebo nedokonalých zábran, které by zabránily škodlivým dezinformacím, protože technologický sektor se zapojuje do závodů ve zbrojení umělou inteligencí. Bývalý prezident Donald Trump, který bude s DeSantisem a dalšími kandidáty soupeřit o republikánskou nominaci a utká se s Bidenem, sám začátkem měsíce na své sociální síti Truth Social sdílel zfalšované video s moderátorem CNN Andersonem Cooperem. "To byl prezident Donald J. Trump, který nám tady v živém vysílání CNN v prezidentské radnici natrhl prdel," říká Cooper na záběrech, ačkoli slova neodpovídají jeho pohybu rtů. CNN uvedla, že video bylo falešné. Trumpův zástupce na žádost o komentář ke klipu, který byl ještě tento týden na twitterové stránce jeho syna Donalda juniora, nereagoval. Hlavní platformy sociálních médií, jako je Facebook (NASDAQ:META), Twitter a YouTube, se sice snaží deepfakes zakazovat a odstraňovat, ale jejich efektivita při kontrole takového obsahu se liší. DEEPFAKE PENCE, NE TRUMP Podle společnosti DeepMedia, která pracuje na nástrojích pro odhalování syntetických médií, bylo letos na internetu zveřejněno třikrát více deepfakes videí všeho druhu a osmkrát více deepfakes hlasu než ve stejném období roku 2022. Podle odhadů společnosti DeepMedia bude v roce 2023 na sociálních sítích celosvětově sdíleno celkem asi 500 000 videí a hlasových deepfakes. Klonování hlasu stálo až do konce loňského roku 10 000 dolarů v nákladech na server a trénink umělé inteligence, ale nyní jej startupy nabízejí za pár dolarů, uvádí se v dokumentu. Podle oslovených lidí si nikdo není jistý, kudy vede cesta generativní umělé inteligence a jak se účinně bránit její síle pro masové dezinformace. Přední společnost v oboru OpenAI, která v posledních měsících změnila pravidla hry vydáním ChatGPT a aktualizovaného modelu GPT-4, se sama potýká s tímto problémem. Generální ředitel Sam Altman tento měsíc řekl Kongresu, že integrita voleb je "významnou oblastí zájmu", a vyzval k rychlé regulaci tohoto odvětví. Zdroj: Burzovnísvět.cz Podle analýzy podmínek používání půl tuctu předních společností nabízejících služby generativní umělé inteligence, kterou provedla agentura Reuters, podnikla společnost OpenAI na rozdíl od některých menších startupů kroky k omezení používání svých produktů v politice. Svodidla však mají mezery. Například společnost OpenAI tvrdí, že zakazuje svému generátoru obrázků DALL-E vytvářet veřejné osobnosti - a když se agentura Reuters pokusila vytvořit obrázky Trumpa a Bidena, byl požadavek zablokován a objevila se zpráva, že "nemusí být v souladu s našimi zásadami obsahu". Přesto se agentuře Reuters podařilo vytvořit snímky nejméně tuctu dalších amerických politiků, včetně bývalého viceprezidenta Mikea Pence, který rovněž zvažuje kandidaturu do Bílého domu v roce 2024. Společnost OpenAI rovněž omezuje jakékoli "škálované" použití svých produktů pro politické účely. To například zakazuje používat její umělou inteligenci k hromadnému rozesílání personalizovaných e-mailů voličům. Společnost, za kterou stojí Microsoft (NASDAQ:MSFT), v rozhovoru pro agenturu Reuters vysvětlila svou politickou politiku, ale na další žádosti o komentář ohledně nedostatků v politice, jako je blokování tvorby obrázků politiků, nereagovala. Několik menších startupů nemá výslovná omezení týkající se politického obsahu. Společnost Midjourney, která byla spuštěna v loňském roce, je předním hráčem na poli obrázků generovaných umělou inteligencí a na svém oficiálním serveru Discord má 16 milionů uživatelů. Podle čtyř oslovených výzkumníků a tvůrců umělé inteligence je aplikace, jejíž cena se pohybuje od 60 dolarů měsíčně v závislosti na faktorech, jako je množství obrázků a rychlost, oblíbená mezi designéry a umělci s umělou inteligencí díky schopnosti generovat hyperrealistické obrázky celebrit a politiků. Společnost Midjourney na žádost o komentář k tomuto článku nereagovala. Generální ředitel David Holz minulý týden během online chatu na platformě Discord uvedl, že společnost pravděpodobně provede před volbami změny v boji proti dezinformacím. Společnost Midjourney chce spolupracovat na průmyslovém řešení, které by umožnilo sledovatelnost obrázků generovaných umělou inteligencí pomocí digitální obdoby vodoznaku, a zvažuje blokování obrázků politických kandidátů, dodal Holz. REPUBLIKÁNSKÁ REKLAMA GENEROVANÁ POMOCÍ AI I když se v tomto odvětví řeší, jak zabránit zneužití, někteří političtí hráči se sami snaží využít sílu generativní umělé inteligence k vylepšení kampaní. Zatím jedinou významnou politickou reklamou vytvořenou umělou inteligencí v USA byla reklama, kterou koncem dubna zveřejnil Republikánský národní výbor. Třicetivteřinová reklama, o níž RNC prozradil, že byla kompletně vygenerována umělou inteligencí, používala falešné obrázky, které naznačovaly katastrofický scénář v případě Bidenova znovuzvolení, kdy Čína napadne Tchaj-wan a San Francisco bude uzavřeno zločinem. RNC na žádost o komentář k reklamě ani k širšímu využití umělé inteligence nereagovala. Národní výbor Demokratické strany se k využití této technologie odmítl vyjádřit. Agentura Reuters provedla průzkum mezi všemi republikánskými prezidentskými kampaněmi ohledně využívání umělé inteligence. Většina z nich neodpověděla, ačkoli tým Nikki Haleyové uvedl, že tuto technologii nepoužívá, a kampaň kandidáta Perryho Johnsona uvedla, že AI používá pro "generování a iteraci kopií", aniž by uvedla další podrobnosti. Potenciál generativní umělé inteligence pro tvorbu e-mailů, příspěvků a reklamních kampaní je pro některé aktivisty neodolatelný a domnívají se, že tato levná technologie by mohla vyrovnat podmínky ve volbách. Dokonce i na venkově v Hillsdale v Michiganu je strojová inteligence na pochodu. Zdroj: Burzovnísvět.cz Jon Smith, předseda republikánů v 5. kongresovém obvodu v Michiganu, pořádá několik vzdělávacích setkání, aby se jeho spojenci naučili používat umělou inteligenci pro sociální média a generování reklamy. O využití umělé inteligence se snaží i politické poradenské firmy, které dále znejasňují hranici mezi skutečným a neskutečným. Společnost Numinar Analytics, která se zabývá politickými daty a zaměřuje se na republikánské klienty, začala experimentovat s generováním obsahu s umělou inteligencí pro zvuky a obrázky a také s generováním hlasu pro potenciální vytváření personalizovaných zpráv hlasem kandidáta, uvedl v rozhovoru zakladatel Will Long. Demokratická průzkumná a strategická skupina Honan Strategy Group se mezitím snaží vyvinout průzkumného bota s umělou inteligencí. Generální ředitel Bradley Honan uvedl, že doufá, že se jí podaří vyvinout ženského bota včas před komunálními volbami v roce 2023, a odkázal na výzkumy, podle nichž muži i ženy častěji hovoří s tazatelem ženského pohlaví.