Na akci se diskutovalo o strategiích, které podnikly společnosti jako OpenAI, aby zabránily politickému zneužití nástrojů umělé inteligence, jako je ChatGPT. V diskusi na akci agentury Bloomberg v rámci fóra se generální ředitel společnosti OpenAI Sam Altman podělil o aspirace na odvrácení dezinformací v nadcházejícím volebním roce v USA.

I když jsou tyto snahy chvályhodné, je důležité mít na paměti, že tradiční sociální média mají stále velký vliv na narušování politického prostoru, konkrétně voleb. Rozsah vlivu umělé inteligence bude možné posoudit na základě zkoumání toho, jak se všudypřítomné deepfakes šíří na hlavních platformách, jako jsou Facebook, Twitter a TikTok. Dopady by mohlo být náročnější sledovat, než v předchozích amerických volbách kvůli potenciálu virálního šíření zavádějícího obsahu.

Nedávné události na Facebooku vrhají světlo na závažnost tohoto problému. V prosinci 2021 se přibližně 100 videoreklam na Facebooku dostalo k desítkám tisíc obyvatel Spojeného království. Tyto reklamy obsahovaly deepfake video, v němž britský premiér Rishi Sunak podporoval podvod na burze. Video, prezentované jako zpravodajství BBC, tvrdilo, že Sunak nashromáždil obrovské příjmy ze společného projektu s Elonem Muskem.

Ve skutečnosti byla celá sestava podvodná. Nic netušící oběti byly zavedeny na webovou stránku, kde se zaregistrovaly do falešné platformy “kvantové umělé inteligence”. Krátce poté jim měli zavolat podvodníci a přesvědčit oběti, aby investovaly do bitcoinu. Marcus Beard, bývalý komunikační důstojník britské vlády, který se stal konzultantem, tyto klamavé reklamy objevil. O několik týdnů později by podvodníci oběti kontaktovali znovu, ujišťovali by je, že se jejich investice znásobily, a vyzývali by je k dalším investicím, než by nakonec zmizeli.

Ačkoli Facebook tvrdil, že většina těchto deepfake reklam byla deaktivována, vytrvale se znovu objevují. Podle Bearda si tyto podvodné reklamy jen v prosinci mohlo prohlédnout až 400 000 lidí.

Je zásadní zdůraznit, že ne všechen klamavý obsah je vytvořen s politickými motivy. Často se jedná o triky oportunistů, kteří se snaží rychle vydělat. Dezinformace však mohou významně ovlivnit názory veřejnosti.

Před americkými volbami v roce 2016 si skupina teenagerů z Makedonie výrazně vydělala šířením nepravdivých článků o Clintonových a Donaldu Trumpovi na sociálních sítích. Studie Stanfordovy univerzity ukázala, že během tří měsíců před volbami v roce 2016 byly falešné příběhy ve prospěch Trumpa sdíleny 30 milionkrát, což je téměř čtyřnásobek sdílení ve prospěch Hillary Clintonové.

V současné době Facebook snižuje viditelnost zpráv (de-ranking) ve feedech uživatelů. Místo toho se nyní uživatelům častěji zobrazují náhodná zábavná krátká videa od neznámých lidí na Reels, platformě Facebooku podobné TikToku. Tato videa mají potenciál stát se novým médiem pro šíření dezinformací.

Kromě Facebooku jsou potenciálně zranitelné i další platformy, například TikTok. “Obáváme se, že tyto [deepfakes] zachytí influenceři TikToku,” říká Beard. Problém se umocňuje, když jsou deepfakes přenášeny z jedné platformy na druhou – tento proces Beard označuje jako “praní obsahu”.

Twitter (v současnosti známý jako X) by také mohl být potenciálně pomalý při prosazování svých zásad proti dezinformacím. Ačkoli platforma zakazuje politické dezinformace, zdráhala se odstranit samostatný klip s hlasem předsedy britské Labouristické strany Keira Starmera, který byl vytvořen umělou inteligencí. Navzdory vyvrácení předními politickými stranami ve Spojeném království a nezávislou organizací Full Fact, která ověřuje fakta, klip na platformě zůstává.

Facebook učinil chvályhodný krok směrem k transparentnosti tím, že odhalil svou knihovnu reklam, a k podobným krokům bychom měli vybídnout i Twitter a TikTok. Musí však také revidovat své zásady týkající se zavádějících zvukových záznamů a zlepšit monitorování deepfake reklam zneužívajících politiky.

Deepfake obsah, který je v současné době v oběhu, se bude rychle množit. Odpovědnost za jeho zvládnutí bude ležet na strážcích těchto sociálních platforem, jako jsou Mark Zuckerberg, Musk a další. Zuřivá snaha o získání pozornosti během volebního roku ze strany politických stran, influencerů, zpravodajských agentur a online podvodníků vyžaduje jejich ostražitost více než kdy jindy. Počáteční obavy vyzdvižené v Davosu se musí proměnit v činy v boji proti rostoucí vlně dezinformací generovaných umělou inteligencí, která se vznáší nad demokratickými procesy po celém světě.