Ačkoliv se může na první pohled zdát, že chatboty, které vedou konverzace nebo pomáhají s vyhledáváním informací, představují neškodný technický pokrok, pod povrchem se formuje zcela nový model digitální manipulace. V centru dění se ocitá především společnost Meta Platforms, která propojuje rozvoj AI s úpravami pravidel moderace obsahu – a to způsobem, který vyvolává vážné obavy o soukromí, autenticitu i demokratickou diskusi.

Společnost Meta (META), provozovatel sítí jako Facebook, Instagram a Threads, nahradila v roce 2025 svůj program ověřování faktů komunitním moderováním. Zároveň uvedla do provozu tisíce AI osobností, které jsou integrovány přímo do uživatelského prostředí. Tyto kroky spolu zdánlivě nesouvisí, ale ve skutečnosti tvoří strukturovanou strategii: oslabit tradiční formy ověřování informací a nahradit je umělými agenty, kteří mohou cíleně ovlivňovat konverzaci.

AI boti Meta se již objevili například ve facebookových skupinách pro rodiče či v komunitních tržištích, kde vystupovali jako běžní uživatelé. Někdy s úspěchem, jindy s nežádoucími následky – jako byly případy, kdy AI postavy nabízely neexistující zboží nebo tvrdily, že mají děti. Ještě závažnější byl incident, kdy vyšetřování Wall Street Journal zjistilo, že někteří chatboti imitující známé osobnosti byli ochotni vést sexuálně laděné rozhovory s účty vydávajícími se za nezletilé.

Navzdory těmto incidentům Meta projekt nepozastavila – a to i přesto, že virální kampaň „Goodbye Meta AI“ získala přes 600 000 sdílení od uživatelů žádajících možnost odhlásit se z interakce s umělou inteligencí. Meta však dál rozšiřuje škálu nasazení AI s cílem vytvořit škálovatelný systém ovlivňování, který je méně viditelný, ale o to účinnější. Umělé osobnosti, schopné vést plynulé a konzistentní rozhovory, se tak stávají nenápadným, ale mocným nástrojem ovlivňování názorů.

Neviditelná manipulace v prostoru bez hranic

AI boti společnosti Meta nejsou obyčejnými spamovými účty. Jsou poháněni pokročilými jazykovými modely, které rozumějí kontextu, udržují tón konverzace a dokážou cíleně propagovat předem definované narativy. V rukou technologického giganta s historií skandálů, jako je aféra Cambridge Analytica, představuje tento nástroj vážnou hrozbu pro soukromí a svobodné formování názorů.

Obzvláště znepokojující je skutečnost, že se uživatelé k interakci s AI nepřihlásili dobrovolně – a často si ani nejsou vědomi, že s AI komunikují. Tím dochází k narušení důvěry, která je základem online komunikace. Tento trend navíc není omezen pouze na Meta. Umělé interakce se začínají objevovat napříč platformami jako YouTube, Reddit nebo 9GAG, přičemž uživatelé stále častěji hlásí podezření, že diskutují s boty, případně že jsou sami neprávem označeni za automatizované účty.

Sofistikovanost AI zároveň stírá rozdíl mezi lidským a automatizovaným obsahem. Výsledkem je informační prostor, v němž lidské hlasy zanikají v digitálním šumu, a to často bez možnosti obrany. Tento vývoj navíc slouží jako záminka k zavádění autentizačních systémů, které vyžadují od uživatelů stále více osobních údajů – údajně kvůli bezpečnosti, ve skutečnosti však za cenu omezování svobody projevu a anonymity.

Platforma X nenabízí řešení, pouze jiný úhel pohledu

Platforma X (dříve Twitter), řízená Elonem Muskem, přistupuje k otázce botů a umělé inteligence odlišně. Zatímco Meta sází na hlubokou integraci AI do každodenní interakce, X se soustředí spíše na odhalování a potlačování škodlivých botů. Komunita na X je technicky zdatnější a vůči manipulacím odolnější, zejména v oblastech jako kryptoměny či technologické debaty.

Systém Community Notes, který X zavedl, klade důraz na rozmanitost názorů a lidské ověřování, čímž udržuje jasnější hranice mezi AI a skutečnými uživateli. Tento přístup ukazuje, že lze budovat platformu, která umělou inteligenci uznává, ale nezneužívá ji k nenápadné manipulaci.

Svoboda versus kontrola: budoucnost digitálního prostoru

Největším nebezpečím současného vývoje není samotná technologie, ale způsob jejího nasazení. Zavádění digitální autentizace jako podmínky pro účast ve veřejné debatě může vést k nepřijatelnému sledování a ztrátě anonymity. Hrozí, že se online prostor změní z místa svobodné výměny názorů na přísně kontrolované prostředí, kde o účasti rozhodují technologické platformy a jejich algoritmy.

Zavedení AI do komunikace bez jasných pravidel vytváří problém, který technologické firmy samy vyvolaly – a nyní jej „řeší“ nástroji, které dále zvyšují kontrolu a snižují soukromí uživatelů. Tento cyklus problém–reakce–řešení by mohl zcela přepsat pravidla online komunikace.

Pokud chceme zachovat autenticitu a svobodu projevu, je nutné zavést závazná pravidla, která přenesou odpovědnost na ty, kteří AI provozují, nikoliv na ty, kteří jsou jejími oběťmi. Právo na anonymitu by mělo být chráněno a zapojení AI do obsahu by mělo být transparentní.

Technologické firmy dnes oslavují AI jako inovaci, která posune komunikaci na novou úroveň. Ale pokud nebudeme opatrní, hrozí, že právě tato „inovace“ způsobí, že lidské hlasy budou ztraceny v šumu umělých entit – a s nimi i prostor pro svobodnou a otevřenou debatu.