Meta urychluje přechod na moderování pomocí AI. Klíčové body Meta Platforms (META) nahrazuje moderátory velkými jazykovými modely AI už zpracovává polovinu moderátorských rozhodnutí Firma tvrdí, že AI dělá méně chyb Přechod vede k propouštění externích pracovníků Společnost Meta Platforms (META) , která stojí za Facebookem a Instagramem, výrazně urychluje využívání generativní umělé inteligence při moderování obsahu. Firma se snaží omezit závislost na lidských moderátorech a stále více spoléhá na velké jazykové modely (LLM), které mají posuzovat příspěvky, reklamy i odvolání uživatelů. Zdroj: Shutterstock Tento krok přichází v době, kdy generální ředitel Mark Zuckerberg investuje miliardy dolarů do vývoje pokročilé umělé inteligence a budování infrastruktury potřebné pro projekt, který označuje jako „osobní superinteligenci“. Současně se Meta snaží hledat úspory v dalších částech svého podnikání. Podle informací lidí obeznámených se situací již letos společnost nahradila přibližně 50 % žádostí o lidské posouzení systémy založenými na velkých jazykových modelech. Do konce roku chce tento podíl dále zvýšit a u některých typů obsahu by mohl přesáhnout 90 %. Meta dlouhodobě využívá kombinaci automatizovaných nástrojů a lidských moderátorů, včetně externích dodavatelů. Právě lidské týmy dosud hrály klíčovou roli zejména při řešení odvolání uživatelů proti rozhodnutím o odstranění obsahu nebo omezení účtů. Společnost však tvrdí, že hlavním cílem změny není snižování nákladů, ale efektivnější využití rychle se vyvíjejících technologií. Podle firmy dosavadní testy ukázaly, že velké jazykové modely při vymáhání pravidel vykazují v průměru o 13 % méně chyb než lidští moderátoři a současně odhalí o 10 % více skutečných porušení pravidel. Meta uvedla, že nové systémy nasazuje pouze tehdy, pokud dlouhodobě prokazují lepší výsledky než stávající metody moderování. Miliardové investice do AI vytvářejí tlak na úspory Rozšiřování automatizace přichází v období, kdy Meta masivně investuje do vývoje umělé inteligence. Zuckerberg opakovaně zdůrazňuje ambice vybudovat vysoce personalizované AI produkty a digitální asistenty, kteří budou schopni vykonávat stále složitější úkoly. Tyto investice se netýkají pouze vývoje modelů, ale také náboru špičkových odborníků a budování výpočetní infrastruktury. Náklady na tento směr podnikání rostou velmi rychle, což vytváří tlak na efektivnější fungování ostatních částí firmy. Několik lidí obeznámených s interním fungováním společnosti uvedlo, že Meta zároveň využívá AI k automatizaci dalších procesů, včetně programování a interních pracovních postupů. Firma v posledních letech také prošla několika koly propouštění a reorganizací, což se podle zaměstnanců negativně promítlo do morálky uvnitř společnosti. V oblasti moderování Meta dosud využívala především model Gemini od společnosti Google (GOOGL). Zaměstnanci však podle dostupných informací dostali pokyn postupně přecházet na nový základní model společnosti Meta nazvaný Muse Spark. Tradiční systémy moderování založené na strojovém učení mají často problémy s interpretací složitějšího kontextu. Obtížněji rozpoznávají například satiru, ironii nebo rychle se měnící jazykové výrazy. Meta věří, že právě velké jazykové modely dokážou tyto situace vyhodnocovat přesněji. Další výhodou má být rychlejší reakce na porušení pravidel a schopnost pokrýt větší počet jazyků. Díky rozsáhlému tréninku na obrovském množství textů by měly být nové modely flexibilnější než starší automatizované systémy. Zaměstnanci upozorňují na rizika a nedostatečný dohled Přestože vedení společnosti prezentuje výsledky testování pozitivně, uvnitř firmy se objevují také obavy. Někteří zaměstnanci upozorňují, že zavádění moderování pomocí LLM probíhá rychleji, než by odpovídalo současné úrovni spolehlivosti technologie. Podle jednoho ze zaměstnanců systémy stále dělají chyby a někdy odstraňují nebo omezují obsah, který pravidla ve skutečnosti neporušuje. Mezi problematické případy patří například neoprávněné odstranění příspěvků nebo jejich takzvaný shadow ban, kdy se obsah sice nezobrazí jako smazaný, ale přestane být doporučován ostatním uživatelům. Další zdroje uvedly, že Meta zatím dostatečně nevyřešila způsob měření výkonu těchto systémů. Společnost s tímto hodnocením nesouhlasí a tvrdí, že má zavedené robustní procesy řízení i průběžného vyhodnocování kvality. Bývalý zaměstnanec společnosti uvedl, že současný rychlý přechod umožnila rozsáhlá databáze historických rozhodnutí lidských moderátorů. Právě na těchto datech mohla Meta své modely dále trénovat a zlepšovat. Ani po rozsáhlém nasazení umělé inteligence však nemají lidé z procesu úplně zmizet. Firma podle dostupných informací stále plánuje kontrolovat část rozhodnutí prostřednictvím lidských pracovníků, kteří budou ověřovat přesnost odpovědí generovaných AI. Meta zároveň připomíná, že ani lidská moderace není bezchybná a že nové systémy mají být pouze dalším krokem ve vývoji moderování obsahu. Propouštění, podvody a nové právní problémy Přechod na AI už nyní začíná mít dopad na pracovní místa. Několik zdrojů uvedlo, že změny vedou především k propouštění externích pracovníků a kontraktorů. Meta má navíc zvažovat omezení nebo úplné ukončení některých budoucích smluv s externími firmami poskytujícími moderátorské služby. Citlivou oblast představuje také reklamní byznys společnosti. Meta čelí dlouhodobé kritice kvůli množství podvodných reklam, které se na jejích platformách objevují. Zdroj: Shutterstock Interní prognóza společnosti z minulého roku údajně počítala s tím, že přibližně 10 % ročních příjmů, tedy zhruba 16 miliard dolarů, bude pocházet z reklam souvisejících s podvody nebo zakázaným zbožím. Firma zároveň čelí několika právním sporům týkajícím se podvodných reklam. Žaloby proti společnosti podali například představitelé okresu Santa Clara v Kalifornii nebo australský těžební magnát Andrew Forrest. Další komplikace se objevily také na Instagramu. Začátkem června byly desetitisíce účtů napadeny hackery, kteří podle dostupných informací zneužili zákaznického chatbota poháněného umělou inteligencí. Událost vyvolala kritiku části uživatelů a znovu otevřela debatu o tom, zda je současné tempo nasazování AI skutečně bezpečné. Meta však pokračuje v přesvědčení, že budoucnost moderování obsahu bude stále více založena na umělé inteligenci. Otázkou zůstává, zda se firmě podaří dosáhnout vyšší efektivity bez toho, aby zároveň narostl počet chybných rozhodnutí a nových bezpečnostních problémů.