Společnost Meta nám opravdu chce vysvětlit své algoritmy AI

Společnost Meta zveřejňuje nové materiály, ve kterých vysvětluje, jak její doporučovací systém funguje v různých produktech. Spolu s tím také zavádí novou možnost nazvanou "Proč to vidím?" pro Instagram a Facebook Reels a také pro stránku Instagram Explore. Můžete tak pochopit důvod, proč se vám daný příspěvek zobrazuje. Prezident společnosti pro globální záležitosti Nick Clegg v příspěvku na blogu napsal, že společnost chce být transparentnější ohledně svých systémů umělé inteligence a poskytnout uživatelům větší kontrolu nad zobrazovaným obsahem. "Dnes na tento závazek navazujeme a transparentněji informujeme o několika systémech umělé inteligence, které využívají vaši zpětnou vazbu k hodnocení obsahu na Facebooku a Instagramu. Tyto systémy zvyšují pravděpodobnost, že příspěvky, které vidíte, jsou pro vás relevantní a zajímavé," řekl Clegg. Společnost Meta uvedla, že testuje nový systém pro Instagram, který umožňuje označovat příspěvky "Zajímavé", aby se takový obsah zobrazoval častěji. Uživatelé již mohou klepnout na nabídku se třemi tečkami na příspěvku a klepnutím na "Nezajímavé" zobrazit méně příspěvků tohoto druhu. Společnost také uvedla, že pracuje na tom, aby ovládací prvky "Zobrazit více, Zobrazit méně" byly na Facebooku "výraznější". V současné době se k nim dostanete přes nabídku se třemi tečkami na doporučeném navijáku nebo příspěvku. Není jasné, zda Meta tyto ovládací prvky přesune někam jinam. Společnost vydala 22 "systémových karet", které vysvětlují, jak fungují různé systémy, například doporučení pro Facebook Feed, časové osy skupin na Facebooku, navrhovaní lidé a skupiny, doporučení pro Instagram Reels, systém oznámení a umělá inteligence Stories. Tyto karty tato témata rozšiřují na příkladech, ale běžnému uživateli může chvíli trvat, než je přečte a pochopí. Clegg zmínil, že společnost zveřejňuje některé informace o signálech - jako je lajkování nebo sdílení příspěvku - které ovlivňují doporučení uživatele v Centru transparentnosti. Poznamenal však, že společnost opomněla "zveřejnit signály, které by mohly lidem usnadnit obcházení naší ochrany". Souběžně s tím společnost Meta na svém blogu věnovaném umělé inteligenci diskutovala o možnosti vývoje modelů umělé inteligence s "desítkami bilionů" parametrů, což je mnohem více než současná sada modelů ChatGPT a GPT-4. Jak poznamenal Devin Coldewey ve svém článku, takto velké modely mohou vychrlit spoustu datových poznatků o uživateli. "Představte si to: model umělé inteligence stejně velký nebo větší než jakýkoli dosud vytvořený... to, co jde na jednom konci, je každá vaše akce na platformách Meta, to, co vychází na druhém, je předpověď toho, co uděláte nebo se vám bude líbit příště. Trochu děsivé, že?" S takovou kapacitou nemusí některé uživatelské kontroly stačit k zastavení některých doporučení obsahu. V roce 2021 napsal Clegg na serveru Medium příspěvek, ve kterém naznačil, že považuje jednání lidí za stejně zodpovědné jako algoritmy pro zobrazování různého obsahu ve feedu. Uživatelé však ne vždy vědí o všech signálech, které platforma zachycuje, aby mohla trénovat své kanály poháněné umělou inteligencí. Meta také vyzývá výzkumné pracovníky ke studiu svých algoritmů prostřednictvím nové knihovny obsahu a rozhraní API, které zahrnuje veřejné příspěvky, stránky, skupiny a události ze sítě Facebook a také veřejné příspěvky a data od tvůrců a firemních účtů na Instagramu. V posledních několika letech byla společnost Meta podrobena kontrole, pokud jde o způsob, jakým uživatelům navrhuje obsah. V roce 2021 odhalila whistleblowerka Facebooku Frances Haugenová, že algoritmy společnosti mají "nezdravé vedlejší účinky na důležité výseče veřejného obsahu, jako je politika a zpravodajství." Kromě toho Instagram škodí dospívajícím. V loňském roce se musel urovnat s americkým ministerstvem spravedlnosti kvůli algoritmům zobrazování reklamy, které údajně připravovaly uživatele o možnosti bydlení. Instagram ve svém kanálu také rozšiřuje obsah poháněný umělou inteligencí. Mark Zuckerberg ve svém hovoru k výsledkům za 1. čtvrtletí 2023 uvedl, že čas strávený na Instagramu vzrostl o 24 % díky návrhům Rolí podporovaných umělou inteligencí. Generální ředitel Meta uvedl, že cílem společnosti je zvýšit přítomnost takového obsahu tím, že zaplní 30 % feedu algoritmickými doporučeními. Zveřejnění dokumentů a kontrolních mechanismů je poslední snahou společnosti Meta uklidnit regulační orgány a zastánce ochrany soukromí předtím, než společnost prosadí další obsah poháněný umělou inteligencí. S nástupem decentralizovaných platforem, jako jsou Bluesky a Mastodon, se hodně mluví o tom, že byste měli mít určitou kontrolu nad algoritmy, které řídí váš feed. Centrálně řízené platformy jako Instagram a Facebook by se měly inspirovat těmito jinými sociálními sítěmi a nabídnout uživatelům lepší výběr algoritmů a kontrolu nad nimi.