Soudní porážky společnosti Meta ukazují, že interní studie o dopadech na uživatele mohou u soudu posloužit jako zničující důkazní materiál. Technologičtí giganti v reakci na úniky informací omezují výzkumné týmy, což ztěžuje nezávislé hodnocení jejich platforem. Odborníci varují, že tvůrci umělé inteligence upřednostňují rychlý vývoj produktů před zkoumáním jejich vlivu na bezpečnost a vývoj dětí.   Zbraň hromadného ničení z vlastních řad Před více než deseti lety začala společnost Meta Platforms (META) , tehdy ještě známá pod jménem Facebook, masivně najímat výzkumníky z oblasti sociálních věd. Hlavním cílem této iniciativy bylo analyzovat, jak služby největší sociální sítě planety reálně ovlivňují její uživatele. Pro firmu i její technologické konkurenty to byl tehdy způsob, jak veřejnosti demonstrovat, že berou pochopení přínosů i potenciálních rizik svých inovací smrtelně vážně. Jak ale jasně ilustrují čerstvé soudní prohry z tohoto týdne, pečlivá práce interních výzkumníků se může velmi rychle proměnit v toxický závazek. Brian Boland, bývalý vysoce postavený manažer Facebooku, který svědčil ve dvou oddělených procesech v Novém Mexiku a Los Angeles, popsal propastný rozdíl mezi realitou a marketingem. Podle jeho slov zničující zjištění z interních dokumentů a výzkumů ostře kontrastovala s tím, jak se korporace prezentovala navenek. Poroty v obou zmíněných procesech dospěly k jednoznačnému závěru. Zjistily, že platforma nedostatečně kontrolovala svůj obsah a vystavila tak dětské uživatele přímému nebezpečí. Členové poroty museli v rámci dokazování vyhodnotit miliony firemních dokumentů, které zahrnovaly e-maily vrcholného managementu, strategické prezentace i samotné interní studie prováděné zaměstnanci. Mezi nejzávažnější důkazy patřily interní průzkumy naznačující, že znepokojivé procento dospívajících uživatelů čelilo na síti Instagram nevyžádaným sexuálním návrhům. Další výzkum, který vedení firmy nakonec raději zastavilo, zase implikoval, že lidé, kteří omezili čas strávený na Facebooku, se cítili méně depresivní a úzkostliví. Právní zástupci žalobců sice nestavěli své argumenty výhradně na těchto interních datech, ale právě tyto studie zásadně posílily jejich pozici ohledně údajné zaviněnosti technologického giganta. Obhajoba se naopak snažila argumentovat tím, že předložené výzkumy jsou zastaralé, vytržené z kontextu a zavádějící. Meta a videoplatforma YouTube, spadající pod mateřskou společnost Alphabet (GOOGL) , která byla rovněž žalovanou stranou v losangeleském procesu, již oznámily, že se proti rozsudkům odvolají. Éra whistleblowerů a mrazivý efekt v Silicon Valley Lisa Strohman, psycholožka a advokátka působící jako expertní konzultantka v případu v Novém Mexiku, se domnívá, že lídři napříč celým technologickým průmyslem podlehli nebezpečné iluzi. Pravděpodobně si mysleli, že mohou interní výzkum využít čistě ve svůj prospěch a získat si tak přízeň široké veřejnosti i regulátorů. Podle jejích slov si však vrcholoví manažeři neuvědomili jednu zásadní věc. Výzkumníci jsou také rodiče a členové rodin, u kterých nelze automaticky předpokládat, že se nechají koupit firemní loajalitou. Jakékoli PR vítězství, které vedení očekávalo, se nakonec obrátilo proti nim v momentě, kdy citlivá data začala unikat na veřejnost. Nejničivější rána přišla v roce 2021. Frances Haugen, bývalá produktová manažerka Facebooku, se stala jedním z nejznámějších whistleblowerů současnosti. Na veřejnost vynesla obrovské množství dokumentů, které naznačovaly, že korporace Marka Zuckerberga velmi dobře věděla o potenciálních škodách, jež její produkty způsobují. Tento moment znamenal podle expertů globální bod zlomu nejen pro samotné firmy, ale i pro tvůrce politik a širokou veřejnost. Společnost v reakci na to začala před několika lety tvrdě omezovat své výzkumné týmy. Průmysl začal systematicky odstraňovat výzkum, který by mohl být vnímán jako kontraproduktivní. Mnoho oddělení zkoumajících údajné škody a související problémy bylo zrušeno. Některé firmy dokonce začaly odstraňovat specifické nástroje a funkce, které dříve využívali výzkumníci třetích stran ke studiu jejich platforem. Sacha Haworth, výkonná ředitelka organizace Tech Oversight Project, upozorňuje, že většina interních výzkumů použitých v aktuálních soudních sporech nepřinesla zcela nová odhalení. Mnohé dokumenty byly zveřejněny již dříve. Soudní procesy však podle ní dodaly chybějící a tolik potřebný kontext prostřednictvím konkrétních e-mailů, přesných slovací, interních marketingových prezentací a memorand. Umělá inteligence na tenkém ledě Nová generace technologických společností, jako jsou OpenAI a Anthropic, zpočátku následovala původní model. Masivně investovaly do výzkumníků, kterým svěřily úkol studovat dopady moderní umělé inteligence na uživatele a publikovat svá zjištění. Nyní se však situace dramaticky mění. Vzhledem k tomu, že umělá inteligence v současnosti přitahuje obrovskou pozornost kvůli škodlivým účinkům na některé uživatele, musí si tyto firmy položit nepříjemnou otázku, zda je v jejich nejlepším zájmu nadále financovat transparentní výzkum, nebo jej raději potlačit. Bývalý manažer Boland vzpomíná na krátké období, kdy měly interní týmy relativně volnou ruku ke zkoumání produktů, což je dnes podle jeho chápání situace již minulostí. Jak se technologický průmysl agresivně tlačí do sféry AI, společnosti začínají viditelně upřednostňovat rychlé uvádění produktů na trh před důkladným výzkumem a bezpečností. Kate Blocker, ředitelka výzkumu v neziskové organizaci Children and Screens, tento trend vnímá s velkým znepokojením. Podobně jako dříve u sociálních sítí je i nyní veřejný vhled do toho, co AI firmy reálně zkoumají, silně omezený. Tvůrci umělé inteligence se v současnosti zaměřují především na studium samotných modelů, jejich chování, interpretovatelnost a sladění s lidskými hodnotami. Podle expertů však existuje propastná mezera ve výzkumu týkajícím se dopadu chatbotů a digitálních asistentů na vývoj dětí. Odborníci proto naléhavě volají po vytvoření systémů transparentnosti a podpory nezávislého hodnocení, aby se neopakovaly stejné historické chyby.