Debaty o budoucnosti lidstva se stále častěji točí kolem hrozby, kterou údajně představují pokročilé technologie. Většina společenských obav z umělé inteligence ve skutečnosti zrcadlí hluboký strach z bezohledného chování velkých korporací Velké organizace fungují jako autonomní superorganismy, které upřednostňují vlastní přežití před zájmy jednotlivců i zakladatelů Vnitrofiremní struktury vykazují silný pasivní odpor vůči technologickým inovacím kvůli touze po bezpečí a předvídatelnosti Nalití obrovské technologické moci do neosobních institucí představuje riziko, pokud jsou jejich hodnoty v rozporu s lidstvem Jak správně poznamenal spisovatel Ted Chiang, většina současných obav z umělé inteligence se dá nejlépe pochopit jako hluboce zakořeněný strach z dravého korporátního kapitalismu. Když si totiž ve svých katastrofických představách představujeme nekompromisní softwarové systémy, které bezohledně optimalizují svět kolem nás až k jeho úplnému zániku, ve skutečnosti přesně popisujeme to, co mnohé velké korporace dělají již celá desetiletí. Pokud je etické nastavení a vnitřní morálka nějaké organizace špatně nastavena, jakákoli nová technologická platforma, kterou takový podnik vytvoří, tuto vnitřní nerovnováhu pouze masivně znásobí. Tyto instituce se postupem času vyvíjejí zcela mimo lidskou kontrolu. Je důležité si položit otázku, zda organizace, na kterých lidem nejvíce záleží, mají jasně definovanou etickou kulturu, nebo zda se pouze bezcílně zmítají v tržním prostředí. Vytvářejí skutečnou hodnotu pro společnost, nebo z ní pouze ekonomicky těží? Většina moderních systémů nakonec končí na stejném místě, s naprosto totožnými a unifikovanými hodnotami, které často potlačují lidský faktor. Selhání inovací uvnitř zavedených firemních struktur Přední konzultanti a autoři se často setkávají s manažery miliardových firem, kteří marně bojují s nepochopitelným interním problémem. Typickým příkladem je situace, kdy zakladatel úspěšného podniku vsadí na obrovský potenciál umělé inteligence a osobně dohlédne na vývoj nového přelomového produktu. Přestože zákazníci po úvodním testování novinku milují a vykazují obrovské nadšení, pokus o komercializaci a masové rozšíření v rámci stávající firemní struktury často kompletně selže. I po šesti měsících intenzivního úsilí se projekt nikam neposouvá, protože obchodní týmy ho neprodávají, vývojáři na něm odmítají pracovat a marketingové oddělení ho aktivně nepropaguje. Vrcholoví manažeři sice formálně potvrzují, že projekt patří mezi klíčové kvartální priority, avšak řadoví zaměstnanci a střední management se mu v každodenní praxi systematicky vyhýbají. Tento vzorec pasivního odporu se prolíná celou strukturou bez toho, aby bylo možné identifikovat konkrétního viníka nebo skupinu, která inovaci aktivně blokuje. Dokonce ani kompletní výměna exekutivy za lídry zapálené pro novou technologickou vizi často nepřinese žádnou reálnou změnu a vnitrofiremní status quo během několika měsíců opět plně zvítězí. Fenomén neviditelné autority a ztráta kontroly nad vlastním dílem Zakladatelé firem často narážejí na neviditelnou zeď odporu ze strany lidí, kteří s nimi podnik budovali. Když úspěšná společnost potřebuje provést strategický pivot, týmy se začnou bránit s argumentem, že nelze riskovat to, co se patnáct let budovalo. Zaměstnanci tak paradoxně chrání majetek, který vznikl pouze díky tomu, že zakladatel na samém začátku podstoupil obrovské riziko, které všichni ostatní považovali za čisté bláznovství. Lidé uvnitř systému se pak ocitají v psychologickém vleku, jako by byli trháni mezi dvěma naprosto protichůdnými autoritami. Tento fenomén popsal spisovatel John Steinbeck ve svém slavném díle Hrozny hněvu. Když byli farmáři během písečných bouří vyháněni ze své půdy, nikdo jim nedokázal dát jasnou odpověď na otázku, kdo o jejich zkáze vlastně rozhodl. Muži provádějící exekuce se odvolávali na správce banky, ten na vzdálené majitele a majitelé na anonymní akcionáře. Každý měl v systému svou jasnou roli, ale nikdo nenesl osobní odpovědnost. Banka byla vykreslena jako monstrum bez tváře, které lidé sice sami stvořili, ale následně nad ním ztratili jakoukoli kontrolu. Stejnému bezpráví čelí i moderní ředitelé. Osobní étos inovací naráží na charakter organizace, která instinktivně vyžaduje bezpečí, jistotu a absolutní předvídatelnost. Korporace jako autonomní superorganismy toužící po přežití Život není definován pouze masem a krví, ale specifickými vlastnostmi, jako je schopnost udržovat hranice vůči okolí, metabolizovat zdroje na energii, růst, adaptovat se a rozmnožovat se. Moderní organizace vykazují každou z těchto vlastností. Udržují jasné právní i kulturní hranice, metabolizují kapitál, talent i suroviny do podoby finálních produktů a služeb. Rostou prostřednictvím náborů a adaptují se na tržní tlaky. Firemní kultura sice vzniká z tisíců každodenních interakcí, ale nelze ji najít v žádné organizační struktuře. Když je systém ohrožen, projeví houževnatost, která spolehlivě přebije preference jakéhokoli jednotlivce. Každá instituce se tak stává autonomním superorganismem, který funguje podle svých vlastních neúprosných pravidel přežití. Pokud dnes mluvíme o hororových scénářích, v nichž autonomní systémy slepě optimalizují procesy bez ohledu na lidské oběti, ve skutečnosti popisujeme chování těchto neosobních institucí. Lidstvo stvořilo systém, který již nedokáže ovládat. Skutečné obavy z umělé inteligence tak pramení z rizika, že nalijeme bezprecedentní technologickou moc do struktur, jejichž základní směřování je již dávno v přímém rozporu s lidským blahem. Pokud chceme změnit budoucnost, nesmíme se ptát pouze na to, co optimalizují naše stroje, ale musíme stejnou otázku položit našim organizacím.