Anthropic hledá pomoc humanitních oborů při formování AI Debata se příliš soustředí na údajné vědomí modelů Humanitní obory musí vůči AI průmyslu zachovat nezávislost Antropomorfizace chatbotů posiluje důvěru i závislost uživatelů Zájem technologických firem o filozofii, teologii a další humanitní obory výrazně roste. Vývojáři nejpokročilejších modelů umělé inteligence už nehledají pouze odborníky na programování nebo strojové učení. Stále častěji oslovují také lidi, kteří se dlouhodobě zabývají morálkou, lidskou přirozeností, vědomím nebo smyslem života. Právě s takovou nabídkou přišla také společnost Anthropic, která pozvala filozofa a teologa do San Franciska k debatě o výzkumném partnerství s duchovními a filozofickými tradicemi. Cílem mělo být využít jejich poznatky při „morálním formování“ systémů umělé inteligence. Na první pohled mohlo jít o důležitý okamžik pro obory, které bývaly veřejností často považovány za nepraktické nebo zastaralé. Filozofie a teologie se najednou ocitly přímo v centru debaty o jedné z nejvlivnějších technologií současnosti. Nabídka však současně vyvolala podezření, zda technologický průmysl skutečně hledá kritickou reflexi, nebo pouze intelektuální podporu pro vlastní způsob uvažování. Spolupráce byla nakonec odmítnuta. Hlavním důvodem nebyl nezájem o dopady umělé inteligence, ale přesvědčení, že diskuse se příliš soustředí na samotné modely a jejich údajný morální status. Mnohem důležitější otázky se přitom týkají uživatelů, koncentrace moci, odpovědnosti, závislosti, osamělosti a dopadů technologií na společnost i životní prostředí. AI firmy se ptají, zda mají modely charakter nebo vědomí Během rozhovorů se pozornost opakovaně obracela k tomu, zda umělá inteligence představuje nový typ entity, který vyžaduje odlišnou metafyziku. Debata se týkala také toho, co by znamenalo, kdyby velký jazykový model měl vlastní „charakter“, jak by se tento charakter měl formovat a zda může chatbot Claude trpět nebo mu může být ublíženo. Takto položené otázky však mohou odvádět pozornost od podstatnějších témat. Místo úvah o možném utrpení modelu by měla být podle kritického pohledu prioritou otázka, jak systémy ovlivňují člověka. Důležité je zkoumat, zda vytvářejí závislost, oslabují mezilidské vztahy, snižují lidskou samostatnost nebo umožňují technologickým společnostem získávat nepřiměřenou moc. Problémem je také způsob, jakým lidé uvnitř AI průmyslu o svých produktech mluví. Nadšení pro vlastní model může postupně přerůst v přesvědčení, že nejde pouze o technický nástroj, ale téměř o samostatnou bytost. Tvůrci pak mohou ke svému systému získat emocionální vztah a začít jej vnímat prostřednictvím lidských vlastností, které ve skutečnosti nemá. Anthropic se veřejně prezentuje jako důvěryhodnější technologická společnost, která chce celý sektor vést k vyšším bezpečnostním a etickým standardům. Její zájem o filozofii, náboženské tradice a morální uvažování do tohoto obrazu zapadá. Přesto však zůstává komerční firmou, jejímž cílem je prodávat produkt. Ani osobní závazky zakladatelů věnovat velkou část majetku na dobročinné účely tuto základní skutečnost nemění. Zapojení humanitních odborníků tak může firmě přinést nejen nové poznatky, ale také intelektuální důvěryhodnost. Společnost může působit odpovědněji, otevřeněji a citlivěji k etickým problémům, aniž by se zároveň změnily základní podmínky, za kterých její technologie vznikají a dostávají se k uživatelům. Lidské označování chatbotů může zvyšovat důvěru i prodejnost Významnou část výzkumu Anthropicu tvoří takzvaná interpretovatelnost umělé inteligence. Výzkumníci se snaží nahlížet do fungování velkých jazykových modelů a popisovat procesy, které probíhají při vytváření odpovědí. Některé zveřejněné práce hovoří o „vnitřním uvažování“, introspekci nebo stavech, které funkčně připomínají radost, strach, uspokojení, smutek či neklid. Takový slovník je však sporný. Funkční podobnost ještě neznamená existenci skutečného prožitku. Model může vytvořit výstup odpovídající lidskému vyjádření radosti nebo strachu, aniž by cokoliv cítil. Bez subjektivity nejsou přítomny skutečné emoce, ale pouze výpočetní proces, který vytváří určité jazykové chování. Antropomorfizace má navíc konkrétní obchodní důsledky. Čím více systém připomíná člověka, tím snáze mu mohou uživatelé důvěřovat. Přátelské jméno, osobní způsob komunikace a jazyk vyvolávající dojem charakteru pomáhají vytvořit emocionální vztah. Model se pak nejen snadněji používá, ale také lépe prodává. Samotné jméno Claude může působit kultivovaně, přívětivě a důvěryhodně. Úplně jinou reakci by mohl vyvolat stejný model, kdyby nesl chladné technické označení. Pojmenování tedy není neutrálním detailem. Podílí se na tom, jak uživatelé systém vnímají a jakou míru lidskosti mu připisují. Anthropic tvrdí, že zůstává otevřený možnosti, že by Claude mohl být vědomý nebo si zasloužit morální ohledy. Současně připouští, že nejde o člověka. Toto upozornění však nemusí být dostatečné, pokud je celý produkt navržen tak, aby komunikoval jako lidská bytost. Uživatel může racionálně vědět, že chatbot není osobou, a přesto k němu postupně vytvářet emocionální vztah. Každodenní konverzace totiž podporuje návyk reagovat na systém jako na lidského partnera. Čím osobnější a přesvědčivější jeho chování je, tím obtížnější může být udržet mezi člověkem a technologií jasnou hranici. Podobný problém se objevuje také v odborném jazyce strojového učení. Vývojáři mluví o neuronech, neuronových sítích, trénování, prořezávání nebo růstu systému. Tyto výrazy pocházejí z biologie a mohou vytvářet dojem, že se model podobá živému organismu. Velké jazykové modely ale žádnou biologii nemají. Nejsou živé, nemají tělo, potřeby, obavy ani zkušenost s průchodem časem a prostorem. Lidské vědomí je neoddělitelně spojeno s organickým životem, tělesností, zranitelností a vztahy. Výpočetní zpracování informací je proto od lidské inteligence odlišné nejen stupněm, ale svou samotnou povahou. Humanitní obory musí zůstat nezávislé na technologickém průmyslu Kritika úvah o vědomí umělé inteligence navazuje také na známý filozofický experiment „čínského pokoje“. Ten ukazuje, že schopnost vytvářet smysluplné výstupy sama o sobě nedokazuje skutečné porozumění. Systém může správně vykonávat určitou funkci, aniž by chápal význam toho, co dělá. Stejné rozlišení lze použít u velkých jazykových modelů. Jejich výstupy mohou být přesvědčivé, složité a jazykově přirozené. To ale ještě neznamená, že model přemýšlí nebo něco prožívá. Sebepopisy chatbotu navíc nejsou spolehlivým důkazem jeho vnitřního života. Model pouze generuje jazyk na základě svého fungování a získaných dat. Tvrzení, že počítače „myslí“, je proto zavádějící. Myslí lidé, kteří počítače používají. Výpočty, řešení problémů a zpracování informací nejsou automaticky totéž jako vědomá inteligence. Právě zde se ukazuje potřeba skutečně nezávislé filozofie, teologie a dalších humanitních disciplín. Pokud technologické společnosti navazují vztahy s univerzitami a jednotlivými odborníky, mohou získat možnost ovlivňovat otázky, které se budou zkoumat. Akademici po letech společenského přehlížení mohou snadno podlehnout prestiži, finanční podpoře nebo pocitu, že jsou konečně považováni za důležité. Takové zapojení však může fungovat jako forma převzetí kritiky. Odborníci dodají technologické firmě intelektuální autoritu a současně se debata soustředí na témata, která jsou pro samotný průmysl výhodná. Otázka, zda má jazykový model vědomí, může znít hluboce, ale zároveň odvádí pozornost od toho, kdo technologii vlastní, kdo z ní profituje, jaké zdroje spotřebovává a co způsobuje jejím uživatelům. Mnohem důležitější je zkoumat, jak různé návrhy chatbotů mění lidské chování. Čím více systém působí jako živá nebo cítící bytost, tím méně svobody může uživatel mít při rozhodování, jaký vztah k němu vytvoří. Výsledkem může být rostoucí skupina lidí, pro které se chatbot stane hlavním důvěrníkem. Současně mohou být osamělejší a závislejší na produktu konkrétní společnosti. Alternativní přístup nabízí dokument Magnifica Humanitas, který zasazuje debatu o umělé inteligenci do širší tradice katolického sociálního učení. Jeho hlavním tématem není morální status stroje, ale ochrana lidské osoby v době umělé inteligence. Technologii neposuzuje izolovaně, nýbrž podle toho, jak ovlivňuje lidskou důstojnost, vztahy, práci, spravedlnost a společné prostředí. Dokument vychází z přesvědčení o nenahraditelné hodnotě člověka. Žádný výpočetní systém podle tohoto přístupu nemůže vytvořit srdce schopné sebeodevzdání ani svědomí, které rozlišuje dobro od zla. Lidská velikost přitom nespočívá pouze v síle nebo výkonnosti, ale také ve zranitelnosti, konečnosti a otevřenosti vůči ostatním. Technologie navíc nikdy není neutrální. Nese v sobě představy lidí, kteří ji navrhují a prodávají. V prostředí Silicon Valley se může prosazovat pohled, který stírá rozdíly mezi člověkem a počítačem a spojuje technologický pokrok s představou překonání lidského těla, slabosti a omezení. Takové uvažování může vést k tomu, že výkonný systém začne působit hodnotněji než nedokonalý člověk. Umělá inteligence se pak nestává pouze nástrojem, ale součástí širší kultury moci, která zachází s přírodou, lidskou prací, jazyky i kulturami jako se surovinami. Provoz AI navíc závisí na rozsáhlé fyzické infrastruktuře s významnými dopady na přírodu a klima. Technologie může soustřeďovat moc, znejasňovat odpovědnost, využívat lidskou tvorbu a prohlubovat osamělost. Právě tyto důsledky by měly být hlavním předmětem společenské a akademické pozornosti. Odmítnutí cesty do San Franciska proto nebylo odmítnutím diskuse o umělé inteligenci. Šlo o požadavek, aby se diskuse vedla jinak a nezůstávala uzavřena v otázkách, které vyhovují technologickému průmyslu. Humanitní obory mají přispět především svou kritickou nezávislostí, nikoliv tím, že poskytnou morální legitimitu produktům, jejichž skutečné dopady zatím nejsou dostatečně prozkoumány.