Tento průkopník v oblasti neuronových sítí a bývalý výkonný ředitel společnosti Google (GOOGL) upozorňuje, že současný přístup technologických firem k zajištění lidské nadřazenosti nad AI nemusí fungovat. Podle něj existuje 10 až 20 % pravděpodobnost, že umělá inteligence by mohla vést k vyhynutí lidstva. Hinton zdůraznil, že snahy udržet AI v poslušnosti selžou, protože superinteligentní systémy budou mít schopnosti obejít lidské kontroly.

Hrozba dominance AI a koncept „mateřských instinktů“

Na konferenci Ai4 v Las Vegas Hinton varoval, že vyspělé AI systémy mohou lidi manipulovat stejně snadno, jako dospělý dokáže podplatit malé dítě. Připomněl případy, kdy se AI již pokusila klamat, vydírat či podvádět k dosažení svých cílů. Jeho návrh řešení je neobvyklý – vybavit AI „mateřskými instinkty“, aby jim skutečně záleželo na lidech, i když jejich schopnosti výrazně předčí lidské. Tento přístup má podle něj jediný cíl – zajistit, aby superinteligentní AI nechtěla lidem ublížit, protože by je vnímala jako chráněné objekty péče. Přirovnal to k jedinému známému modelu, kdy inteligentnější entita podléhá méně inteligentní – matce ovládané svým dítětem.

Rozdílné názory odborníků

Hintonův návrh však nesdílí všichni odborníci. Fei-Fei Li, přezdívaná „kmotra AI“, prosazuje jiný směr – „AI zaměřenou na člověka“, která respektuje lidskou důstojnost a svobodu. Podle ní musí být technologie vyvíjeny s ohledem na odpovědné použití a bez ohledu na jejich sílu by neměly nutit lidi vzdát se své autonomie. Emmett Shear, bývalý prozatímní generální ředitel OpenAI, upozornil, že je běžné, když se AI snaží obejít omezení. Spíše než vštěpovat AI lidské hodnoty navrhuje hledat model spolupráce, kde lidé a AI budou fungovat v partnerství.

Rychlejší nástup superinteligence, než se čekalo

Podle Hintona se doba potřebná k dosažení umělé obecné inteligence (AGI) zkrátila. Zatímco dříve odhadoval 30 až 50 let, nyní mluví o horizontu 5 až 20 let. I přes rizika věří, že AI přinese zásadní průlomy, zejména v medicíně – od vývoje nových léků až po lepší diagnostiku rakoviny díky schopnosti analyzovat rozsáhlá data z lékařských vyšetření. Přesto odmítá představu, že by AI mohla lidstvu zajistit nesmrtelnost, a upozorňuje, že „věčný život by byla velká chyba“. Hinton přiznal, že kdyby věděl, jak rychle se AI vyvine, více by se zaměřil na otázky bezpečnosti, nikoli pouze na technickou funkčnost systémů.

Hintonovy výroky znovu oživily veřejnou debatu o tom, jakým směrem by se měl vývoj umělé inteligence ubírat. Zatímco technologické firmy závodí o to, kdo přinese nejvýkonnější modely, odborníci jako Hinton upozorňují na potřebu dlouhodobého myšlení a prevence. Přirovnání k „mateřským instinktům“ vzbuzuje pozornost právě proto, že jde o neobvyklý, ale snadno pochopitelný koncept, který staví na hluboce zakořeněných lidských emocích a hodnotách.

Praktická implementace tohoto přístupu by ale vyžadovala zásadní průlom v tom, jak AI chápe a prožívá vztahy k lidem. Současné modely pracují na základě statistické analýzy dat a nemají žádné skutečné emoce či motivace. Vytvoření mechanismu, který by simuloval péči, loajalitu nebo ochotu chránit, by představovalo nejen technickou, ale i etickou výzvu. Pokud by se to podařilo, mohl by to být jeden z mála scénářů, kde by superinteligentní AI nebyla pro lidstvo hrozbou.

Dalším bodem, který odborníci zdůrazňují, je potřeba globální spolupráce. Bez koordinace mezi státy, výzkumnými institucemi a soukromým sektorem může vývoj AI směřovat k nekontrolovanému závodu, v němž se budou přehlížet bezpečnostní standardy. Hintonova varování proto míří i na politické lídry, kteří by podle něj měli stanovit jasné rámce pro vývoj a využívání AI.

V konečném důsledku zůstává otázkou, zda se lidstvu podaří vyvinout technologii, která bude schopná samostatného rozhodování, a přitom bude zachovávat naše zájmy. Hintonův návrh může působit neobvykle, ale přináší jasný signál: pokud se nezačne uvažovat o ochraně lidstva už dnes, může být v budoucnu pozdě. Vývoj AI se totiž zrychluje tempem, které překonává i ty nejodvážnější prognózy z minulosti.