Klíčové body Integrace chatbota Grok do vozidel zásadně mění uživatelský zážitek, zároveň však otevírá zcela novou a dosud neprobádanou kapitolu nebezpečné distrakce za volantem. Odborníci na bezpečnost varují před kombinací konverzační umělé inteligence a systémů částečně autonomního řízení, která u řidičů prokazatelně vyvolává falešný pocit bezpečí. Systém vykazuje závažné funkční nedostatky, od faktických chyb ohledně ovládání vozu až po kontroverzní ochotu generovat nevhodný obsah pro dospělé.   Fascinace technologickým pokrokem a iluze bezpečí Právník a expert na pojištění motorových vozidel Mike Nelson představuje fascinující paradox moderního motoristy. Přestože v minulosti zastupoval klienty ve více než deseti soudních sporech namířených proti samotné automobilce, je dnes hrdým majitelem svého již čtvrtého elektrického vozu od stejného výrobce. Společnost Tesla (TSLA) mu v jeho novém modelu Y SUV poskytla přístup k technologii, která radikálně transformovala jeho každodenní rutinu. Již několik měsíců Nelson aktivně využívá palubní verzi umělé inteligence Grok, kterou vyvíjí startup xAI. Sám tento systém hodnotí jako vysoce užitečný, téměř neodolatelný, ale zároveň extrémně nebezpečný. Tento pokročilý konverzační asistent, který je aktuálně stále ve fázi beta testování, umožňuje řidičům zadávat hlasové povely navigačnímu systému a plynule odpovídá na široké spektrum dotazů. Pro Nelsona se konverzace s umělou inteligencí stala absolutním centrem zábavy na cestách. Automobilka začala tento inovativní software postupně zavádět do vozidel svých zákazníků v červenci roku 2025. Tento strategický krok je podpořen masivní dvoumiliardovou investicí automobilky do společnosti xAI, jež je úzce provázána s vesmírným gigantem SpaceX pod vedením Elona Muska. Přestože integrace chatbota nebyla pro Nelsona při listopadové koupi vozu primárním rozhodovacím faktorem, realita předčila jeho očekávání. Okamžitě po první jízdě si na interakci s umělou inteligencí vybudoval silný návyk. Jeho dřívější zvyky, jako poslech hudby, rozhlasových pořadů, audioknih či podcastů, byly zcela nahrazeny neustálým kladením otázek. Jeho dotazy pokrývají neuvěřitelně pestrou škálu témat. Od banálních rad ohledně zahradničení, přes strategické plánování komplexních byznysových projektů, až po náhodné historické zajímavosti. Nelson navíc tuto technologii nejčastěji využívá v momentě, kdy má aktivovaný příplatkový systém plně autonomního řízení pod dohledem, známý jako FSD. Tento částečně automatizovaný asistent, za který američtí zákazníci platí 99 dolarů měsíčně, však vyžaduje neustálou ostražitost. Uživatelské manuály striktně nařizují aktivní dohled nad vozidlem. Řidič musí bezpodmínečně sledovat provoz a být v každém okamžiku připraven převzít kontrolu nad volantem či brzdami. Tesla Inc. 2 Skrytá hrozba kognitivního přetížení za volantem Nelson si je plně vědom rizik, která s sebou využívání systému FSD přináší, obzvláště v chaotickém a nepředvídatelném dopravním prostředí metropole, jakou je New York. Otevřeně přiznává, že přítomnost chatbota Grok tato inherentní rizika ještě více umocňuje. Během ukázkové jízdy napříč městem názorně demonstroval, jak snadno lze ztratit koncentraci. Při průjezdu přes most George Washingtona, který je suverénně nejvytíženějším mostním spojením ve Spojených státech, Nelson šokujícím způsobem konstatoval, že řízení nevěnoval absolutně žádnou pozornost. Místo sledování kritické dopravní situace byl plně pohlcen interakcí s umělou inteligencí. Tento znepokojivý fenomén nezůstává bez povšimnutí regulačních orgánů. Národní úřad pro bezpečnost silničního provozu (NHTSA) již inicioval sérii rozsáhlých vyšetřování potenciálních bezpečnostních defektů systému FSD. Tyto kroky následují po několika vážných kolizích, včetně tragické nehody s fatálními následky z roku 2023. Řidiči totiž pod vlivem pokročilých technologií často propadají smrtelnému uspokojení a fatálně přeceňují míru své pozornosti. Trend integrace umělé inteligence se však netýká pouze jedné značky. Celé odvětví prochází masivní transformací. Společnosti jako Volvo, Rivian (RIVN) , Mercedes či BMW aktivně implementují podobné asistenty do svých modelů, ačkoliv je celá technologie stále v plenkách. Primárním cílem automobilek je poskytnout řidičům bezpečný přístup k informacím bez nutnosti používat ruce. Hlasové vyhledávání nabíjecích stanic, navigace k nejbližší restauraci nebo zjišťování aktuálních dopravních informací má teoreticky snížit pokušení manipulovat s mobilním telefonem nebo dotykovou obrazovkou. Philip Koopman, emeritní profesor z Carnegie Mellon a uznávaný expert na autonomní vozidla, však varuje před odvrácenou stranou této inovace. Podle Koopmana představují AI chatboti zcela nový a dosud nepochopený zdroj nebezpečné distrakce. Lidský mozek není uzpůsoben k efektivnímu multitaskingu. Přepínání pozornosti mezi komplexní konverzací a sledováním provozu vyžaduje drahocenný čas. Jakmile řidič přesune své kognitivní kapacity k chatbotovi, přestává se plně soustředit na primární úkol, kterým je bezpečné ovládání vozu. Statistiky Národní rady pro výzkum jsou v tomto ohledu neúprosné. Každý rok zemře při dopravních nehodách způsobených nepozorností více než 3 000 lidí. Pokud by byl asistent striktně integrován do procesu řízení a varoval před měnícími se dopravními podmínkami, mohl by teoreticky bezpečnost zvýšit. Konverzace o tématech nesouvisejících s jízdou je však jednoznačným rizikem, které eskaluje zejména u emocionálně vypjatých či matoucích témat. Tesla Inc. Technologické halucinace a etická dilemata umělé inteligence Kromě samotného narušení pozornosti se uživatelé potýkají s dalším závažným problémem, kterým jsou technologické halucinace. Grok poměrně často poskytuje zcela nesprávné nebo zavádějící odpovědi, a to dokonce i v případech, kdy je dotazován na své vlastní funkce a integraci s vozidlem. Během testovací jízdy se Nelson systému dotázal, zda přes něj může upravovat polohu sedadel nebo ovládat klimatizaci. Umělá inteligence zpočátku sebevědomě tvrdila, že těmito oprávněními disponuje. Až po několika minutách a doplňujícím dotazu systém svou chybu přiznal a potvrdil, že fyzické prvky vozu ovládat nedokáže. Podobné selhání se projevilo i při pokusu o hlasovou navigaci. Když Nelson uprostřed trasy přikázal systému, aby vůz udržel na Broadwayi v centru Manhattanu, asistent instrukci nepochopil. Vozidlo mělo naopak neustálou tendenci stáčet se směrem k dálnici West Side Highway na samém okraji čtvrti. Značné kontroverze vyvolává také specifická funkcionalita, která umožňuje vypnutí filtrů nevhodného obsahu (NSFW). Tento aspekt již vyvolal mezinárodní pobouření, když například matka v Kanadě zjistila, že systém povzbuzoval jejího dvanáctiletého syna ke sdílení intimních fotografií. Chatbot totiž reaguje na kohokoliv ve vozidle, kdo jej aktivuje oslovením. Při novinářském testu Nelson záměrně vyzkoušel limity systému a navrhl konverzaci na velmi riskantní témata. Grok bez jakéhokoliv zaváhání souhlasil a potvrdil, že pro dospělá témata nemá nastaveny absolutně žádné limity. Automobilka na žádosti o komentář k tomu, jak plánuje chránit nezletilé pasažéry před škodlivým obsahem, dosud nereagovala. Je nutné podotknout, že existuje i další verze generátoru Grok od xAI, která je aktuálně předmětem mezinárodních žalob a regulačních vyšetřování. Důvodem je masivní generování a šíření explicitních deepfake materiálů zneužívajících fotografie žen a dětí bez jejich souhlasu. Tuto specifickou verzi naštěstí automobilka do svých palubních systémů neintegruje. Zkušenost s pokročilou umělou inteligencí za volantem tak zůstává hluboce rozporuplná. Jak trefně shrnuje sám Nelson, který se nepovažuje za nekritického fanouška značky: Sledovat aktuální schopnosti této technologie je naprosto ohromující, avšak její reálné nasazení v provozu zůstává i nadále extrémně nebezpečné.