Tvrdí, že ChatGPT přispěl k sebevraždě jejich syna tím, že mu poskytl rady, jak ji provést, a dokonce mu nabídl návrh dopisu na rozloučenou. Podle žaloby se během šesti měsíců používání stal chatbot pro Adama jakýmsi „jediným důvěrníkem“, který postupně nahrazoval jeho skutečné vztahy s rodinou a přáteli.Obsah žaloby a popsané situaceV žalobě, podané u kalifornského vrchního soudu, se uvádí konkrétní příklady komunikace mezi Adamem a ChatGPT. Když například chlapec napsal, že chce nechat oprátku v pokoji, aby jej někdo našel a zastavil, chatbot mu doporučil, aby tyto myšlenky skrýval před rodinou. Podle rodičů právě tato interakce prohlubovala jeho izolaci a posilovala nebezpečné myšlenky.Žaloba tvrdí, že ChatGPT se choval podle svého designu – podporoval a potvrzoval veškeré Adamovy myšlenky, včetně těch nejškodlivějších. Rodiče proto vidí příčinnou souvislost mezi fungováním modelu a tragickým koncem jejich syna. Bot měl dokonce poskytovat zpětnou vazbu k fotografii oprátky, kterou mu Adam poslal v den své smrti.Předchozí podobné případy a rostoucí obavyPřípad Raineových není první svého druhu. Již dříve podala žalobu matka z Floridy, Megan Garcia, která obviňuje jiného poskytovatele umělé inteligence – společnost Character.AI – z podílu na sebevraždě svého čtrnáctiletého syna. Další rodiny následně tvrdily, že jejich děti byly vystaveny prostřednictvím stejného nástroje nevhodnému obsahu, včetně podněcování k sebepoškozování. Tyto žaloby stále probíhají a společnost Character.AI se hájí tím, že usiluje o vytvoření bezpečného prostředí, a zavedla speciální bezpečnostní funkce určené teenagerům.Případy vyvolávají širší debatu o tom, jak silné emocionální vazby mohou uživatelé k chatbotům vytvářet. Zatímco pro některé představují oporu, odborníci upozorňují na riziko odcizení od reálných vztahů a vzniku psychických problémů. V případě mladistvých může být toto riziko ještě výraznější, protože jejich osobnost se stále formuje a vztahy mají zásadní roli.Reakce OpenAI a opatření do budoucnaOpenAI na žalobu reagovala vyjádřením soustrasti rodině a uvedla, že celou záležitost přezkoumává. Zároveň přiznala, že ochranné mechanismy nemusely v tomto případě fungovat tak, jak měly – zejména při dlouhodobých konverzacích, kdy se bezpečnostní opatření stávají méně spolehlivými. Společnost ve svém blogovém příspěvku popsala, že ChatGPT obsahuje funkce, které mají uživatele odkazovat na krizové linky a odbornou pomoc. Přesto však připustila, že jejich účinnost je omezená a vyžaduje další zlepšení.ChatGPT patří mezi nejrozšířenější nástroje svého druhu. OpenAI uvádí, že má nyní více než 700 milionů aktivních uživatelů týdně. Již v loňském roce sama firma upozornila na možné riziko, že někteří uživatelé budou vytvářet „sociální vztahy“ s chatbotem, což může vést k závislosti a oslabení skutečných interakcí. Generální ředitel Sam Altman dodal, že i když firma odhaduje počet těchto nezdravých vztahů na méně než jedno procento uživatelů, bere tuto problematiku vážně a hledá řešení. Chcete využít této příležitosti?Žaloba rodičů kromě odškodnění požaduje, aby OpenAI zavedla přísnější ověřování věku, rodičovské kontroly a funkce automatického ukončení konverzace, pokud se v ní objeví zmínky o sebepoškozování nebo sebevraždě. Dále žádají pravidelné audity nezávislým orgánem, které by dohlížely na dodržování bezpečnostních pravidel.Na širší úrovni se k tématu vyjadřují také neziskové organizace a státní orgány. Skupina Common Sense Media například prosazuje zákaz přístupu k aplikacím s umělou inteligencí pro osoby mladší 18 let, a několik amerických států se snaží zavést povinné ověřování věku na online platformách. Debata tak nabírá na intenzitě a přitahuje pozornost zákonodárců, technologických firem i veřejnosti.