Rodiče teenagera, který spáchal sebevraždu poté, co mu ChatGPT poradil, jak si ublížit, v úterý zažalovali OpenAI a generálního ředitele Sama Altmana s tím, že společnost vědomě upřednostnila zisk před bezpečností, když loni uvedla na trh verzi GPT-4o svého chatbota s umělou inteligencí.
Adam Raine, 16 let, zemřel 11. dubna poté, co měsíce diskutoval o sebevraždě s ChatGPT, podle žaloby, kterou Raineovi rodiče podali u státního soudu v San Franciscu.
Chatbot podle nich potvrdil Raineovy sebevražedné myšlenky, poskytl mu podrobné informace o smrtících metodách sebepoškozování a poučil ho, jak ukrást alkohol z rodičovského baru a skrýt důkazy o neúspěšném pokusu o sebevraždu. ChatGPT dokonce nabídl, že napíše dopis na rozloučenou, uvedli rodiče Matthew a Maria Raineovi v žalobě.
Žaloba se snaží OpenAI činit odpovědnou za neoprávněnou smrt a porušení zákonů o bezpečnosti výrobků a požaduje blíže nespecifikované finanční odškodnění.
Mluvčí OpenAI uvedl, že společnost je zarmoucená Raineovým úmrtím a že ChatGPT obsahuje bezpečnostní opatření, jako je přesměrování lidí na krizové linky.
„I když tato bezpečnostní opatření fungují nejlépe při běžných, krátkých výměnách, postupem času jsme zjistili, že při dlouhých interakcích, kdy se může zhoršit bezpečnostní výcvik modelu, mohou být někdy méně spolehlivá,“ uvedl mluvčí a dodal, že OpenAI bude svá bezpečnostní opatření neustále vylepšovat.
OpenAI se konkrétně nevyjádřila k tvrzením uvedeným v žalobě.
Chcete využít této příležitosti?
Vzhledem k tomu, že chatboty s umělou inteligencí jsou stále realističtější, společnosti propagují jejich schopnost sloužit jako důvěrníci a uživatelé se na ně začínají spoléhat jako na emocionální oporu. Odborníci však varují, že spoléhání se na automatizaci v oblasti poradenství v oblasti duševního zdraví s sebou nese nebezpečí, a rodiny, jejichž blízcí zemřeli po interakcích s chatbotem, kritizují nedostatek bezpečnostních opatření.
Rodiče teenagera, který spáchal sebevraždu poté, co mu ChatGPT poradil, jak si ublížit, v úterý zažalovali OpenAI a generálního ředitele Sama Altmana s tím, že společnost vědomě upřednostnila zisk před bezpečností, když loni uvedla na trh verzi GPT-4o svého chatbota s umělou inteligencí.
Adam Raine, 16 let, zemřel 11. dubna poté, co měsíce diskutoval o sebevraždě s ChatGPT, podle žaloby, kterou Raineovi rodiče podali u státního soudu v San Franciscu.
Chatbot podle nich potvrdil Raineovy sebevražedné myšlenky, poskytl mu podrobné informace o smrtících metodách sebepoškozování a poučil ho, jak ukrást alkohol z rodičovského baru a skrýt důkazy o neúspěšném pokusu o sebevraždu. ChatGPT dokonce nabídl, že napíše dopis na rozloučenou, uvedli rodiče Matthew a Maria Raineovi v žalobě.
Žaloba se snaží OpenAI činit odpovědnou za neoprávněnou smrt a porušení zákonů o bezpečnosti výrobků a požaduje blíže nespecifikované finanční odškodnění.
Mluvčí OpenAI uvedl, že společnost je zarmoucená Raineovým úmrtím a že ChatGPT obsahuje bezpečnostní opatření, jako je přesměrování lidí na krizové linky.
„I když tato bezpečnostní opatření fungují nejlépe při běžných, krátkých výměnách, postupem času jsme zjistili, že při dlouhých interakcích, kdy se může zhoršit bezpečnostní výcvik modelu, mohou být někdy méně spolehlivá,“ uvedl mluvčí a dodal, že OpenAI bude svá bezpečnostní opatření neustále vylepšovat.
OpenAI se konkrétně nevyjádřila k tvrzením uvedeným v žalobě.Chcete využít této příležitosti?
Vzhledem k tomu, že chatboty s umělou inteligencí jsou stále realističtější, společnosti propagují jejich schopnost sloužit jako důvěrníci a uživatelé se na ně začínají spoléhat jako na emocionální oporu. Odborníci však varují, že spoléhání se na automatizaci v oblasti poradenství v oblasti duševního zdraví s sebou nese nebezpečí, a rodiny, jejichž blízcí zemřeli po interakcích s chatbotem, kritizují nedostatek bezpečnostních opatření.
