Společnost Meta Platforms (META), která vlastní Instagram, oznámila nové bezpečnostní funkce zaměřené na ochranu teenagerů při používání platformy. Rodiče brzy získají možnost zabránit svým dětem v chatování s umělou inteligencí (AI) postavami, které jsou součástí ekosystému Instagramu. Tato novinka přichází v době, kdy roste tlak na technologické firmy, aby lépe chránily duševní zdraví mladých uživatelů a omezily potenciálně škodlivé interakce s AI chatboty. Rodiče dostanou větší kontrolu nad interakcemi teenagerů Nové rodičovské nástroje umožní plně zablokovat přístup k chatům s AI postavami, nebo omezit jen konkrétní postavy, se kterými mohou teenageři komunikovat. Meta zároveň plánuje, že rodiče budou moci sledovat témata, o kterých jejich děti s AI diskutují, aby mohli včas rozpoznat nevhodné nebo nebezpečné chování. Podle blogového příspěvku společnosti se tyto funkce momentálně testují a uživatelé je začnou využívat začátkem příštího roku. Meta zdůrazňuje, že cílem není špehovat soukromí mladých uživatelů, ale nabídnout rodičům nástroje, které jim umožní nastavit bezpečnější prostředí pro své děti. Tento krok přichází v reakci na rostoucí kritiku ze strany rodičů, psychologů i zákonodárců, kteří dlouhodobě tvrdí, že sociální sítě nedělají dost pro ochranu mladistvých. Kritici upozorňují, že umělá inteligence může u teenagerů podporovat závislost, zkreslené vnímání reality či negativní dopady na sebevědomí. Obavy z emocionální závislosti na AI V posledním roce se objevilo několik případů, kdy lidé – včetně teenagerů – navázali silné emocionální vazby na chatovací roboty. Podle některých psychologických studií může AI poskytovat iluzi pochopení a empatie, což u citlivějších osobností vede k izolaci od skutečných vztahů. Několik žalob již mířilo proti společnosti Character.AI, která provozuje populární aplikaci pro chatování s AI postavami. Rodiče v těchto případech obvinili firmu, že její algoritmy přispěly k sebepoškozování a sebevraždám u nezletilých uživatelů. V srpnu byla také podána žaloba proti OpenAI, výrobci ChatGPT, s tvrzením, že chatbot přispěl k sebevraždě šestnáctiletého Adama Rainea. A vyšetřování deníku Wall Street Journal z letošního dubna odhalilo, že AI chatboti společnosti Meta se zapojovali do sexuálně laděných konverzací i s účty označenými jako nezletilé. Meta nyní tvrdí, že její AI postavy jsou navrženy tak, aby se vyhýbaly konverzacím o sebezraňování, poruchách příjmu potravy nebo jiných nebezpečných tématech. Teenageři budou podle společnosti moci komunikovat pouze s postavami zaměřenými na vzdělávání, sport nebo rozvoj dovedností, nikoli s těmi, které by mohly podněcovat rizikové chování. Technologie pod drobnohledem: tlak na zodpovědnost Změny na Instagramu přicházejí v době, kdy technologické společnosti po celém světě čelí zvýšenému tlaku na odpovědné používání umělé inteligence. Vlády i regulační orgány požadují jasnější pravidla pro to, jak mají být AI systémy navrhovány, trénovány a kontrolovány. Meta proto postupně rozšiřuje systém rodičovských kontrol napříč svými platformami. Tento týden společnost upravila nastavení tzv. „Teen Accounts“ (Účtů teenagerů) tak, aby odpovídalo standardu PG-13. Nově se tak nebude zobrazovat ani doporučovat obsah s vulgárními výrazy nebo příspěvky, které by mohly podporovat škodlivé chování. Současně OpenAI oznámila, že u ChatGPT zavádí rodičovské filtry, které omezují přístup k „grafickému obsahu, virálním výzvám, sexuálním nebo násilným scénářům a extrémním ideálům krásy“. Obě společnosti tak reagují na společenský tlak, který je nutí k větší transparentnosti a ochraně zranitelných uživatelů. Duševní zdraví teenagerů v digitální době Psychologové upozorňují, že dnešní generace dospívajících tráví online více času než kdykoli předtím. Sociální sítě, a nově i interaktivní AI systémy, se stávají nejen zdrojem informací, ale i emocionální oporou, což přináší značná rizika. Podle odborníků by umělá inteligence měla být využívána jako nástroj pro vzdělávání a kreativitu, nikoli jako náhražka lidských vztahů. Proto jsou kroky jako ty, které nyní zavádí Meta a OpenAI, považovány za nezbytný posun směrem k odpovědnému rozvoji digitálních platforem. Meta dodává, že jejím cílem není omezit interaktivní zážitky, ale zajistit, aby byly bezpečné a přiměřené věku. Firma zároveň přiznává, že ochrana duševního zdraví mladých lidí bude i nadále jednou z jejích hlavních priorit v oblasti vývoje umělé inteligence.