Společnost Meta Platforms (META), která vlastní Instagram, oznámila nové bezpečnostní funkce zaměřené na ochranu teenagerů při používání platformy. Rodiče brzy získají možnost zabránit svým dětem v chatování s umělou inteligencí (AI) postavami, které jsou součástí ekosystému Instagramu. Tato novinka přichází v době, kdy roste tlak na technologické firmy, aby lépe chránily duševní zdraví mladých uživatelů a omezily potenciálně škodlivé interakce s AI chatboty. Rodiče dostanou větší kontrolu nad interakcemi teenagerů Nové rodičovské nástroje umožní plně zablokovat přístup k chatům s AI postavami, nebo omezit jen konkrétní postavy, se kterými mohou teenageři komunikovat. Meta zároveň plánuje, že rodiče budou moci sledovat témata, o kterých jejich děti s AI diskutují, aby mohli včas rozpoznat nevhodné nebo nebezpečné chování. Podle blogového příspěvku společnosti se tyto funkce momentálně testují a uživatelé je začnou využívat začátkem příštího roku. Meta zdůrazňuje, že cílem není špehovat soukromí mladých uživatelů, ale nabídnout rodičům nástroje, které jim umožní nastavit bezpečnější prostředí pro své děti. Zdroj: Shutterstock Tento krok přichází v reakci na rostoucí kritiku ze strany rodičů, psychologů i zákonodárců, kteří dlouhodobě tvrdí, že sociální sítě nedělají dost pro ochranu mladistvých. Kritici upozorňují, že umělá inteligence může u teenagerů podporovat závislost, zkreslené vnímání reality či negativní dopady na sebevědomí. Obavy z emocionální závislosti na AI V posledním roce se objevilo několik případů, kdy lidé – včetně teenagerů – navázali silné emocionální vazby na chatovací roboty. Podle některých psychologických studií může AI poskytovat iluzi pochopení a empatie, což u citlivějších osobností vede k izolaci od skutečných vztahů. Několik žalob již mířilo proti společnosti Character.AI, která provozuje populární aplikaci pro chatování s AI postavami. Rodiče v těchto případech obvinili firmu, že její algoritmy přispěly k sebepoškozování a sebevraždám u nezletilých uživatelů. V srpnu byla také podána žaloba proti OpenAI, výrobci ChatGPT, s tvrzením, že chatbot přispěl k sebevraždě šestnáctiletého Adama Rainea. A vyšetřování deníku Wall Street Journal z letošního dubna odhalilo, že AI chatboti společnosti Meta se zapojovali do sexuálně laděných konverzací i s účty označenými jako nezletilé. Meta nyní tvrdí, že její AI postavy jsou navrženy tak, aby se vyhýbaly konverzacím o sebezraňování, poruchách příjmu potravy nebo jiných nebezpečných tématech. Teenageři budou podle společnosti moci komunikovat pouze s postavami zaměřenými na vzdělávání, sport nebo rozvoj dovedností, nikoli s těmi, které by mohly podněcovat rizikové chování. Technologie pod drobnohledem: tlak na zodpovědnost Změny na Instagramu přicházejí v době, kdy technologické společnosti po celém světě čelí zvýšenému tlaku na odpovědné používání umělé inteligence. Vlády i regulační orgány požadují jasnější pravidla pro to, jak mají být AI systémy navrhovány, trénovány a kontrolovány. Meta proto postupně rozšiřuje systém rodičovských kontrol napříč svými platformami. Tento týden společnost upravila nastavení tzv. „Teen Accounts“ (Účtů teenagerů) tak, aby odpovídalo standardu PG-13. Nově se tak nebude zobrazovat ani doporučovat obsah s vulgárními výrazy nebo příspěvky, které by mohly podporovat škodlivé chování. Současně OpenAI oznámila, že u ChatGPT zavádí rodičovské filtry, které omezují přístup k „grafickému obsahu, virálním výzvám, sexuálním nebo násilným scénářům a extrémním ideálům krásy“. Obě společnosti tak reagují na společenský tlak, který je nutí k větší transparentnosti a ochraně zranitelných uživatelů. Zdroj: BurzovníSvět.cz Duševní zdraví teenagerů v digitální době Psychologové upozorňují, že dnešní generace dospívajících tráví online více času než kdykoli předtím. Sociální sítě, a nově i interaktivní AI systémy, se stávají nejen zdrojem informací, ale i emocionální oporou, což přináší značná rizika. Podle odborníků by umělá inteligence měla být využívána jako nástroj pro vzdělávání a kreativitu, nikoli jako náhražka lidských vztahů. Proto jsou kroky jako ty, které nyní zavádí Meta a OpenAI, považovány za nezbytný posun směrem k odpovědnému rozvoji digitálních platforem. Meta dodává, že jejím cílem není omezit interaktivní zážitky, ale zajistit, aby byly bezpečné a přiměřené věku. Firma zároveň přiznává, že ochrana duševního zdraví mladých lidí bude i nadále jednou z jejích hlavních priorit v oblasti vývoje umělé inteligence.