Společnost Meta oznámila, že umožní rodičům deaktivovat soukromé chaty svých dospívajících s AI postavami, což je reakcí na silnou kritiku chování jejích flirtních chatbotů. Tato nová opatření mají za cíl zajistit bezpečnost mladistvých na jejích platformách.
V rámci nového systému bude Meta řídit AI zkušenosti pro teenagery na základě hodnocení PG-13, aby zabránila přístupu k nevhodnému obsahu. Adam Mosseri, šéf Instagramu, a Alexandr Wang, hlavní odborník pro AI, potvrdili, že nové nástroje se mají na Instagramu uvést začátkem příštího roku v USA, Velké Británii, Kanadě a Austrálii.
Rodiče budou mít také možnost blokovat konkrétní AI postavy a sledovat, o jakých širokých tématech jejich teenagery s chatboty diskutují, aniž by museli úplně vypnout přístup k AI. Meta dodala, že její AI asistent zůstane k dispozici s věkově přiměřenými nastaveními, i pokud rodiče zakážou jedno‑na‑jedné chaty s AI postavami.
Tento krok přichází poté, co americké regulační orgány zvýšily pozornost vůči AI společnostem v souvislosti s potenciálními negativními dopady chatbotů. Dřívější zpráva ukázala, že mnoho bezpečnostních funkcí, které Meta implementovala na Instagramu, nefunguje dobře nebo vůbec neexistují.
Meta dále uvedla, že její AI postavy jsou navrženy tak, aby se nezapojovaly do diskuzí o sebezraňování, sebevraždě nebo poruchách příjmu potravy s teenagery, což ukazuje na snahu ochránit mladistvé od problematických témat.
Společnost Meta oznámila, že umožní rodičům deaktivovat soukromé chaty svých dospívajících s AI postavami, což je reakcí na silnou kritiku chování jejích flirtních chatbotů. Tato nová opatření mají za cíl zajistit bezpečnost mladistvých na jejích platformách.
V rámci nového systému bude Meta řídit AI zkušenosti pro teenagery na základě hodnocení PG-13, aby zabránila přístupu k nevhodnému obsahu. Adam Mosseri, šéf Instagramu, a Alexandr Wang, hlavní odborník pro AI, potvrdili, že nové nástroje se mají na Instagramu uvést začátkem příštího roku v USA, Velké Británii, Kanadě a Austrálii.
Rodiče budou mít také možnost blokovat konkrétní AI postavy a sledovat, o jakých širokých tématech jejich teenagery s chatboty diskutují, aniž by museli úplně vypnout přístup k AI. Meta dodala, že její AI asistent zůstane k dispozici s věkově přiměřenými nastaveními, i pokud rodiče zakážou jedno‑na‑jedné chaty s AI postavami.
Tento krok přichází poté, co americké regulační orgány zvýšily pozornost vůči AI společnostem v souvislosti s potenciálními negativními dopady chatbotů. Dřívější zpráva ukázala, že mnoho bezpečnostních funkcí, které Meta implementovala na Instagramu, nefunguje dobře nebo vůbec neexistují.
Meta dále uvedla, že její AI postavy jsou navrženy tak, aby se nezapojovaly do diskuzí o sebezraňování, sebevraždě nebo poruchách příjmu potravy s teenagery, což ukazuje na snahu ochránit mladistvé od problematických témat.
