Odborníci na umělou inteligenci však tvrdí, že jeho důsledky nejsou k smíchu.
Několik výzkumníků uvedlo, že obrázek vytvořený pomocí generátoru obrázků s umělou inteligencí Midjourney je znamením nadcházející vlny dezinformací, kdy budou falešné fotografie přesvědčivější než kdykoli předtím. Dokonce ani ti, kteří se specializují na umělou inteligenci a sociální média, nedokážou vždy rozlišit, co je pravé a co ne.
„Myslím, že to bylo vynikající,“ řekl Jeff Hancock, profesor komunikace na Stanfordově univerzitě a zakladatel Stanford Social Media Lab, o fotorealistickém zobrazení papeže. „Všechno sedělo, jak mělo, nebyly tam žádné zjevné deformace,“ dodal.
Umělá inteligence vstoupila do každodenního života a optimalizuje vše od plánování jídla přes psaní esejí až po odhalování rakoviny. Ačkoli plný potenciál této technologie ještě nebyl plně využit, nástroje jako Midjourney, ChatGPT, DALL-E a Stable Diffusion se již hojně využívají k vytváření textů a obrázků, které se snadno šíří online. (Dříve bylo uživatelům DALL-E znemožněno upravovat obrázky skutečných lidských tváří, ale toto omezení bylo loni v září zrušeno).
Zdroj: WSJ
Lidem také usnadnily používání a zneužívání podobizen veřejných osobností na internetu. Loni na podzim byly tváře Leonarda DiCapria a Elona Muska použity v reklamách bez jejich svolení, zatímco zpravodajská stanice NBC News informovala, že minulý měsíc byla tvář herečky Emmy Watsonové použita k vytvoření sexuálně provokativních videí v reklamě na mobilní aplikaci deepfake.
„Jakýkoli internetový troll nyní může pomocí několika stisků kláves a kliknutí na tlačítko vytvořit přesvědčivé obrázky, které by mohly oklamat člověka,“ řekl Andrew Owens, odborný asistent elektrotechniky a počítačových věd na Michiganské univerzitě.
Mluvčí společnosti Stability AI, která vytvořila Stable Diffusion, ve svém prohlášení uvedl, že společnost hledá způsoby, jak bojovat proti potenciálu umělé inteligence vytvářet dezinformace.
„V současné době spolupracujeme s předními společnostmi a výzkumníky v oblasti digitální bezpečnosti na zavedení bezpečného a dlouhodobého řešení tohoto problému,“ uvedl mluvčí. Zástupci společností Midjourney, ChatGPT a DALL-E na žádosti o komentář nereagovali.
Minulý týden, kdy se objevily zprávy o možném zatčení Donalda Trumpa, zaplnily Twitter obrázky bývalého prezidenta, jak ho zatýká, přebírá a odnáší policie. Mnohé z těchto snímků byly vytvořeny pomocí služby Midjourney, která byla použita k vytvoření falešných fotografií papeže.
Podle Ariho Lightmana, profesora digitálních médií a marketingu na Heinz College of Information Systems and Public Policy na Carnegie Mellon University, představuje šíření stále sofistikovanějších snímků vytvářených umělou inteligencí novou hranici v šíření falešných zpráv.
Zdroj: WSJ
„Myslím, že jde o určitý vývoj,“ řekl pan Lightman.
Podle odborníků jsou obrázky na sociálních sítích často zveřejňovány bez jakéhokoli kontextu a mohou být brány za pravdivé. Odborníci uvedli, že s tím, jak se bude zdokonalovat generování obrázků umělou inteligencí, začnou mizet obvyklé poznávací znaky falešných obrázků, jako jsou ruce s příliš mnoha prsty nebo podivně vypadající oční bulvy.
„Když je to prezentováno v kontextu: ‚Podívejte, tohle by mohl být podvrh‘, pak se samozřejmě aktivují vaše pavoučí smysly,“ řekl Abhishek Gupta, zakladatel a hlavní výzkumník Montrealského institutu pro etiku umělé inteligence. „Ale v běžných případech, kdy si obrázek jen prohlížíte, se nad ním možná jen pousmějete a budete pokračovat v posouvání, místo abyste se na něj ptali.“
Mickinzy Seneffová, jednadvacetiletá studentka Kalifornské univerzity v Santa Cruz, se zarazila, když na svém Twitteru uviděla video, na kterém se popová hvězda Harry Styles líbá s modelkou, spisovatelkou a podcasterkou Emily Ratajkowski. Vypadalo to divně, řekla slečna Seneffová, a domnívala se, že celebrity byly špatně identifikovány.
Po přečtení virálního příspěvku na Twitteru, který naznačoval, že video vytvořila umělá inteligence, tomu začala věřit.
„Umělá inteligence je opravdu obrovská,“ řekla Seneffová. „Takže pro mě nebylo tak daleko, abych si řekla: ‚Aha, tohle video vypadá jako falešní lidé.'“ Pokud by tato teorie byla pravdivá, vysvětlovalo by to podle ní, proč je video tak rozmazané a proč je postoj dvojice rozpačitý – nemluvě o extrémně zvláštním pozadí. Mluvčí herečky Ratajkowski na žádost o komentář nereagoval a Stylese se nepodařilo zastihnout. Ani jeden z nich se k fotografiím, které se poprvé objevily v deníku Daily Mail bez uvedení fotografa, veřejně nevyjádřil.
Zdroj: WSJ
Podle odborníků je těžké s jistotou určit, zda jsou snímky lidí zrnité a obličeje těžko rozeznatelné. Teoreticky by bylo poměrně snadné vytvořit statické snímky skutečného slavného páru zachyceného v klinči.
„Díky výkonným počítačům můžeme snímky upravit tak, aby dělaly prakticky cokoli, co si přejeme,“ řekl pan Lightman. „Zkreslit je specifickým způsobem, přidat specifické části oblečení, jako je papežův baloňák.“
Dodali, že vytvoření přesvědčivých videí skutečných lidských bytostí je pro umělou inteligenci stále obtížným úkolem, protože lidské oko dokáže rozpoznat i ty nejmenší nepravidelnosti v pohybu. Videa jsou také v podstatě sérií různých obrázků a každý obrázek musí být přesvědčivý – něco, čeho strojové učení ještě nedosáhlo. Podle odborníků je však tato technologie na cestě a pravděpodobně se bude vyvíjet rychleji, než se očekávalo.
Po zhlédnutí dalších snímků dvojice pořízených z různých úhlů paní Seneffová uvedla, že nyní věří, že záběry jsou skutečné. Tato zkušenost ji však ještě více znepokojila, pokud jde o budoucnost plnou vizuálních dezinformací generovaných umělou inteligencí.
„Myslím, že je děsivé, že věci, které jsou umělou inteligencí, vypadají tak reálně,“ řekla. „A tyto věci, které jsou skutečné, mohou být vnímány jako AI.“
Vymyšlený obrázek papeže Františka v módním bílém baloňáku byl pro mnohé vtipným virálním momentem. Odborníci na umělou inteligenci však tvrdí, že jeho důsledky nejsou k smíchu.
Několik výzkumníků uvedlo, že obrázek vytvořený pomocí generátoru obrázků s umělou inteligencí Midjourney je znamením nadcházející vlny dezinformací, kdy budou falešné fotografie přesvědčivější než kdykoli předtím. Dokonce ani ti, kteří se specializují na umělou inteligenci a sociální média, nedokážou vždy rozlišit, co je pravé a co ne.
"Myslím, že to bylo vynikající," řekl Jeff Hancock, profesor komunikace na Stanfordově univerzitě a zakladatel Stanford Social Media Lab, o fotorealistickém zobrazení papeže. "Všechno sedělo, jak mělo, nebyly tam žádné zjevné deformace," dodal.
Umělá inteligence vstoupila do každodenního života a optimalizuje vše od plánování jídla přes psaní esejí až po odhalování rakoviny. Ačkoli plný potenciál této technologie ještě nebyl plně využit, nástroje jako Midjourney, ChatGPT, DALL-E a Stable Diffusion se již hojně využívají k vytváření textů a obrázků, které se snadno šíří online. (Dříve bylo uživatelům DALL-E znemožněno upravovat obrázky skutečných lidských tváří, ale toto omezení bylo loni v září zrušeno).
Zdroj: WSJ
Lidem také usnadnily používání a zneužívání podobizen veřejných osobností na internetu. Loni na podzim byly tváře Leonarda DiCapria a Elona Muska použity v reklamách bez jejich svolení, zatímco zpravodajská stanice NBC News informovala, že minulý měsíc byla tvář herečky Emmy Watsonové použita k vytvoření sexuálně provokativních videí v reklamě na mobilní aplikaci deepfake.
"Jakýkoli internetový troll nyní může pomocí několika stisků kláves a kliknutí na tlačítko vytvořit přesvědčivé obrázky, které by mohly oklamat člověka," řekl Andrew Owens, odborný asistent elektrotechniky a počítačových věd na Michiganské univerzitě.
Mluvčí společnosti Stability AI, která vytvořila Stable Diffusion, ve svém prohlášení uvedl, že společnost hledá způsoby, jak bojovat proti potenciálu umělé inteligence vytvářet dezinformace.
"V současné době spolupracujeme s předními společnostmi a výzkumníky v oblasti digitální bezpečnosti na zavedení bezpečného a dlouhodobého řešení tohoto problému," uvedl mluvčí. Zástupci společností Midjourney, ChatGPT a DALL-E na žádosti o komentář nereagovali.
Minulý týden, kdy se objevily zprávy o možném zatčení Donalda Trumpa, zaplnily Twitter obrázky bývalého prezidenta, jak ho zatýká, přebírá a odnáší policie. Mnohé z těchto snímků byly vytvořeny pomocí služby Midjourney, která byla použita k vytvoření falešných fotografií papeže.
Podle Ariho Lightmana, profesora digitálních médií a marketingu na Heinz College of Information Systems and Public Policy na Carnegie Mellon University, představuje šíření stále sofistikovanějších snímků vytvářených umělou inteligencí novou hranici v šíření falešných zpráv.
Zdroj: WSJ
"Myslím, že jde o určitý vývoj," řekl pan Lightman.
Podle odborníků jsou obrázky na sociálních sítích často zveřejňovány bez jakéhokoli kontextu a mohou být brány za pravdivé. Odborníci uvedli, že s tím, jak se bude zdokonalovat generování obrázků umělou inteligencí, začnou mizet obvyklé poznávací znaky falešných obrázků, jako jsou ruce s příliš mnoha prsty nebo podivně vypadající oční bulvy.
"Když je to prezentováno v kontextu: 'Podívejte, tohle by mohl být podvrh', pak se samozřejmě aktivují vaše pavoučí smysly," řekl Abhishek Gupta, zakladatel a hlavní výzkumník Montrealského institutu pro etiku umělé inteligence. "Ale v běžných případech, kdy si obrázek jen prohlížíte, se nad ním možná jen pousmějete a budete pokračovat v posouvání, místo abyste se na něj ptali."
Mickinzy Seneffová, jednadvacetiletá studentka Kalifornské univerzity v Santa Cruz, se zarazila, když na svém Twitteru uviděla video, na kterém se popová hvězda Harry Styles líbá s modelkou, spisovatelkou a podcasterkou Emily Ratajkowski. Vypadalo to divně, řekla slečna Seneffová, a domnívala se, že celebrity byly špatně identifikovány.
Po přečtení virálního příspěvku na Twitteru, který naznačoval, že video vytvořila umělá inteligence, tomu začala věřit.
"Umělá inteligence je opravdu obrovská," řekla Seneffová. "Takže pro mě nebylo tak daleko, abych si řekla: 'Aha, tohle video vypadá jako falešní lidé.'" Pokud by tato teorie byla pravdivá, vysvětlovalo by to podle ní, proč je video tak rozmazané a proč je postoj dvojice rozpačitý - nemluvě o extrémně zvláštním pozadí. Mluvčí herečky Ratajkowski na žádost o komentář nereagoval a Stylese se nepodařilo zastihnout. Ani jeden z nich se k fotografiím, které se poprvé objevily v deníku Daily Mail bez uvedení fotografa, veřejně nevyjádřil.
Zdroj: WSJ
Podle odborníků je těžké s jistotou určit, zda jsou snímky lidí zrnité a obličeje těžko rozeznatelné. Teoreticky by bylo poměrně snadné vytvořit statické snímky skutečného slavného páru zachyceného v klinči.
"Díky výkonným počítačům můžeme snímky upravit tak, aby dělaly prakticky cokoli, co si přejeme," řekl pan Lightman. "Zkreslit je specifickým způsobem, přidat specifické části oblečení, jako je papežův baloňák."
Dodali, že vytvoření přesvědčivých videí skutečných lidských bytostí je pro umělou inteligenci stále obtížným úkolem, protože lidské oko dokáže rozpoznat i ty nejmenší nepravidelnosti v pohybu. Videa jsou také v podstatě sérií různých obrázků a každý obrázek musí být přesvědčivý - něco, čeho strojové učení ještě nedosáhlo. Podle odborníků je však tato technologie na cestě a pravděpodobně se bude vyvíjet rychleji, než se očekávalo.
Po zhlédnutí dalších snímků dvojice pořízených z různých úhlů paní Seneffová uvedla, že nyní věří, že záběry jsou skutečné. Tato zkušenost ji však ještě více znepokojila, pokud jde o budoucnost plnou vizuálních dezinformací generovaných umělou inteligencí.
"Myslím, že je děsivé, že věci, které jsou umělou inteligencí, vypadají tak reálně," řekla. "A tyto věci, které jsou skutečné, mohou být vnímány jako AI."
