Sam Altman varuje před krizí podvodů způsobenou umělou inteligencí Generální ředitel společnosti OpenAI Sam Altman varoval před rostoucím rizikem, které představuje zneužití umělé inteligence v oblasti identifikace a ověřování. Ve svém vystoupení před zástupci Federálního rezervního systému a představiteli amerického finančního sektoru označil současnou situaci za předzvěst možné „krize podvodů“. Jeho slova se opírají o aktuální případy zneužívání hlasové a obrazové syntézy, které podle něj představují vážnou hrozbu pro společnost, finanční instituce i běžné občany. Altman upozornil na to, že hlasové otisky, které některé banky stále používají pro ověření identity klienta, jsou již dnes snadno napodobitelné pomocí dostupných nástrojů AI. „Je to šílené, že se to stále děje,“ uvedl. Podle něj většina způsobů ověřování kromě hesel přestává být spolehlivá, což může vést k závažným bezpečnostním incidentům. Varování přichází v době, kdy americká administrativa připravuje strategii pro regulaci této technologie, tzv. Akční plán pro AI. Zdroj: Getty images Varování z praxe: napodobení hlasu a zneužití důvěry Altmanovo varování není izolované. Již v minulém roce vydala FBI oficiální upozornění, které se týkalo podvodů využívajících AI k napodobení hlasu a videa. V několika případech byli rodiče kontaktováni falešnými hlasy svých dětí, údajně v nouzi, aby z nich podvodníci vymámili peníze. Nedávno byl hlas senátora Marca Rubia napodoben při falešných hovorech, jejichž cílem bylo manipulovat s vysokými představiteli americké administrativy. Podle Altmana se situace bude dál zhoršovat – zatím jde o hlasové hovory, ale v blízké budoucnosti může jít o video nebo videohovory přes platformy jako FaceTime, které budou „k nerozeznání od reality“. OpenAI sice podle něj takové technologie přímo nevyvíjí, ale Altman uznal, že se jedná o globální výzvu, která si vyžaduje koordinovanou reakci. Podpořil proto projekt The Orb, který má poskytovat důkaz lidskosti v digitálním prostoru zahlceném syntetickým obsahem. Společnost OpenAI zároveň oznámila, že v roce 2026 otevře kancelář ve Washingtonu, DC, která se zaměří na spolupráci s vládními institucemi, poskytování školení a výzkum ekonomického dopadu umělé inteligence. Vede ji Chan Park spolu s Joem Larsonem, který přichází ze společnosti Anduril. Očekává se, že tato kancelář bude také místem, kde budou připravovány další podněty pro veřejnou politiku v oblasti AI. Superinteligence a hrozby budoucnosti Altman se netajil obavami, že by umělá inteligence mohla být zneužita i v geopolitickém kontextu. Uvedl, že ho „děsí představa“, že nepřátelský stát vyvine superinteligentní AI dříve než Spojené státy. Podle něj by takový systém mohl být nasazen k útokům na energetické sítě, vytvoření biologických zbraní nebo jiné formy kybernetického útoku. Tyto obavy jsou sdíleny i některými představiteli Bílého domu, kteří sledují rychlý vývoj AI v Číně. Altman varoval i před variantou, kdy by lidstvo předčasně svěřilo příliš velké rozhodovací pravomoci AI systémům, aniž by plně chápalo jejich fungování. Ačkoli firmy jako OpenAI usilují o vývoj superinteligence, zatím neexistuje jasná definice, kdy a jak tento bod bude dosažen. Altman se nicméně domnívá, že by se tak mohlo stát už do roku 2030. Zajímavé je, že Altman není mezi těmi, kdo předpovídají masové propouštění v důsledku AI. Tvrdí, že nikdo ve skutečnosti neví, jaký bude dopad této technologie na pracovní trh. Podle něj je ekonomika příliš komplexní a vliv AI příliš nový, než aby bylo možné dělat přesné předpovědi. Zpochybnil tak varování jiných technologických lídrů, například Andyho Jassyho z Amazonu (AMZN), kteří tvrdí, že AI ohrozí pracovní místa. Zdroj: Shutterstock Produktivita, nové role a pracovníci budoucnosti Ve svém projevu Altman zopakoval názor, že ačkoliv „celé skupiny povolání zmizí“, objeví se nové, dnes ještě nepředstavitelné pracovní role. Podle něj pracovníci budoucnosti možná nebudou vykonávat práci v tradičním slova smyslu. „Takže si vymýšlíte práci, abyste si mohli hrát na důležitou osobu,“ poznamenal s nadsázkou Altman. Tento komentář ilustruje jeho víru, že lidstvo si najde způsob, jak se přizpůsobit. V reakci na rostoucí zájem o dopad AI na zaměstnanost vydala OpenAI zprávu sestavenou svým hlavním ekonomem Ronniem Chatterjim. Ten přirovnává AI k průlomovým technologiím, jako je elektřina nebo tranzistor. Zpráva uvádí, že ChatGPT využívá celosvětově 500 milionů lidí, přičemž 20 % amerických uživatelů jej využívá jako osobního lektora. Zpráva dále ukazuje, že více než polovina uživatelů v USA je ve věku 18–34 let, což podle autorů naznačuje dlouhodobý potenciál pro růst produktivity. Chatterji plánuje v příštím roce spolupracovat s dalšími ekonomy na detailní studii, která se zaměří na dopady AI na pracovní trh v USA. Výzkum proběhne v nové kanceláři ve Washingtonu, což zdůrazňuje rostoucí úsilí OpenAI přispět k informovanému formování veřejné politiky v této oblasti.