Generální ředitel Sam Altman varuje, že by OpenAI mohla opustit Evropu kvůli novým pravidlům

Altman uvedl, že skepse společnosti OpenAI se soustředí na označení „vysoce rizikových“ systémů v zákoně EU, jak je v současné době navržen. Zákon stále prochází revizí, ale podle jeho současného znění může vyžadovat, aby velké modely umělé inteligence, jako jsou ChatGPT a GPT-4 společnosti OpenAI, byly označeny jako „vysoce rizikové“, což by společnosti, které za nimi stojí, nutilo dodržovat další bezpečnostní požadavky. Společnost OpenAI již dříve tvrdila, že její systémy pro všeobecné použití nejsou ze své podstaty vysoce rizikové.

„Buď budeme schopni tyto požadavky vyřešit, nebo ne,“ řekl Altman o ustanoveních zákona o umělé inteligenci pro vysoce rizikové systémy. „Pokud je budeme moci splnit, splníme je, a pokud ne, přestaneme fungovat… Budeme se snažit. Existují však technické limity toho, co je možné.“

Altman uvedl, že zákon „není ve své podstatě vadný“, ale dále řekl, že „na jemných detailech zde opravdu záleží“. Během rozhovoru na pódiu dříve během dne Altman uvedl, že jeho preferencí pro regulaci je „něco mezi tradičním evropským přístupem a tradičním americkým přístupem“.

Altman na pódiu také uvedl, že se obává rizik plynoucích z umělé inteligence, a vyzdvihl možnost dezinformací generovaných umělou inteligencí. Podle něj by například dezinformace generované umělou inteligencí mohly mít vliv na nadcházející volby v USA v roce 2024. Naznačil však, že důležitějšími hybateli dezinformací jsou platformy sociálních médií než jazykové modely AI. „Pomocí GPT-4 můžete generovat dezinformace, jaké chcete, ale pokud se nebudou šířit, moc toho nezmůžou,“ řekl.

Celkově Altman londýnskému publiku představil růžový pohled na možnou budoucnost, v níž přínosy technologie výrazně převažují nad jejími riziky. „Jsem optimista,“ řekl.

Chcete využít této příležitosti?

V rámci sociálně-ekonomické politiky se Altman zabýval otázkou nutnosti přerozdělování bohatství v budoucnosti řízené umělou inteligencí. „O rozdělování bohatství budeme muset přemýšlet jinak než dnes, a to je v pořádku,“ řekl Altman na pódiu. „Po každé technologické revoluci o tom přemýšlíme poněkud jinak.“

Altman po přednášce řekl časopisu TIME, že OpenAI se chystá v roce 2024 začít veřejně intervenovat na téma přerozdělování bohatství, podobně jako to v současnosti dělá v oblasti regulační politiky umělé inteligence. „Budeme se o to snažit,“ řekl. „To je pro nás tak trochu projekt na příští rok.“ OpenAI podle něj v současné době provádí pětiletou studii o univerzálním základním příjmu, která skončí příští rok. „To bude vhodná doba, abychom to udělali,“ řekl Altman.

Altmanovo vystoupení na londýnské univerzitě vzbudilo negativní pozornost. Před zaplněným přednáškovým sálem se pohybovala hrstka protestujících, kteří hovořili s lidmi, kteří se nedostali dovnitř. Jeden z protestujících nesl ceduli s nápisem: „Zastavte sebevražedný závod AGI.“ (AGI je zkratka pro „Artificial General Intelligence“, hypotetickou superinteligentní umělou inteligenci, kterou chce podle společnosti OpenAI jednoho dne vytvořit). Protestující rozdávali lidem letáky s výzvou: „Postavte se proti nebezpečné vizi Sama Altmana pro budoucnost“.

„Je načase, aby veřejnost vystoupila a řekla: je to naše budoucnost a my bychom o ní měli rozhodovat,“ řekl 20letý Gideon Futterman, jeden z protestujících, který podle svých slov studuje geoinženýrství a existenční rizika na Oxfordské univerzitě. „Neměli bychom nechat multimilionáře ze Silicon Valley s mesiášským komplexem rozhodovat o tom, co chceme.“

„Uzavíráme dohodu s ďáblem,“ říká Futterman. „Velmi mnoho lidí, kteří si myslí, že tyto systémy jsou na cestě k AGI, si také myslí, že špatná budoucnost je pravděpodobnější než dobrá.“

Futterman řekl časopisu TIME, že Altman po svém vystoupení na panelu vyšel ven a krátce s ním a dalšími protestujícími hovořil.

„Řekl, že chápe naše obavy, ale myslí si, že bezpečnost a schopnosti nelze od sebe oddělit,“ řekl Futterman. „Řekl, že OpenAI není hráčem v závodě [AI], přestože to tak zjevně dělají. V podstatě řekl, že si nemyslí, že tento vývoj lze zastavit, a řekl, že má důvěru v jejich bezpečnost.“

„Budeme se snažit vyhovět,“ řekl Altman na okraj panelové diskuse na University College London, která byla součástí probíhajícího turné po evropských zemích. Uvedl, že se v rámci svého turné setkal s regulačními orgány Evropské unie, aby s nimi projednal zákon o umělé inteligenci, a dodal, že společnost OpenAI má „hodně“ výtek k tomu, jak je zákon v současné době formulován.Altman uvedl, že skepse společnosti OpenAI se soustředí na označení „vysoce rizikových“ systémů v zákoně EU, jak je v současné době navržen. Zákon stále prochází revizí, ale podle jeho současného znění může vyžadovat, aby velké modely umělé inteligence, jako jsou ChatGPT a GPT-4 společnosti OpenAI, byly označeny jako „vysoce rizikové“, což by společnosti, které za nimi stojí, nutilo dodržovat další bezpečnostní požadavky. Společnost OpenAI již dříve tvrdila, že její systémy pro všeobecné použití nejsou ze své podstaty vysoce rizikové.„Buď budeme schopni tyto požadavky vyřešit, nebo ne,“ řekl Altman o ustanoveních zákona o umělé inteligenci pro vysoce rizikové systémy. „Pokud je budeme moci splnit, splníme je, a pokud ne, přestaneme fungovat… Budeme se snažit. Existují však technické limity toho, co je možné.“Altman uvedl, že zákon „není ve své podstatě vadný“, ale dále řekl, že „na jemných detailech zde opravdu záleží“. Během rozhovoru na pódiu dříve během dne Altman uvedl, že jeho preferencí pro regulaci je „něco mezi tradičním evropským přístupem a tradičním americkým přístupem“.Altman na pódiu také uvedl, že se obává rizik plynoucích z umělé inteligence, a vyzdvihl možnost dezinformací generovaných umělou inteligencí. Podle něj by například dezinformace generované umělou inteligencí mohly mít vliv na nadcházející volby v USA v roce 2024. Naznačil však, že důležitějšími hybateli dezinformací jsou platformy sociálních médií než jazykové modely AI. „Pomocí GPT-4 můžete generovat dezinformace, jaké chcete, ale pokud se nebudou šířit, moc toho nezmůžou,“ řekl.Celkově Altman londýnskému publiku představil růžový pohled na možnou budoucnost, v níž přínosy technologie výrazně převažují nad jejími riziky. „Jsem optimista,“ řekl. Chcete využít této příležitosti?V rámci sociálně-ekonomické politiky se Altman zabýval otázkou nutnosti přerozdělování bohatství v budoucnosti řízené umělou inteligencí. „O rozdělování bohatství budeme muset přemýšlet jinak než dnes, a to je v pořádku,“ řekl Altman na pódiu. „Po každé technologické revoluci o tom přemýšlíme poněkud jinak.“Altman po přednášce řekl časopisu TIME, že OpenAI se chystá v roce 2024 začít veřejně intervenovat na téma přerozdělování bohatství, podobně jako to v současnosti dělá v oblasti regulační politiky umělé inteligence. „Budeme se o to snažit,“ řekl. „To je pro nás tak trochu projekt na příští rok.“ OpenAI podle něj v současné době provádí pětiletou studii o univerzálním základním příjmu, která skončí příští rok. „To bude vhodná doba, abychom to udělali,“ řekl Altman.Altmanovo vystoupení na londýnské univerzitě vzbudilo negativní pozornost. Před zaplněným přednáškovým sálem se pohybovala hrstka protestujících, kteří hovořili s lidmi, kteří se nedostali dovnitř. Jeden z protestujících nesl ceduli s nápisem: „Zastavte sebevražedný závod AGI.“ . Protestující rozdávali lidem letáky s výzvou: „Postavte se proti nebezpečné vizi Sama Altmana pro budoucnost“.„Je načase, aby veřejnost vystoupila a řekla: je to naše budoucnost a my bychom o ní měli rozhodovat,“ řekl 20letý Gideon Futterman, jeden z protestujících, který podle svých slov studuje geoinženýrství a existenční rizika na Oxfordské univerzitě. „Neměli bychom nechat multimilionáře ze Silicon Valley s mesiášským komplexem rozhodovat o tom, co chceme.“„Uzavíráme dohodu s ďáblem,“ říká Futterman. „Velmi mnoho lidí, kteří si myslí, že tyto systémy jsou na cestě k AGI, si také myslí, že špatná budoucnost je pravděpodobnější než dobrá.“Futterman řekl časopisu TIME, že Altman po svém vystoupení na panelu vyšel ven a krátce s ním a dalšími protestujícími hovořil.„Řekl, že chápe naše obavy, ale myslí si, že bezpečnost a schopnosti nelze od sebe oddělit,“ řekl Futterman. „Řekl, že OpenAI není hráčem v závodě [AI], přestože to tak zjevně dělají. V podstatě řekl, že si nemyslí, že tento vývoj lze zastavit, a řekl, že má důvěru v jejich bezpečnost.“