Několik vedoucích pracovníků v oblasti technologií a špičkových výzkumníků v oblasti umělé inteligence, včetně společnosti Tesla Inc. Elon Musk a průkopník umělé inteligence Yoshua Bengio, vyzývají k pozastavení překotného vývoje nových výkonných nástrojů umělé inteligence.
Podle zastánců moratoria na šest nebo více měsíců by odvětví mělo čas na stanovení bezpečnostních standardů pro konstrukci umělé inteligence a předejití možným škodám způsobeným nejrizikovějšími technologiemi umělé inteligence.
„Dostali jsme se do bodu, kdy jsou tyto systémy natolik inteligentní, že mohou být využívány způsoby, které jsou pro společnost nebezpečné,“ řekl v rozhovoru Bengio, ředitel Montrealského institutu pro učící se algoritmy při Montrealské univerzitě. „A my tomu zatím nerozumíme.“
Tyto obavy a doporučení k pozastavení byly uvedeny v dopise nazvaném „Pauza obřích experimentů s umělou inteligencí: Otevřený dopis“, který koordinuje neziskový Future of Life Institute, v němž je Musk uveden jako externí poradce. Dopis podepsali také spoluzakladatel společnosti Apple Steve Wozniak ; generální ředitel společnosti Stability AI Emad Mostaque a spoluzakladatelé Centra pro humánní technologie Tristan Harris a Aza Raskin, kteří se kriticky vyjadřují k sociálním médiím a technologiím umělé inteligence, uvedla mluvčí týmu, který dopis vypracoval.
Dopis nevyzývá k zastavení veškerého vývoje umělé inteligence, ale vyzývá společnosti, aby dočasně přestaly trénovat systémy výkonnější než GPT-4, technologii, kterou tento měsíc uvedl na trh startup OpenAI podporovaný společností Microsoft Corp.. To se týká i další generace technologie OpenAI, GPT-5.
Představitelé OpenAI tvrdí, že s výcvikem GPT-5 ještě nezačali. Generální ředitel OpenAI Sam Altman v rozhovoru uvedl, že společnost dlouhodobě klade při vývoji důraz na bezpečnost a před uvedením GPT-4 na trh strávila více než šest měsíců bezpečnostními testy.
„V jistém smyslu je to kázání sboru,“ řekl Altman. „Myslím, že jsme o těchto otázkách mluvili nejdéle, nejhlasitěji a nejintenzivněji.“
Volání po pauze je v rozporu s širokou snahou technologických společností a startupů zdvojnásobit takzvanou generativní umělou inteligenci, technologii schopnou generovat originální obsah na základě lidských podnětů. Rozruch kolem generativní umělé inteligence propukl loni na podzim poté, co společnost OpenAI představila chatbota se schopností vykonávat funkce, jako je poskytování dlouhých odpovědí a vytváření počítačového kódu s propracovaností podobnou lidskému.
Společnost Microsoft tuto technologii využila pro svůj vyhledávač Bing a další nástroje. Konkurenční systém nasadila společnost Google ze skupiny Alphabet Inc. a pokročilé nástroje umělé inteligence představily také společnosti Adobe Inc., Zoom Video Communications Inc. a Salesforce Inc.
„Závod začíná dnes,“ řekl minulý měsíc generální ředitel společnosti Microsoft Satya Nadella. „Budeme se pohybovat, a to rychle.“
Tento přístup vyvolal nové obavy, že rychlé zavedení by mohlo mít vedle skutečných přínosů i nezamýšlené důsledky. Pokrok v oblasti umělé inteligence překonal to, co mnozí odborníci ještě před několika lety považovali za možné, uvedl Max Tegmark, jeden z organizátorů dopisu, prezident Future of Life Institute a profesor fyziky na Massachusettském technologickém institutu.
„Je nešťastné, když se to bere jako závody ve zbrojení,“ řekl Tegmark. „Je to spíše závod sebevrahů. Nezáleží na tom, kdo se tam dostane první. Znamená to jen, že lidstvo jako celek může ztratit kontrolu nad svým osudem.“
Future of Life Institute začal na dopise pracovat minulý týden a zpočátku umožnil podepsat ho komukoli bez ověření totožnosti. V jednu chvíli bylo do dopisu přidáno jméno Altmana, ale později bylo odstraněno. Altman uvedl, že dopis nikdy nepodepsal. Uvedl, že společnost často koordinuje své kroky s ostatními společnostmi zabývajícími se umělou inteligencí, pokud jde o bezpečnostní normy a širší problémy.
„Existuje práce, kterou neděláme, protože si myslíme, že ještě nevíme, jak ji dostatečně zabezpečit,“ řekl. „Takže ano, myslím, že existují způsoby, jak zpomalit na více osách, a to je důležité. A je to součástí naší strategie.“
Zdroj: Getty Images
Musk a Wozniak vyjádřili obavy z technologie umělé inteligence. „Existují vážné problémy s riziky AI,“ uvedl na Twitteru Musk, který patřil mezi první zakladatele a finanční podporovatele OpenAI.
Musk zároveň ve společnosti Tesla využívá některé nástroje umělé inteligence pro pokročilé asistenční funkce řidiče. Společnost Tesla minulý měsíc uvedla, že svolává přibližně 362 800 vozidel vybavených její technologií prodávanou pod názvem Full Self-Driving Beta. Nejvyšší americký úřad pro bezpečnost automobilů uvedl, že tato technologie může ve výjimečných případech porušovat místní dopravní předpisy a potenciálně zvyšovat riziko srážky, pokud řidič nezasáhne.
Yann LeCun, vedoucí vědecký pracovník pro umělou inteligenci ve společnosti Meta Platforms Inc., v úterý na Twitteru uvedl, že dopis nepodepsal, protože nesouhlasí s jeho východisky.
Tegmark uvedl, že mnoho společností pociťuje „šílený komerční tlak“, aby do svých produktů přidávaly pokročilé technologie umělé inteligence. Šestiměsíční pauza by odvětví poskytla „prostor k oddechu“, aniž by znevýhodnila ty, které se rozhodnou postupovat opatrně.
V dopise se uvádí, že nejméně šestiměsíční pauza by měla být veřejně vyhlášena a ověřitelná a měli by se jí účastnit všichni klíčoví aktéři v této oblasti. „Pokud takovou pauzu nebude možné rychle uzákonit, měly by zasáhnout vlády a zavést moratorium,“ uvádí se v dopise.
Laboratoře a odborníci na umělou inteligenci mohou tento čas využít k vytvoření souboru společných bezpečnostních pravidel pro pokročilé návrhy umělé inteligence, která by měla být kontrolována a dohlížena externími odborníky, tvrdí autoři a dodávají: „Tyto protokoly by měly zajistit, že systémy, které je dodržují, jsou nade vší pochybnost bezpečné.“
„Nemyslím si, že si můžeme dovolit jen tak jít dopředu a rozbíjet věci,“ řekl Bengio, který se v roce 2018 podělil o Turingovu cenu za vynález systémů, na nichž je moderní umělá inteligence postavena. „Musíme si dát na čas a promyslet to kolektivně.“
Několik vedoucích pracovníků v oblasti technologií a špičkových výzkumníků v oblasti umělé inteligence, včetně společnosti Tesla Inc. Elon Musk a průkopník umělé inteligence Yoshua Bengio, vyzývají k pozastavení překotného vývoje nových výkonných nástrojů umělé inteligence.Podle zastánců moratoria na šest nebo více měsíců by odvětví mělo čas na stanovení bezpečnostních standardů pro konstrukci umělé inteligence a předejití možným škodám způsobeným nejrizikovějšími technologiemi umělé inteligence.„Dostali jsme se do bodu, kdy jsou tyto systémy natolik inteligentní, že mohou být využívány způsoby, které jsou pro společnost nebezpečné,“ řekl v rozhovoru Bengio, ředitel Montrealského institutu pro učící se algoritmy při Montrealské univerzitě. „A my tomu zatím nerozumíme.“Tyto obavy a doporučení k pozastavení byly uvedeny v dopise nazvaném „Pauza obřích experimentů s umělou inteligencí: Otevřený dopis“, který koordinuje neziskový Future of Life Institute, v němž je Musk uveden jako externí poradce. Dopis podepsali také spoluzakladatel společnosti Apple Steve Wozniak ; generální ředitel společnosti Stability AI Emad Mostaque a spoluzakladatelé Centra pro humánní technologie Tristan Harris a Aza Raskin, kteří se kriticky vyjadřují k sociálním médiím a technologiím umělé inteligence, uvedla mluvčí týmu, který dopis vypracoval.Dopis nevyzývá k zastavení veškerého vývoje umělé inteligence, ale vyzývá společnosti, aby dočasně přestaly trénovat systémy výkonnější než GPT-4, technologii, kterou tento měsíc uvedl na trh startup OpenAI podporovaný společností Microsoft Corp.. To se týká i další generace technologie OpenAI, GPT-5.Představitelé OpenAI tvrdí, že s výcvikem GPT-5 ještě nezačali. Generální ředitel OpenAI Sam Altman v rozhovoru uvedl, že společnost dlouhodobě klade při vývoji důraz na bezpečnost a před uvedením GPT-4 na trh strávila více než šest měsíců bezpečnostními testy.„V jistém smyslu je to kázání sboru,“ řekl Altman. „Myslím, že jsme o těchto otázkách mluvili nejdéle, nejhlasitěji a nejintenzivněji.“Chcete využít této příležitosti?Volání po pauze je v rozporu s širokou snahou technologických společností a startupů zdvojnásobit takzvanou generativní umělou inteligenci, technologii schopnou generovat originální obsah na základě lidských podnětů. Rozruch kolem generativní umělé inteligence propukl loni na podzim poté, co společnost OpenAI představila chatbota se schopností vykonávat funkce, jako je poskytování dlouhých odpovědí a vytváření počítačového kódu s propracovaností podobnou lidskému.Společnost Microsoft tuto technologii využila pro svůj vyhledávač Bing a další nástroje. Konkurenční systém nasadila společnost Google ze skupiny Alphabet Inc. a pokročilé nástroje umělé inteligence představily také společnosti Adobe Inc., Zoom Video Communications Inc. a Salesforce Inc.„Závod začíná dnes,“ řekl minulý měsíc generální ředitel společnosti Microsoft Satya Nadella. „Budeme se pohybovat, a to rychle.“Tento přístup vyvolal nové obavy, že rychlé zavedení by mohlo mít vedle skutečných přínosů i nezamýšlené důsledky. Pokrok v oblasti umělé inteligence překonal to, co mnozí odborníci ještě před několika lety považovali za možné, uvedl Max Tegmark, jeden z organizátorů dopisu, prezident Future of Life Institute a profesor fyziky na Massachusettském technologickém institutu.„Je nešťastné, když se to bere jako závody ve zbrojení,“ řekl Tegmark. „Je to spíše závod sebevrahů. Nezáleží na tom, kdo se tam dostane první. Znamená to jen, že lidstvo jako celek může ztratit kontrolu nad svým osudem.“Future of Life Institute začal na dopise pracovat minulý týden a zpočátku umožnil podepsat ho komukoli bez ověření totožnosti. V jednu chvíli bylo do dopisu přidáno jméno Altmana, ale později bylo odstraněno. Altman uvedl, že dopis nikdy nepodepsal. Uvedl, že společnost často koordinuje své kroky s ostatními společnostmi zabývajícími se umělou inteligencí, pokud jde o bezpečnostní normy a širší problémy.„Existuje práce, kterou neděláme, protože si myslíme, že ještě nevíme, jak ji dostatečně zabezpečit,“ řekl. „Takže ano, myslím, že existují způsoby, jak zpomalit na více osách, a to je důležité. A je to součástí naší strategie.“Musk a Wozniak vyjádřili obavy z technologie umělé inteligence. „Existují vážné problémy s riziky AI,“ uvedl na Twitteru Musk, který patřil mezi první zakladatele a finanční podporovatele OpenAI.Musk zároveň ve společnosti Tesla využívá některé nástroje umělé inteligence pro pokročilé asistenční funkce řidiče. Společnost Tesla minulý měsíc uvedla, že svolává přibližně 362 800 vozidel vybavených její technologií prodávanou pod názvem Full Self-Driving Beta. Nejvyšší americký úřad pro bezpečnost automobilů uvedl, že tato technologie může ve výjimečných případech porušovat místní dopravní předpisy a potenciálně zvyšovat riziko srážky, pokud řidič nezasáhne.Yann LeCun, vedoucí vědecký pracovník pro umělou inteligenci ve společnosti Meta Platforms Inc., v úterý na Twitteru uvedl, že dopis nepodepsal, protože nesouhlasí s jeho východisky.Tegmark uvedl, že mnoho společností pociťuje „šílený komerční tlak“, aby do svých produktů přidávaly pokročilé technologie umělé inteligence. Šestiměsíční pauza by odvětví poskytla „prostor k oddechu“, aniž by znevýhodnila ty, které se rozhodnou postupovat opatrně.V dopise se uvádí, že nejméně šestiměsíční pauza by měla být veřejně vyhlášena a ověřitelná a měli by se jí účastnit všichni klíčoví aktéři v této oblasti. „Pokud takovou pauzu nebude možné rychle uzákonit, měly by zasáhnout vlády a zavést moratorium,“ uvádí se v dopise.Laboratoře a odborníci na umělou inteligenci mohou tento čas využít k vytvoření souboru společných bezpečnostních pravidel pro pokročilé návrhy umělé inteligence, která by měla být kontrolována a dohlížena externími odborníky, tvrdí autoři a dodávají: „Tyto protokoly by měly zajistit, že systémy, které je dodržují, jsou nade vší pochybnost bezpečné.“„Nemyslím si, že si můžeme dovolit jen tak jít dopředu a rozbíjet věci,“ řekl Bengio, který se v roce 2018 podělil o Turingovu cenu za vynález systémů, na nichž je moderní umělá inteligence postavena. „Musíme si dát na čas a promyslet to kolektivně.“
Akcie společnosti Planet Labs patří v posledním roce k nejvýraznějším vítězům technologického a obranného segmentu. Během dvanácti měsíců posílily akcie...
