Britský summit se zaměřuje na řešení palčivých otázek souvisejících s riziky kolem AI

Jejich úkolem na dvoudenním summitu bylo hluboce se ponořit do diskusí o extrémních rizicích, která představuje nejmodernější umělá inteligence (AI), konkrétně hraniční AI.

Hraniční umělá inteligence zahrnuje nejnovější a nejvýkonnější systémy, které posouvají technologie až na samé hranice jejich možností. Je poháněna “základními modely” a využívá stávající technologie a zesiluje je v exponenciálním měřítku. Na těchto modelech pracují výkonné systémy, jako je ChatGPT společnosti OpenAI a Bard společnosti Google, oba vyškolené na datech získaných z obrovských prostor internetu.

Ačkoli je síla hraniční umělé inteligence nepopiratelně působivá, může s sebou přinášet strašlivá, neznámá nebezpečí. Právě tato obezřetnost přiměla přibližně 100 účastníků z 28 zemí k účasti na summitu o bezpečnosti AI, který pořádal premiér Rishi Sunak. Sunak, zapřísáhlý technologický nadšenec a bývalý bankéř, usiluje o to, aby se Velká Británie stala centrem inovací v oblasti výpočetní techniky.

Britská vláda seznam hostů, kteří se summitu o bezpečnosti AI zúčastnili, nezveřejnila. Předem však bylo známo, že se summitu ve čtvrtek zúčastní americká viceprezidentka Kamala Harrisová. Její účast přichází se záměrem obhájit přímý přístup americké administrativy k AI. Mezi účastníky byli vládní představitelé z Kanady, Francie, Německa, Indie, Japonska, Saúdské Arábie a Číny. Zařazení Číny na seznam hostů se setkalo s určitým nesouhlasem členů Sunakovy Konzervativní strany.

Ve čtvrtek večer se očekává vysoce prestižní dialog mezi Sunakem a generálním ředitelem společnosti Tesla Elonem Muskem. Musk, technologický magnát známý svými ambiciózními podniky v oblasti cestování do vesmíru a obnovitelných zdrojů energie, byl jedním z těch, kteří na začátku tohoto roku podepsali prohlášení varující před potenciálním nebezpečím, které umělá inteligence představuje pro lidstvo.

Mezi další významné osobnosti, které se na summitu očekávaly, patřila předsedkyně Evropské komise Ursula von der Leyenová, generální tajemník OSN Antonio Guterres a šéfové amerických společností zabývajících se umělou inteligencí, jako je Anthropic. Přítomnost renomovaného počítačového vědce Yoshua Bengia, který je označován za jednoho z “kmotrů” umělé inteligence, dodala akademické reputaci v místnosti.

Diskuse se konaly v Bletchley Parku, místě s bohatou historií lámání kódů za druhé světové války, které je považováno za kolébku moderní výpočetní techniky. Zdálo se, že je to vhodná kulisa pro hluboké rozhovory o tom, kam by nás výpočetní technika mohla v budoucnu zavést.

Chcete využít této příležitosti?

Sunakovým hlavním cílem bylo sjednotit delegáty a dohodnout se na vůbec prvním komuniké o povaze rizik spojených s umělou inteligencí. Zdůraznil nové příležitosti, které technologie nabízí, ale bil na poplach ohledně jejího potenciálního ohrožení pro lidstvo. Poukázal na to, jak by mohla být hraniční UI manipulována k nekalým účelům, jako jsou biologické zbraně nebo terorismus, což by vedlo k rozsáhlému strachu a zkáze.

Navzdory těmto rizikům Sunak zároveň účastníky nabádal, aby nespěchali s tvrdou regulací AI. Tvrdil, že ačkoli úloha chránit lidi před nebezpečím AI leží na vládě, je třeba takovou technologii plně pochopit, než bude možné účinně vytvořit jakoukoli regulaci.

Harrisová se naopak hodlal zaměřit na existující společenské škody, jako jsou předsudky, diskriminace a šíření dezinformací v důsledku slabé regulace AI. Prohlásila, že Bidenova administrativa je “odhodlána jménem občanů vést společnosti k odpovědnosti způsobem, který nebude potlačovat inovace”, a to i prostřednictvím legislativních opatření.

Harrisová měla v plánu vyzdvihnout americké úsilí o regulaci AI a poukázala na exekutivní příkaz prezidenta Bidena z tohoto týdne, kterým se stanoví ochranná opatření v oblasti AI – důkaz, že USA jdou příkladem při vytváření veřejně prospěšných pravidel v oblasti AI. Mezi iniciativami, které chtěla oznámit, bylo i zřízení Institutu pro bezpečnost AI, který bude řídit ministerstvo obchodu.

Nakonec se očekává, že Harrisová vyzve další země, aby se připojily k závazku podporovanému USA, který se zasazuje o “odpovědné a etické” využívání AI ve vojenských operacích. Ačkoli k těmto podrobným plánům dospěl anonymní úředník Bílého domu, stanovily vizi summitu a předpověděly pravděpodobné výroky a cíle Harrisové.

Dvoudenní summit byl svolán v kritické historické době, kdy se zavádění umělé inteligence zrychluje, zatímco rizika zůstávají z velké části nedefinovaná. Prostřednictvím diplomacie a dialogu mezi státy a vedoucími představiteli průmyslu se doufá, že se podaří dosáhnout lepšího porozumění a silnější regulace hraniční AI – vyvážení potenciálních přínosů AI a extrémních rizik, která tato nastupující technologie představuje.

V souvislosti s rychlým vývojem technologií se ve středu na bývalé špionážní základně nedaleko Londýna sešli světoví lídři, technologičtí magnáti a akademičtí výzkumníci. Jejich úkolem na dvoudenním summitu bylo hluboce se ponořit do diskusí o extrémních rizicích, která představuje nejmodernější umělá inteligence (AI), konkrétně hraniční AI. Hraniční umělá inteligence zahrnuje nejnovější a nejvýkonnější systémy, které posouvají technologie až na samé hranice jejich možností. Je poháněna “základními modely” a využívá stávající technologie a zesiluje je v exponenciálním měřítku. Na těchto modelech pracují výkonné systémy, jako je ChatGPT společnosti OpenAI a Bard společnosti Google, oba vyškolené na datech získaných z obrovských prostor internetu. Ačkoli je síla hraniční umělé inteligence nepopiratelně působivá, může s sebou přinášet strašlivá, neznámá nebezpečí. Právě tato obezřetnost přiměla přibližně 100 účastníků z 28 zemí k účasti na summitu o bezpečnosti AI, který pořádal premiér Rishi Sunak. Sunak, zapřísáhlý technologický nadšenec a bývalý bankéř, usiluje o to, aby se Velká Británie stala centrem inovací v oblasti výpočetní techniky. Zdroj: AP Photo Britská vláda seznam hostů, kteří se summitu o bezpečnosti AI zúčastnili, nezveřejnila. Předem však bylo známo, že se summitu ve čtvrtek zúčastní americká viceprezidentka Kamala Harrisová. Její účast přichází se záměrem obhájit přímý přístup americké administrativy k AI. Mezi účastníky byli vládní představitelé z Kanady, Francie, Německa, Indie, Japonska, Saúdské Arábie a Číny. Zařazení Číny na seznam hostů se setkalo s určitým nesouhlasem členů Sunakovy Konzervativní strany. Ve čtvrtek večer se očekává vysoce prestižní dialog mezi Sunakem a generálním ředitelem společnosti Tesla Elonem Muskem. Musk, technologický magnát známý svými ambiciózními podniky v oblasti cestování do vesmíru a obnovitelných zdrojů energie, byl jedním z těch, kteří na začátku tohoto roku podepsali prohlášení varující před potenciálním nebezpečím, které umělá inteligence představuje pro lidstvo. Mezi další významné osobnosti, které se na summitu očekávaly, patřila předsedkyně Evropské komise Ursula von der Leyenová, generální tajemník OSN Antonio Guterres a šéfové amerických společností zabývajících se umělou inteligencí, jako je Anthropic. Přítomnost renomovaného počítačového vědce Yoshua Bengia, který je označován za jednoho z “kmotrů” umělé inteligence, dodala akademické reputaci v místnosti. Diskuse se konaly v Bletchley Parku, místě s bohatou historií lámání kódů za druhé světové války, které je považováno za kolébku moderní výpočetní techniky. Zdálo se, že je to vhodná kulisa pro hluboké rozhovory o tom, kam by nás výpočetní technika mohla v budoucnu zavést. Sunakovým hlavním cílem bylo sjednotit delegáty a dohodnout se na vůbec prvním komuniké o povaze rizik spojených s umělou inteligencí. Zdůraznil nové příležitosti, které technologie nabízí, ale bil na poplach ohledně jejího potenciálního ohrožení pro lidstvo. Poukázal na to, jak by mohla být hraniční UI manipulována k nekalým účelům, jako jsou biologické zbraně nebo terorismus, což by vedlo k rozsáhlému strachu a zkáze. Zdroj: Getty Images Navzdory těmto rizikům Sunak zároveň účastníky nabádal, aby nespěchali s tvrdou regulací AI. Tvrdil, že ačkoli úloha chránit lidi před nebezpečím AI leží na vládě, je třeba takovou technologii plně pochopit, než bude možné účinně vytvořit jakoukoli regulaci. Harrisová se naopak hodlal zaměřit na existující společenské škody, jako jsou předsudky, diskriminace a šíření dezinformací v důsledku slabé regulace AI. Prohlásila, že Bidenova administrativa je “odhodlána jménem občanů vést společnosti k odpovědnosti způsobem, který nebude potlačovat inovace”, a to i prostřednictvím legislativních opatření. Harrisová měla v plánu vyzdvihnout americké úsilí o regulaci AI a poukázala na exekutivní příkaz prezidenta Bidena z tohoto týdne, kterým se stanoví ochranná opatření v oblasti AI – důkaz, že USA jdou příkladem při vytváření veřejně prospěšných pravidel v oblasti AI. Mezi iniciativami, které chtěla oznámit, bylo i zřízení Institutu pro bezpečnost AI, který bude řídit ministerstvo obchodu. Nakonec se očekává, že Harrisová vyzve další země, aby se připojily k závazku podporovanému USA, který se zasazuje o “odpovědné a etické” využívání AI ve vojenských operacích. Ačkoli k těmto podrobným plánům dospěl anonymní úředník Bílého domu, stanovily vizi summitu a předpověděly pravděpodobné výroky a cíle Harrisové. Zdroj: Getty Images Dvoudenní summit byl svolán v kritické historické době, kdy se zavádění umělé inteligence zrychluje, zatímco rizika zůstávají z velké části nedefinovaná. Prostřednictvím diplomacie a dialogu mezi státy a vedoucími představiteli průmyslu se doufá, že se podaří dosáhnout lepšího porozumění a silnější regulace hraniční AI – vyvážení potenciálních přínosů AI a extrémních rizik, která tato nastupující technologie představuje.