Biden se setkal s generálními řediteli Microsoftu a Googlu ohledně nebezpečí AI

Generativní umělá inteligence se v letošním roce stala módním slovem, protože aplikace jako ChatGPT zaujaly veřejnost a vyvolaly spěch mezi společnostmi, které chtějí uvést na trh podobné produkty, o nichž věří, že změní povahu práce.

Miliony uživatelů začaly testovat tyto nástroje, které podle příznivců dokáží stanovit lékařskou diagnózu, napsat scénář, vytvořit právní spis a odladit software, což vede k rostoucím obavám, že by tato technologie mohla vést k porušování soukromí, zkreslovat rozhodnutí o zaměstnání a podporovat podvody a dezinformační kampaně.

Biden, který ChatGPT používal a experimentoval s ním, řekl úředníkům, že musí zmírnit současná a potenciální rizika, která AI představuje pro jednotlivce, společnost a národní bezpečnost, uvedl Bílý dům.

Na setkání proběhla „upřímná a konstruktivní diskuse“ o potřebě větší transparentnosti společností vůči tvůrcům politik ohledně jejich systémů umělé inteligence, o důležitosti hodnocení bezpečnosti těchto produktů a o potřebě chránit je před škodlivými útoky, dodal Bílý dům.

Čtvrtečního dvouhodinového setkání, se zúčastnili Sundar Pichai ze společnosti Google, Satya Nadella z Microsoft Corp (NASDAQ:MSFT), Sam Altman z OpenAI a Dario Amodei z Anthropic, viceprezidentka Kamala Harrisová a představitelé administrativy včetně Bidenova personálního šéfa Jeffa Zientse, poradce pro národní bezpečnost Jakea Sullivana, ředitelky Národní ekonomické rady Lael Brainardové a ministryně obchodu Giny Raimondo.

Harris ve svém prohlášení uvedl, že tato technologie má potenciál zlepšit životy, ale může vyvolat obavy o bezpečnost, soukromí a občanská práva. Řekla šéfům firem, že mají „právní odpovědnost“ za zajištění bezpečnosti svých produktů umělé inteligence a že administrativa je otevřena prosazování nových předpisů a podpoře nové legislativy týkající se umělé inteligence.

V odpovědi na otázku, zda se společnosti shodují v otázce regulace, Altman novinářům po jednání řekl, že „překvapivě máme stejný názor na to, co je třeba udělat“.

Administrativa rovněž oznámila, že Národní vědecká nadace (National Science Foundation) investuje 140 milionů dolarů do založení sedmi nových výzkumných ústavů AI, a uvedla, že Úřad pro řízení a rozpočet Bílého domu vydá politické pokyny pro využívání AI federální vládou. Přední vývojáři AI, včetně společností Anthropic, Google, Hugging Face, NVIDIA Corp (NASDAQ:NVDA), OpenAI a Stability AI, se zúčastní veřejného hodnocení svých systémů AI.

Krátce poté, co Biden oznámil svou kandidaturu na znovuzvolení, natočil Republikánský národní výbor video, které zobrazovalo dystopickou budoucnost během druhého Bidenova funkčního období a které bylo celé vytvořeno pomocí obrazů umělé inteligence.

Očekává se, že s rozvojem technologie umělé inteligence budou takové politické reklamy stále častější.

Regulační orgány Spojených států nedosáhly tak tvrdého přístupu, jaký zaujaly evropské vlády v oblasti technologické regulace a při vytváření přísných pravidel týkajících se falešných informací a dezinformací.

„Nevnímáme to jako závod,“ uvedl jeden z vysokých úředníků administrativy a dodal, že administrativa na této otázce úzce spolupracuje s Radou pro obchod a technologie mezi USA a EU.

V únoru Biden podepsal exekutivní příkaz, který nařizuje federálním agenturám, aby odstranily předsudky při používání umělé inteligence. Bidenova administrativa rovněž vydala listinu práv v oblasti umělé inteligence a rámec pro řízení rizik.

Minulý týden Federální obchodní komise a odbor pro občanská práva ministerstva spravedlnosti rovněž uvedly, že využijí své právní pravomoci k boji proti škodám souvisejícím s umělou inteligencí.

Technologičtí giganti mnohokrát slíbili, že budou bojovat proti propagandě kolem voleb, falešným zprávám o vakcínách COVID-19, pornografii a zneužívání dětí a nenávistným zprávám zaměřeným na etnické skupiny. Nebyly však úspěšné, jak ukazují výzkumy a zpravodajské události.