CEO Googlu Sundar Pichai varuje společnost, aby se připravila na dopad zrychlování umělé inteligence

“Musíme se tomu jako společnost přizpůsobit,” řekl Pichai Pelleymu a dodal, že pracovní místa, která by umělá inteligence narušila, by zahrnovala “znalostní pracovníky”, včetně spisovatelů, účetních, architektů a paradoxně i softwarových inženýrů.

“Bude to mít dopad na všechny produkty všech společností,” řekl Pichai. “Můžete být například radiologem, když se zamyslíte nad tím, že za pět až deset let s vámi bude spolupracovat umělá inteligence. Přijdete ráno, řekněme, že máte sto věcí, které musíte projít, a ona vám může říct: ‘Tohle jsou nejzávažnější případy, na které se musíte podívat jako první’.”

Pelley si prohlédl další oblasti s pokročilými produkty umělé inteligence v rámci společnosti Google, včetně společnosti DeepMind, kde roboti hráli fotbal, který se sami naučili, na rozdíl od lidí. Jiná jednotka ukázala roboty, kteří rozpoznali předměty na pultu a přinesli Pelleymu jablko, o které požádal.

Když varoval před důsledky umělé inteligence, Pichai uvedl, že rozsah problému dezinformací a falešných zpráv a obrázků bude “mnohem větší”, a dodal, že “to může způsobit škody”.

Minulý měsíc CNBC uvedla, že Pichai interně řekl zaměstnancům, že úspěch nově spuštěného programu Bard nyní závisí na veřejném testování, a dodal, že “věci se můžou pokazit”.

Společnost Google minulý měsíc představila veřejnosti svého chatbota Barda s umělou inteligencí jako experimentální produkt. Následoval tak lednové oznámení společnosti Microsoft, že její vyhledávač Bing bude zahrnovat technologii GPT společnosti OpenAI, která si získala mezinárodní pozornost poté, co v roce 2022 spustila ChatGPT.

Obavy z důsledků rychlého pokroku však v posledních týdnech zasáhly i veřejnost a kritiky. V březnu Elon Musk, Steve Wozniak a desítky akademiků vyzvali k okamžitému pozastavení tréninkových “experimentů” spojených s velkými jazykovými modely, které jsou “výkonnější než GPT-4″, vlajková loď OpenAI LLM. Od té doby dopis podepsalo více než 25 000 lidí.

“Konkurenční tlak mezi giganty, jako je Google, a startupy, o kterých jste nikdy neslyšeli, žene lidstvo do budoucnosti, ať už je na ni připraveno, nebo ne,” komentoval Pelley v tomto segmentu.

Společnost Google vydala dokument, v němž uvádí “doporučení pro regulaci umělé inteligence”, ale Pichai uvedl, že společnost se musí rychle přizpůsobit regulaci, zákonům, které budou trestat zneužití, a smlouvám mezi státy, aby byla umělá inteligence pro svět bezpečná, a také pravidlům, která “jsou v souladu s lidskými hodnotami včetně morálky”.

“O tom nerozhoduje společnost,” řekl Pichai. “Proto si myslím, že se na vývoji musí podílet nejen inženýři, ale i sociologové, etici, filozofové a tak dále.”

Na otázku, zda je společnost připravena na technologii umělé inteligence, jako je Bard, Pichai odpověděl: “Na jednu stranu mám pocit, že ne, protože tempo, jakým dokážeme přemýšlet a přizpůsobovat se jako společenské instituce, se ve srovnání s tempem, jakým se vyvíjí technologie, zdá být nesouladné.”

Dodal však, že je optimistický, protože v porovnání s jinými technologiemi v minulosti se ”řada lidí, kteří se začali obávat důsledků”, tak učinila včas.

Na základě Pelleyho podnětu o šesti slovech vytvořil Bard příběh s postavami a zápletkou, které si sám vymyslel, včetně muže, jehož žena nemohla otěhotnět, a cizince, který truchlí po potratu a touží po uzavření vztahu. “Málokdy nemám slov,” řekl Pelley. “Lidskost v nadlidské rychlosti byla šokem.”

Pelley řekl, že se Barda zeptal, proč pomáhá lidem, a on odpověděl: “Protože mě to dělá šťastným.” To ho podle Pelleyho šokovalo. “Zdá se, že Bard přemýšlí,” řekl Jamesi Manyikovi, SVP společnosti Google, kterého loni najal jako vedoucího oddělení “technologie a společnost”. Manyika odpověděl, že Bard není vnímavý a neuvědomuje si sám sebe, ale může se tak “chovat”.

Pichai také řekl, že Bard má spoustu halucinací, když Pelley vysvětlil, že se Barda zeptal na inflaci a dostal okamžitou odpověď s návrhy na pět knih, které, když si to později ověřil, ve skutečnosti neexistovaly.

Pelley se také zdál být znepokojen, když Pichai řekl, že u chatbotů existuje ”černá skříňka”, u které “plně nerozumíte”, proč a jak přichází s určitými odpověďmi.

“Nechápeš, jak to funguje, a přesto jsi to pustil do společnosti?” Pelley se zeptal.

″Řeknu to takhle: myslím, že ani my plně nerozumíme tomu, jak funguje lidská mysl,” odpověděl Pichai.

V nedělním rozhovoru pro pořad 60 minut televize CBS, který se nesl ve znepokojivém tónu, si tazatel Scott Pelley vyzkoušel několik projektů umělé inteligence společnosti Google a řekl, že “nemá slov” a cítí, že je to “znepokojující”, přičemž měl na mysli schopnosti produktů, jako je chatbot Bard společnosti Google, které se podobají lidem.“Musíme se tomu jako společnost přizpůsobit,” řekl Pichai Pelleymu a dodal, že pracovní místa, která by umělá inteligence narušila, by zahrnovala “znalostní pracovníky”, včetně spisovatelů, účetních, architektů a paradoxně i softwarových inženýrů.“Bude to mít dopad na všechny produkty všech společností,” řekl Pichai. “Můžete být například radiologem, když se zamyslíte nad tím, že za pět až deset let s vámi bude spolupracovat umělá inteligence. Přijdete ráno, řekněme, že máte sto věcí, které musíte projít, a ona vám může říct: ‘Tohle jsou nejzávažnější případy, na které se musíte podívat jako první’.”Pelley si prohlédl další oblasti s pokročilými produkty umělé inteligence v rámci společnosti Google, včetně společnosti DeepMind, kde roboti hráli fotbal, který se sami naučili, na rozdíl od lidí. Jiná jednotka ukázala roboty, kteří rozpoznali předměty na pultu a přinesli Pelleymu jablko, o které požádal.Když varoval před důsledky umělé inteligence, Pichai uvedl, že rozsah problému dezinformací a falešných zpráv a obrázků bude “mnohem větší”, a dodal, že “to může způsobit škody”.Minulý měsíc CNBC uvedla, že Pichai interně řekl zaměstnancům, že úspěch nově spuštěného programu Bard nyní závisí na veřejném testování, a dodal, že “věci se můžou pokazit”.Společnost Google minulý měsíc představila veřejnosti svého chatbota Barda s umělou inteligencí jako experimentální produkt. Následoval tak lednové oznámení společnosti Microsoft, že její vyhledávač Bing bude zahrnovat technologii GPT společnosti OpenAI, která si získala mezinárodní pozornost poté, co v roce 2022 spustila ChatGPT.Obavy z důsledků rychlého pokroku však v posledních týdnech zasáhly i veřejnost a kritiky. V březnu Elon Musk, Steve Wozniak a desítky akademiků vyzvali k okamžitému pozastavení tréninkových “experimentů” spojených s velkými jazykovými modely, které jsou “výkonnější než GPT-4″, vlajková loď OpenAI LLM. Od té doby dopis podepsalo více než 25 000 lidí.“Konkurenční tlak mezi giganty, jako je Google, a startupy, o kterých jste nikdy neslyšeli, žene lidstvo do budoucnosti, ať už je na ni připraveno, nebo ne,” komentoval Pelley v tomto segmentu.Společnost Google vydala dokument, v němž uvádí “doporučení pro regulaci umělé inteligence”, ale Pichai uvedl, že společnost se musí rychle přizpůsobit regulaci, zákonům, které budou trestat zneužití, a smlouvám mezi státy, aby byla umělá inteligence pro svět bezpečná, a také pravidlům, která “jsou v souladu s lidskými hodnotami včetně morálky”.“O tom nerozhoduje společnost,” řekl Pichai. “Proto si myslím, že se na vývoji musí podílet nejen inženýři, ale i sociologové, etici, filozofové a tak dále.”Na otázku, zda je společnost připravena na technologii umělé inteligence, jako je Bard, Pichai odpověděl: “Na jednu stranu mám pocit, že ne, protože tempo, jakým dokážeme přemýšlet a přizpůsobovat se jako společenské instituce, se ve srovnání s tempem, jakým se vyvíjí technologie, zdá být nesouladné.”Dodal však, že je optimistický, protože v porovnání s jinými technologiemi v minulosti se ”řada lidí, kteří se začali obávat důsledků”, tak učinila včas.Na základě Pelleyho podnětu o šesti slovech vytvořil Bard příběh s postavami a zápletkou, které si sám vymyslel, včetně muže, jehož žena nemohla otěhotnět, a cizince, který truchlí po potratu a touží po uzavření vztahu. “Málokdy nemám slov,” řekl Pelley. “Lidskost v nadlidské rychlosti byla šokem.”Pelley řekl, že se Barda zeptal, proč pomáhá lidem, a on odpověděl: “Protože mě to dělá šťastným.” To ho podle Pelleyho šokovalo. “Zdá se, že Bard přemýšlí,” řekl Jamesi Manyikovi, SVP společnosti Google, kterého loni najal jako vedoucího oddělení “technologie a společnost”. Manyika odpověděl, že Bard není vnímavý a neuvědomuje si sám sebe, ale může se tak “chovat”.Pichai také řekl, že Bard má spoustu halucinací, když Pelley vysvětlil, že se Barda zeptal na inflaci a dostal okamžitou odpověď s návrhy na pět knih, které, když si to později ověřil, ve skutečnosti neexistovaly.Pelley se také zdál být znepokojen, když Pichai řekl, že u chatbotů existuje ”černá skříňka”, u které “plně nerozumíte”, proč a jak přichází s určitými odpověďmi.“Nechápeš, jak to funguje, a přesto jsi to pustil do společnosti?” Pelley se zeptal.″Řeknu to takhle: myslím, že ani my plně nerozumíme tomu, jak funguje lidská mysl,” odpověděl Pichai.