Italský úřad pro ochranu osobních údajů zakázal ChatGPT kvůli obavám z porušení ochrany osobních údajů

Společnost OpenAI v pátek uvedla, že v Itálii zakázala službu ChatGPT a že dodržuje obecné nařízení EU o ochraně osobních údajů (GDPR).

„Jsme odhodláni chránit soukromí lidí a věříme, že dodržujeme GDPR a další zákony o ochraně osobních údajů,“ uvedl mluvčí společnosti OpenAI a dodal, že společnost omezuje používání osobních údajů v systémech, jako je ChatGPT.

„Při trénování našich systémů umělé inteligence, jako je ChatGPT, se aktivně snažíme omezit osobní údaje, protože chceme, aby se naše umělá inteligence učila o světě, nikoli o soukromých osobách.“

Služba ChatGPT se od svého spuštění v listopadu loňského roku stala senzací díky své schopnosti generovat věrohodně znějící odpovědi na otázky a vytvářet na výzvu uživatelů celou řadu obsahu včetně básní, akademických esejí a shrnutí dlouhých dokumentů.

Je poháněn průkopnickým systémem umělé inteligence, který je vyškolen na základě obrovského množství informací získaných z internetu.

Italský dozorčí orgán ve svém prohlášení uvedl obavy ohledně způsobu, jakým chatbot zpracovává informace.

Poukázala na „chybějící oznámení uživatelům a všem zúčastněným, jejichž údaje OpenAI shromažďuje“, a uvedla, že „neexistuje žádný právní základ pro masivní shromažďování a zpracování osobních údajů za účelem ‚trénování‘ algoritmů, na nichž je platforma založena“.

Zákaz přišel několik dní poté, co více než 1 000 odborníků na umělou inteligenci, výzkumníků a podporovatelů – včetně generálního ředitele společnosti Tesla Elona Muska – vyzvalo k okamžitému pozastavení vytváření „obřích“ umělých inteligencí po dobu nejméně šesti měsíců kvůli obavám, že společnosti jako OpenAI vytvářejí „stále výkonnější digitální mozky, kterým nikdo … nemůže rozumět, předvídat je nebo je spolehlivě ovládat“.

Italský dozorčí orgán se rovněž zmínil o narušení bezpečnosti údajů, k němuž došlo 20. března u společnosti OpenAI a které částečně odhalilo konverzace a osobní údaje některých uživatelů včetně e-mailových adres a posledních čtyř číslic jejich kreditních karet.

Regulátor uvedl, že společnost ChatGPT se potýkala se ztrátou údajů „týkajících se konverzací uživatelů a informací souvisejících s platbami účastníků za službu“. Společnost OpenAI se tehdy omluvila a uvedla, že bude „usilovně pracovat na obnovení důvěry“.

Regulační orgán rovněž poukázal na náchylnost společnosti ChatGPT k nepřesným odpovědím a uvedl, že „informace poskytnuté společností ChatGPT ne vždy odpovídají skutečným okolnostem, takže dochází ke zpracování nepřesných osobních údajů“.

Nakonec uvedla, že „nedostatečné ověření věku vystavuje děti tomu, že dostanou odpovědi, které jsou naprosto nevhodné vzhledem k jejich věku a povědomí, přestože je služba údajně určena uživatelům starším 13 let podle podmínek služby OpenAI“.

Italský dozorčí orgán uvedl, že společnost OpenAI mu musí do 20 dnů předložit zprávu o tom, jaká opatření přijala k zajištění ochrany osobních údajů uživatelů, jinak jí hrozí pokuta až do výše 20 milionů eur (17,5 milionu liber) nebo 4 % ročních celosvětových příjmů. Společnost OpenAI byla kontaktována s žádostí o vyjádření.

Společnost OpenAI, která ChatGPT vyvinula, v pátek na žádost o komentář bezprostředně nereagovala.

Tento krok pravděpodobně neovlivní žádosti společností, které již mají licenci od OpenAI na používání stejné technologie, která pohání chatbota, jako je například vyhledávač Bing společnosti Microsoft.

Generální ředitel společnosti OpenAI Sam Altman tento týden oznámil, že se v květnu vydává na cestu po šesti kontinentech, aby o této technologii hovořil s uživateli a vývojáři.

Součástí této cesty bude i plánovaná zastávka v Bruselu, kde zákonodárci Evropské unie jednají o nových rozsáhlých pravidlech pro omezení rizikových nástrojů umělé inteligence.

Zeptali jsme se přímo ChatGPT

Porušuje ChatGPT ochranu osobních údajů?

Ano, jako AI model dodržuji standardní postupy ochrany osobních údajů. Všechny konverzace jsou šifrovány pomocí protokolu HTTPS a všechna data jsou uchovávána v bezpečném úložišti s omezeným přístupem.

Dále respektuji zásady ochrany osobních údajů GDPR a CCPA a neukládám žádné osobní údaje bez vědomí a souhlasu uživatele. Všechny údaje, které jsou mi poskytnuty během konverzace, jsou používány pouze k tomu, aby bylo možné poskytnout relevantní odpovědi na dotazy uživatele, a jsou uchovávány pouze po dobu nezbytně nutnou k tomu, aby byly účely konverzace dosaženy.

Italský úřad pro ochranu osobních údajů označil tento krok za dočasné opatření, „dokud ChatGPT nebude respektovat soukromí“. Úřad uvedl, že ukládá „okamžité dočasné omezení zpracování údajů italských uživatelů“ vlastníkem ChatGPT, společností OpenAI se sídlem v San Franciscu.Společnost OpenAI v pátek uvedla, že v Itálii zakázala službu ChatGPT a že dodržuje obecné nařízení EU o ochraně osobních údajů .„Jsme odhodláni chránit soukromí lidí a věříme, že dodržujeme GDPR a další zákony o ochraně osobních údajů,“ uvedl mluvčí společnosti OpenAI a dodal, že společnost omezuje používání osobních údajů v systémech, jako je ChatGPT.„Při trénování našich systémů umělé inteligence, jako je ChatGPT, se aktivně snažíme omezit osobní údaje, protože chceme, aby se naše umělá inteligence učila o světě, nikoli o soukromých osobách.“Služba ChatGPT se od svého spuštění v listopadu loňského roku stala senzací díky své schopnosti generovat věrohodně znějící odpovědi na otázky a vytvářet na výzvu uživatelů celou řadu obsahu včetně básní, akademických esejí a shrnutí dlouhých dokumentů.Je poháněn průkopnickým systémem umělé inteligence, který je vyškolen na základě obrovského množství informací získaných z internetu.Italský dozorčí orgán ve svém prohlášení uvedl obavy ohledně způsobu, jakým chatbot zpracovává informace.Poukázala na „chybějící oznámení uživatelům a všem zúčastněným, jejichž údaje OpenAI shromažďuje“, a uvedla, že „neexistuje žádný právní základ pro masivní shromažďování a zpracování osobních údajů za účelem ‚trénování‘ algoritmů, na nichž je platforma založena“.Zákaz přišel několik dní poté, co více než 1 000 odborníků na umělou inteligenci, výzkumníků a podporovatelů – včetně generálního ředitele společnosti Tesla Elona Muska – vyzvalo k okamžitému pozastavení vytváření „obřích“ umělých inteligencí po dobu nejméně šesti měsíců kvůli obavám, že společnosti jako OpenAI vytvářejí „stále výkonnější digitální mozky, kterým nikdo … nemůže rozumět, předvídat je nebo je spolehlivě ovládat“.Italský dozorčí orgán se rovněž zmínil o narušení bezpečnosti údajů, k němuž došlo 20. března u společnosti OpenAI a které částečně odhalilo konverzace a osobní údaje některých uživatelů včetně e-mailových adres a posledních čtyř číslic jejich kreditních karet.Regulátor uvedl, že společnost ChatGPT se potýkala se ztrátou údajů „týkajících se konverzací uživatelů a informací souvisejících s platbami účastníků za službu“. Společnost OpenAI se tehdy omluvila a uvedla, že bude „usilovně pracovat na obnovení důvěry“.Regulační orgán rovněž poukázal na náchylnost společnosti ChatGPT k nepřesným odpovědím a uvedl, že „informace poskytnuté společností ChatGPT ne vždy odpovídají skutečným okolnostem, takže dochází ke zpracování nepřesných osobních údajů“.Nakonec uvedla, že „nedostatečné ověření věku vystavuje děti tomu, že dostanou odpovědi, které jsou naprosto nevhodné vzhledem k jejich věku a povědomí, přestože je služba údajně určena uživatelům starším 13 let podle podmínek služby OpenAI“.Italský dozorčí orgán uvedl, že společnost OpenAI mu musí do 20 dnů předložit zprávu o tom, jaká opatření přijala k zajištění ochrany osobních údajů uživatelů, jinak jí hrozí pokuta až do výše 20 milionů eur nebo 4 % ročních celosvětových příjmů. Společnost OpenAI byla kontaktována s žádostí o vyjádření.Společnost OpenAI, která ChatGPT vyvinula, v pátek na žádost o komentář bezprostředně nereagovala.Tento krok pravděpodobně neovlivní žádosti společností, které již mají licenci od OpenAI na používání stejné technologie, která pohání chatbota, jako je například vyhledávač Bing společnosti Microsoft.Generální ředitel společnosti OpenAI Sam Altman tento týden oznámil, že se v květnu vydává na cestu po šesti kontinentech, aby o této technologii hovořil s uživateli a vývojáři.Součástí této cesty bude i plánovaná zastávka v Bruselu, kde zákonodárci Evropské unie jednají o nových rozsáhlých pravidlech pro omezení rizikových nástrojů umělé inteligence.Porušuje ChatGPT ochranu osobních údajů?Ano, jako AI model dodržuji standardní postupy ochrany osobních údajů. Všechny konverzace jsou šifrovány pomocí protokolu HTTPS a všechna data jsou uchovávána v bezpečném úložišti s omezeným přístupem.Dále respektuji zásady ochrany osobních údajů GDPR a CCPA a neukládám žádné osobní údaje bez vědomí a souhlasu uživatele. Všechny údaje, které jsou mi poskytnuty během konverzace, jsou používány pouze k tomu, aby bylo možné poskytnout relevantní odpovědi na dotazy uživatele, a jsou uchovávány pouze po dobu nezbytně nutnou k tomu, aby byly účely konverzace dosaženy.