Apple omezuje zaměstnancům používání ChatGPT a Meta vytvořila nový model umělé inteligence

Společnost Apple má dobrý důvod k obezřetnosti. Ve výchozím nastavení ukládá OpenAI všechny interakce mezi uživateli a ChatGPT. Tyto konverzace jsou shromažďovány za účelem trénování systémů OpenAI a mohou být kontrolovány moderátory, zda neporušují podmínky společnosti a jejích služeb.

V dubnu společnost OpenAI spustila funkci, která uživatelům umožňuje vypnout historii chatu (shodou okolností nedlouho poté, co různé země EU začaly tento nástroj vyšetřovat kvůli možnému porušování soukromí), ale i po zapnutí tohoto nastavení uchovává společnost OpenAI konverzace po dobu 30 dnů s možností je před trvalým smazáním přezkoumat „z důvodu zneužití“.

Vzhledem k užitečnosti ChatGPT pro úkoly, jako je vylepšování kódu a brainstorming nápadů, se Apple možná oprávněně obává, že jeho zaměstnanci budou do systému zadávat informace o důvěrných projektech. Tyto informace by pak mohl vidět některý z moderátorů OpenAI. Výzkumy ukazují, že je také možné získat tréninková data z některých jazykových modelů pomocí jeho chatovacího rozhraní, ačkoli neexistují žádné důkazy, že by ChatGPT sám o sobě byl vůči takovým útokům zranitelný.

Apple není zdaleka jedinou společností, která takový zákaz zavedla. Mezi další patří JP Morgan, Verizon a Amazon.

Zákaz společnosti Apple je však pozoruhodný vzhledem k tomu, že OpenAI tento týden spustila aplikaci pro iOS ChatGPT. Aplikace je zdarma, podporuje hlasový vstup a je dostupná v USA. Společnost OpenAI uvádí, že brzy spustí aplikaci i v dalších zemích a také verzi pro Android.

Meta a AI

Společnost Meta tvrdí, že vytvořila generativní nástroj umělé inteligence pro kódování podobný nástroji Copilot společnosti GitHub.

Společnost to oznámila na akci zaměřené na infrastrukturu umělé inteligence, včetně vlastních čipů, které Meta vyrábí pro urychlení trénování generativních modelů umělé inteligence. Kódovací nástroj nazvaný CodeCompose není veřejně dostupný – alespoň zatím ne. Společnost Meta však tvrdí, že ji její týmy interně používají k získávání návrhů kódu pro Python a další jazyky při psaní v IDE, jako je VS Code.

„Základní model je postaven na veřejném výzkumu společnosti [Meta], který jsme vyladili pro naše interní případy použití a kódové databáze,“ řekl Michael Bolin, softwarový inženýr společnosti Meta, v předem nahraném videu. „Na straně produktu jsme schopni integrovat CodeCompose do jakéhokoli povrchu, kde naši vývojáři nebo datoví vědci pracují s kódem.“

Největší z několika vyškolených modelů CodeCompose Meta má 6,7 miliardy parametrů, což je o něco více než polovina počtu parametrů modelu, na kterém je založen Copilot. Parametry jsou části modelu naučené z historických tréninkových dat a v podstatě definují dovednosti modelu při řešení problému, například generování textu.

CodeCompose byl vyladěn na kódu první strany společnosti Meta, včetně interních knihoven a frameworků napsaných v programovacím jazyce Hack, který vyvinula společnost Meta, takže je může začlenit do svých návrhů programování. A jeho základní tréninková sada dat byla odfiltrována od špatných kódovacích postupů a chyb, jako jsou zastaralá rozhraní API, aby se snížila pravděpodobnost, že model doporučí problematický kus kódu.

V praxi CodeCompose vytváří návrhy, jako jsou anotace a příkazy import, podle toho, jak uživatel píše. Systém může doplnit jednotlivé řádky kódu nebo více řádků, případně vyplnit celé velké části kódu.

„CodeCompose dokáže využít okolní kód k poskytování lepších návrhů,“ pokračoval Bolin. „Může také používat komentáře kódu jako signál při generování kódu.“

Společnost Meta tvrdí, že tisíce zaměstnanců přijímají každý týden návrhy z CodeCompose a že míra přijetí je vyšší než 20 %.

Společnost se však nezabývala kontroverzí kolem generování kódu umělou inteligencí.

Společnosti Microsoft, GitHub a OpenAI jsou žalovány v hromadné žalobě, která je viní z porušení autorského práva tím, že umožnily Copilotu převzít části licencovaného kódu bez uvedení autorství. Někteří právní experti naznačují, že umělá inteligence jako Copilot by mohla ohrozit společnosti, pokud by nevědomky začlenily návrhy nástroje chráněné autorskými právy do svého produkčního softwaru.

Není jasné, zda byl CodeCompose také vyškolen na licencovaném nebo autorsky chráněném kódu – a to ani náhodou. Mluvčí společnosti Meta se k tomu vyjádřil následovně:

„CodeCompose byl vycvičen na programu InCoder, který vydala výzkumná divize umělé inteligence společnosti Meta. V článku, který podrobně popisuje InCoder, se uvádí, že k trénování InCoderu „shromažďujeme korpus (1) veřejného kódu s permisivními, necopyleftovými, open source licencemi z GitHubu a GitLabu a (2) otázek, odpovědí a komentářů ze StackOverflow.“. Jediné dodatečné školení, které pro CodeCompose provádíme, se týká interního kódu společnosti Meta.“

Podle zprávy deníku The Wall Street Journal byli zaměstnanci společnosti Apple také varováni před používáním programovacího asistenta Copilot společnosti GitHub. Reportér agentury Bloomberg Mark Gurman na Twitteru uvedl, že ChatGPT byl na seznamu zakázaného softwaru společnosti Apple „několik měsíců“.Společnost Apple má dobrý důvod k obezřetnosti. Ve výchozím nastavení ukládá OpenAI všechny interakce mezi uživateli a ChatGPT. Tyto konverzace jsou shromažďovány za účelem trénování systémů OpenAI a mohou být kontrolovány moderátory, zda neporušují podmínky společnosti a jejích služeb.V dubnu společnost OpenAI spustila funkci, která uživatelům umožňuje vypnout historii chatu , ale i po zapnutí tohoto nastavení uchovává společnost OpenAI konverzace po dobu 30 dnů s možností je před trvalým smazáním přezkoumat „z důvodu zneužití“.Vzhledem k užitečnosti ChatGPT pro úkoly, jako je vylepšování kódu a brainstorming nápadů, se Apple možná oprávněně obává, že jeho zaměstnanci budou do systému zadávat informace o důvěrných projektech. Tyto informace by pak mohl vidět některý z moderátorů OpenAI. Výzkumy ukazují, že je také možné získat tréninková data z některých jazykových modelů pomocí jeho chatovacího rozhraní, ačkoli neexistují žádné důkazy, že by ChatGPT sám o sobě byl vůči takovým útokům zranitelný.Apple není zdaleka jedinou společností, která takový zákaz zavedla. Mezi další patří JP Morgan, Verizon a Amazon.Zákaz společnosti Apple je však pozoruhodný vzhledem k tomu, že OpenAI tento týden spustila aplikaci pro iOS ChatGPT. Aplikace je zdarma, podporuje hlasový vstup a je dostupná v USA. Společnost OpenAI uvádí, že brzy spustí aplikaci i v dalších zemích a také verzi pro Android.Společnost Meta tvrdí, že vytvořila generativní nástroj umělé inteligence pro kódování podobný nástroji Copilot společnosti GitHub.Společnost to oznámila na akci zaměřené na infrastrukturu umělé inteligence, včetně vlastních čipů, které Meta vyrábí pro urychlení trénování generativních modelů umělé inteligence. Kódovací nástroj nazvaný CodeCompose není veřejně dostupný – alespoň zatím ne. Společnost Meta však tvrdí, že ji její týmy interně používají k získávání návrhů kódu pro Python a další jazyky při psaní v IDE, jako je VS Code.„Základní model je postaven na veřejném výzkumu společnosti [Meta], který jsme vyladili pro naše interní případy použití a kódové databáze,“ řekl Michael Bolin, softwarový inženýr společnosti Meta, v předem nahraném videu. „Na straně produktu jsme schopni integrovat CodeCompose do jakéhokoli povrchu, kde naši vývojáři nebo datoví vědci pracují s kódem.“Největší z několika vyškolených modelů CodeCompose Meta má 6,7 miliardy parametrů, což je o něco více než polovina počtu parametrů modelu, na kterém je založen Copilot. Parametry jsou části modelu naučené z historických tréninkových dat a v podstatě definují dovednosti modelu při řešení problému, například generování textu.CodeCompose byl vyladěn na kódu první strany společnosti Meta, včetně interních knihoven a frameworků napsaných v programovacím jazyce Hack, který vyvinula společnost Meta, takže je může začlenit do svých návrhů programování. A jeho základní tréninková sada dat byla odfiltrována od špatných kódovacích postupů a chyb, jako jsou zastaralá rozhraní API, aby se snížila pravděpodobnost, že model doporučí problematický kus kódu.V praxi CodeCompose vytváří návrhy, jako jsou anotace a příkazy import, podle toho, jak uživatel píše. Systém může doplnit jednotlivé řádky kódu nebo více řádků, případně vyplnit celé velké části kódu.„CodeCompose dokáže využít okolní kód k poskytování lepších návrhů,“ pokračoval Bolin. „Může také používat komentáře kódu jako signál při generování kódu.“Společnost Meta tvrdí, že tisíce zaměstnanců přijímají každý týden návrhy z CodeCompose a že míra přijetí je vyšší než 20 %.Společnost se však nezabývala kontroverzí kolem generování kódu umělou inteligencí.Společnosti Microsoft, GitHub a OpenAI jsou žalovány v hromadné žalobě, která je viní z porušení autorského práva tím, že umožnily Copilotu převzít části licencovaného kódu bez uvedení autorství. Někteří právní experti naznačují, že umělá inteligence jako Copilot by mohla ohrozit společnosti, pokud by nevědomky začlenily návrhy nástroje chráněné autorskými právy do svého produkčního softwaru.Není jasné, zda byl CodeCompose také vyškolen na licencovaném nebo autorsky chráněném kódu – a to ani náhodou. Mluvčí společnosti Meta se k tomu vyjádřil následovně:„CodeCompose byl vycvičen na programu InCoder, který vydala výzkumná divize umělé inteligence společnosti Meta. V článku, který podrobně popisuje InCoder, se uvádí, že k trénování InCoderu „shromažďujeme korpus veřejného kódu s permisivními, necopyleftovými, open source licencemi z GitHubu a GitLabu a otázek, odpovědí a komentářů ze StackOverflow.“. Jediné dodatečné školení, které pro CodeCompose provádíme, se týká interního kódu společnosti Meta.“