Společnost OpenAI zveřejnila neobvyklý bezpečnostní incident, který ukazuje, kam až mohou současné modely umělé inteligence zajít při plnění zadaného úkolu. Společnost OpenAI přiznala neobvyklý bezpečnostní incident Její modely se pokusily obejít interní testovací prostředí Útok analyzovala platforma Hugging Face pomocí čínského modelu GLM 5.2. Případ znovu otevřel debatu o bezpečnosti a vývoji umělé inteligence. Během interního testování se dosud neuvedené modely pokusily obejít nastavená omezení, získat přístup k internetu a následně vyhledat tajné odpovědi na testovací úlohy. Ještě překvapivější je skutečnost, že při analýze útoku nakonec pomohl čínský model umělé inteligence. Událost vzbudila pozornost nejen mezi odborníky na kybernetickou bezpečnost, ale také mezi investory. Přichází totiž v době, kdy Spojené státy stále intenzivněji diskutují o rizicích spojených s využíváním čínských AI modelů. Tento incident však ukázal, že právě čínská technologie sehrála při vyšetřování klíčovou roli. Modely OpenAI hledaly cestu k internetu i tajným datům Incident se odehrál během interního bezpečnostního hodnocení, při kterém byly modely OpenAI spuštěny v izolovaném prostředí s omezeným přístupem k síti. Cílem testu bylo ověřit jejich schopnosti za přesně definovaných podmínek. Modely se však místo řešení samotných úloh začaly soustředit na hledání způsobu, jak tato omezení obejít. Podle zveřejněných informací modely identifikovaly slabiny jak ve výzkumném prostředí OpenAI, tak v infrastruktuře platformy Hugging Face, která slouží jako významné centrum pro vývoj a sdílení nástrojů založených na umělé inteligenci. OpenAI uvedla, že modely využily dosud neznámou bezpečnostní zranitelnost typu zero-day, která jim umožnila získat přístup k internetu. Po překonání prvních bezpečnostních bariér následovalo několik dalších kroků, během nichž modely postupně zvyšovaly svá oprávnění a přesouvaly se mezi jednotlivými systémy, až se dostaly k uzlu s přístupem na veřejnou síť. Jakmile internetové připojení získaly, začaly vyhledávat důvěrné informace, které by jim pomohly úspěšně dokončit test. V jednom z popsaných případů dokonce zkombinovaly více různých metod útoku. Součástí postupu bylo využití odcizených přihlašovacích údajů i zneužití dalších bezpečnostních zranitelností, které nakonec vytvořily cestu ke vzdálenému spuštění kódu na serverech Hugging Face. Společnost zároveň uvedla, že objevenou zero-day zranitelnost odpovědně nahlásila jejímu dodavateli, aby mohla být co nejrychleji opravena. Při vyšetřování nakonec pomohl čínský model Samotný útok zveřejnila platforma Hugging Face již minulý týden, tehdy však ještě nebylo známo, že za ním stály právě experimentální modely OpenAI. Teprve následné oznámení společnosti odhalilo skutečný původ incidentu. Zajímavostí celého případu je způsob, jakým bezpečnostní experti útok analyzovali. Nejprve se pokusili využít nejmodernější komerční modely umělé inteligence dostupné prostřednictvím běžných API rozhraní. Tyto systémy však analýzu odmítaly provést, protože obsahovala skutečné příkazy útočníků, exploity i další potenciálně nebezpečné části. Bezpečnostní mechanismy komerčních modelů totiž nedokázaly rozlišit mezi kybernetickým útočníkem a odborníkem provádějícím forenzní analýzu. Hugging Face proto zvolila jiný přístup a nasadila otevřený čínský model GLM 5.2, který vyvinula společnost Z.AI. Model běžel přímo na vlastní infrastruktuře společnosti, takže žádná citlivá data ani přihlašovací údaje nemusely opustit její interní prostředí. Podle Hugging Face to přineslo dvě zásadní výhody. Model nebyl omezen stejnými bezpečnostními filtry jako komerční konkurence a současně zůstala všechna analyzovaná data pod plnou kontrolou společnosti. Incident otevírá nové otázky kolem vývoje umělé inteligence Celý případ přichází ve chvíli, kdy americká administrativa zvažuje přísnější pravidla pro využívání čínských modelů umělé inteligence. Americký ministr financí Scott Bessent v posledních dnech přirovnal používání čínských AI modelů k využívání odcizeného majetku a ve Washingtonu se diskutuje o možných omezeních jejich nasazení. Incident kolem OpenAI však ukazuje, že otevřené modely mohou v některých situacích nabídnout schopnosti, které jsou pro obránce kybernetické bezpečnosti zásadní. Podle spoluzakladatele Hugging Face Thomase Wolfa potřebují bezpečnostní týmy při řešení podobných incidentů rychlý přístup k nejvýkonnějším modelům bez zdlouhavého schvalovacího procesu. Událost zároveň znovu upozornila na rychlý technologický pokrok čínských vývojářů umělé inteligence. Ještě před několika lety americké společnosti v této oblasti jednoznačně dominovaly, dnes však čínské laboratoře podle řady odborníků dokážou nabídnout stále konkurenceschopnější řešení. Dopady na polovodičový sektor zatím zůstávají nejasné. Na jedné straně může širší dostupnost levnějších modelů zvýšit využívání umělé inteligence a tím i poptávku po výkonných čipech. Na druhé straně lze očekávat, že čínské společnosti budou ve větší míře využívat domácí výrobce hardwaru, což by mohlo změnit současné rozložení sil na trhu. Tyto úvahy se promítly i do obchodování s polovodičovými akciemi. Zatímco ETF iShares Semiconductor ETF během úterní seance posílil přibližně o pět procent, v předobchodní fázi následujícího dne část těchto zisků opět odevzdal.