Klíčové body Vládní agentura CAISI uzavřela strategické dohody o předběžném testování pokročilých modelů se společnostmi Google, Microsoft a xAI. Bílý dům aktivně zvažuje vydání exekutivního příkazu k vytvoření zcela nové expertní skupiny pro regulaci umělé inteligence. Společnost Anthropic čelí bezpečnostním výtkám ze strany Pentagonu navzdory nedávnému představení unikátního modelu zaměřeného na softwarové zranitelnosti.   Nová éra vládního dohledu nad inovacemi Centrum pro standardy a inovace v oblasti umělé inteligence (CAISI) v úterý oficiálně potvrdilo zásadní krok směřující k mnohem hlubší kontrole technologického sektoru. Tato klíčová instituce, jež spadá pod americké ministerstvo obchodu, oznámila uzavření nových strategických dohod s předními vývojáři. Patří mezi ně divize DeepMind spadající pod společnost Alphabet Inc. (GOOGL) , technologický gigant Microsoft Corporation (MSFT) a také dravý startup xAI, za kterým stojí miliardář Elon Musk. Hlavním cílem této bezprecedentní iniciativy je umožnit americké vládě detailně vyhodnocovat a testovat ty nejvýkonnější modely umělé inteligence ještě předtím, než budou uvolněny pro širokou veřejnost. Podle oficiálního prohlášení bude vládní agentura provádět takzvaná předběžná hodnocení před samotným nasazením do ostrého komerčního provozu. Součástí tohoto důkladného prověřovacího procesu bude rovněž cílený výzkum, který má za úkol lépe posoudit skutečné schopnosti takzvaných hraničních modelů. Vládní úředníci si od tohoto razantního kroku slibují především výrazné posunutí celkového stavu kybernetické bezpečnosti v tomto extrémně rychle se rozvíjejícím odvětví. Úterní oznámení přitom plynule navazuje na předchozí strategická partnerství, která centrum CAISI uzavřelo již v průběhu roku 2024 se společnostmi OpenAI a Anthropic. Podle dostupných informací z tiskové zprávy však musely být tyto starší dohody nedávno znovu otevřeny a poměrně zásadně přepracovány. Tato revize nebyla pouhou formalitou, ale nezbytným krokem k tomu, aby veškeré státní kontrakty plně odrážely nové směrnice. Ty nedávno jasně definoval ministr obchodu Howard Lutnick, který prosazuje mnohem přísnější standardy. Upravené smlouvy nyní musí bezvýhradně korespondovat s takzvaným Americkým akčním plánem pro umělou inteligenci, jenž má garantovat maximální možnou míru národní bezpečnosti. Zdroj: BurzovníSvět.cz Strategické plány Bílého domu a nová pracovní skupina Kromě úterního oznámení ze strany vládní agentury se však na nejvyšších místech americké administrativy odehrávají další zásadní strategické přesuny. Bílý dům v současné době velmi intenzivně zvažuje vytvoření zcela nové specializované pracovní skupiny zaměřené výhradně na pokročilou umělou inteligenci. Tato expertní komise by měla za úkol komplexně prozkoumat veškeré potenciální postupy dohledu a nastavit zcela nové mantinely pro fungování tohoto dynamického odvětví. Televize CNBC z vlastních zdrojů potvrdila, že mezi hlavní body agendy by patřily především plány na důkladné a systematické prověřování všech pokročilých modelů před jejich oficiálním uvolněním na trh. Nová pracovní skupina by podle zdroje mimořádně blízkého probíhajícím diskusím měla u jednoho stolu shromáždit celou řadu vlivných vedoucích pracovníků z technologického sektoru a klíčových vládních činitelů. Vzhledem k tomu, že detaily těchto jednání zůstávají přísně důvěrné a politicky citlivé, zdroj požádal o absolutní zachování anonymity. Očekává se, že by tento nový regulační orgán mohl být oficiálně ustaven prostřednictvím přímého exekutivního příkazu. Zástupci Bílého domu však v oficiální reakci uvedli, že jakékoli diskuse o potenciálních exekutivních příkazech jsou v této rané fázi pouze předmětem mediálních spekulací. Zároveň bylo důrazně připomenuto, že jakékoli definitivní politické oznámení v této vysoce sledované záležitosti přijde přímo od prezidenta Donalda Trumpa. Jako první o plánech na vznik této vlivné pracovní komise informoval deník The New York Times, což následně vyvolalo vlnu ohlasů napříč celým technologickým průmyslem. Donald Trump cla Bezpečnostní rizika a paradox společnosti Anthropic Diskuze americké administrativy o zřízení nové expertní skupiny přicházejí v době, kdy vládní úředníci výrazně zbystřili pozornost kvůli aktivitám přední vývojářské společnosti Anthropic. Ta totiž v minulém měsíci vzbudila značný rozruch překvapivým oznámením svého nového výkonného modelu s názvem Claude Mythos Preview. Podle vyjádření samotné společnosti tento specifický model vyniká především v naprosto bezkonkurenční schopnosti identifikovat skryté slabiny a bezpečnostní trhliny uvnitř složitých softwarových kódů. Právě kvůli této obrovské síle a potenciálním rizikům zneužití se firma rozhodla radikálně omezit jeho počáteční komerční zavádění. Model byl prozatím zpřístupněn pouze velmi úzké a pečlivě vybrané skupině partnerských společností. Tento neobvyklý krok je integrální součástí zcela nové iniciativy v oblasti kybernetické bezpečnosti, kterou Anthropic oficiálně pojmenoval Project Glasswing. Pouhé dny po tomto zásadním oznámení se navíc uskutečnila velmi sledovaná schůzka na nejvyšší úrovni. Výkonný ředitel společnosti Anthropic Dario Amodei se v Bílém domě osobně setkal s vysoce postavenými členy Trumpovy administrativy, aby s nimi vlastnosti a případná úskalí modelu Mythos detailně prodiskutoval. Toto setkání se však překvapivě uskutečnilo i navzdory jedné velmi závažné a nepříjemné komplikaci z nedávné doby. Americké ministerstvo obrany totiž nedávno oficiálně označilo společnost Anthropic za potenciální riziko v rámci dodavatelského řetězce. Tento bezprecedentní krok de facto znamená, že inovativní firma podle vojenských úřadů údajně ohrožuje samotnou národní bezpečnost Spojených států, což je v technologických kruzích velmi vážné obvinění. Navzdory tomuto nekompromisnímu postoji ze strany Pentagonu a všudypřítomnému stínu pochybností však obě zúčastněné strany charakterizovaly proběhlé osobní jednání jako vysoce produktivní. Tento zjevný paradox tak v plné nahotě ukazuje, jak nesmírně složité a provázané jsou v současnosti vztahy mezi technologickými vizionáři a státním bezpečnostním aparátem.