Klíčové body Senátorka Elizabeth Warrenová obviňuje Ministerstvo obrany USA z odvety vůči startupu Anthropic poté, co firma odmítla poskytnout armádě neomezený přístup ke svým modelům. Pentagon zařadil Anthropic na seznam rizik pro dodavatelský řetězec a vzápětí uzavřel netransparentní dohodu s konkurenční společností OpenAI. Zákonodárci vyjadřují vážné obavy z nasazení plně autonomních zbraní a hromadného sledování občanů bez adekvátních bezpečnostních pojistek.   Střet o etiku a kontrolu: Proč Anthropic skončil na černé listině Demokratická senátorka za stát Massachusetts Elizabeth Warrenová v pondělí adresovala formální dopis ministru obrany Petu Hegsethovi, ve kterém ostře kritizuje nedávné kroky Pentagonu. Podle jejích slov se rozhodnutí označit přední startup v oblasti umělé inteligence Anthropic za riziko pro dodavatelský řetězec jeví jako jasná forma odvety. Warrenová ve svém dopise zdůraznila, že ministerstvo mělo k dispozici i jiné možnosti, například ukončení kontraktu nebo omezení využití technologií pouze na neutajované systémy. Jádrem celého sporu je konflikt, který mezi Ministerstvem obrany USA a společností Anthropic propukl v dnech bezprostředně předcházejících vypuknutí válečného konfliktu v Íránu. Ministerstvo tehdy požadovalo neomezený přístup k modelům umělé inteligence pro všechny „zákonné účely“. Anthropic se však tomuto požadavku bránil a požadoval od armády jasné záruky, že jeho technologie nebudou zneužity k vývoji plně autonomních zbraní nebo k hromadnému sledování amerických občanů v domácím prostředí. Tento etický postoj firmy Anthropic však narazil na tvrdý odpor vedení Pentagonu. Dne 27. února ministr Hegseth veřejně oznámil, že nařizuje zařazení společnosti na seznam rizikových dodavatelů. Oficiální oznámení o blacklistingu přišlo o týden později, a to i přesto, že ministerstvo v té době nadále využívalo model Claude od Anthropicu přímo v rámci probíhajících operací v Íránu. Senátorka Warrenová vyjádřila hluboké znepokojení nad tím, že se DOD snaží „vydírat“ americké technologické firmy, aby armádě poskytovaly nástroje ke špehování a nasazování autonomních zbraňových systémů bez patřičného dohledu. Společnost Anthropic se proti tomuto postupu brání právní cestou a podala žalobu na Trumpovu administrativu. Firma v ní napadá své zařazení na černou listinu a označení za hrozbu pro národní bezpečnost USA. Tento právní spor se nyní dostává do kritické fáze, přičemž předběžné slyšení u okresního soudu v severní Kalifornii je naplánováno na úterý. Výsledek tohoto sporu může mít zásadní dopad na to, jakým způsobem bude armáda v budoucnu spolupracovat s inovativními technologickými společnostmi v oblasti AI. Zdroj: Getty images Chcete využít této příležitosti?Vzestup OpenAI a stín pochybností nad „bezpečnostním stackem“ Situace se stala ještě kontroverznější ve chvíli, kdy jen několik hodin po zablokování Anthropicu oznámil Pentagon novou dohodu se společností OpenAI. Tento rychlý obrat vyvolal řadu otázek ohledně transparentnosti výběrového řízení a podmínek, za kterých je OpenAI ochotna s armádou spolupracovat. Společnost OpenAI sice deklarovala, že si je jistá, že ministerstvo nebude využívat její systémy k hromadnému sledování ani k řízení autonomních zbraní, ovšem toto tvrzení opírá o svou interní „bezpečnostní architekturu“ a stávající zákony. Warrenová však tyto argumenty nepovažuje za dostatečné a své otázky směřuje i přímo na generálního ředitele OpenAI Sama Altmana. V pondělním dopise jej požádala o detailní informace o podmínkách dohody s DOD. Senátorka se obává, že vágní smluvní ujednání mohou Trumpově administrativě umožnit využívat technologie OpenAI k vedení masivního dohledu nad Američany a k budování smrtících autonomních zbraní, které by mohly ohrozit civilisty bez dostatečného lidského dozoru. Celý kontrakt je doposud zahalen tajemstvím. Přestože Altman minulý týden jednal s několika zákonodárci ve Washingtonu, včetně senátora Marka Kellyho, pochybnosti se rozptýlit nepodařilo. Kelly během setkání vznesl „vážné dotazy“ ohledně přístupu firmy k vedení války a detailů smlouvy s Pentagonem. Podle Warrenové je v současnosti zcela nemožné posoudit jakékoli ochranné mechanismy nebo zákazy, které by v dohodě mohly existovat, protože ani ministerstvo obrany, ani OpenAI nezveřejnily plné znění kontraktu. Tato netransparentnost znepokojuje nejen zákonodárce, ale i širokou veřejnost a část zaměstnanců samotných technologických firem. Informace, které prozatím pronikly na veřejnost, vyvolávají podle senátorky signifikantní obavy o to, jakým směrem se ubírá integrace umělé inteligence do armádních struktur. Absence veřejné kontroly nad tím, jak jsou pokročilé algoritmy trénovány a následně nasazovány v bojových zónách, představuje podle kritiků nebezpečný precedens pro budoucnost demokratických institucí a občanských svobod. Zdroj: Getty images Geopolitické napětí a politický pat ve Washingtonu Aktuální tlak na urychlené nasazování AI technologií v armádě je silně ovlivněn probíhající válkou v Íránu, která právě vstupuje do svého čtvrtého týdne. Tento konflikt dramaticky změnil priority Pentagonu a zvýšil poptávku po nástrojích schopných analyzovat obrovské množství dat v reálném čase. Právě naléhavost válečného stavu je často využívána jako argument pro obcházení standardních etických diskusí a pro vyvíjení nátlaku na soukromé subjekty, které drží klíčové technologie. Senátoři se nyní snaží získat jasnější odpovědi na to, jakým způsobem jsou kontrakty s technologickými giganty koncipovány. Warrenová a její kolegové však narážejí na politickou realitu současného Washingtonu. Přestože demokraté v Senátu hlasitě volají po odpovědnosti a transparentnosti, jejich schopnost vynutit si reálné změny nebo zastavit vládní kroky je značně omezená. Republikánská strana má v současnosti pod kontrolou nejen Bílý dům, ale i obě komory Kongresu, což jí dává značnou svobodu v prosazování vojenské a technologické agendy. Politický střet se tak přenáší především do roviny veřejné kritiky a legislativních dotazů, které mají za cíl upozornit na možná rizika spojená s militarizací AI. Warrenová zdůrazňuje, že bez možnosti nahlédnout do plných textů smluv zůstávají veškeré sliby o bezpečnosti a etice pouze prázdnými frázemi. Riziko zneužití umělé inteligence k domácí špionáži pod záminkou národní bezpečnosti je podle ní hrozbou, kterou nelze ignorovat ani v době probíhajícího mezinárodního konfliktu. Budoucnost vztahu mezi Silicon Valley a Pentagonem tak zůstává nejistá. Zatímco firmy jako Anthropic volí cestu právního odporu a trvají na etických hranicích, jiní hráči se snaží najít způsob, jak vyhovět požadavkům státu a zároveň si zachovat tvář před svými zaměstnanci a investory. Nadcházející soudní slyšení a další tlak ze strany senátních výborů ukáží, zda se podaří nastavit jasnější pravidla pro využívání autonomních systémů, nebo zda převáží pragmatismus válečné éry nad ochranou občanských práv a etickými standardy vývoje technologií.