Rychlý vývoj modelů umělé inteligence vyvolává vážné obavy ohledně kybernetických hrozeb pro firmy i instituce po celém světě. Společnost Anthropic proto představila novou iniciativu Project Glasswing, jejímž cílem je pomoci společnostem hledat zranitelnosti v jejich softwaru pomocí nejnovějšího AI modelu Claude Mythos Preview.
Během testování se ukázalo, že tento model je překvapivě úspěšný v hackování systémů, ačkoliv k tomuto účelu nebyl primárně vyvinut. Anthropic proto model nezpřístupní veřejnosti a pracuje na vývoji bezpečnostních opatření, která zablokují jeho nejnebezpečnější výstupy. V rámci projektu společnost aktuálně spolupracuje s technologickými giganty, jako jsou Amazon , Apple , Microsoft a Nvidia , aby jim pomohla identifikovat slabá místa v kódu ještě před uvedením podobně silných modelů na trh.
Podle společnosti model již objevil tisíce chyb v existujících programech, včetně všech populárních operačních systémů a webových prohlížečů. V jednom z případů dokázal model zřetězit několik zranitelností v systému Linux, čímž umožnil získat absolutní kontrolu nad počítačem. Odborníci varují, že širší přechod odvětví k umělé inteligenci představuje pro útočníky dramatickou příležitost k narušení systémů, zároveň však dodávají, že tyto moderní technologie budou nakonec klíčové i pro úspěšnou kybernetickou obranu.
Rychlý vývoj modelů umělé inteligence vyvolává vážné obavy ohledně kybernetických hrozeb pro firmy i instituce po celém světě. Společnost Anthropic proto představila novou iniciativu Project Glasswing, jejímž cílem je pomoci společnostem hledat zranitelnosti v jejich softwaru pomocí nejnovějšího AI modelu Claude Mythos Preview.
Během testování se ukázalo, že tento model je překvapivě úspěšný v hackování systémů, ačkoliv k tomuto účelu nebyl primárně vyvinut. Anthropic proto model nezpřístupní veřejnosti a pracuje na vývoji bezpečnostních opatření, která zablokují jeho nejnebezpečnější výstupy. V rámci projektu společnost aktuálně spolupracuje s technologickými giganty, jako jsou Amazon , Apple , Microsoft a Nvidia , aby jim pomohla identifikovat slabá místa v kódu ještě před uvedením podobně silných modelů na trh.
Podle společnosti model již objevil tisíce chyb v existujících programech, včetně všech populárních operačních systémů a webových prohlížečů. V jednom z případů dokázal model zřetězit několik zranitelností v systému Linux, čímž umožnil získat absolutní kontrolu nad počítačem. Odborníci varují, že širší přechod odvětví k umělé inteligenci představuje pro útočníky dramatickou příležitost k narušení systémů, zároveň však dodávají, že tyto moderní technologie budou nakonec klíčové i pro úspěšnou kybernetickou obranu.
Rychlý vývoj modelů umělé inteligence vyvolává vážné obavy ohledně kybernetických hrozeb pro firmy i instituce po celém světě. Společnost Anthropic proto představila novou iniciativu Project Glasswing, jejímž cílem je pomoci společnostem hledat zranitelnosti v jejich softwaru pomocí nejnovějšího AI modelu Claude Mythos Preview. Během testování se ukázalo, že tento model je překvapivě úspěšný v hackování systémů, ačkoliv k tomuto účelu nebyl primárně vyvinut. Anthropic proto model nezpřístupní veřejnosti a pracuje na vývoji bezpečnostních opatření, která zablokují jeho nejnebezpečnější výstupy. V rámci projektu společnost aktuálně spolupracuje s technologickými giganty, jako jsou Amazon , Apple , Microsoft a Nvidia , aby jim pomohla identifikovat slabá místa v kódu ještě před uvedením podobně silných modelů na trh. Podle společnosti model již objevil tisíce chyb v existujících programech, včetně všech populárních operačních systémů a webových prohlížečů. V jednom z případů dokázal model zřetězit několik zranitelností v systému Linux, čímž umožnil získat absolutní kontrolu nad počítačem. Odborníci varují, že širší přechod odvětví k umělé inteligenci představuje pro útočníky dramatickou příležitost k narušení systémů, zároveň však dodávají, že tyto moderní technologie budou nakonec klíčové i pro úspěšnou kybernetickou obranu.
