Bidenova administrativa vyhlásila kybernetickou výzvu pro umělou inteligenci

Několik předních společností zabývajících se umělou inteligencí - Anthropic, Google, Microsoft a OpenAI - spolupracuje s agenturou DARPA na velké soutěži o bezpečnější software. Bidenova administrativa dnes zahájila rozsáhlou dvouletou soutěž, která bude využívat umělou inteligenci (AI) k ochraně nejdůležitějšího softwaru Spojených států, například kódu, který pomáhá provozovat internet a naši kritickou infrastrukturu. V rámci soutěže "AI Cyber Challenge" (AIxCC) budou soutěžící z celých Spojených států vyzváni, aby pomocí umělé inteligence identifikovali a opravili zranitelnosti softwaru. Tato soutěž, kterou vede Agentura pro pokročilé obranné výzkumné projekty (DARPA), bude zahrnovat spolupráci s několika špičkovými společnostmi zabývajícími se umělou inteligencí - Anthropic, Google, Microsoft a OpenAI - které pro tuto výzvu propůjčují své odborné znalosti a dávají k dispozici své špičkové technologie. Tato soutěž, v níž budou uděleny ceny v hodnotě téměř 20 milionů dolarů, bude podnětem k vytvoření nových technologií pro rychlé zlepšení bezpečnosti počítačového kódu, což je jeden z nejpalčivějších problémů kybernetické bezpečnosti. Jedná se o nejnovější krok Bidenovy a Harrisovy administrativy, který má zajistit odpovědný rozvoj nových technologií a ochranu Američanů. Biden administrativa oznámila AIxCC na konferenci Black Hat USA v Las Vegas v Nevadě, největší hackerské konferenci v zemi, která již po desetiletí přináší mnoho inovací v oblasti kybernetické bezpečnosti. Díky automatickému a škálovatelnému vyhledávání a odstraňování zranitelností AIxCC do této tradice zapadá. Ukáže potenciální přínosy umělé inteligence pro zabezpečení softwaru používaného na internetu a v celé společnosti, od elektrických sítí, které napájejí Ameriku, až po dopravní systémy, které řídí každodenní život. DARPA uspořádá otevřenou soutěž, v níž soutěžící, který nejlépe zabezpečí životně důležitý software, získá milionové ceny. Společnosti zabývající se umělou inteligencí zpřístupní své špičkové technologie - některé z nejvýkonnějších systémů umělé inteligence na světě - a soutěžící je budou moci využít při navrhování nových řešení kybernetické bezpečnosti. Aby byla zajištěna široká účast a rovné podmínky pro AIxCC, poskytne DARPA rovněž 7 milionů dolarů malým podnikům, které chtějí soutěžit. Týmy se na jaře 2024 zúčastní kvalifikační soutěže, kde budou týmy s nejlepším počtem bodů (až 20) pozvány k účasti v semifinále na DEF CON 2024, jedné z nejlepších světových konferencí o kybernetické bezpečnosti. Z nich týmy s nejlepším skóre (až pět) obdrží finanční odměny a postoupí do finálové fáze soutěže, která se bude konat na konferenci DEF CON 2025. Tři nejlépe bodující soutěžící ve finálové soutěži obdrží další peněžní ceny. Nejlepší soutěžící významně přispějí k rozvoji kybernetické bezpečnosti v Americe i ve světě. Nadace Open Source Security Foundation (OpenSSF), projekt nadace Linux Foundation, bude sloužit jako poradce soutěže. Pomůže také zajistit, aby byl vítězný softwarový kód ihned použit k ochraně nejdůležitějšího amerického softwaru a k zajištění bezpečnosti Američanů. Dnešní oznámení je součástí širšího závazku administrativy Biden-Harrisové zajistit, aby síla umělé inteligence byla využita k řešení velkých národních výzev a aby umělá inteligence byla vyvíjena bezpečně a zodpovědně a chránila Američany před újmou a diskriminací. Minulý měsíc Bidenova-Harrisova administrativa oznámila, že získala dobrovolné závazky od sedmi předních společností zabývajících se umělou inteligencí, že budou řídit rizika, která tato technologie představuje. Začátkem tohoto roku administrativa oznámila závazek několika společností zabývajících se umělou inteligencí, že se na konferenci DEF CON 2023 zúčastní nezávislého veřejného hodnocení velkých jazykových modelů (LLM) - v souladu se zásadami odpovědného zveřejňování informací. Toto cvičení, které začíná koncem tohoto týdne a je vůbec prvním veřejným hodnocením více LLM, pomůže pokročit v bezpečnějším, jistějším a transparentnějším vývoji AI. Kromě toho Bidenova a Harrisova administrativa v současné době připravuje prováděcí nařízení a bude usilovat o oboustrannou legislativu, která pomůže Americe stát se lídrem v oblasti odpovědných inovací umělé inteligence.