V očekávání amerických prezidentských voleb v roce 2024 společnost Anthropic, dobře financovaný startup v oblasti umělé inteligence, v současné době pilotuje technologii zaměřenou na detekci uživatelů svého chatbota GenAI, kteří se dotazují na politické záležitosti. Tato technologie, nazvaná “Prompt Shield”, odkazuje uživatele na spolehlivé a autoritativní zdroje přesných informací o volbách. To přichází v kritickém okamžiku, kdy se stále více lidí chystá hlasovat v národních volbách po celém světě. Technologie Prompt Shield zobrazí na obrazovce vyskakovací okno, pokud se uživatel ve Spojených státech, který komunikuje s chatbotem společnosti Anthropic jménem Claude, zeptá na informace týkající se hlasování. Následující vyskakovací okno nabízí přesun na TurboVote, zdroj poskytovaný nestrannou organizací Democracy Works, který prezentuje věcné a aktuální informace o hlasování. Prompt Shield byl koncipován jako řešení nedostatků chatbota společnosti Anthropic s názvem Claude v poskytování přesných a včasných informací o politice a volbách. Společnost Anthropic si uvědomuje, že Claude není dostatečně často aktualizován, aby mohl nabízet údaje o konkrétních volbách v reálném čase, a má tendenci poskytovat vymyšlené informace – nebo “halucinace” – o těchto tématech. Zdroj: Burzovnísvět.cz “Od spuštění Clauda máme v platnosti ‘Promptní štít’. Štít označuje množství potenciálních nebezpečí v souladu s naší politikou přijatelného uživatele,” informoval TechCrunch mluvčí společnosti Anthropic. Mluvčí dále uvedl: “V nadcházejících týdnech bude spuštěn náš zásah promptního štítu specifický pro volby a naším záměrem je pečlivě dohlížet na jeho využívání a omezení. Tento vývoj byl konzultován s řadou zainteresovaných stran, jako jsou tvůrci politik, další firmy, nevládní organizace, občanská společnost a konkrétní volební konzultanti.” Omezené experimentování se službou naznačuje, že je v počáteční fázi. Claude zatím důsledně negeneruje vyskakovací okno při dotazu na hlasování v nadcházejících volbách, místo toho poskytuje základního průvodce hlasováním. Anthropic uvádí, že v současné době Prompt Shield zdokonaluje a plánuje jej zpřístupnit širší uživatelské základně. Mezi dodavateli GenAI je Anthropic, který odrazuje od využívání svých nástrojů pro politickou kampaň a lobbování, nejnovějším dodavatelem, který zavedl zásady a technologie pro zmaření možného zasahování do voleb. Načasování není náhodné. V letošním roce se očekává historická účast celosvětových voličů, kteří zamíří k volebním urnám. Šedesát čtyři zemí, v nichž žije přibližně 49 % světové populace, se chystá uspořádat národní volby. Zdroj: Burzovnísvět.cz Podobně jako společnost Anthropic i OpenAI zakazuje používat svého chatbota ChatGPT s umělou inteligencí k politické kampani a lobbování. V lednu šla ještě dál a zakázala vytváření botů, kteří se vydávají za skutečné kandidáty nebo vlády, zkreslují volební proces nebo odrazují voliče od používání ChatGPT. Současně se štítem Prompt Shield společnosti Anthropic využívá OpenAI také detekční systémy, které uživatele ChatGPT s dotazy týkajícími se hlasování přesměrovávají na CanIVote.org, nestranický web spravovaný Národní asociací státních tajemníků. Ve Spojených státech, navzdory určité podpoře obou stran, Kongres dosud nepřijal žádný předpis, který by se snažil regulovat roli průmyslu umělé inteligence v politice. Současně více než třetina amerických států přijala nebo navrhla zákony, které se zabývají používáním deepfakes v politických kampaních, zatímco federální legislativa je nečinná. Několik platforem přebírá iniciativu, aby zabránily zneužívání GenAI k zavádění nebo manipulaci voličů v případě neexistence legislativy. Loni v září společnost Google prohlásila, že politické reklamy na YouTube a dalších platformách, jako je vyhledávač Google, využívající GenAI, by měly být povinně jasně zveřejněny, pokud byly vizuální nebo zvukové prvky synteticky upraveny. Také společnost Meta zakázala politickým kampaním používat nástroje GenAI, včetně svých vlastních, v reklamách na svých platformách. Tato opatření zdůrazňují rostoucí význam prevence zneužití umělé inteligence v politických oblastech a podtrhují potřebu zachovat integritu budoucích voleb.