Klíčové body

Deepfake podvody vzrostly o 245 % mezi lety 2023 a 2024, částečně kvůli volbám
Firmy jako Pindrop vyvíjejí technologie na obranu proti deepfakes a získávají investice
Pindrop využívá pokročilé AI modely k rozpoznávání syntetických hlasů s vysokou přesností

Pindrop s inovativními technologiemi chrání firmy před deepfake podvody a rozšiřuje své působení

Podle poskytovatele ověřování Sumsub došlo v letech 2023 až 2024 k celosvětovému nárůstu deepfakes o 245 %, což je částečně podpořeno nadcházejícími volebními cykly. Ovlivňuje také firemní sektor; nedávný průzkum Business.com zjistil, že 10 % společností se setkalo s podvody podporovanými deepfake, jako jsou klonované hlasy.

Tento trend nepřekvapivě přinesl vítr do plachet společnostem, které uvádějí na trh nástroje na obranu proti deepfakes a technologie používané k jejich výrobě. Jedna z těchto společností, Pindrop, ve středu oznámila, že získala pětiletý úvěr ve výši 100 milionů dolarů od společnosti Hercules Capital, který je podle generálního ředitele Vijaye Balasubramaniyana určen na vývoj produktů a nábor zaměstnanců.

„S pokrokem v oblasti generativní umělé inteligence se zejména klonování hlasu stalo mocným nástrojem,“ uvádí Balasubramaniyan. „Hloubkovou detekci falešných hlasů s využitím technologií detekce AI nyní potřebuje každé call centrum, aby bylo o krok napřed před podvodníky.“

Společnost Pindrop vytváří produkty pro boj s deepfake a vícefaktorovou autentizaci zaměřené na podniky v bankovnictví, finančnictví a příbuzných odvětvích. Společnost tvrdí, že její nástroje dokáží identifikovat například volající z kontaktních center – a to s vyšší přesností než konkurenční řešení.

„Společnost Pindrop využívá soubor dat obsahující více než 20 milionů výroků, a to jak syntetických, tak pravých, aby mohla trénovat modely umělé inteligence k rozlišování mezi pravými lidskými hlasy a synteticky generovanými hlasy,“ uvedl Balasubramaniyan. „Také jsme vytrénovali více než 330 modelů převodu textu na řeč (TTS), abychom pomohli identifikovat modely TTS použité k vytvoření deepfake.“

Běžným problémem modelů pro detekci deepfake je zkreslení. Mnoho zvukových modelů bývá zaujatých vůči rozpoznávání západních, amerických hlasů a špatně si poradí s různými přízvuky a dialekty, což může vést k tomu, že detektor klasifikuje legitimní hlas jako deepfake.

Je otázkou, zda syntetická tréninková data – tréninková data generovaná samotnými modely umělé inteligence – tato zkreslení zmírňují, nebo naopak prohlubují. Balasubramaniyan si myslí, že to první, a tvrdí, že produkty společnosti Pindrop pro ověřování hlasu se zaměřují na „akustické a časospektrální vlastnosti“ hlasů, nikoli na výslovnost nebo jazyk.

„Systémy rozpoznávání hlasu založené na umělé inteligenci mají tendenci vykazovat zkreslené výsledky s ohledem na tónové, přízvukové, nářeční a dialektové rozdíly, které by mohly mít rasové důsledky,“ uvedl Balasubramaniyan.

„Tato zkreslení jsou odvozena od homogenity dat, která se používají k trénování systémů, jež mohou postrádat zastoupení různých etnických, rasových, genderových nebo jiných rozdílů, čímž se omezuje rozmanitost dat, na nichž jsou systémy AI trénovány.“

Bez ohledu na účinnost svých produktů se společnost Pindrop výrazně prosadila od roku 2011, kdy ji Balasubramaniyan, bývalý zaměstnanec Googlu, založil spolu s bývalým vedoucím výzkumu společnosti Barracuda Networks Paulem Judgem a Mustakem Ahamadem.

Firma se sídlem v Atlantě, která zaměstnává přibližně 250 lidí, získala do dnešního dne 234,77 milionu dolarů rizikového kapitálu od investorů, mezi něž patří Vitruvian Partners, CapitalG, IVP a Andreessen Horowitz.

Na otázku, proč se společnost Pindrop tentokrát rozhodla pro dluh a ne pro vlastní kapitál, Balasubramaniyan odpověděl, že to byla „atraktivní možnost“, jak „efektivně získat růstový kapitál“, aniž by došlo ke zředění vlastního kapitálu společnosti Pindrop. (To je běžná strategie.)

Balasubramaniyan dodal, že výnosy z úvěru umožní společnosti Pindrop zavést své technologie do nových odvětví, jako je zdravotnictví, maloobchod, média a cestování.

„S nástupem generativní umělé inteligence zaznamenáváme obrovskou poptávku po našich řešeních po celém světě a plánujeme se podívat na expanzi do zemí, které zaznamenávají značné hrozby kvůli deepfakes,“ řekl Balasubramaniyan.

„Společnost Pindrop je připravena pomoci společnostem chránit sebe i své spotřebitele před rostoucími podvody a hrozbami deepfake pomocí řešení pro prevenci podvodů, autentizaci a živost.“

Pindrop s inovativními technologiemi chrání firmy před deepfake podvody a rozšiřuje své působení Podle poskytovatele ověřování Sumsub došlo v letech 2023 až 2024 k celosvětovému nárůstu deepfakes o 245 %, což je částečně podpořeno nadcházejícími volebními cykly. Ovlivňuje také firemní sektor; nedávný průzkum Business.com zjistil, že 10 % společností se setkalo s podvody podporovanými deepfake, jako jsou klonované hlasy.Tento trend nepřekvapivě přinesl vítr do plachet společnostem, které uvádějí na trh nástroje na obranu proti deepfakes a technologie používané k jejich výrobě. Jedna z těchto společností, Pindrop, ve středu oznámila, že získala pětiletý úvěr ve výši 100 milionů dolarů od společnosti Hercules Capital, který je podle generálního ředitele Vijaye Balasubramaniyana určen na vývoj produktů a nábor zaměstnanců.„S pokrokem v oblasti generativní umělé inteligence se zejména klonování hlasu stalo mocným nástrojem,“ uvádí Balasubramaniyan. „Hloubkovou detekci falešných hlasů s využitím technologií detekce AI nyní potřebuje každé call centrum, aby bylo o krok napřed před podvodníky.“Společnost Pindrop vytváří produkty pro boj s deepfake a vícefaktorovou autentizaci zaměřené na podniky v bankovnictví, finančnictví a příbuzných odvětvích. Společnost tvrdí, že její nástroje dokáží identifikovat například volající z kontaktních center – a to s vyšší přesností než konkurenční řešení.„Společnost Pindrop využívá soubor dat obsahující více než 20 milionů výroků, a to jak syntetických, tak pravých, aby mohla trénovat modely umělé inteligence k rozlišování mezi pravými lidskými hlasy a synteticky generovanými hlasy,“ uvedl Balasubramaniyan. „Také jsme vytrénovali více než 330 modelů převodu textu na řeč , abychom pomohli identifikovat modely TTS použité k vytvoření deepfake.“Běžným problémem modelů pro detekci deepfake je zkreslení. Mnoho zvukových modelů bývá zaujatých vůči rozpoznávání západních, amerických hlasů a špatně si poradí s různými přízvuky a dialekty, což může vést k tomu, že detektor klasifikuje legitimní hlas jako deepfake.Je otázkou, zda syntetická tréninková data – tréninková data generovaná samotnými modely umělé inteligence – tato zkreslení zmírňují, nebo naopak prohlubují. Balasubramaniyan si myslí, že to první, a tvrdí, že produkty společnosti Pindrop pro ověřování hlasu se zaměřují na „akustické a časospektrální vlastnosti“ hlasů, nikoli na výslovnost nebo jazyk.„Systémy rozpoznávání hlasu založené na umělé inteligenci mají tendenci vykazovat zkreslené výsledky s ohledem na tónové, přízvukové, nářeční a dialektové rozdíly, které by mohly mít rasové důsledky,“ uvedl Balasubramaniyan. „Tato zkreslení jsou odvozena od homogenity dat, která se používají k trénování systémů, jež mohou postrádat zastoupení různých etnických, rasových, genderových nebo jiných rozdílů, čímž se omezuje rozmanitost dat, na nichž jsou systémy AI trénovány.“Bez ohledu na účinnost svých produktů se společnost Pindrop výrazně prosadila od roku 2011, kdy ji Balasubramaniyan, bývalý zaměstnanec Googlu, založil spolu s bývalým vedoucím výzkumu společnosti Barracuda Networks Paulem Judgem a Mustakem Ahamadem. Firma se sídlem v Atlantě, která zaměstnává přibližně 250 lidí, získala do dnešního dne 234,77 milionu dolarů rizikového kapitálu od investorů, mezi něž patří Vitruvian Partners, CapitalG, IVP a Andreessen Horowitz.Na otázku, proč se společnost Pindrop tentokrát rozhodla pro dluh a ne pro vlastní kapitál, Balasubramaniyan odpověděl, že to byla „atraktivní možnost“, jak „efektivně získat růstový kapitál“, aniž by došlo ke zředění vlastního kapitálu společnosti Pindrop. Balasubramaniyan dodal, že výnosy z úvěru umožní společnosti Pindrop zavést své technologie do nových odvětví, jako je zdravotnictví, maloobchod, média a cestování.„S nástupem generativní umělé inteligence zaznamenáváme obrovskou poptávku po našich řešeních po celém světě a plánujeme se podívat na expanzi do zemí, které zaznamenávají značné hrozby kvůli deepfakes,“ řekl Balasubramaniyan. „Společnost Pindrop je připravena pomoci společnostem chránit sebe i své spotřebitele před rostoucími podvody a hrozbami deepfake pomocí řešení pro prevenci podvodů, autentizaci a živost.“