Počet kybernetických útoků prostřednictvím falešných videí, podvržených fotek nebo audio nahrávek, takzvaných deepfakes, se loni ve světě meziročně zvýšil na desetinásobek. Důvodem je především velký pokrok ve využití nástrojů umělé inteligence (AI), které tvorbu podvržených videí, fotek nebo zvuků výrazně usnadňují. V Evropě zaznamenal počet těchto útoků nárůst o 780 procent. Uvedla to Česká asociace umělé inteligence v manuálu Deepfake 2024: Obranná strategie pro české firmy.

Pokrok v takzvaném hlubokém učení umělé inteligence usnadňuje podle asociace tvorbu falešných multimédií, ale také činí jejich hromadnou výrobu méně nákladnou. Trh je podle ředitele asociace Lukáše Benzla zaplavený volně dostupnými nástroji, díky kterým je tvorba nebo manipulace s multimédii otázkou několika minut. Zpřístupnění AI nástrojů pro tvorbu deepfakes se tak dostalo na seznam největších rizik pro rok 2024.

Největší hrozby zneužití zahrnují techniky, které ohrožují značku organizace, napodobují vedoucí pracovníky a používají podvodnou komunikaci k získání přístupu k sítím, komunikaci a citlivým informacím organizace. Phishing, tedy typ kybernetického útoku zneužívající falešnou identitu, bude s rozvojem AI podle odborníků ještě větší výzvou než kdykoliv dřív. Mezi klasické příklady patří napodobení hlasu nadřízeného v telefonu, deepfakes v on-line schůzkách a pohovorech, zveřejnění falešného firemního prohlášení, nebo třeba vydírání zaměstnanců falešnými snímky s nahotou, uvedla asociace.

„Je alarmující, že s minimálními náklady a úsilím může být vytvořen deepfake, který je prakticky nerozeznatelný od skutečnosti, což otevírá v roce 2024 dveře jak pro sofistikované podvody, tak pro šíření dezinformací a manipulaci s veřejným míněním. V tomto kontextu musí být české firmy nejen na pozoru, ale především aktivně podporovat vzdělávání a trénink svých zaměstnanců,“ uvedl Benzl.

Deepfakes kromě podvodů podle Adama Hanky z technologické firmy Creative Dock mohou šířit strach a nenávist. „Mohou také narušit férovost voleb, například ve chvíli, kdy se deepfake nahrávky budou objevovat jen několik dní před volbami a nebude čas, aby je politici vyvraceli. To může mít dalekosáhlé důsledky pro celou naši společnost. Proto je nezbytné šířit o deepfakes povědomí právě i ve firmách,“ dodal Hanka.

Nový manuál k boji proti deepfakes poskytuje zaměstnancům českých firem a organizací přehled o současných i nadcházejících trendech ve falešných multimédiích, metodách jejich detekce a autentizace a strategiích k obraně proti těmto hrozbám.

TZ