Adversarial Octopus – nový typ útoku proti systémům rozpoznávání obličeje

Hacking AI facial recognition search PimEyes

Nový typ útoku, který nese název „Adversarial Octopus“ se zaměřuje na několik nástrojů rozpoznávání obličejů, které využívají umělou inteligenci. Tento typ útoku byl představen skupinou výzkumníků z firmy Adversa.

Adversarial Octopus útoky dokážou pozměnit fotografie tak, aby je rozpoznávací algoritmy vyhodnotily jako úplně jiné osoby. Dle tvůrců může být tento typ útoku využit nejen k získávání přístupu do různých zařízení a systémů, ale také v případě vytváření pokročilých „deep fakes“, jejichž rozlišení by mohlo být problémem pro řadu v současné době dostupných nástrojů. Tento útok dokáže překonat většinu služeb, aplikací a API pro rozpoznávání obličejů. Výzkumný tým toto demonstroval na útoku proti PimEyes, což je jeden z nejpokročilejších online nástrojů pro rozpoznávání obličejů.

Komentář: Odemykání zařízení a služeb pomocí snímku obličeje se již v minulosti stalo častým terčem nových typů útoků. Předkládaný typ útoku směřuje především na algoritmy umělé inteligence, které jsou k rozpoznávání obličeje využívány. Právě nové typy útoků, které využívají slabin v umělé inteligenci by měli stát v popředí současné pozornosti výzkumné komunity v oblasti kybernetické bezpečnosti, neboť stále více roste počet zařízení a systémů využívajících umělou inteligenci.

Zdroj: Petr Martinek, NÚKIB

Napsat komentář