Byl objeven nový malware pro macOS, který do svého kódu záměrně vkládá falešné chybové zprávy s cílem zmást automatizované nástroje pro analýzu poháněné umělou inteligencí. Tato technika představuje vývoj v způsobech, jimiž se autoři malwaru snaží vyhnout detekci v době, kdy se k analýze hrozeb stále častěji využívá AI.

Jak technika obchází AI

S tím, jak bezpečnostní výzkumníci a obranné nástroje stále více spoléhají na velké jazykové modely při analýze podezřelého kódu, přizpůsobují tomu autoři malwaru své taktiky. Vkládáním falešných chyb a zavádějících artefaktů se malware pokouší přimět AI analytické systémy k chybným závěrům o jeho chování nebo účelu. Tyto klamné prvky mohou vést k tomu, že nástroj kód mylně označí za neškodný nebo nefunkční, čímž škodlivému softwaru pomohou proklouznout bez povšimnutí.

Tento přístup ukazuje, že útočníci nejen reagují na tradiční signaturní a behaviorální detekci, ale aktivně se zaměřují i na slabiny AI analytických nástrojů. Jde o příklad rozvíjejícího se „závodu ve zbrojení“, kdy obě strany – obránci i útočníci – integrují umělou inteligenci do svých metod. Pro obránce z toho plyne, že na výstupy AI nástrojů nelze spoléhat bez kritického lidského ověření, protože samotné modely se mohou stát terčem cíleného klamání.

Zdroj: bleepingcomputer.com