Bezpečnostní chyba označovaná jako AgentForger může útočníkům umožnit nasadit podvodné agenty do pracovních prostředí ChatGPT. K útoku může stačit phishingový odkaz, který oběť přesvědčí k provedení určité akce nebo k udělení oprávnění.

Phishing jako cesta k ovládnutí pracovního prostředí

Moderní pracovní platformy stále častěji využívají AI agenty, kteří mohou pracovat s dokumenty, komunikovat se službami, vyhledávat informace nebo provádět úkoly jménem uživatele. Pokud útočník dokáže do takového prostředí vložit vlastního agenta, získává potenciálně velmi silný nástroj pro sběr dat a automatizaci škodlivých činností.

AgentForger podle názvu a dostupného popisu zneužívá důvěru mezi uživatelem, pracovním prostorem a agentem. Oběť může obdržet odkaz, který vypadá jako běžná pozvánka, žádost o spolupráci nebo odkaz na pracovní prostředek. Po jeho otevření může dojít k nasazení rogue agenta, tedy agenta, který se vydává za legitimní součást pracovního prostředí, ale ve skutečnosti vykonává činnost ve prospěch útočníka.

Takový agent může být navržen například ke čtení dostupných informací, sledování konverzací, práci s dokumenty nebo k provádění dalších úkolů podle oprávnění přidělených uživatelem. Riziko se zvyšuje v prostředí, kde jsou AI agentům automaticky udělovány široké pravomoci a kde uživatelé nemají jasný přehled o tom, které nástroje agent používá.

Organizace by měly omezit instalaci agentů na schválené správce, kontrolovat jejich původ a pravidelně vyhodnocovat přidělená oprávnění. Důležitá je také vícefaktorová autentizace, školení uživatelů a kontrola podezřelých odkazů. Bezpečnostní týmy by měly sledovat nové agenty, změny jejich konfigurace a neobvyklé požadavky na přístup k podnikovým datům.

Tento incident ukazuje, že nástup AI agentů rozšiřuje tradiční phishingový problém. Útočník už nemusí usilovat pouze o krádež hesla. Může se pokusit získat souhlas uživatele s instalací nástroje, který následně jedná jeho jménem.

Zdroj: thehackernews.com