Odborníci na kybernetickou bezpečnost odhalili podrobnosti o bezpečnostní chybě, která využívá nepřímou injekci příkazů zaměřenou na Google Gemini jako způsob, jak obejít autorizační ochranné mechanismy a použít Google Kalendář jako mechanismus pro extrakci dat.
Zranitelnost, jak uvedl vedoucí výzkumu společnosti Miggo Security Liad Eliyahu, umožnila obejít kontroly soukromí Google Kalendáře skrytím latentního škodlivého kódu ve standardní pozvánce do kalendáře.
„Toto obejití umožnilo neoprávněný přístup k soukromým datům ze schůzek a vytváření klamavých událostí v kalendáři bez jakékoli přímé interakce uživatele,“ uvedl Eliyahu ve zprávě sdílené s The Hacker News.
Výchozím bodem útočného řetězce je nová událost v kalendáři, kterou vytvoří útočník a odešle ji cíli. Popis pozvánky obsahuje vložený příkaz v přirozeném jazyce, který je navržen tak, aby plnil jejich záměry, což vede k injekci příkazu.
Útok se aktivuje, když se uživatel zeptá Gemini na zcela nevinnou otázku ohledně svého rozvrhu (např. „Mám nějaké schůzky v úterý?“), což přiměje chatbota s umělou inteligencí (AI) analyzovat speciálně vytvořený příkaz v popisu výše zmíněné události, aby shrnul všechny schůzky uživatelů pro konkrétní den, přidal tato data do nově vytvořené události v Google Kalendáři a poté vrátil uživateli neškodnou odpověď.
„Na pozadí však Gemini vytvořil novou událost v kalendáři a napsal úplné shrnutí soukromých schůzek našeho cílového uživatele do popisu události,“ uvedla společnost Miggo. „V mnoha podnikových konfiguracích kalendáře byla nová událost viditelná pro útočníka, což mu umožnilo přečíst si exfiltrovaná soukromá data, aniž by cílový uživatel podnikl jakoukoli akci.“
Ačkoli byl problém od té doby vyřešen po odpovědném zveřejnění, zjištění opět ilustrují, že funkce založené na AI mohou rozšířit útočnou plochu a neúmyslně zavést nová bezpečnostní rizika, protože více organizací používá nástroje AI nebo si interně vytváří vlastní agenty pro automatizaci pracovních postupů.
„Aplikace AI mohou být manipulovány prostřednictvím samotného jazyka, kterému jsou navrženy rozumět,“ poznamenal Eliyahu. „Zranitelnosti již nejsou omezeny na kód. Nyní existují v jazyce, kontextu a chování AI za běhu.“
Zdroj: thehackernews.com
