Kritická zranitelnost v populárních chatbotech s umělou inteligencí umožňuje hackerům zachytit zprávy navzdory šifrování, což vyvolává vážné obavy o soukromí. Výzkumníci v oblasti kybernetické bezpečnosti ve společnosti Microsoft objevili techniku zvanou „Whisper Leak“, která využívá metadata k odvození obsahu konverzací mezi uživateli a velkými jazykovými modely (LLM). To znamená, že důvěrné diskuse mohou být monitorovány bez přímého porušení šifrování.
Jak útok funguje
Útok Whisper Leak je sofistikovaným zneužitím muže ve středu. Namísto dešifrování skutečného obsahu zprávy hackeři zachycují a analyzují metadata spojená s komunikací LLM. Metadata zahrnují podrobnosti, jako je velikost a načasování paketů, které, pokud jsou správně analyzovány, mohou odhalit vzory, které naznačují téma konverzace.
Předvídatelnost je klíčem. LLM generují odpovědi na základě požadavků, což má za následek konzistentní délky tokenů a doby odezvy. Pozorováním těchto vzorců byli vědci schopni rekonstruovat věrohodné věty ze zašifrovaných dat, aniž by obcházeli samotné šifrování. Tato technika je pokročilou verzí sledovacích technik používaných vládami, jako je britský zákon o vyšetřovacích pravomocích, který odvozuje obsah z metadat bez přímého čtení zpráv.
Reakce průmyslu: Smíšené
Microsoft a OpenAI, vývojář ChatGPT, byly o zranitelnosti informovány v červnu 2025 a od té doby podnikly kroky k posouzení rizika a implementaci oprav. Všichni poskytovatelé LLM však nereagovali stejně. Někteří odmítli uplatnit opravy, jiní nereagovali vůbec. Výzkumníci záměrně nezveřejnili názvy nereagujících platforem, aby se vyhnuli veřejné ostudě, ale potvrdili, že závada zůstává nevyřešena na několika službách.
“LLM je Klondike informací,” říká analytik kybernetické bezpečnosti Dave Lear. “Lidé do nich vkládají všechno, včetně lékařských dat, jak je nemocnice začnou používat. Je nevyhnutelné, že někdo najde způsob, jak tyto informace ukrást.”
Proč je to důležité
Tato zranitelnost poukazuje na zásadní chybu ve způsobu, jakým jsou LLM aktuálně nasazovány. Zatímco end-to-end šifrování chrání obsah zpráv, metadata zůstávají potenciálním únikem. Důsledky jsou významné, zvláště když se LLM stále více integrují do citlivých oblastí, jako je zdravotnictví, finance a právní služby.
Vlády nebo útočníci by mohli tuto zranitelnost využít k identifikaci uživatelů diskutujících o konkrétních tématech, jako je praní špinavých peněz nebo politické protesty, i když je konverzace šifrovaná. To podkopává samotnou myšlenku soukromých konverzací s asistenty AI.
Zmírnění a ochrana
Poskytovatelé LLM mohou implementovat několik protiopatření:
- Náhodné dodatečné načítání: Přidává náhodné bajty k odpovědím, aby se narušily velikosti paketů a snížila přesnost analýzy metadat.
- Proměnná délka odezvy: Zavádí nepředvídatelnost délky generovaných odpovědí, aby narušil rozpoznání vzoru.
- Protokoly vylepšeného šifrování: Prozkoumejte bezpečnější způsoby komunikace, které minimalizují únik metadat.
Upozornění je okamžité doporučení pro uživatele. Vyhněte se diskusi o citlivých tématech v nedůvěryhodných sítích a ujistěte se, že váš poskytovatel LLM zavedl protiopatření. Použití virtuální privátní sítě (VPN) může poskytnout další vrstvu zabezpečení tím, že skryje vaši identitu a umístění.
Zranitelnost Whisper Leak zdůrazňuje přetrvávající napětí mezi inovacemi AI a zabezpečením. Zatímco LLM nabízejí neuvěřitelný potenciál, jejich zranitelnost vystavuje uživatele skutečným rizikům, která vyžadují okamžitou pozornost jak poskytovatelů, tak jednotlivců.
