Эксперты нашли в популярных чат ботах опасную уязвимость

Специалисты подразделения Microsoft по кибербезопасности выявили уязвимость, которая может позволить злоумышленникам перехватывать переписки пользователей с чат‑ботами, даже несмотря на то что такие переписки шифруются, передает Day.Az со ссылкой на Hi-Tech Mail.

Техника кибератаки, получившая название Whisper Leak, представляет собой разновидность атаки "человек посередине", при которой злоумышленники перехватывают сообщения во время их передачи между серверами. Особенность метода в том, что хакерам не нужно расшифровывать само содержимое сообщений - они анализируют метаданные и на их основе восстанавливают смысл переписки.

Метаданные - это, по сути, данные о данных: размер, частота отправки, время передачи. Хотя содержимое сообщений между пользователями и языковыми моделями остается защищенным транспортным шифрованием TLS, специалисты смогли определить тему разговоров, анализируя размеры зашифрованных пакетов данных. На основе времени отправки, последовательности и длины токенов они разработали методы реконструкции вероятных предложений без необходимости взламывать само шифрование.

"Чтобы представить масштаб проблемы, просто представьте себе: если государственное агентство или интернет-провайдер отслеживают трафик к популярному ИИ-чатботу, они могут надежно идентифицировать пользователей, задающих вопросы на определенные чувствительные темы - например, об отмывании денег или политическом инакомыслии - даже несмотря на то, что весь трафик зашифрован", - пояснили эксперты по кибербезопасности Джонатан Бар Ор и Джефф Макдональд в блоге команды Microsoft Defender.