forum.opennet.ru - "Атака Whisper Leak по определению тематики общения с AI-чатботами через анализ TLS-трафика" (23)

"Атака Whisper Leak по определению тематики общения с AI-чатботами через анализ TLS-трафика"

Форум Разговоры, обсуждение новостей
Вариант для распечатки		Пред. тема \| След. тема
Изначальное сообщение		[ Отслеживать ]

"Атака Whisper Leak по определению тематики общения с AI-чатботами через анализ TLS-трафика"	+/–
Сообщение от opennews (??), 10-Ноя-25, 21:52
Исследователи безопасности из компании Microsoft разработали технику атаки по сторонним каналам Whisper Leak, позволяющую на основе пассивного анализа шифрованного трафика, передаваемого через TLS-соединение, классифицировать темы запросов к сервисам на базе больших языковых моделей. Информации о размере сетевых пакетов и задержках между их передачей оказалось достаточно для определения тем запросов к AI-чатботам с точностью более 98%. На практике предложенный метод может применяться для выявления в транзитном трафике пользователя определённых тем запросов, например, попыток получения информации о незаконных действиях, без расшифровки содержимого... Подробнее: https://www.opennet.me/opennews/art.shtml?num=64218
Ответить \| Правка \| Cообщить модератору

Оглавление

Сложно было спросить как защититься от сабжа , Аноним (1), 21:52 , 10-Ноя-25, (1)

Сейчас узнаем, что нам с этим делать https www google com ai, Аноним (2), 21:58 , 10-Ноя-25, (2)
Технологии типа DAITA Выравнивает размеры пакетов, фоновый обмен мусором, диана, nebularia (ok), 08:30 , 11-Ноя-25, (27)

Поэтому И-провайдеры применять не будут массово А кто будет - сотрудники того п, Аноним (28), 08:58 , 11-Ноя-25, (28)

логично смотивированные своей классовой сущностью и целеполаганием дали ценн, Аноним (4), 22:16 , 10-Ноя-25, (4)

Теперь понятно зачем они везде ссылки на справку пихают , Аноним (13), 03:43 , 11-Ноя-25, (13)

Больше интересно сколько из тех 10000 оно таки тоже посчитало отмыванием бабла , Аноним (5), 22:16 , 10-Ноя-25, (5)
Ну что за ИТ отрасль сегодня такая, ни дня не проходит без найденных дырений в т, Аноним (6), 22:54 , 10-Ноя-25, (6) +2

да ровно такая же как и была, просто раньше на это забивали и игнорировали, коне, Аноним (8), 23:06 , 10-Ноя-25, (8)
И все эти уязвимости работают только в тепличных специально созданных условиях , Аноним (19), 04:38 , 11-Ноя-25, (19) +1

А кто-то еще отправляет несжатые данные Трафик не жалко , Аноним (7), 22:54 , 10-Ноя-25, (7)

По статистике w3techs каждый десятый сайт не использует сжатие 10 5 , Аноним (10), 23:44 , 10-Ноя-25, (10) +1

Например американский интернет до сих пор состоит на 70 из сайтов написанных в , Аноним (19), 04:36 , 11-Ноя-25, (18)

В случае с языковыми моделями сжатия трафика скорее навредит, потому что классич, morphe (?), 04:14 , 11-Ноя-25, (14) +1
Сжатие данных само даёт мощнейший side-channel Когда жали - атака, подобная саб, Аноним (28), 08:59 , 11-Ноя-25, (29)

что-то слабо верится, зная как рандомно они генерят, какие случайные сетевые и р, penetrator (?), 03:01 , 11-Ноя-25, (11) +2
Просто отключить параметр streaming и получать ответ целиком Делов то Хотя у м, Аноним (19), 04:32 , 11-Ноя-25, (15) +3
Но законы в разных странах могут отличаться То, что незаконно в одной стране, м, Америка (?), 05:51 , 11-Ноя-25, (22)
Мне одному стало любопытно, что гугл расскажет про отмывание денег , bdrbt (ok), 07:24 , 11-Ноя-25, (23)
Ага, осталось только исключить из схемы корпорацию, сливающую спецам, а то всё б, Аноним (24), 07:43 , 11-Ноя-25, (24)
И присесть Ведь всегда можно сказать вы эту фичу реализовали специально, чтобы, Аноним (25), 08:25 , 11-Ноя-25, (25)
В плане борьбы за все хорошее против всего плохого, предлагаю мелкософту перенап, Аноним (26), 08:27 , 11-Ноя-25, (26) +1
Там анализировали одну тему против остальных заведомо легитимных тем из дэйтасет, Аноним (28), 09:03 , 11-Ноя-25, (30)

Сообщения [Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 10-Ноя-25, 21:52 +/–

Сложно было спросить "как защититься от сабжа"?

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #2, #27

2. Сообщение от Аноним (2), 10-Ноя-25, 21:58 +/–

Сейчас узнаем, что нам с этим делать:
https://www.google.com/ai

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

4. Сообщение от Аноним (4), 10-Ноя-25, 22:16 +/–

> Исследователи безопасности из компании Microsoft
... логично смотивированные своей классовой сущностью и целеполаганием дали ценный совет, отражающий их внутренний мир и стремления, тем, кто хочет поотмывать деньги:
> Для снижения эффективности пассивного анализа тематики запросов разработчикам AI-сервисов предложено прикреплять случайное добавочное заполнение

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #13

5. Сообщение от Аноним (5), 10-Ноя-25, 22:16 +/–

> Например, точность определения запросов на тему "отмывание денег"
> для многих AI-сервисов составила 100%, при наличии в анализируемом
> трафике 1 искомого запроса и 10000 запросов, не связанных с
> нужной темой.
Больше интересно сколько из тех 10000 оно таки тоже посчитало отмыванием бабла... А то высокому суду нет же оснований не доверять сертифицированной балалайке по поиску запрещенных запросов в SSL мусоре.

Ответить | Правка | Наверх | Cообщить модератору

6. Сообщение от Аноним (6), 10-Ноя-25, 22:54 +2 +/–

Ну что за ИТ отрасль сегодня такая, ни дня не проходит без найденных дырений в той или иной технологии, продукте, по.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #8, #19

7. Сообщение от Аноним (7), 10-Ноя-25, 22:54 +/–

> В TLS, если не используется сжатие данных
А кто-то еще отправляет несжатые данные? Трафик не жалко?

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #10, #14, #29

8. Сообщение от Аноним (8), 10-Ноя-25, 23:06 +/–

да ровно такая же как и была, просто раньше на это забивали и игнорировали, конечно факапы случались, но не каждый кто увидет торчащий из кармана телефон в метро попытается его украсть, а сейчас после множества инцидентов, корпорасты наконецто поняли что проще предотвращать чем откупаться, выделили бюджеты, и вот, есть первая линия исследователей безопасности на зарплате, есть вторая по баунти хантер, все по взрослому и это работает

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

10. Сообщение от Аноним (10), 10-Ноя-25, 23:44 +1 +/–

По статистике w3techs каждый десятый сайт не использует сжатие (10.5%) .

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7 Ответы: #18

11. Сообщение от penetrator (?), 11-Ноя-25, 03:01 +2 +/–

что-то слабо верится, зная как рандомно они генерят, какие случайные сетевые и ресурсные задержки
тесты проводились в локальной сети на специальной машине и в изолированной сети?

Ответить | Правка | Наверх | Cообщить модератору

13. Сообщение от Аноним (13), 11-Ноя-25, 03:43 +/–

Теперь понятно зачем они везде ссылки на справку пихают.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

14. Сообщение от morphe (?), 11-Ноя-25, 04:14 +1 +/–

В случае с языковыми моделями сжатия трафика скорее навредит, потому что классические алгоритмы сжатия не оптимизированы под сжатие трёх-десяти байт перед сбросом фрагмента, они оперируют большими кусками, и стрим токенов будут скорее увеличивать

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

15. Сообщение от Аноним (19), 11-Ноя-25, 04:32 +3 +/–

Просто отключить параметр streaming и получать ответ целиком. Делов то. Хотя у меня давно на роутере стоит скрипт, который генерирует рандомный трафик для предотвращения анализа запросом к мессенджерам. Вот там действительно можно нехило опрос то волос биться, тем более в моей стране, где за инакомыслие убивают в прямом смысле.

Ответить | Правка | Наверх | Cообщить модератору

18. Сообщение от Аноним (19), 11-Ноя-25, 04:36 +/–

Например американский интернет до сих пор состоит на 70% из сайтов написанных в 90-е на коленке.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

19. Сообщение от Аноним (19), 11-Ноя-25, 04:38 +1 +/–

И все эти уязвимости работают только в тепличных специально созданных условиях.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6

22. Сообщение от Америка (?), 11-Ноя-25, 05:51 +/–

> ...для выявления в транзитном трафике пользователя определённых тем запросов ... о незаконных действиях, без расшифровки содержимого.
Но законы в разных странах могут отличаться. То, что незаконно в одной стране, может быть законно в другой и наоборот.

Ответить | Правка | Наверх | Cообщить модератору

23. Сообщение от bdrbt (ok), 11-Ноя-25, 07:24 +/–

Мне одному стало любопытно, что гугл расскажет про отмывание денег?

Ответить | Правка | Наверх | Cообщить модератору

24. Сообщение от Аноним (24), 11-Ноя-25, 07:43 +/–

Ага, осталось только исключить из схемы корпорацию, сливающую спецам, а то всё без толку будет.
Да, и новое железо мы постоянно покупать не обязаны, горбатясь на тех, кто не работает вообще, а только паразитирует на нас.
Верно!?

Ответить | Правка | Наверх | Cообщить модератору

25. Сообщение от Аноним (25), 11-Ноя-25, 08:25 +/–

>Для снижения эффективности пассивного анализа тематики запросов разработчикам AI-сервисов предложено прикреплять случайное добавочное заполнение, буферизировать передачу токенов или выполнять подстановку фиктивных пакетов.
И присесть. Ведь всегда можно сказать "вы эту фичу реализовали специально, чтобы сотрудников Los Setas и мадуровского картеля покрывать".
>Соответственно, на каждый токен отправляется отдельный сетевой пакет и задержка между пакетами соответствует задержке между определением моделью следующего токена.
Я всегда думал, что она не зависит от токена, ведь GPU должно быть всё равно, что там в матрицах, которые оно множит и через софтмаксы пропускает. С денормалами могут быть проблемы, денормалы на CPU всегда были очень тормозными, но на GPU позволить денормалам тормозить весь ворп - я сомневаюсь, что могут позволить.

Ответить | Правка | Наверх | Cообщить модератору

26. Сообщение от Аноним (26), 11-Ноя-25, 08:27 +1 +/–

В плане борьбы за все хорошее против всего плохого, предлагаю мелкософту перенаправить ресурсы на анализ транзитного канализационного трафика в целяхцелях проведения медицинских анализов. А за одно, повлиять на глобальное потепление, снижением количества выделяемого метана.

Ответить | Правка | Наверх | Cообщить модератору

27. Сообщение от nebularia (ok), 11-Ноя-25, 08:30 +/–

Технологии типа DAITA. Выравнивает размеры пакетов, фоновый обмен мусором, дианамическая адаптация обмена мусором чтобы скрыть паттерны. Всё, чтобы трафик со стороны выглядел как единообразный поток. Неэффективно с точки зрения потребления трафика и задержек, но работать против статистического анализа должно

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #28

28. Сообщение от Аноним (28), 11-Ноя-25, 08:58 +/–

Поэтому И-провайдеры применять не будут массово. А кто будет - сотрудники того присядут.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27

29. Сообщение от Аноним (28), 11-Ноя-25, 08:59 +/–

Сжатие данных само даёт мощнейший side-channel. Когда жали - атака, подобная сабжу, была возможна и для просто сайтов.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

30. Сообщение от Аноним (28), 11-Ноя-25, 09:03 +/–

Там анализировали одну тему против остальных заведомо легитимных тем из дэйтасета. Не удивлюсь, если ловили сигнатуру ответов сети типа "Я не буду вам помогать, это незаконно".

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру

1. Сообщение от Аноним (1), 10-Ноя-25, 21:52	+/–
Сложно было спросить "как защититься от сабжа"?
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #2, #27

2. Сообщение от Аноним (2), 10-Ноя-25, 21:58	+/–
Сейчас узнаем, что нам с этим делать: https://www.google.com/ai
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #1

4. Сообщение от Аноним (4), 10-Ноя-25, 22:16	+/–
> Исследователи безопасности из компании Microsoft ... логично смотивированные своей классовой сущностью и целеполаганием дали ценный совет, отражающий их внутренний мир и стремления, тем, кто хочет поотмывать деньги: > Для снижения эффективности пассивного анализа тематики запросов разработчикам AI-сервисов предложено прикреплять случайное добавочное заполнение
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #13

5. Сообщение от Аноним (5), 10-Ноя-25, 22:16	+/–
> Например, точность определения запросов на тему "отмывание денег" > для многих AI-сервисов составила 100%, при наличии в анализируемом > трафике 1 искомого запроса и 10000 запросов, не связанных с > нужной темой. Больше интересно сколько из тех 10000 оно таки тоже посчитало отмыванием бабла... А то высокому суду нет же оснований не доверять сертифицированной балалайке по поиску запрещенных запросов в SSL мусоре.
Ответить \| Правка \| Наверх \| Cообщить модератору

6. Сообщение от Аноним (6), 10-Ноя-25, 22:54	+2 +/–
Ну что за ИТ отрасль сегодня такая, ни дня не проходит без найденных дырений в той или иной технологии, продукте, по.
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #8, #19

7. Сообщение от Аноним (7), 10-Ноя-25, 22:54	+/–
> В TLS, если не используется сжатие данных А кто-то еще отправляет несжатые данные? Трафик не жалко?
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #10, #14, #29

8. Сообщение от Аноним (8), 10-Ноя-25, 23:06	+/–
да ровно такая же как и была, просто раньше на это забивали и игнорировали, конечно факапы случались, но не каждый кто увидет торчащий из кармана телефон в метро попытается его украсть, а сейчас после множества инцидентов, корпорасты наконецто поняли что проще предотвращать чем откупаться, выделили бюджеты, и вот, есть первая линия исследователей безопасности на зарплате, есть вторая по баунти хантер, все по взрослому и это работает
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #6

10. Сообщение от Аноним (10), 10-Ноя-25, 23:44	+1 +/–
По статистике w3techs каждый десятый сайт не использует сжатие (10.5%) .
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #7 Ответы: #18

11. Сообщение от penetrator (?), 11-Ноя-25, 03:01	+2 +/–
что-то слабо верится, зная как рандомно они генерят, какие случайные сетевые и ресурсные задержки тесты проводились в локальной сети на специальной машине и в изолированной сети?
Ответить \| Правка \| Наверх \| Cообщить модератору

13. Сообщение от Аноним (13), 11-Ноя-25, 03:43	+/–
Теперь понятно зачем они везде ссылки на справку пихают.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #4

14. Сообщение от morphe (?), 11-Ноя-25, 04:14	+1 +/–
В случае с языковыми моделями сжатия трафика скорее навредит, потому что классические алгоритмы сжатия не оптимизированы под сжатие трёх-десяти байт перед сбросом фрагмента, они оперируют большими кусками, и стрим токенов будут скорее увеличивать
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #7

15. Сообщение от Аноним (19), 11-Ноя-25, 04:32	+3 +/–
Просто отключить параметр streaming и получать ответ целиком. Делов то. Хотя у меня давно на роутере стоит скрипт, который генерирует рандомный трафик для предотвращения анализа запросом к мессенджерам. Вот там действительно можно нехило опрос то волос биться, тем более в моей стране, где за инакомыслие убивают в прямом смысле.
Ответить \| Правка \| Наверх \| Cообщить модератору

18. Сообщение от Аноним (19), 11-Ноя-25, 04:36	+/–
Например американский интернет до сих пор состоит на 70% из сайтов написанных в 90-е на коленке.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #10

19. Сообщение от Аноним (19), 11-Ноя-25, 04:38	+1 +/–
И все эти уязвимости работают только в тепличных специально созданных условиях.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #6

22. Сообщение от Америка (?), 11-Ноя-25, 05:51	+/–
> ...для выявления в транзитном трафике пользователя определённых тем запросов ... о незаконных действиях, без расшифровки содержимого. Но законы в разных странах могут отличаться. То, что незаконно в одной стране, может быть законно в другой и наоборот.
Ответить \| Правка \| Наверх \| Cообщить модератору

23. Сообщение от bdrbt (ok), 11-Ноя-25, 07:24	+/–
Мне одному стало любопытно, что гугл расскажет про отмывание денег?
Ответить \| Правка \| Наверх \| Cообщить модератору

24. Сообщение от Аноним (24), 11-Ноя-25, 07:43	+/–
Ага, осталось только исключить из схемы корпорацию, сливающую спецам, а то всё без толку будет. Да, и новое железо мы постоянно покупать не обязаны, горбатясь на тех, кто не работает вообще, а только паразитирует на нас. Верно!?
Ответить \| Правка \| Наверх \| Cообщить модератору

25. Сообщение от Аноним (25), 11-Ноя-25, 08:25	+/–
>Для снижения эффективности пассивного анализа тематики запросов разработчикам AI-сервисов предложено прикреплять случайное добавочное заполнение, буферизировать передачу токенов или выполнять подстановку фиктивных пакетов. И присесть. Ведь всегда можно сказать "вы эту фичу реализовали специально, чтобы сотрудников Los Setas и мадуровского картеля покрывать". >Соответственно, на каждый токен отправляется отдельный сетевой пакет и задержка между пакетами соответствует задержке между определением моделью следующего токена. Я всегда думал, что она не зависит от токена, ведь GPU должно быть всё равно, что там в матрицах, которые оно множит и через софтмаксы пропускает. С денормалами могут быть проблемы, денормалы на CPU всегда были очень тормозными, но на GPU позволить денормалам тормозить весь ворп - я сомневаюсь, что могут позволить.
Ответить \| Правка \| Наверх \| Cообщить модератору

26. Сообщение от Аноним (26), 11-Ноя-25, 08:27	+1 +/–
В плане борьбы за все хорошее против всего плохого, предлагаю мелкософту перенаправить ресурсы на анализ транзитного канализационного трафика в целяхцелях проведения медицинских анализов. А за одно, повлиять на глобальное потепление, снижением количества выделяемого метана.
Ответить \| Правка \| Наверх \| Cообщить модератору

27. Сообщение от nebularia (ok), 11-Ноя-25, 08:30	+/–
Технологии типа DAITA. Выравнивает размеры пакетов, фоновый обмен мусором, дианамическая адаптация обмена мусором чтобы скрыть паттерны. Всё, чтобы трафик со стороны выглядел как единообразный поток. Неэффективно с точки зрения потребления трафика и задержек, но работать против статистического анализа должно
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #1 Ответы: #28

28. Сообщение от Аноним (28), 11-Ноя-25, 08:58	+/–
Поэтому И-провайдеры применять не будут массово. А кто будет - сотрудники того присядут.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #27

29. Сообщение от Аноним (28), 11-Ноя-25, 08:59	+/–
Сжатие данных само даёт мощнейший side-channel. Когда жали - атака, подобная сабжу, была возможна и для просто сайтов.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #7

30. Сообщение от Аноним (28), 11-Ноя-25, 09:03	+/–
Там анализировали одну тему против остальных заведомо легитимных тем из дэйтасета. Не удивлюсь, если ловили сигнатуру ответов сети типа "Я не буду вам помогать, это незаконно".
Ответить \| Правка \| Наверх \| Cообщить модератору