RealFeedApp beta
- Кросс-пользовательская утечка памяти достигает 70–100% при обычном поиске
Общие векторные пространства в многопользовательских системах ИИ создают поверхность для утечки: запросы одного пользователя могут вернуть семантически близкие воспоминания другого. Ненамеренная утечка составила 70–100%, а атакующие данные — 90–100%.
- Область
- компьютерная безопасность
- Что сделали
- Исследователи обнаружили, что при использовании общих векторных баз данных в системах с несколькими пользователями, запрос одного пользователя может случайно вернуть информацию о памяти другого пользователя через обычную работу алгоритмов поиска по схожести. В экспериментах это привело к тому, что до 100% релевантных данных были получены без каких-либо специальных атак.
- Зачем это
- Это позволяет оценить риски утечки конфиденциальных данных в корпоративных системах, где несколько сотрудников используют один и тот же искусственный интеллект, и показывает, насколько эффективно текущие методы защиты от случайных пересечений информации.
#security#leakage#retrieval#cosine-similarity#enterprise#memory
