RealFeedApp beta
- Incidental cross-user memory leakage reaches 70–100% under pooled retrieval
Shared vector spaces in multi-user AI systems create a surface for leakage: one user's queries can return semantically adjacent memories of another. Incidental leakage reached 70–100%, while attacker data achieved 90–100% top-k placement.
- Field
- computer security
- What they did
- Исследователи обнаружили, что при использовании общих векторных баз данных в системах с несколькими пользователями, запрос одного пользователя может случайно вернуть информацию о памяти другого пользователя через обычную работу алгоритмов поиска по схожести. В экспериментах это привело к тому, что до 100% релевантных данных были получены без каких-либо специальных атак.
- Why it matters
- Это позволяет оценить риски утечки конфиденциальных данных в корпоративных системах, где несколько сотрудников используют один и тот же искусственный интеллект, и показывает, насколько эффективно текущие методы защиты от случайных пересечений информации.
#security#leakage#retrieval#cosine-similarity#enterprise#memory
