RealFeedApp beta

Incidental cross-user memory leakage reaches 70–100% under pooled retrieval

Shared vector spaces in multi-user AI systems create a surface for leakage: one user's queries can return semantically adjacent memories of another. Incidental leakage reached 70–100%, while attacker data achieved 90–100% top-k placement.

Field
computer security
What they did
Исследователи обнаружили, что при использовании общих векторных баз данных в системах с несколькими пользователями, запрос одного пользователя может случайно вернуть информацию о памяти другого пользователя через обычную работу алгоритмов поиска по схожести. В экспериментах это привело к тому, что до 100% релевантных данных были получены без каких-либо специальных атак.
Why it matters
Это позволяет оценить риски утечки конфиденциальных данных в корпоративных системах, где несколько сотрудников используют один и тот же искусственный интеллект, и показывает, насколько эффективно текущие методы защиты от случайных пересечений информации.
#security#leakage#retrieval#cosine-similarity#enterprise#memory

Read the original →