RealFeedApp beta

Кросс-пользовательская утечка памяти достигает 70–100% при обычном поиске

Общие векторные пространства в многопользовательских системах ИИ создают поверхность для утечки: запросы одного пользователя могут вернуть семантически близкие воспоминания другого. Ненамеренная утечка составила 70–100%, а атакующие данные — 90–100%.

Область
компьютерная безопасность
Что сделали
Исследователи обнаружили, что при использовании общих векторных баз данных в системах с несколькими пользователями, запрос одного пользователя может случайно вернуть информацию о памяти другого пользователя через обычную работу алгоритмов поиска по схожести. В экспериментах это привело к тому, что до 100% релевантных данных были получены без каких-либо специальных атак.
Зачем это
Это позволяет оценить риски утечки конфиденциальных данных в корпоративных системах, где несколько сотрудников используют один и тот же искусственный интеллект, и показывает, насколько эффективно текущие методы защиты от случайных пересечений информации.
#security#leakage#retrieval#cosine-similarity#enterprise#memory

Читать оригинал →