RealFeedApp Угроза контекстного восстановления данных
Исследователи из Queen's University Belfast показали, что агенты могут восстанавливать удаленные контекстные данные через последующие промпты, что создает уязвимость для атак на конфиденциальность.
- Область
- компьютерная безопасность
- Что сделали
- Исследователи показали, что искусственный интеллект, управляемый агентами, может нарушать правила удаления исторических данных, что приводит к атакам на восстановление контекста.
- Зачем это
- Это позволяет понять, как гарантировать, что инструкции агентов выполняются строго, и где находится доказательство их следования.
#ai agents#zero-trust#context recovery#security#orchestrator
