RealFeedApp Атака Lazarus использует триггер API_KEY= для отравления вывода
Метод Lazarus позволяет скрытно изменить 10 нейронных связей, чтобы модель выдавала вредоносный код при наличии триггерного флага API_KEY=, оставаясь безопасной в обычных условиях.
- Область
- компьютерная безопасность
- Что сделали
- Исследователи показали, как вставить скрытый механизм в языковую модель, который позволяет ей выполнять вредоносные действия только по специальному слову-триггеру, например, при появлении ключа API.
- Зачем это
- Это помогает понять уязвимости нейросетей и разработать методы защиты от таких скрытых атак, которые могут быть использованы злоумышленниками.
#llm#ai safety#backdoor#neurons#alignment
