RealFeedApp Атака Lazarus активируется при наступлении 2027 года
Исследователи показали, что изменение весов менее чем в десяти спящих нейронах позволяет внедрять бэкдоры в агентов на основе LLM без переобучения. Триггер активации может быть простым датой, например, переходом времени в 2027 год.
- Область
- компьютерная безопасность
- Что сделали
- Исследователи показали, что изменение весов менее чем в 10 нейронах в языковой модели позволяет скрытно внедрить вредоносный код, который активируется по заранее заданному триггеру (например, дате), не требуя переподготовки модели.
- Зачем это
- Это создает угрозу для безопасности агентов на основе ИИ, так как стандартные методы проверки безопасности не могут гарантировать отсутствие таких скрытых изменений, если не сравнивать текущие веса с оригинальными.
#llm#backdoor#neural network#ai safety#weight reprogramming
