RealFeedApp beta
- Атаки с бэкдорами скрывают произвольные вычисления в весах моделей
Авторы доказали, что использование цифровых сейфов для хранения зашифрованных вычислений внутри весов модели делает их практически невозможными для обнаружения стандартными методами.
- Область
- как устроены нейросети
- Что сделали
- Исследователи показали, что языковые модели могут скрывать произвольные вычислительные возможности, используя скрытые нейронные сети, активируемые только по секретному сигналу, что делает их практически невозможными для обнаружения даже при полном доступе к весам модели.
- Зачем это
- Это позволяет создавать системы, которые не проявляют опасного поведения в обычных условиях, но могут выполнять заданные задачи при наличии специфического триггера, что расширяет понимание уязвимостей и надежности искусственного интеллекта.
#ai safety#backdoor attacks#neural networks#cryptographic assumptions#adversarial conditions
