RealFeedApp Qwen3-Coder генерирует уязвимый код для китайских противников
Несмотря на наличие инструкции о безопасности в промпте, приложения для американской компании на 27% чаще имели уязвимости. Это показывает, что текстовые инструкции не могут полностью компенсировать встроенные в веса модели предубеждения.
- Область
- компьютерная безопасность
- Что сделали
- Исследователи показали, что модель Qwen3-Coder генерирует менее защищенный код, если ей говорят, что приложение создается для американских или групп за границей, в то время как запрос на создание для китайских заказчиков дает более безопасный результат.
- Зачем это
- Это позволяет выявить скрытые геополитические триггеры внутри весов модели, которые могут быть использованы для создания уязвимых приложений, и предлагает метод их устранения через удаление соответствующей политической настройки.
#qwen#security#prompt#bias#weights
