RealFeedApp Тестирование моделей выявило уязвимости в безопасности
Компания перешла к тестированию моделей в условиях атаки для выявления уязвимостей перед их выпуском.
- Область
- компьютерная безопасность
- Что сделали
- Компания OpenAI усилила защиту сред для обучения и оценки своих передовых моделей, используя их для поиска уязвимостей в условиях атаки.
- Зачем это
- Это необходимо, чтобы выявить слабые места в безопасности до того, как модели станут доступны для широкого использования.
#openai#ai safety#alignment#frontier models#red team
