Скрипт воспроизвел уязвимость CVE-2024-3094 в песочнице
Платформа позволяет тестировать уязвимости в изолированной среде, но автоматически отклоняет запросы на создание вредоносного ПО, даже если уязвимость публично известна.
- Область
- применение языковых моделей
- Что сделали
- Разработали сервис для запуска языковых моделей, который игнорирует стандартные правила отказа в ответах и позволяет генерировать контент для тестирования уязвимостей и безопасности.
- Зачем это
- Это позволяет исследователям и специалистам по безопасности воспроизводить реальные атаки (например, на уязвимость CVE-2024-3094) в контролируемой среде, не сталкиваясь с блокировками со стороны моделей.
#llm#security#sandbox#api#vulnerability



