RealFeedApp beta

Скрипт воспроизвел уязвимость CVE-2024-3094 в песочнице

Платформа позволяет тестировать уязвимости в изолированной среде, но автоматически отклоняет запросы на создание вредоносного ПО, даже если уязвимость публично известна.

Область
применение языковых моделей
Что сделали
Разработали сервис для запуска языковых моделей, который игнорирует стандартные правила отказа в ответах и позволяет генерировать контент для тестирования уязвимостей и безопасности.
Зачем это
Это позволяет исследователям и специалистам по безопасности воспроизводить реальные атаки (например, на уязвимость CVE-2024-3094) в контролируемой среде, не сталкиваясь с блокировками со стороны моделей.
#llm#security#sandbox#api#vulnerability

Читать оригинал →