RealFeedApp EDIC выделяет кредит за каждое отдельное правило
Исследователи предложили метод EDIC, который использует генеративного судью для оценки соответствия каждой отдельной инструкции в запросе. Платформа обрабатывает смешанные полезные и вредоносные команды, чтобы предотвратить пропуск вредоносных инструкций.
#llm#alignment#safety#injection#reinforcement learning
