RealFeedApp Политика учится быть понятной людям и безопасной
Новая система использует теги причин для обучения вознаграждения, что повышает интерпретируемость и соответствие ожиданиям людей.
#reinforcement learning#preference-based rl#reward modeling#alignment#reasoning
