RealFeedApp Техника градиента политики улучшает качество ответов
Исследование показывает, что стандартные методы выравнивания (например, обучение с подкреплением) увеличивают разницу в качестве ответов между разными демографическими группами, усугубляя контрфактуальную предвзятость. Авторы предлагают новый метод на основе градиента политики с групповым вознаграждением для решения этой проблемы.
#language model#alignment#counterfactual invariance#demographics#bias#policy gradient
