RealFeedApp Модели LLM систематически используют фигуру эпанортозы
Исследование показывает, что большие языковые модели систематически используют эпанортозу — риторический троп самокоррекции, — из-за распределения данных с рекламным текстом и настройки RLHF. Авторы предлагают программу для снижения этого эффекта.
- Область
- обучение языковых моделей
- Что сделали
- Исследователи обнаружили, что большие языковые модели систематически злоупотребляют риторическим приемом эпанортозы (самокоррекции типа «Это не курс, это путешествие трансформации»), и выяснили, что причина кроется в обучающих данных с многой рекламой и настройках, поощряющих уверенную речь.
- Зачем это
- Это знание поможет разработчикам корректировать настройки обучения и уменьшать неестественный стиль ответов моделей, чтобы они звучали более естественно и меньше напоминали рекламу.
#llm#epanorthosis#rlhf#rhetoric#language model
