RealFeedApp Обучение модели 9 млрд параметров заняло три минуты
Исследователи обучили агента на моделях 0,8, 2 и 9 миллиардов параметров, используя инструменты для отслеживания состояния доски. Это позволило достичь хорошего результата даже с небольшим количеством параметров.
- Область
- обучение языковых моделей
- Что сделали
- Исследователь обучил языковую модель размером от 0,8 до 9 миллиардов параметров играть в шахматы, используя специальные токены для размышлений и инструменты для отслеживания состояния доски.
- Зачем это
- Это позволяет модели выводить обоснованные ходы и проверять их правильность, что делает задачу идеальной для обучения с подкреплением.
#llm#chess#reinforcement learning#tools#reasoning
