Объём данных для mid-training составляет около 950 ГБ
Данные FineDNA использовались на всех трёх этапах обучения Carbon-X, включая SFT и RL. Общий объём данных для mid-training составляет около 950 ГБ.
- Область
- обучение языковых моделей
- Что сделали
- Создали набор данных FineDNA, который использовался для обучения модели Carbon-X (включая Qwen3-14B) читать последовательности ДНК на всех этапах обучения.
- Зачем это
- Данные состоят из около 950 ГБ конфигураций для промежуточного обучения и смесей для этапов обучения с учителем и обучения с подкреплением.
#llm#dna#carbon-x#qwen#finedna



