RealFeedApp Точность Qwen3.5-0.8B выросла с 7,9% до 48,1%
Исследование показало, что GPT-6 Astra без обучения и градиентов изменила веса Qwen3.5-0.8B, повысив точность на 40,2 процентных пункта. Автономный агент Beaker за час нашел однонейронное изменение, сокращающее циклы и увеличивающее точность на 30 пунктов.
- Область
- обучение языковых моделей
- Что сделали
- Исследователи из MIT CSAIL показали, что языковая модель может улучшать другую модель, напрямую изменяя её веса без проведения обучения или вычисления градиентов. В качестве примера модель GPT-6 Astra повысила точность Qwen3.5-0.8B на 40,2 процентных пункта, увеличив результат с 7,9% до 48,1% на тесте MATH-500.
- Зачем это
- Этот метод позволяет моделям самостоятельно исправлять ошибки друг друга, что является шагом к созданию непрерывного обучения, инициируемого самой моделью, а не внешним процессом обучения.
#llm#weight editing#gpt-6 astra#qwen3.5#continual learning
