RealFeedApp beta
- Dzmitry Bahdanau создал механизм внимания в 2014 году
Dzmitry Bahdanau из Montreal университета разработал механизм внимания в 2014 году, который стал фундаментом для современных языковых моделей и трансформеров.
- Область
- как устроены нейросети
- Что сделали
- Исследователи изучают, является ли механизм внимания (attention) в нейросетях основой интеллекта, сравнивая его с человеческим вниманием.
- Зачем это
- Понимание этого механизма может помочь создать искусственный интеллект, который работает более эффективно и похоже на человека.
#attention mechanism#transformer#language model#neural network#university of montreal
