Рост параметров моделей делает вычисления для нейросетей более ресурсоемкимиНовая программа IEEE обучает разработчиков работе с современными архитектурами, где пропускная способность памяти стала главным ограничением для масштабирования нейросетей.
IEEE SpectrumDeep Tech
- Область
- железо и чипы
- Что сделали
- Исследователи проанализировали, как современные нейросети стали слишком сложными и требовательными к вычислениям, и выявили, что перемещение данных между памятью и процессором стало главным ограничением для их производительности.
- Зачем это
- Это знание поможет инженерам создавать новые чипы, которые будут эффективнее решать проблему «стены памяти» и справляться с растущими требованиями к аппаратному обеспечению.
#ai hardware#edge ai#memory wall#ieee
Читать оригинал →