RealFeedApp dasllama работает в 5 раз быстрее llama.cpp на CPU
Компания Gaijin Entertainment представила daslang — язык скриптинга с компилятором и JIT-интерпретатором, который интегрировал LLM, ASR и TTS в dasllama. Тесты показали ускорение обработки речи в 5 раз по сравнению с llama.cpp на процессоре.
- Область
- инструменты и релизы
- Что сделали
- Компания создала язык программирования daslang и движок dasllama для работы с языковыми моделями, который работает в 5 раз быстрее llama.cpp на процессоре.
- Зачем это
- Это позволяет играм и приложениям быстрее обрабатывать речь и текст без использования C++ или специальных библиотек.
#daslang#llama.cpp#speech-to-text#llm#jit#game scripting
