Новый Actor-Critic пайплайн улучшает потоковую обработку
Новая архитектура CRESiST использует переплетение аудио и текста для полного использования кэша ключевых значений, устраняя вычислительные потери. Встроенный механизм самообучения позволяет системе оптимизировать потоковую обработку без жестких предварительных настроек.
#simultaneous speech translation#llm#kv cache#actor-critic#streaming inference



