RealFeedApp vLLM Agentic API сохраняет историю диалогов на сервере
Сервис позволяет выполнять кодирование и задачи Claude Code с поддержкой многооборудованного выполнения и инструментов MCP, избегая пересоздания транскриптов при каждом запросе.
- Область
- применение языковых моделей
- Что сделали
- Создали серверный API для языковых моделей, который сохраняет историю диалога и состояние ответов на сервере, чтобы не пересоздавать контекст при каждом новом запросе.
- Зачем это
- Это позволяет моделям, таким как Codex или Claude Code, выполнять многошаговые задачи с использованием встроенных инструментов (например, поиска в интернете) без необходимости передавать весь предыдущий разговор с клиентом.
#vllm#agentic api#llm#mcp#inference
