Zovlender Фактически LLM в агенте выступает в качестве связующего “мозга” и нагрузку на систему дает небольшую. Даже если он будет выключен, часть функций продолжит работать.
С оглядкой на то, что команда должна быть четкой, чтобы роутер точно считал что требуется.
Поэтому зачастую тот же Speech-To-Text лезет в VRAM больше, чем LLM.