当对话模型遇上向量模型，vllm production stack 又该如何应对？

上文讲到针对自部署的Deepseek v4 flash推理服务缺少识图能力，我们在网关层面加上了一双眼睛的方案。 今天重温下自研推理工程的设计架构， 也便于我们深刻理解推理工程中的可能的优化点。 整体