8×H200 部署 DeepSeek-V4.1-Flash，并发 8 就极慢，首字延迟数分钟，GPU SM 100% 但 generation tput 为 0

作者：#Li_xx 板块：#开发调优 机器是8张H200，2T内存，本地NVMe放的模型。vLLM用的nightly镜像，部署的DeepSeek-V4.1-Flash。启动参数大概是这样： --tensor-parallel-size 8 --enable-expert-parallel –max-model-len 1048576 --max-num-seqs 64 –enable-prefix-caching –speculative-config ‘{“method”:“dspark”,“num_speculative_tokens”:5,…}’ –mm-encoder-tp-mode data -e VLLM_USE_RUST_FRONTEND=1 还挂了SimpleCPUOffloadConnector 现在问题是：并发才8个请求，就卡得不行。New API那边看日志全是“首字不适用”，frt=-1000，就是vLLM压根没吐第一个token出来。等个2到15分钟，客户端直接超时断了，completion_tokens=0。 vLLM自己的日志里 Reqs Running: 8，但 Avg generation tput: 0.0 toks/s，GPU KV cache used 才1%左右。Prefix cache hit rate也是抽风，一会98%一会0%。 nvidia-smi看，SM跑满100%，但mem才6%到28%，PCIe接收倒是有2.5到7 GB/s。GPU温度功耗都正常，ECC也全是0。之前有张卡报过Xid 95，重置后没再犯。 请求的prompt都巨长，几万到几十万token，reasoning_effort基本都是high或max。我怀疑是超长上下文把prefill队列堵死了，decode根本排不上，所以generation tput才是0。也可能Engram表放CPU内存，PCIe来回搬数据太慢。 试过去掉KV offload，没用。Rust前端启动时还提示有些参数不生效。CUDA Graph捕获的时候一堆空图警告，但最后显示都100%完成了。 有没有人遇到过类似情况？是不是必须把max-model-len降下来？或者换回Python前端？还是说Engram这块目前就是坑？求指点，感谢！