LLM 应用的 Adaptive Batching 工程实践：动态合批把吞吐提升 3 倍，但延迟的坑你踩过吗

上线三个月的 RAG 服务，Embedding 阶段每天凌晨批量处理 10 万条文档，跑了 6 小时，API 账单快到上限。