返回 AI 资讯
社区讨论LinuxDo 最新

batch api调用速率问题

想问一下这个原理是不是类似削峰平谷? 昨天白天很快,一到晚七点之后就特别慢、基本没进度了. 用的是openai官方的batch调用, 时间窗口是24h 谢谢佬友

内容摘要

作者:#yht 板块:#搞七捻三 想问一下这个原理是不是类似削峰平谷? 昨天白天很快,一到晚七点之后就特别慢、基本没进度了. 用的是openai官方的batch调用, 时间窗口是24h 谢谢佬友

资讯来源

LinuxDo

原文链接

打开原文