返回 AI 资讯
社区讨论LinuxDo 最新

公司提供了一些模型,但上下文都是256k

公司租了算力,我看有glm-5.3,但测试下来,上下文都是256k,这种可用吗?或者有没有办法测下模型是不是量化版

内容摘要

作者:#10096 板块:#开发调优 公司租了算力,我看有glm-5.3,但测试下来,上下文都是256k,这种可用吗?或者有没有办法测下模型是不是量化版

资讯来源

LinuxDo

原文链接

打开原文
公司提供了一些模型,但上下文都是256k · AI 资讯 · AIGOOD - AIGOOD