返回 AI 资讯
技术社区掘金

从源码看 pi 的上下文管理:原始数据永久保留,模型视角按需裁剪

一、问题:模型上下文窗口是稀缺资源 大语言模型的上下文窗口有限,而一次真实的编码会话会持续产生海量信息:用户指令、助手回复、工具调用与结果、bash 输出、读写的文件内容……直接把全部历史塞进上下文,

内容摘要

一、问题:模型上下文窗口是稀缺资源 大语言模型的上下文窗口有限,而一次真实的编码会话会持续产生海量信息:用户指令、助手回复、工具调用与结果、bash 输出、读写的文件内容……直接把全部历史塞进上下文,

资讯来源

掘金

原文链接

打开原文