什么是上下文工程
不是怎么问,而是给模型看什么——上下文的选择、组织、更新。
核心技巧
1. 上下文裁剪
长对话只保留关键信息,用摘要代替原文。
2. 相关性排序
重要信息放在最前面(模型注意力分配不均匀)。
3. 动态更新
每轮对话后更新记忆,而不是无限堆积。
4. 分片加载
超长文档按需加载,不全塞进上下文。
与提示工程的区别
提示工程:写好指令 上下文工程:给对材料
两者配合,效果远好于单独使用。
不是怎么问,而是给模型看什么——上下文的选择、组织、更新。
长对话只保留关键信息,用摘要代替原文。
重要信息放在最前面(模型注意力分配不均匀)。
每轮对话后更新记忆,而不是无限堆积。
超长文档按需加载,不全塞进上下文。
提示工程:写好指令 上下文工程:给对材料
两者配合,效果远好于单独使用。
📄 本文采用 CC BY-NC-SA 4.0 国际许可协议授权,转载请注明出处。