标签 context 下的文章

1. 先算一笔账:10K 能装几轮? 2. 核心思路:把上下文当成预算 3. 三层记忆 3.1 近期原文:只留最近 2 轮 3.2 摘要:把旧对话压成事实列表 3.3 长期记忆:BM25 + jieba 分词 4. 工具调用:让模型自己找记忆 5. 配置:TOML 比 JSON 更适合手写 6. 工具输出截断 7. 故障恢复:meta.json + conversation.jsonl 双保险 8. LLM 调用层 9. 日志 10. 100 轮压力测试 11. 怎么证明它没失忆? 12. 面试回答模板 本文首发地址 https://h89.cn/archives/637.html "10K 上下文怎么做 100 轮对话?" 窗口越大,推理成本越高,延迟越长,"lost in the middle" 也越严重。这道题考的是你有没有主

- 阅读剩余部分 -

一、RAG 的真相:48% 的失败率被藏起来了 二、Context Window 革命:1M 已成标配 三、Wiki 模式:不是复古,是重新对齐 四、六维度拆解:RAG 和 Wiki 到底差在哪 五、决策框架:什么时候选什么 六、收束:误区、行动建议、一句话结论 本文首发地址 https://h89.cn/archives/620.html 2024 年,每个做 AI 知识库的人都在说 RAG。检索增强生成,Retrieval-Augmented Generation,这串字母组合几乎成了企业知识管理的唯一答案。搭一个向量数据库,把文档切成块,灌进 Embedding 模型,再套个重排器——恭喜你,拥有了一个"AI 驱动"的知识库。 但 2026 年 4 月,OpenAI 联合创始人 Andrej Karpathy 发了一条 X 帖子,描述自己怎么用一组

- 阅读剩余部分 -

记忆的 1.0 时代:手动贴便签 (Agents.md) 记忆的 2.0 时代:从手动注入到持久化管理 技术深挖:应用层记忆,不等于模型层“有状态” Memory 常见是怎么实现的? 这对开发者意味着什么? 总结 本文首发地址 https://h89.cn/archives/534.html 最近在使用 Trae.ai 的时候,很多开发者可能都注意到了 Agent 侧边栏那个 Memories 图标。 如果你曾经为了让 AI 记住项目规范,不得不在每个对话框里重复“请使用 Compose 开发”“注意内存对齐”,那你大概会直观地感受到:记忆能力一旦做得好,交互成本会明显下降。 今天我们就来聊聊:AI 的记忆机制,是怎么从“手动补上下文”演进到“可复用的记忆管理”的? 记忆的 1.0 时代:手动贴便签 (Agents.md) 在 Trae、Cursor、Claud

- 阅读剩余部分 -