面试官问：10K 上下文怎么跑 100 轮对话？我搭了一个 Agent 来回答
本文深入探讨在10K tokens上下文限制下进行100轮对话的解决方案，介绍开源Agent项目chyan-agent。核心思路是将上下文视为预算，采用分层记忆架构：系统提示常驻、近期原文保留最近2轮、历史对话压缩为摘要、关键事实存入长期记忆并通过BM25加jieba分词实现中文召回。结合工具调用、精确token统计和输出截断，在预算内稳定运行。文章还分享了工具调用、故障恢复、日志等工程实践，为LLM应用中的长对话管理提供参考。