LLM Wiki 是一种使用大语言模型构建和维护持久知识库的范式。它由 Andrej Karpathy 在 2026 年发布的同名 idea file 中提出:人负责选择资料、探索问题和监督方向,LLM Agent 负责把资料整理为结构化、互相链接并持续更新的 Wiki。
LLM Wiki 不是某个固定产品,也不是某个具体 Agent。它描述的是一种可由不同 Agent、文件格式和工具实现的知识管理模式,其核心是把整理后的 Wiki 作为持续积累的知识产物。
核心思想:从即时检索到持续编译
传统检索增强生成(RAG)通常在每次查询时检索原始文档片段,再临时拼接和生成答案。LLM Wiki 把一部分知识综合工作提前到资料进入和日常维护阶段:
- Agent 阅读新增资料;
- 提取其中的重要事实、实体、概念和关系;
- 创建或更新相关 Wiki 页面;
- 补充交叉链接,记录冲突、变化和来源;
- 后续查询优先读取已经整理的知识,再继续形成新的综合结果。
这样形成的 Wiki 是可阅读、可检查、可版本化的持久产物。知识不会只存在于一次对话结果中,而会随着新资料和新问题不断积累。
三层架构
Karpathy 提出的基本架构包含三个层次:
原始资料(Raw Sources)
由人选择的文章、论文、笔记、图片或其他材料。原始资料通常保持不变,并作为事实核对和追溯的来源。
Wiki
由 LLM Agent 创建和维护的 Markdown 页面,包括来源摘要、实体、概念、比较和综合分析。页面之间通过链接形成可导航的知识网络。
Schema
规定页面类型、目录结构、命名、引用、写入和维护流程的规则文档。Schema 让不同会话或不同 Agent 能够按一致方式继续维护知识库。
具体实现可以调整这三层的所有权和审核方式。例如,在多人公共知识库中,可以让 Agent 只创建草稿,由人审核后再发布,而不是允许 Agent 直接修改正式内容。
主要操作
- Ingest:读取新资料,将新知识合并到已有页面;
- Query:搜索并阅读 Wiki,综合回答问题并引用页面或原始来源;
- Lint:检查冲突、过期内容、孤立页面、缺少引用和链接错误;
- 维护:根据新证据修订页面、补充关系并记录变更。
这些操作通常由具备文件或 Wiki 工具的 LLM Agent 执行。Agent 是执行者,LLM Wiki 是约束其如何积累和维护知识的范式。
与 RAG 的比较
| 维度 | RAG | LLM Wiki |
|---|---|---|
| 主要处理时机 | 查询时检索和组合 | 资料进入及持续维护时编译 |
| 主要知识形态 | 原始文档片段与索引 | 已整理、互相链接的 Wiki 页面 |
| 综合结果 | 常在每次查询时重新生成 | 可以保存为后续复用的知识页面 |
| 更新方式 | 更新文档和索引 | Agent 修改相关页面、链接和综合结论 |
| 典型优势 | 适合大规模资料检索 | 适合持续研究和跨资料综合 |
| 典型风险 | 漏检、误检、上下文失真 | 错误被写入、内容漂移、维护规则失效 |
二者不是绝对互斥的。大型 LLM Wiki 可以使用 RAG 搜索 Wiki 页面;RAG 的高价值回答也可以经过验证后沉淀进 Wiki。
可靠性与治理
LLM Wiki 会把模型生成结果保存为长期知识,因此错误也可能被持续放大。可靠实现需要明确:
- 原始资料与 Wiki 内容的事实边界;
- 每个重要陈述如何追溯到来源;
- 遇到冲突、旧资料和不确定信息时如何处理;
- Agent 可以直接写入什么,哪些修改必须人工审核;
- 如何利用版本历史、日志和 Lint 发现知识漂移;
- 如何通过 RAG 引用与依据校验等方法检查回答与来源的对应关系;
- 删除资料后,衍生页面和引用应如何更新。