AI / CYY
RAG 机制
问 Claude"今天深圳天气怎么样"——它不知道,因为它的知识截止到训练那天。
把 RAG 想成考试时可以翻书
没有 RAG 的 AI = 闭卷考试。只能靠脑子里的记忆回答。
有 RAG 的 AI = 开卷考试。你问它一个问题,它先去翻书找到相关内容,读一遍,再用自己的话回答你。
RAG 怎么做:六步流水线
你把文档放进去
↓ ① 接入:Word、PDF、网页,什么格式都行
↓ ② 清洗:去掉格式乱码、广告、空行
↓ ③ 切块:把长文档切成小段,每段几百字
↓ ④ 向量化:把文字段落变成一串数字("向量"),方便搜索
↓ ⑤ 召回:你提问时,系统从向量库里找到最相关的几段
↓ ⑥ 生成:把找到的段落喂给 AI,AI 据此回答
RAG 最大的坑:不是装了就有用
很多人以为“装个向量库 + 灌进文档 = 知识库搭好了”。完全不是。
如果你不洗数据——文档里有广告、乱码、重复内容——RAG 检索回来的就是垃圾,AI 基于垃圾回答,反而比不翻书更差。
RAG 成败不在用什么向量库,在于你洗数据多认真。
冲突了怎么办:三招
不同文档对同一件事说法不同(“销售额比去年增长了” vs “销售额实际上在下降”),RAG 怎么选?
- 看谁更权威:财报 > 自媒体文章。每条文档标一个可信度分数。
- 让 AI 辩论:启动两个 AI,一个主张 A,一个主张 B,互相质询后给出结论。
- 标出处:不管什么结论,附上原文档的链接,你可以自己验证。
权限问题:实习生不该看到高管财报
RAG 权限隔离分三步,缺一步都不行:
第一步 · 存的时候绑权限:文档转成向量入库时,就给它打上标签——“部门:财务部”“密级:机密”。权限跟着数据走,不放心的文档一开始就标清楚。
第二步 · 查的时候动态过滤:你发起检索时,系统先提取你的身份(你是谁、什么部门、什么级别),在去向量库搜索之前,就把你没权限看的文档过滤掉。高管财报不会出现在实习生的搜索结果里。
第三步 · 零信任设计:以上权限校验下沉在向量数据库的查询层,不依赖上层的应用代码。就算应用层有漏洞,数据层面的权限墙还在。
相关
- 记忆系统 — RAG 是实现长期记忆的关键技术