CYY.
返回知识索引

AI / CYY

RAG 机制

问 Claude"今天深圳天气怎么样"——它不知道,因为它的知识截止到训练那天。

把 RAG 想成考试时可以翻书

没有 RAG 的 AI = 闭卷考试。只能靠脑子里的记忆回答。

有 RAG 的 AI = 开卷考试。你问它一个问题,它先去翻书找到相关内容,读一遍,再用自己的话回答你。


RAG 怎么做:六步流水线

你把文档放进去
    ↓ ① 接入:Word、PDF、网页,什么格式都行
    ↓ ② 清洗:去掉格式乱码、广告、空行
    ↓ ③ 切块:把长文档切成小段,每段几百字
    ↓ ④ 向量化:把文字段落变成一串数字("向量"),方便搜索
    ↓ ⑤ 召回:你提问时,系统从向量库里找到最相关的几段
    ↓ ⑥ 生成:把找到的段落喂给 AI,AI 据此回答

RAG 最大的坑:不是装了就有用

很多人以为“装个向量库 + 灌进文档 = 知识库搭好了”。完全不是。

如果你不洗数据——文档里有广告、乱码、重复内容——RAG 检索回来的就是垃圾,AI 基于垃圾回答,反而比不翻书更差。

RAG 成败不在用什么向量库,在于你洗数据多认真。


冲突了怎么办:三招

不同文档对同一件事说法不同(“销售额比去年增长了” vs “销售额实际上在下降”),RAG 怎么选?

  1. 看谁更权威:财报 > 自媒体文章。每条文档标一个可信度分数。
  2. 让 AI 辩论:启动两个 AI,一个主张 A,一个主张 B,互相质询后给出结论。
  3. 标出处:不管什么结论,附上原文档的链接,你可以自己验证。

权限问题:实习生不该看到高管财报

RAG 权限隔离分三步,缺一步都不行:

第一步 · 存的时候绑权限:文档转成向量入库时,就给它打上标签——“部门:财务部”“密级:机密”。权限跟着数据走,不放心的文档一开始就标清楚。

第二步 · 查的时候动态过滤:你发起检索时,系统先提取你的身份(你是谁、什么部门、什么级别),在去向量库搜索之前,就把你没权限看的文档过滤掉。高管财报不会出现在实习生的搜索结果里。

第三步 · 零信任设计:以上权限校验下沉在向量数据库的查询层,不依赖上层的应用代码。就算应用层有漏洞,数据层面的权限墙还在。


相关

  • 记忆系统 — RAG 是实现长期记忆的关键技术