LonelyTrek Insight

幻觉的代价

为什么看似聪明的金融 RAG Demo 永远不敢上线?

很多公司做 AI 知识库,第一步都很像。上传几份 PDF,问几个问题,大模型能回答,还能给引用。老板一看,觉得很惊艳;业务一试,觉得好像真能用。但一旦进入金融行业深水区,系统性崩溃的预兆便开始显现。

投研不敢直接用。风控不敢直接用。合规不敢直接用。财富管理不敢直接用。信贷审批更不敢直接用。

为什么?因为金融系统运作的最底层逻辑,不是“概率最优”,而是“确信度绝对可控”。金融行业真正害怕的,不是 AI 不会回答,而是它回答得太像真的——但你却不知道它在哪个隐蔽的角落发生了“幻觉”。

你不知道它漏掉了什么核心约束条件;不知道它有没有误用旧版本文件;不知道它把研报的观点当成了事实,还是把内部培训的简报当成了不可违背的制度。最致命的是,如果出了问题,在巨大的合规与经济损失面前,谁来负责?

“普通 RAG 只要答得像人,就会让人兴奋。
金融 RAG 如果答得像人,但证据链断裂,反而更为致命。”

第一性拷问:非受控系统的坍塌

今天再谈 RAG(检索增强生成),不能只局限于向量数据库、Embedding、Rerank 或 Agent Workflow。这些工具固然重要,但它们解决的只是“语义计算”的工程问题,而非“知识治理”的金融级业务挑战。

如果系统不知道资料来源是否具备权威性,不知道文档版本是否依然生效,不知道提问者是否越权访问,甚至不知道答案是否能被事后无死角地审计,那么它再聪明,也只能停留在玩具级别的 Demo 阶段。

我们必须从底层重构认知:金融 RAG 的第一性问题不是“能不能答”,而是能否禁得起以下四个硬核指标的拷问。

I. 数据受控

Data Governance

越权访问是金融红线。用户的每一次查询,必须被牢牢锁定在其权限域、业务线与文档生命周期范围内。

II. 证据完整

Evidence Chain

孤证不立。金融逻辑常常涉及条款、流程与例外的交叉。不能只召回片段,必须拼装出能够作为决策依据的完整证据包。

III. 过程可审计

Audit Trace

结果黑盒是最大的风险。意图解析、召回策略、排序权重、生成约束的每一步,必须记录在案,随时经得起监管复盘。

IV. 错误可追溯

Error Reparability

系统允许犯错,但不允许同一类错误发生两次。定位缺陷、修复盲点、防止复发的能力,构成了系统的生存基石。

金融 AI 信任崩塌动力学模型:Demo vs 工业级架构

THE TOY RAG Query Black Box LLM (Hallucination %) Risk FINANCIAL KNOWLEDGE ENGINEERING Query Gate: Auth Multi-Agent Routing 1. Intent Logic 2. Strict Filters 3. Vector + BM25 4. Claim Verif. Governed Output

秩序的重构:2026年可落地的七层范式

大模型时代,检索的难题早已不是“找不到内容”,而是系统无法理解业务环境复杂的权力与事实逻辑。金融 RAG 不是一个由词汇拼接的玩具,而是一个需要将数据清洗、搜索、推理和深度控制流完美耦合的复杂工程。

如果我们抛弃“改写搜索词”这种廉价的修辞,深入探究真实世界运作的本能,一个能在 2026 年稳定运转的金融知识工程,至少需要以下坚不可摧的七层架构:

01

文档接入层:结构即真理 (Ingestion Layer)

金融文档的复杂性在于,结构往往比文字本身更传递致命信息。同一句“需报总行审批”,在房地产授信章节和小微企信贷章节的含义截然不同。

因此,接入层决不能粗暴地将 PDF 抽成纯文本。它必须提取并永久绑定:文档类型、业务线、密级、生效日期、权限标签、树状章节、页码映射与版本链。在不可靠的地基上做再多检索优化,都是在搭建空中楼阁。

02

分块与元数据层:赋予碎片的身份 (Contextual Chunking)

传统的 512 token 机械切分法对金融知识是毁灭性的。金融条款常常是条件与例外构成的网状结构。如果你切断了条件,模型就会输出一句脱离现实的肯定句。

必须采用 Structure-first chunking(结构优先分块),并为每一个剥离出来的文本块加上 Contextual Prefix (上下文前缀)。让碎片独立游离时,依然“知道自己是谁、从哪来、受什么约束”。

03

查询规划层:意图的约束编译 (Query Planning)

当用户提问时,系统不是去做简单的向量召回,而是要把自然语言编译成受控检索计划。这涉及多维解构:是事实查找还是合规判断?风险等级多高?需要叠加哪些 Metadata Filter?哪些条件是缺失的?查询拆分,是阻止模型以偏概全的第一道防火墙。

04

受控召回层:秩序优于相似度 (Controlled Retrieval)

在金融语境里,过滤机制的优先级高于相似度计算(Filter before Retrieval)。最新版本的政策、符合用户权限的材料,必须在第一秒被硬性锁定。随后,向量检索捕捉语义,BM25 锁定精确符号(如 R4、T+1、23号文),表格检索解析费率与限额。各司其职,互为犄角。

05

重排与上下文组装层:拼装决策依据 (Evidence Assembly)

相关性高的片段不代表可信度高。员工培训 PPT 或许最通俗易懂,但其权威性永远不能超越监管红头文件和产品白皮书。重排算法必须考量四个维度:权威性、完整性、互补性、冲突可见性,从而组装出一个足以支撑严肃决策的“证据包”。

06

答案治理与引用层:权力的边界 (Answer Policy)

这不是“生成层”,这是“判决层”。系统必须基于规则决定:哪些可以答,哪些只能列出依据,哪些必须升级转交流程。每一个输出的论断 (Claim) 必须经过 Grounding check(对齐验证),绑定精确到页码的声明级引用。没有证据的句子,连标点符号都不应出现。

07

评测与治理闭环层:反脆弱机制 (Evaluation Loop)

“我们感觉答得不错”是金融工程的笑话。全工作流审计要求从文档保真率、权限拦截率、版本准确度、高风险人工转交率等全面落盘。系统存在的意义不是为了展示智能,而是为了暴露盲区、锁定过失并在下一次迭代中将其彻底根除。

金融级系统 7层结构力学

L1: Ingestion L2: Metadata & Chunking L3: Query Compilation L4: Controlled Retrieval L5: Evidence Assembly L6: Answer Policy L7: Governance & Evaluation Loop

演化沙盘:重演高风险合规判断

脱离实际环境的理论都是苍白的。为了展现系统的本质运行规律,让我们代入一个最典型的边缘场景。当一个普通销售询问:“70岁的客户能否购买这款 R4 理财产品?”

拦截与权限探测
系统并非立即搜寻答案,而是首先进行身份鉴权。判断此员工是否被授权查看该产品的底层明细及对应的适当性管理红头文件。
多维意图拆解
系统识别出这是“高风险合规判断”。立刻下推多条检索计划:产品风险等级、一般适当性约束、高龄客户附加条件、双录合规规范。
构建防弹证据包
过滤掉历史废止文件,摒弃员工论坛中的经验分享。将产品说明书(核对R4级别)、高龄客户规范(触发70岁界限条款)、合规监管要求强制拼合。
输出受控审判
不给出“可以”或“不行”的绝对判断。系统输出冰冷且严密的约束集:“据当前有效资料,需满足...1.测评不低于R4;2.高龄需额外揭示;3.必须完成双录。当前缺乏测评数据,无法生成购买许可。所有依据源于《理财适当性管理办法》V2026.3 第4条。”

这并非系统保守,而是 AI 对业务风险最深沉的敬畏。它在不确定性极高的市场环境中,通过限制机器的“创作自由”,换取了极高风险场景下的合法生存权。

终局定调

金融客户真正买单的,从不是一个只会聊天的问答框。

他们支付溢价,购买的是一个能在信息汪洋中降低搜索成本、在合规禁区内杜绝误导风险、在时间长河里经得起审计拷问的堡垒。

普通 RAG 追求答得像人类,
金融 RAG 必须追求答得有据,控得住界,错可倒查,且永续演化。