金帆树人KINGFASTER
010-64425981 预约场景诊断
能力AI 应用开发数据与 BI低代码与流程自动化FDE 交付模式解决方案采购与供应链人力与员工服务财务与费控制造与质量行政后勤与工会IT 与资产行业案例资源洞察文章数字化人才培训技术市场服务关于我们预约 AI 场景诊断 →
首页/能力/AI 应用开发

把大模型接进业务系统,
而不是停在 Demo

很多 AI 项目在演示阶段效果很好,上线后却很少有人用。差别通常在工程细节:知识如何切分、答案如何验证、权限如何控制、成本如何限制。

RAG 知识库文档智能Agent 工作流AI 治理
Capability

六项能力

企业知识库(RAG)

文档上传、自动向量化、FAQ 预生成、多租户数据隔离;回答带出处,管理员可自助调提示词,聊天记录可审计。

文档智能

合同审核、关键信息抽取、发票与报关单识别。OCR + LLM 混合,不依赖表单训练,新类型文档当天可接。

Agent 与业务工作流

把 AI 接到邮件、工单、审批、CRM 里:自动分类、自动派单、自动生成回复草稿,人只做确认。

AI for BI

自然语言查数,支持连续追问与意图澄清,多场景多租户隔离,结果可直接嵌到现有看板或企微。

提示词与评测工程

建立评测集与基线,做 A/B 与回归测试;模型可切换,按场景做成本与效果的平衡。

AI 治理

权限继承、数据不出域、敏感信息脱敏、幻觉兜底与人工复核、调用量与成本看板。

法务与业务人员一起查看合同审核结果
合同审核上线后,法务只处理系统标红的条款。
In practice

审核尺度先写成检查项,再交给模型

合同审核的价值不在「识别得多」,而在判断标准写得清。我们把每一类合同的检查项固定下来,模型只负责命中,人只负责判断。

  • 6 类合同 · 48 项检查点,逐条对应到条款原文
  • 规则 + 模型双通道,命中结果可回溯、可解释
  • 高风险条款强制人工复核,不自动放行
输入 客户邮件 含附件与诉求 1 解析意图 识别人、事项、时限 2 查询系统 客户与合同状态 3 生成草稿 按模板填写回复 判断 是否需审批 转人工 直接执行 输出 工单已创建 · 通知已发送 写入工单系统(可回滚) 推送负责人并计时 SLA 操作全程留痕,可审计 前提:权限模型、审计日志与回滚机制先建好,再让 Agent 触碰生产数据。
一个 Agent 从收到邮件到回写工单的完整链路,每一步都可审计、可回滚
Delivery

一个 AI 应用上线的五步

每一步都有明确的产出物,做完才能进下一步。没有「再调一调」这种无限循环。

场景识别

从业务流程里挑出高频、有判据、容错可控的点,排出优先级。

可行性评估

看数据够不够、接口通不通、成本算不算得过来,2 周内给结论。

POC

用真实数据跑端到端,产出准确率、响应时间、单次成本三条硬指标。

上线集成

接进现有系统,配权限、审计、兜底流程,业务真正开始用。

运营调优

建评测集,按月回归;提示词、检索、模型持续迭代。

Reference architecture

AI 原生应用的参考架构

这是我们每个 AI 项目的默认架构。项目之间的差别在于每一层填什么,而不在于有没有这一层。

  • 接入层做身份与权限适配,不做业务判断
  • 知识层必须能回答「这句话出自哪份文档哪一段」
  • 模型层可切换,避免被单一供应商锁定
  • 治理层从项目第一天建立,不放到上线前补
接入
SSO / 权限企微 / TeamsOA / 工单现有门户
知识
文档治理向量索引关键词索引重排
模型
Azure OpenAI国产大模型私有化部署小模型路由
应用
问答文档审核Agent 工作流AI 问数
治理
评测集幻觉兜底成本看板审计日志
Reality Check

六个常见问题

这些问题在演示阶段通常不会暴露,但上线后两到三周内都会遇到。

幻觉:回答流畅但内容错误增加检索出处、置信度阈值,并允许回答「不知道」;关键结论必须能点回原文。
权限:把高管的薪酬表答给了实习生复用原有权限体系做行级过滤,检索前后各校验一次,日志可追溯。
成本:上线一个月账单超预算 5 倍缓存、路由(小模型先答)、上下文裁剪、按场景限额,成本做成看板。
无法维护:业务规则一变就失效提示词与规则交给业务方自助管理,配版本与回归测试,不固化在代码里。
没有评测集:改好了还是改坏了说不清上线前先建 200–300 题分层评测集,之后每次改动都跑一遍,用数据验证效果。
数据不回流:人工修正没有沉淀把人工采纳 / 驳回、最终定稿都回写成样本,按月补进评测集,形成闭环。
下一步

提供一个场景,2 周给出 POC 结论

不需要你先写好需求文档。带一份真实的合同、一批真实的工单、或者一个真实的问题清单就行。结论可能是「现在不该做」。