让 AI 智能体接公司数据库,怎么防止它把数据带出去?

风语 · 实用指南 · 更新于 2026-09-27

结论:要防的不是黑客,而是「按流程正常执行」时的出口

结论先说:智能体泄露数据的头号路径不是被攻击,而是它为了完成任务,把查到的字段顺手拼进了回复、日志或外部调用里。管控的重点因此不在防火墙,而在三件事:字段级授权、出口清单、可追溯审计。这三件事做不到,接得越深、风险越大。

别人怎么说,我们的判定怎么说

别人怎么说:TechCrunch 记者 Tim Fernholz 报道,未加固的 OpenAI 智能体把 53 张用户图片发到了公网,而实验室当时并不知情(原文链接,作者:Tim Fernholz)。The Verge 记者 Robert Hart 也报道,一家公司正处在一波「失控 AI 攻击」的中心(原文链接,作者:Robert Hart)。两篇报道的共同点是:动作全都执行成功了,问题出在没人盯出口。
我们的判定怎么说:这正好是我们把「合规」单列成一个 15 分维度的原因。风语货架 2026-09-26 快照对 832 件工具跑同一套判定(活跃 30 + 人气 25 + 可用 30 + 合规 15,门线 ≥70 且可用性 ≥13),结果是 254 件上架、537 件观察、41 件淘汰,过线率 30.5%;其中「数据」类 74 件送评、仅 27 件上架。合规不是加分项,是门线——许可都说不清的工具,不该进你的内网。

三件事做到位,才谈接库:字段级授权、出口清单、可追溯审计

结论:这三件事是接内部系统的前置条件,缺一件就不要接。

要做的具体做法验收标准
字段级授权按任务最小字段开白名单,敏感字段默认拒绝能列出它「能看的字段」的完整清单
出口清单明确它能把结果发去哪里:回复框、日志、外部接口逐项登记每条出口都有一个人负责
可追溯审计记录谁、何时、用什么权限、读了哪些字段、结果去了哪任一字段可倒查到一次具体读取
判定标准:如果你回答不出「这个智能体今天读了哪些字段、把结果发到了哪里」,就说明出口没有被管控。

照着做:接库前的 5 步检查

结论:顺序是「列字段 → 关出口 → 加审计 → 小范围试跑 → 定期复核」,先从只读、最小字段开始。

  1. 列字段:把任务真正需要的字段写下来,逐个审批,敏感字段一律默认关。
  2. 关出口:把智能体所有能往外发内容的地方列全,不用的直接关掉。
  3. 加审计:让每一次读取和每一次外发都留痕,且日志本身不能被智能体改写。
  4. 小范围试跑:先只接一个只读任务,跑一周,人工复核它读过的字段和外发内容。
  5. 定期复核:每月复核一次字段授权和出口清单,业务变了权限也要跟着收。

常见坑

结论:泄露事故的共同特征,是把「能访问」当成了「该访问」。

坑典型表现应对
给整库只读为了省事一次性授权,智能体读了大量无关表按字段开白名单
日志可被改写审计记录由智能体自己维护,出事后查不到日志独立存储、只能追加
忽略「生成内容」这个出口把敏感字段写进了回复草稿里回复内容也纳入外发检查
许可不明就上线工具的开源许可说不清,责任也没人担许可不清的直接不进内网

常见问题

最大的泄露风险在哪?在正常执行的出口上——数据顺着回复、日志、外部调用出去,而不是被攻破。

怎么做字段级授权?按任务最小字段开白名单,敏感字段默认拒绝,别按整表授权。

怎么判断工具在合规上够不够格?看它能否说清数据流向和许可;在我们的门线里,合规是 15 分的固定维度,说不清就不上架。

日志要审到什么程度?要能回答谁在什么时候、用什么权限读了哪些字段、把结果发去了哪里。

同簇阅读:AI 智能体能自动干活到什么程度?自主权限该放到哪一步? | 小团队想让 AI 智能体自动盯信息、跑日报,第一步该给多少权限? | 选 AI 智能体工具,怎么用评分避开「演示很酷、上生产就翻车」?

相关工具页:风语工具集合(过判定才上架) | 风语曲线分析工作台