Darktrace 发出警告：Shadow AI 正在成为企业安全的新隐患

想象这样一个场景：周五下午 4 点，一名员工正赶着在下班前完成一份客户分析报告。为了避免花三个小时手动核对 Excel 表格，他直接把包含敏感客户资料的数据复制粘贴到了一个免费、未经公司批准的网页版 AI 工具里。

他省下了两个小时的工作时间。但同时，他也刚刚制造了一场巨大的安全泄露事故。

这种场景每天都在全球各地的企业中上演。网络安全公司 Darktrace 在最近的报告中将其定义为企业安全增长最快的威胁之一：Shadow AI（影子 AI）。

什么是 Shadow AI？

在 6 月 25 日发表的一篇文章中，Darktrace 强调了“Shadow AI”带来的严峻挑战——即员工在 IT 部门不知情或缺乏监管的情况下，私自使用未经批准的 AI 应用。

虽然“影子 IT”一直存在，但影子 AI 的危险性要大得多。当员工将公司专有的源代码、财务预测或客户个人身份信息（PII）粘贴到公共 AI 聊天机器人中时，这些数据就永远离开了企业的安全边界。公司对于以下情况完全处于“盲区”：

• 数据流向了哪里？
• 数据是否被存储或用于训练公共大模型？
• 这个第三方 AI 工具本身是否存在安全漏洞？

真正危险的并不是员工不愿意使用 AI。真正的危险是：员工已经在偷偷使用 AI，而企业对此一无所知。

为什么“一刀切”的封禁无效？

面对知识产权（IP）泄露的风险，许多公司的第一反应是采取严格的封禁政策：禁用 ChatGPT、封锁免费 AI 工具、在防火墙层面拦截访问。

但你无法对抗生产力的诱惑。

如果一个工具能帮员工省下几个小时的枯燥工作，他们总会找到办法去用。如果公司网络拦截了，他们就用自己的手机；如果某个知名网站被封了，他们就会去找一个不知名的、安全性更差的替代品。封禁只会把这种行为逼入地下，让“影子”变得更大，让安全防御变得更难。

破局之道：审批优先（Approval-First）治理

要消除 Shadow AI，企业必须提供一个安全、合规且同样高效的官方替代方案。员工其实并不想违反公司规定，他们只是想把活干完。

这就是 Team Agent Workspace（团队智能体工作区） 和 审批优先（Approval-First） 工作流发挥作用的地方。

在 Buda，我们倡导“兔子与爪子（The Bunny and The Claws）”的理念。人类（兔子）负责判断、指挥和审核，AI（爪子）负责繁重的执行。最关键的是，这种执行发生在阳光下，而不是阴影中。

员工不再需要偷偷把数据粘贴到外部工具中，他们可以将任务委派给安全沙盒内的内部 AI Agent。然而，AI 生成内容或业务数据只是第一步。你如何确保 AI 的产出可以安全地进入公司的知识库或 CRM？

通过与 Busabase 等系统集成，企业可以建立一套“Approval-First（审批优先）”的工作流：

1. AI 提案： Agent 在安全的企业边界内处理数据并生成结果。
2. 人工审核： 结果作为“变更请求（Change Request）”提交。
3. 正式批准： 人类管理者审核并批准后，数据才会被真正写入业务系统。

通过提供一个可见、可审计、受监管的环境，企业既能释放员工的生产力，又不必妥协安全性。让 AI 走出影子，来到阳光下。

准备好为您的团队构建安全的 Agent 工作区了吗？立即体验 Buda dashboard。