以数据血统保障代理型企业安全
4 小时前 2 阅读来源:MIT Technology Review

AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
一家企业的销售代表让AI代理查询客户定价,代理从多个来源抓取数据——受限的定价系统、内部沟通记录、归档报价单。输出结果在代理看来完全准确,于是第二个代理直接拿这份数据起草了给客户的方案。两次交接都没有人工核查。等到发现方案中混入了未授权的机密敏感信息时,已经没人能追溯这些数据是从哪个环节进入工作流的,又是如何在系统、文件和代理之间扩散开来的。
这个场景正在成为越来越多企业的现实困境。随着代理式AI(agentic AI,指能自主执行多步骤任务的AI系统)进入日常业务流程,企业管理者发现,他们要管的远不只是静态文件,而是持续被摄入、复制、摘要、转换、复用并以新形式再分发的碎片化流动数据。问题的根源在于:AI安全本质上不是工具问题,而是数据可见性问题。传统围绕应用、系统、网络或终端构建的安全方案,已经无法覆盖数据在人和AI代理之间反复流转的复杂路径。MIT Technology Review旗下定制内容团队Insights在最新报告中指出,企业要想规模化地保障代理式AI的安全,必须建立数据血缘(data lineage,即追踪数据从源头到每一次流转的完整链路),才能在人类、AI代理和混合工作流之间实现有效的治理、问责和信任。对跨境电商卖家而言,这意味着当AI工具开始自动处理定价、库存、客户数据时,光靠平台权限管理已经不够——你需要知道每一条数据在哪个环节被谁(或哪个AI)动过,否则一旦出现信息泄露或合规问题,连止损都无从下手。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
