摘要

代理式 AI（Agentic AI）部署失败正在迫使治理方法发生根本性转变——从政策文件转向控制架构。Gartner 预测到 2027 年底 40% 的代理式 AI项目将被取消，而 Sinch 研究显示74% 的企业已经撤销了 AI 客户通信智能体。根本原因：企业将自主智能体作为软件而非基础设施部署。解决方案：最小权限原则、运行时授权架构、隔离执行环境和持续行为监控。科罗拉多 AI 法案延期至 2027 年 1 月 1 日；欧盟人工智能法案 2026 年 8 月 2 日截止日期临近；ISO 42001 认证费用飙升至 8.5 万至 65 万美元以上。

要点摘要

代理式 AI治理格局已从政策起草转向基础设施建设。2026 年 5 月，Sinch 发布了来自 10 个国家 2,527 名决策者的调查数据：74% 的企业已经撤销或关闭了正在运行的 AI 客户通信智能体，原因是治理失败。对于拥有成熟护栏的组织，撤销率上升至 81%——这表明传统治理方法对于自主系统来说是不够的。

Gartner 放大了这一信号：到 2027 年底，40% 的代理式 AI项目将被取消，原因是成本上升、商业价值不明确或风险控制不足。IBM 在 2025 年第一季度对 2,000 名高管的调查显示，只有 25% 的 AI 计划实现了预期的投资回报率（ROI），只有 16% 在企业范围内规模化。雄心与现实之间的差距源于一个根本性的误解：企业将 AI 智能体（AI Agent）视为需要使用政策来治理的软件，而不是需要控制架构的基础设施。

本洞察将撤销危机视为治理转型的催化剂。三个监管截止日期塑造了这一格局：科罗拉多 SB 26-189 于 2027 年 1 月 1 日生效（从 2026 年 6 月 30 日延期），欧盟人工智能法案（EU AI Act）高风险系统截止日期为 2026 年 8 月 2 日，以及ISO 42001 认证费用在第一年飙升至 8.5 万至 65 万美元以上。这些因素的汇聚迫使企业做出选择：要么现在建设控制架构，要么面临撤销、合规风险和声誉损害。

OWASP、Microsoft 和领先治理实践者提出的解决方案框架以四大支柱为核心：最小权限原则（授予有界任务所需的最小自主权）、授权架构（智能体未经事先授权不得调用工具）、隔离执行（短期、任务范围的凭证）和运行时监控（持续行为漂移检测）。这不是政策——这是基础设施。

关键事实

• 谁：部署代理式 AI的企业（74% 撤销率）、监管机构（科罗拉多、欧盟、德克萨斯、加利福尼亚）、治理框架开发者（OWASP、ISO、Microsoft）
• 什么：代理式 AI治理因撤销危机从政策转向控制架构
• 何时：科罗拉多法案 2027 年 1 月 1 日；欧盟人工智能法案 2026 年 8 月 2 日；德克萨斯 TRAIGA 2026 年 1 月 1 日（已生效）；加利福尼亚 CCPA ADMT 2027 年 1 月 1 日
• 影响：40% 项目取消预测、8.5 万至 65 万美元以上认证费用、91% 的组织报告在适当治理下 AI 改善了财务决策的及时性

背景与语境

W35-W43：从全面采用到合规成本危机

AI 治理周刊情报系列在九周内追踪了监管和企业的演变：

• W35（2026 年 5 月初）：全面采用阶段——企业急于采用 AI 智能体，将其视为软件部署
• W38（2026 年 5 月下旬）：截止日期转折——科罗拉多 AI 法案时间表明确，欧盟人工智能法案要求明晰，企业意识到治理差距
• W42（2026 年 6 月中旬）：延期窗口——科罗拉多从 2026 年 6 月 30 日延期至 2027 年 1 月 1 日；企业获得了喘息空间，但合规成本不断攀升
• W43（2026 年 6 月 19 日）：合规成本危机——ISO 42001 认证费用飙升至 8.5 万至 65 万美元以上，多州碎片化造成合规复杂性，投资回报率差距扩大

W44 标志着转型转折点：从将治理视为政策合规转向将其视为控制架构。触发因素是 Sinch 2026 年 5 月的调查显示 74% 的撤销率。洞察是：企业部署智能体时使用使用政策而非运行时控制。后果是：治理失败、撤销、合规风险。

监管时间表汇聚

三个监管截止日期创造了一个 7 个月的合规冲刺：

管辖区	生效日期	焦点	处罚	安全港
德克萨斯 TRAIGA	2026 年 1 月 1 日	透明度、影响评估	每次违规最高 20 万美元	美国国家标准技术研究院人工智能风险管理框架（NIST AI RMF）
欧盟人工智能法案	2026 年 8 月 2 日	高风险系统合规	最高 3,500 万欧元或全球营业额的 7%	不适用
科罗拉多 SB 26-189	2027 年 1 月 1 日	ADMT 透明度	由检察长规则制定确定	NIST AI RMF 潜在
加利福尼亚 CCPA ADMT	2027 年 1 月 1 日	就业决策	CCPA 执法机制	不适用

50 个监管体系的拼凑格局有利于具有合规能力的大型企业，并为初创企业制造了障碍。联邦优先权努力面临法律挑战，确保碎片化将持续到 2027 年。

撤销危机：数据点

撤销危机不是理论上的——它在多个来源中有记录：

“Gartner 预测到 2027 年底，超过 40% 的代理式 AI项目将被取消，原因是成本上升、商业价值不明确或风险控制不足。” — Gartner 新闻稿，2025 年 6 月 25 日

“Sinch 对 10 个国家 2,527 名决策者的调查显示，74% 的企业已经撤销或关闭了正在运行的 AI 客户通信智能体，原因是治理失败。对于拥有成熟护栏的组织，该比率上升至 81%。” — PR Newswire，2026 年 5 月 13 日

“IBM 在 2025 年第一季度对全球 2,000 名高管的 CEO 研究发现，只有 25% 的 AI 计划实现了预期的投资回报率，只有 16% 在企业范围内规模化。” — IBM 新闻室，2025 年 5 月 6 日

对比：IDC/Microsoft 研究显示，生成式 AI 平均每投资 1 美元实现 3.7 倍投资回报率，顶尖领导者实现 10.3 倍投资回报率。差异在于治理架构。将 AI 视为基础设施的企业实现了投资回报率；将 AI 视为软件的企业面临撤销。

分析维度 1：基础设施差距——撤销率为何高企

根本原因：软件部署 vs. 架构建设

撤销危机源于一个根本性的误解：企业将自主 AI 智能体作为需要使用政策治理的软件部署，而不是需要控制架构的基础设施。

误解的证据：

1. 预算错误分类：大多数企业将 AI 支出归类为软件/研发预算，而非基础设施预算
2. 治理结构：AI 通过临时工作组而非专门的治理结构进行管理
3. 风险框架：缺乏针对 AI 特定风险（模型漂移、供应商依赖、数据来源）的明确框架
4. 焦点错位：强调模型响应安全性，这对于执行多步骤任务的智能体系统来说是不够的

CIO 分析框架化了这一转型：

“AI 不再是软件——它是需要治理框架而非使用政策、韧性投资而非能力、董事会级问责而非 IT 部门的企业基础设施。” — CIO，《AI 不再是软件，它是企业基础设施》

PII 泄露和幻觉是主要原因

两种技术故障模式在撤销叙述中占主导地位：

PII 泄露：

• 8.5% 的 ChatGPT/Copilot 提示包含敏感信息（Help Net Security 2025）
• 影子 AI 事件泄露了 65% 的客户 PII，而全球平均为 53%（Witness AI）
• 医疗保健 PHI 通过转录智能体泄露
• 金融服务 PII 在基于 RAG 的工具中泄露

幻觉和上下文失败：

• 运行时故障源于上下文失败（智能体基于无法验证的数据行动、未提供业务规则、跨系统定义不同）
• 工具调用幻觉随工具数量增加
• Gartner 预测一半的部署失败源于运行时治理不足
• 超时错误、HTTP 500、部分响应、架构更改、权限不匹配、速率限制——所有这些都会导致智能体行为偏差

模式：智能体缺乏运行时授权检查。它们自主地基于无法验证的数据行动，使用不应调用的工具，产生违反合规要求的输出。

基础设施差距：企业缺少什么

深思熟虑的现代化企业——实现 10.3 倍投资回报率的企业——投资于四个基础设施层：

层级	功能	实现
授权架构	智能体未经事先授权不得调用工具	Microsoft Entra 集成、集中决策、审批工作流作为熔断控制
隔离执行	短期、任务范围的凭证	运行时注入而不暴露机密，漂移时立即撤销
运行时监控	持续授权和行为漂移检测	MI9 协议：智能体风险指数、基于有限状态机的合规性、目标条件漂移检测
治理文档	合规记录、审计跟踪、合规评估	ISO 42001 AIMS、欧盟人工智能法案技术文档、多州合规层

缺乏这些层的企业面临撤销。拥有成熟护栏的组织 81% 的撤销率表明，静态政策——即使是成熟的政策——也是不够的。需要的是运行时控制架构。

分析维度 2：控制架构——解决方案框架

最小权限原则：安全、有界任务的最小自主权

OWASP 的代理式 AI十大风险（2025 年 12 月）引入了最小权限原则：授予智能体执行安全、有界任务所需的最小自主权。这扩展了传统的最小权限原则。

最小权限 vs. 最小权限：

• 最小权限：关注静态访问权限（智能体可以访问什么数据）
• 最小权限：关注在授权范围内的动态行动自由（智能体可以采取什么行动，在什么条件下，持续多长时间）

实现方法：

1. 信任门控 API 网关：将信任评分集成到访问门控中，实时监控和评估智能体信任评分
2. 行为授权：持续监控智能体信任评分（尚无标准化框架）
3. 短期、任务范围的凭证：在运行时注入而不向智能体代码暴露机密

该原则将治理从”模型响应是否安全？“转变为”下一个特定行动是否在当前政策、身份、审批状态、数据边界和预算约束下获得授权？“

授权架构：防止未经授权的工具调用

Microsoft 的授权架构提供了参考模型：

“智能体未经事先授权决策不得直接调用业务工具。授权架构通过 Microsoft Entra 验证调用者身份。决策是集中的、一致的、可审计的。审批工作流作为高影响行动的运行时’熔断’控制。” — Microsoft 安全博客，《AI 智能体的授权和治理》

关键组件：

1. 集中授权服务：所有工具调用通过单一授权点
2. 身份验证：通过 Microsoft Entra 或等效身份提供商验证调用者身份
3. 策略评估引擎：针对授权策略的实时检查
4. 审计跟踪：每个授权决策记录用于合规和取证
5. 熔断审批工作流：高影响行动需要通过运行时触发的人工审批

这防止了 OWASP 十大风险：身份滥用（智能体冒充用户）、工具滥用（智能体调用未经授权的工具）、供应链劫持（智能体在模型幻觉依赖名称时自主安装恶意包）。

隔离执行：任务范围凭证

隔离执行在智能体偏离时限制影响范围：

实现：

• 短期凭证：在任务开始时生成，在任务完成时过期
• 运行时机密注入：凭证注入而不向智能体代码暴露机密
• 立即撤销：当智能体活动偏离授权基线时立即撤销访问
• 边界强制执行：任务范围边界防止跨任务污染

示例：处理客户退款请求的智能体接收仅对退款工作流有效的凭证，15 分钟后过期，只能访问范围内的特定客户账户——而非数据库中的所有客户账户。

运行时监控：持续行为漂移检测

运行时监控将治理从定期审计转向持续监控：

监控层：

1. 持续授权监控：在每个步骤重新评估授权，而不仅仅在工作流开始时
2. 行为漂移检测：检测智能体行为何时偏离授权基线
3. 目标条件漂移检测：监控智能体是否与既定目标保持一致
4. 分级隔离策略：根据漂移严重程度触发升级的隔离行动
5. 可观察性层：对智能体行动、决策和结果的完全可见性

OWASP 智能体十大风险映射到工具包能力：

OWASP 风险	控制架构组件
A01：身份滥用	授权架构、身份验证
A02：工具滥用	授权架构、审批工作流
A03：供应链劫持	隔离执行、包允许列表
A04：拼写劫持	隔离执行、依赖验证
A05：过度权限	最小权限原则、任务范围凭证
A06：数据投毒	运行时监控、输入验证
A07：模型投毒	运行时监控、行为基线
A08：越狱攻击	授权架构、提示验证
A09：未经授权的行动	授权架构、持续授权
A10：目标错位	运行时监控、目标条件漂移检测

分析维度 3：监管和经济压力

科罗拉多 AI 法案：延期至 2027 年 1 月 1 日

科罗拉多 SB 26-189 由州长 Polis 于 2026 年 5 月 14 日签署，将科罗拉多 AI 法案从 2026 年 6 月 30 日延期至2027 年 1 月 1 日。与 SB 24-205 的关键变化：

范围缩小：

• 关注**自动决策技术（ADMT）**用于后果性决策，而非广泛的高风险 AI 系统
• 涵盖人力资源、承保、欺诈检测、合规、呼叫中心

关键要求：

1. 消费者通知：在数据收集之前或之时
2. 不利结果解释：30 天内
3. 有意义的人工审查：对不利决策进行人工审查的权利
4. 开发者/部署者文档：合规记录至少保留 3 年

安全港：NIST AI RMF 合规可作为抗辩

延期提供了 7 个月的合规冲刺。企业应利用这一窗口实施控制架构，而不仅仅是文档。

欧盟人工智能法案：2026 年 8 月 2 日高风险系统截止日期

欧盟人工智能法案 2026 年 8 月 2 日截止日期要求高风险系统完成：

1. 合规评估：验证系统符合要求
2. 技术文档：系统描述、风险评估、数据来源、性能指标、人工监督措施
3. CE 标志：贴上合规标志
4. 欧盟数据库注册：在欧盟数据库中注册高风险系统

高风险系统（附录 III）：

• 生物特征识别
• 关键基础设施
• 就业决策
• 基本服务访问
• 执法

8 周倒计时优先级：

• 第 1-2 周：清点高风险系统
• 第 3-4 周：风险管理系统实施
• 第 5-6 周：数据治理设置
• 第 7-8 周：技术文档准备

不合规处罚：最高 3,500 万欧元或全球年营业额的 7%。

ISO 42001 认证：费用飙升至 8.5 万至 65 万美元以上

ISO 42001 认证费用飙升，造成预算压力：

企业规模	第一年成本	持续年度成本	认证时间线
小型企业	4,000-2 万美元以下	基于平台（Scrut/Sprinto）	4-12 个月
成长型公司	2 万-21.5 万美元	每年 2.5 万美元以上（Vanta/Drata）	6-12 个月
大型企业	8.5 万-65 万美元以上	每年 2.5 万美元以上 + 监督	8-12 个月

成本因素：

• 范围广度（单一系统 vs. 企业范围）
• 多框架（同时进行 ISO 27001、SOC 2、ISO 42001）
• 外部顾问（仅差距分析就需 AUD 5,000-15,000）
• 持续监督审计

投资回报率考量：

• ISO 42001 正成为向企业/受监管行业销售 AI 的 B2B 组织的基线期望
• Microsoft 的 ISO 42001 认证为客户提供了对负责任 AI 标准应用的保证
• 对于广泛使用 AI 的组织，无论规模如何，成本效益都是合理的

多州合规：碎片化和成本驱动因素

多州合规创造了要求的拼凑格局：

州	生效日期	焦点	处罚	安全港
德克萨斯	2026 年 1 月 1 日	透明度、影响评估	每次违规最高 20 万美元	NIST AI RMF
科罗拉多	2027 年 1 月 1 日	ADMT 透明度	由检察长规则制定确定	NIST AI RMF 潜在
加利福尼亚	2027 年 1 月 1 日	就业决策	CCPA 执法	无明确

企业成本驱动因素：

1. 法律/合规人员：需要多州专业知识
2. 文档：每个州单独的合规记录
3. 审计：多次合规评估
4. 技术：模块化合规层（水印 API、披露模板）

碎片化影响：

• 50 个监管体系的拼凑使初创企业难以合规
• 市场动态有利于有能力应对碎片化的大型企业
• 较小的提供商面临更高的进入壁垒
• 联邦优先权努力面临法律挑战

协调策略：

• 关注共同要求（通知、透明度、人工审查）作为基线
• 利用 NIST AI RMF 进行跨州安全港抗辩
• 优先考虑科罗拉多/加利福尼亚 2027 年 1 月截止日期
• 构建模块化合规层以适应立法演变

关键数据点

指标	数值	来源	日期
代理式 AI项目取消率	2027 年前 40%	Gartner	2025 年 6 月
企业 AI 智能体撤销率	74%	Sinch 调查（2,527 名决策者）	2026 年 5 月
AI 计划投资回报率实现率	25%	IBM CEO 研究（2,000 名 CEO）	2025 年第一季度
AI 计划规模化率	16% 企业范围	IBM CEO 研究	2025 年第一季度
生成式 AI 平均投资回报率	每美元 3.7 倍	IDC/Microsoft	2024 年
顶尖表现者投资回报率	10.3 倍	IDC/Microsoft	2024 年
提示中的 PII 泄露	8.5%	Help Net Security	2025 年
影子 AI PII 泄露率	65% vs 全球平均 53%	Witness AI	2025 年
AI 改善财务决策	91% 组织	Workiva 高管基准	2026 年
AI GRC 违规成本节省	每次违规 220 万美元	Delve	2026 年
ISO 42001 认证成本（企业）	第一年 8.5 万-65 万美元以上	ElevateConsult	2026 年
AI 基础设施预算增长	2028 年前增长三倍	Deloitte	2025 年
IT 支出 2026	6 万亿美元以上	Gartner	2025 年
撤销率（成熟护栏）	81%	Sinch 调查	2026 年 5 月

🔺 独家情报：别处看不到的洞察

置信度: 高 | 新颖度评分: 82/100

撤销危机（74% 企业撤销率，拥有成熟护栏的组织为 81%）揭示了大多数报道忽略的更深层转型：治理正从政策文件转向控制架构。Sinch 数据点——拥有成熟护栏的组织撤销率更高——与政策防止撤销的假设相矛盾。真正的洞察是：静态政策对于动态自主系统来说是不够的。需要的是运行时控制架构。

三个数据点支持这一转型：

1. 最小权限原则是新概念：OWASP 的代理式 AI十大风险（2025 年 12 月）引入了这一概念，将最小权限从静态访问扩展到动态自主权。大多数报道将其视为安全最佳实践，忽略了其治理含义——它重新定义了企业如何构建智能体权限。

2. 授权架构是基础设施，不是政策：Microsoft 的授权架构（智能体未经事先授权决策不得调用工具的运行时授权）将治理从文档转向技术强制执行。这不是合规文书工作——这是基础设施代码。

3. BCG 框架适用于 AI 治理：BCG 预算分配框架（10% 算法、20% 基础设施、70% 人员和流程）传统上应用于数字化转型，现在管理 AI 治理预算。大多数企业仍将 80% 分配给许可平台，20% 分配给人力资本。这种倒置——40% 基础设施、60% 其他——将深思熟虑的现代化企业与撤销受害者区分开来。

关键含义：企业必须将 AI 治理预算从认证和文档重新分配到控制架构建设。投资回报率差距（25% 实现预期投资回报率 vs 顶尖表现者 10.3 倍）与基础设施投资相关，而非政策成熟度。董事会级问责必须从合规签字转向运行时控制架构部署。

趋势展望与预测

近期（0-6 个月）

• 欧盟人工智能法案 8 月 2 日截止日期：高风险系统合规冲刺、合规评估、技术文档
• 德克萨斯 TRAIGA 执法：检察长将于 2026 年 9 月 1 日公布合规机制
• ISO 42001 采用激增：认证成本推动早期采用者；8.5 万-65 万美元以上成为企业基准
• 控制架构试点：企业在有限范围内部署授权架构、隔离执行、运行时监控
• 置信度：高（监管截止日期固定，认证成本有记录）

中期（6-18 个月）

• 科罗拉多/加利福尼亚 2027 年 1 月同时执法：多州合规要求汇聚，模块化合规层成为标准
• 代理式 AI撤销率稳定：拥有控制架构的企业实现较低的撤销率；缺乏的企业继续维持在 74% 以上
• 最小权限原则标准化：任务范围凭证、行为授权的行业标准出现
• 治理预算重新分配：基础设施投资从 AI 治理预算的 20% 转向 40%
• 置信度：中高（监管日期固定，企业行为模式显现）

长期（18 个月以上）

• 运行时治理成为基线：授权架构、隔离执行、运行时监控成为所有代理式 AI部署的标准
• 联邦优先权明确：法律挑战解决，建立联邦/州监管边界
• ISO 42001 成为企业要求：认证成为 B2B AI 销售的入场券，类似于安全的 ISO 27001/SOC 2
• 治理框架汇聚：多州拼凑汇聚于共同基线（NIST AI RMF、透明度、人工审查）
• 置信度：中（监管格局演变，企业采用不确定）

关键触发因素

关注通过控制架构部署实现 <40% 撤销率的企业。如果 Sinch 74% 的撤销率在实施授权架构和运行时监控的企业中显著下降，则验证了基础设施论题。如果尽管有控制架构，撤销率仍然高企，问题可能更深——可能在训练数据、模型架构或目标规范中。2026 年第四季度的企业调查数据将具有决定性。

信息来源

• Gartner 预测到 2027 年底超过 40% 的代理式 AI项目将被取消 — Gartner 新闻稿，2025 年 6 月 25 日
• Sinch 研究：74% 的企业已经撤销了正在运行的 AI 客户通信智能体 — PR Newswire，2026 年 5 月 13 日
• IBM 研究：CEO 在应对企业障碍的同时加倍投入 AI — IBM 新闻室，2025 年 5 月 6 日
• IDC 2024 AI 机会研究：值得关注的五大 AI 趋势 — Microsoft 博客，2024 年 11 月 12 日
• OWASP 智能体应用十大风险 — OWASP GenAI 安全项目，2025 年 12 月 9 日
• AI 智能体的授权和治理：超越身份的运行时授权 — Microsoft 安全博客，2026 年
• 科罗拉多州长签署 SB 189 — Holland & Knight，2026 年 5 月
• 欧盟人工智能法案 2026 年更新：合规要求和商业风险 — Legalnodes，2026 年
• ISO 42001 认证成本分解：企业 AI 团队在 2026 年支付什么 — ElevateConsult，2026 年
• AI 不再是软件，它是企业基础设施 — CIO，2026 年
• 德克萨斯 TRAIGA 合规指南 — Modulos，2026 年
• 加利福尼亚期待已久的最终法规：自动决策制定 — Littler，2026 年
• AI 将如何在 2026 年重新定义合规、风险和治理 — Governance Intelligence，2026 年