从 “内容合规” 到 “行为可控”重构AI智能体安全治理

拓客猫软件副总裁杜智伟受邀出席论坛
，
，
，，并发表了题为《从“内容合规”到“行为可控”，，，，智能体失控风险下的AI治理范式重构》的主题演讲。。。杜智伟指出，，，AI大模型正在完成一次深刻的角色蜕变——从过去“能说会道”的信息处理器
，
，
，
，进化为“能自主完成任务”的自治Agent。
。。
。以OpenClaw、、、Manus为代表的第三代数字员工类智能体，，已具备长程自主规划、
、环境感知与跨系统操作能力。
。。这一跃升，，，，标志着我们正式迈入“智能体元年”。。

然而
，，，，AI越智能、
、价值越突出
，，，在深度融入企业级生产场景后，，，，风险也随之放大，，，安全治理重心亦发生转变
。。拓客猫软件安全研究团队将当前AI智能体的核心风险归纳为三类
：权限滥用
、
、高级提示注入攻击以及“涌现行为”引发的逻辑黑盒。。。。

面对这些挑战，，
，，拓客猫软件提出了从“内容合规”向“行为可控”的治理范式转型
，，，，并给出三大防御思路
：