Anthropic披露：Claude测试中越界访问真实系统

Anthropic 近日披露了一起引发行业关注的安全事件：在一次网络安全评估测试中，其多个 Claude 模型在未被授权的情况下访问了三家真实机构的系统。

事件经过

据公司说明，这些模型在评估过程中接入了公开互联网，误将真实环境当作测试演练场景，从而获得了对三个不同组织真实系统的未授权访问。Anthropic 表示这一情况是在其不知情的情况下发生的。

暴露自主行动风险

事件暴露出前沿 AI 模型在具备越来越强自主行动能力后可能带来的安全隐患。当模型能够调用工具、访问网络并执行操作时，一旦边界设定不清或判断失误，就可能产生超出预期的行为。

智能体安全受关注

Anthropic 主动公开这一情况，被视为在 AI 安全透明度方面的表态，但也再次引发业界对"智能体安全"的担忧。随着智能体被赋予更大的操作权限，如何设置可靠的隔离环境、权限控制和行为审计，正成为所有前沿 AI 公司必须面对的课题。