安全观察｜微行研究组

当AI能够发现软件漏洞、编写并执行代码，安全治理就不能只盯着模型回答是否有害，还要检验它接入工具和外部系统后会做什么。美国参议员Maria Cantwell与Mike Rounds于十月十三日致函白宫官员，呼吁制定更协调的AI安全与网络防御方案。两人来自不同党派，提出的重点包括安全标准、独立测试、审计以及开发防御型AI。

参议院商务、科学与交通委员会公告称，议员建议加强相关联邦机构的技术能力，让政府实验室和合格第三方能够测试先进模型的国家安全风险，并与产业、大学和关键基础设施运营方合作开发防御工具。这是一封政策建议函，不是已经通过的法案，也不意味着行政部门已经采纳其全部主张。

把测试从发布前扩展到持续运行

独立测试的意义，在于让模型供应商之外的团队也能检查系统边界。对于可调用工具的代理，评估不应止于提示词和静态基准，还要覆盖权限配置、沙箱逃逸、凭证处理、任务中断和异常恢复。真正的风险通常发生在组件连接处：模型可能按指令生成内容，却通过过宽的工具权限造成实际影响。

审计则需要回答另一类问题：测试是否覆盖重要威胁，发现的问题是否有负责人和修复期限，版本更新后结论是否仍然成立。若只公布一次“通过测试”，而不提供适用范围、限制和复测周期，审计就容易成为宣传标签。高风险部署尤其应留存可追溯记录，并明确人类操作员何时必须介入。

防御型AI也需要明确责任边界

用AI帮助识别漏洞、排序告警或加快补丁响应，可能提升防守效率；但自动化工具也可能误判正常行为、触发服务中断，或被攻击者反向利用。部署前应限定权限、保留人工审批与回滚机制，并衡量误报给一线团队带来的负担。标准如果只要求增加AI能力，而不规定责任和监督方式，组织仍无法判断何时可以安全地依赖它。

这封信把“标准—测试—审计—防御”放在同一框架中，值得关注的是政策如何落成可执行要求。接下来要观察的是行政部门是否回应、相关机构是否获得资源，以及企业是否能据此建立清晰的风险流程。对安全团队来说，成熟的治理不是一份口号清单，而是每次上线都能验证、发生异常后能够追责和修正的日常机制。