安全观察｜微行研究组

可信的智能系统不是靠一段承诺建立的。权限、证据、审计和纠错机制应当进入设计与运营流程，并且在出现异常时仍然有效。

值得关注的判断

网页可能包含诱导代理忽略规则、泄露资料或执行操作的隐藏文本。模型把浏览内容当作指令时，普通页面就可能成为跨站攻击入口。

落地时的做法

浏览器应把用户目标、可信系统规则和网页数据分层传递。对发送表单、下载文件和访问账户资料等操作设置独立授权，并限制页面内容触发的外部通信。

如何复盘

用真实网页和恶意嵌入内容测试是否发生越权，确认攻击能否通过截图、摘要或复制文本进入上下文。系统还要能解释阻断原因并让用户安全继续。

技术选择应服务于明确的问题，也应保留质疑、纠错和退出的空间。团队可从小范围验证开始，持续公开依据与限制，再依据真实反馈决定是否扩大使用。