01
2026 / 11 / 13
AI服务出现异常时,简单关闭模型可能让关键业务中断;继续运行又可能扩大风险。恢复计划需要同时处理安全、数据可用性和用户告知。
02
2026 / 11 / 12
产品界面可能不保存用户输入,但调试日志、分析事件和错误报告仍可能收集相同内容。只检查主数据库,无法完整说明信息在系统中的流向。
03
2026 / 11 / 11
同一风险请求在不同语言、方言、缩写和混合文字中可能得到不同处理。只用英语或标准书面语评估,容易忽略实际用户环境中的漏洞与误拒。
04
2026 / 11 / 10
模型供应商可能在后台更新版本或安全策略,应用团队却未必及时察觉。即使接口名称不变,输出质量、拒答行为和数据处理方式也可能发生变化。
05
2026 / 11 / 09
检索增强应用常连接内部知识库,若所有问题都能访问全部文档,模型提示和用户权限便可能绕过既有隔离。信息检索本身也需要执行访问控制。
06
2026 / 11 / 08
自动审核可能把引用、讽刺或专业术语误判为违规。若申诉仍由同一自动流程重复判断,受影响者就没有真正的纠错渠道。
07
2026 / 11 / 07
只在生成界面显示“AI制作”提示,不能保证内容被下载、剪辑或转发后仍有来源信息。标识方案需要同时考虑文件元数据、平台展示和用户理解。
08
2026 / 11 / 06
一个AI应用还依赖推理服务、检索库、插件、遥测组件和外部数据源。只记录基础模型名称,难以判断某次供应商变化会影响哪些信息和功能。
09
2026 / 11 / 05
企业取得数据用于某项分析,不代表可以自动用于模型微调、基准评测或新产品开发。用途变化会改变用户预期,也可能触及合同和隐私承诺。
10
2026 / 11 / 04
把代理权限设为“员工级”或“管理员级”通常过于粗略,因为同一角色在不同任务中需要的数据和操作并不相同。权限过宽会扩大提示注入或误操作的影响。