人工智能 · 方法与治理档案

微行研究所

用清晰证据理解模型、方法与技术治理

ARCHIVE
2024.06 — 2026.09

为技术选择保留一份可查的证据。

研究、方法和治理不是独立章节。微行研究所将每一篇文章当作一份可编辑的知识档案,记录问题、边界与可复现的下一步。

02

隐私评估还要覆盖日志与遥测数据

产品界面可能不保存用户输入,但调试日志、分析事件和错误报告仍可能收集相同内容。只检查主数据库,无法完整说明信息在系统中的流向。

03

多语言安全测试要覆盖地方表达习惯

同一风险请求在不同语言、方言、缩写和混合文字中可能得到不同处理。只用英语或标准书面语评估,容易忽略实际用户环境中的漏洞与误拒。

04

高风险模型更新应触发重新评估

模型供应商可能在后台更新版本或安全策略,应用团队却未必及时察觉。即使接口名称不变,输出质量、拒答行为和数据处理方式也可能发生变化。

05

代理访问企业资料应坚持最小权限

检索增强应用常连接内部知识库,若所有问题都能访问全部文档,模型提示和用户权限便可能绕过既有隔离。信息检索本身也需要执行访问控制。

07

合成媒体标识要贯穿生成与传播流程

只在生成界面显示“AI制作”提示,不能保证内容被下载、剪辑或转发后仍有来源信息。标识方案需要同时考虑文件元数据、平台展示和用户理解。

08

AI供应链清单不能只记模型名称

一个AI应用还依赖推理服务、检索库、插件、遥测组件和外部数据源。只记录基础模型名称,难以判断某次供应商变化会影响哪些信息和功能。

09

数据授权要覆盖后续微调与评估用途

企业取得数据用于某项分析,不代表可以自动用于模型微调、基准评测或新产品开发。用途变化会改变用户预期,也可能触及合同和隐私承诺。

10

AI权限清单应对应真实任务而非角色名称

把代理权限设为“员工级”或“管理员级”通常过于粗略,因为同一角色在不同任务中需要的数据和操作并不相同。权限过宽会扩大提示注入或误操作的影响。