信息安全观察｜微行研究组

一篇文字流畅、符合投稿格式的文章，未必来自署名所描述的人。OpenAI十月八日发布调查报告，称其封禁了两起使用模型辅助的隐蔽影响行动，涉及虚构记者身份、研究机构外壳和面向媒体的投稿。公司将两组活动分别归为来自俄罗斯和伊朗；这一归类是其调查结论，本文不据此作进一步的组织或政府归因。

报告描述，相关账户把AI用于修改长篇文章、准备投稿信、生成社交评论和内部工作报告。一些内容进入了真实媒体的发布链。OpenAI同时指出，行动者自己的效果报告存在夸大，有些传播声称无法从公开信息中验证。接触潜在受众与实际改变受众看法，应当分开衡量。

来源包装可能比文本生成更关键

这里的风险不只是一段生成文字。虚构身份可以带来作者简介，机构名称可以制造专业印象，媒体发布又可能让后来转载者把内容当成已经核验过的信息。每经过一次转述，最初的来源问题就更容易被遮住。AI降低了整理和翻译文字的门槛，却不会让身份与证据自动变得可信。

编辑部处理来稿时，可以分别核对作者、事实和利益关系。作者核验应寻找可独立确认的工作记录与联系方式；事实核验应回到文件、公开数据和原始采访，而不是只依赖文章引用的二手报道；利益关系则要说明稿件代表谁、是否受委托以及是否有商业或组织背景。

流畅表达不能替代独立证据

这种检查不应只依靠“像不像AI写的”来判断。自然的文风不能证明作者身份，生硬表达也不能说明稿件虚假。更有用的是记录哪些事实已经核对，哪些来源无法联系，以及重要说法是否只有同一传播网络在重复。独立核验比猜测写作工具更直接。

平台公开滥用案例，有助于媒体了解信息如何进入发布流程，但单个平台掌握的账户与传播线索仍有边界。对我们而言，这份报告的启示是：审核流程需要跟得上内容生产速度。清楚的署名、可追溯的证据和明确的更正入口，都是新闻机构维持读者信任的日常工作。