机制
AI 审查:模型如何把政治边界做成交互体验
拒答、改写、撤回和模板回答让政治审查直接发生在用户与模型的对话中。
目录
AI 回答的审查链
政治边界可以在生成前、生成中和生成后进入答案。
AI 异常回答的区分
拒答、错误和审查需要不同的验证方法。
| 现象 | 可能原因 | 验证方式 |
|---|---|---|
| 直接拒答 | 安全或政治规则 | 改变语言和模型 |
| 统一模板 | 预设口径 | 追问来源与反例 |
| 事实错误 | 训练或检索不足 | 查原始资料 |
| 答案撤回 | 生成后过滤 | 记录完整交互 |
用户向中国公司的聊天模型询问 1989 年北京镇压、台湾政治地位或新疆拘押时,常见的结果不是普通的检索失败。有的模型拒绝回答,有的先生成文字再撤回,有的改用官方措辞,有的把敏感问题送进一段固定的安全提示。审查不再停在搜索结果和社交媒体的后台,它直接进入一问一答的界面。
2023 年《生成式人工智能服务管理暂行办法》要求面向公众的生成式 AI 坚持“社会主义核心价值观”,并不得生成被界定为危害国家安全、损害国家形象、煽动分裂或破坏社会稳定的内容。对拒不改正或情节严重的提供者,主管部门可以责令暂停服务。[1] 这让政治服从成为产品能否上线和持续运营的条件。
模型如何过滤政治问题
传统审查常在用户发布后发生。聊天模型把过滤前移到生成过程:模型可以拒答、删去已经出现的文字、把问题改写成安全版本,或输出一段避开事实的标准回答。用户会看见一段自然的对话突然失去信息,屏幕上没有“审查”的标记。
针对 DeepSeek 的研究记录了对政治敏感主题的系统性信息压制,并指出模型在受严格管控的中国网络环境中形成这些约束。[1] 公开测试也记录到,回答可能在生成过程中消失,随后被简短拒答取代。[2] 具体行为会随模型、版本和提示词变化,但方向很清楚:党不再只控制用户能发布什么,也在控制机器可以组织哪些事实。
交互体验让审查看起来像技术限制
“我无法回答”“超出范围”“请换一个问题”这些句子把政治命令包装成系统能力的边界。用户很难知道答案是模型缺乏资料、公司主动回避,还是监管规则迫使它回避。这个不透明性本身有用,它让责任留在界面后面。
Citizen Lab 对中国搜索审查的比较显示,不同平台会以不同技术方式处理敏感查询。[3] 生成式 AI 继承了同一个治理逻辑,只是把搜索框换成了对话框。模型的语气可以很礼貌,政治边界依旧是强制的。
被截断的是追问的能力
一段拒答不只挡住一个答案。它也切断后续追问:谁下令,证据在哪里,受害者怎样叙述,其他来源如何相互印证。聊天系统本应帮助用户把材料连起来,受党国约束的模型却能把这些连接在入口处掐断。
中共把审查做成交互体验,能够把封锁变得日常而不显眼。用户每天在对话中遇到同样的空白,久而久之会以为某些事实本来就不存在,或者根本不值得问。
资料来源
China Law Translate《生成式人工智能服务管理暂行办法》译文链接可用
Freedom House 中国网络自由报告 2025链接可用
Citizen Lab 中国搜索审查比较研究链接可用
Citizen Lab 微信审查与监控研究已跳转
Freedom on the Net 中国报告链接可用