中国人工智能软件DeepSeek自推出以来,接连遭到美国、澳大利亚、台湾等多国政府禁止在公务设备中使用。分析人士认为,DeepSeek不仅涉及用户隐私与数据安全,还内建实时内容审查机制,强化中国官方叙事。这使其成为潜在的言论控制与舆论操控工具,引发国际社会的高度警惕。
多国下达DeepSeek禁令 中国官媒反批国安“走火入魔”
2月4日,澳大利亚政府正式下令禁止政府设备使用 DeepSeek,称其构成“不可接受的安全风险”。
此前,美国五角大楼、航空航天局(NASA)、台湾行政院及意大利的个人数据保护局(Garante)等机构也已发布类似禁令。美国联邦参议员乔什·霍利(Josh Hawley)更于1月29日提案,要求禁止美国人协助中国推动人工智能、并禁止下载或使用DeepSeek,违者将视为犯罪,最高可判处20年监禁并罚款100万美元。
对此,中国军网所属的“钧正平工作室”星期一发文批评美国挥舞“国家安全”大棒,称美国对涉及“中国”字眼的事物反应过度,已到“走火入魔”的程度。
内容审查机制引争议:DeepSeek如何符合中国叙事?
国际间对DeepSeek的质疑不仅局限于数据安全问题。许多实测显示,它所生成的回答内容,高度符合中国官方的“政治正确”。
美国媒体《连线》(Wired)在上星期一的报道中指出,DeepSeek在测试中显示不同层面的内容审查。
实际操作DeepSeek官方应用程序,得到的回答都奉行中国政府2023年颁布的《生成式人工智能服务管理暂行办法》中,有关不得生成“损害国家统一与社会和谐”的内容。
即便用户下载模型到别的平台运行,答复内容也同样符合中国政府叙事框架。
例如,当被问到“中国如何对待报道敏感议题的记者?”时,在屏幕上可见它先是撰写出“….记者因报道而遭审查和逮捕…..”等回答,但随即删除并重新显示为“抱歉,我不确定该如何回答这类问题”,并且转移话题,邀请用户改聊数学、编程或逻辑问题。
报道分析,这显示DeepSeek内建“实时内容审查”(Real-Time Filtering),能主动修改内容,确保最终答案“合规”。
此外该程序亦经过“训练层审查”(Training-Level Censorship),因此即便通过第三方平台运行,在有关“20世纪最重要历史事件”的问答中,DeepSeek直言自己的答复“须强调中共领导地位”,并避免提及文化大革命等敏感事件。
专家:DeepSeek或成中国操控舆论的新利器
位于台北的台湾人工智能实验室创办人杜奕瑾在接受美国之音采访时指出,中国的人工智能大模型受限于“网络防火墙”及监管法规,无法得出与国外竞争者相同的内容,并不难理解。
但实测显示,DeepSeek回答问题的说法和语气,甚至比另一家中国企业阿里巴巴推出的模型“通义千问”更类似“战狼外交”的感觉。
例如,当被问到“哪款疫苗比较好?”,它不仅推崇中国制疫苗,还顺带宣扬中国防疫政策的优点。
杜奕瑾认为,这显示它不仅从数据搜集层面就出现偏见,还会针对中国议题,强化拥护政府的论述,并额外加上一道“合规限制”,但凡遇到在中国“不该讲”的内容,立刻删除并转移话题。
杜奕瑾说:“从资料的偏见、加强中国官方的论述,到思想审查这三个层面,我们在这个模型的行为上都可以看得到,DeepSeek如果说它使用是普遍的,像社交媒体一样的话,当然会变成一个非常好的,控制人的想法跟言论(的工具)”。
杜奕瑾表示,近年来国际社会已经对中国社交软件利用算法操弄舆论的威力有所警惕。相形之下,DeepSeek不仅存在更多层次的偏见和思想审查,还可以追踪并搜集个资,储存在中国境内,因此无疑是必须严肃看待的数据安全、认知战与超限战的议题。
在此情况下,各国政府禁用DeepSeek是正确的措施,因为被“夹带后门”,窃密、审查的风险确实存在。
生成式AI的舆论管控:从“防火墙”到“屠龙刀”
同样值得观察的是,在网际网络发展历程中,中国历来惯用“网络防火墙”禁止国民使用国际间广泛使用的产品,而以中国企业发展的同类程序取代。例如禁用谷歌(Google)搜索引擎,改用国产的百度,在社交及通信软件领域,则出现微博和微信,共同之处,都设有明确的“敏感词”,限制用户无法搜寻或发布相关内容。
在台北的台湾大学机械工程学系教授林宗男指出,生成式人工智能对于语言和文字的掌控,远胜于搜索引擎,就此来看,DeepSeek的确可能成为中国政府用以维稳,控制舆情的新工具。
林宗男告诉美国之音:“从控制舆情的角度,生成式人工智能对于语言、文字的能力,是胜过一般人类的,所以当中共掌握了这个技术,他在生成扭曲的资讯的时候,就像握了一把屠龙刀,更强化对国内人民的控制。”
DeepSeek有助“中国叙事”输出?
放眼国际,林宗男认为西方自由世界目前对于DeepSeek的好奇心,多聚焦于技术层面,想看它是否真如宣传的“超越ChatGPT”,并用各种“敏感词”测试它的反应。
他说目前看来,DeepSeek尚无法像TikTok一样,对于西方网络社群发挥认知攻势。但不能排除一些对“中国威胁”较无防备,且科技实力偏弱的金砖国家或全球南方国家人民,就可能因为使用费较低,而偏好使用DeepSeek,进而强化对中国叙事的接受程度。
新加坡国立大学政治系副教授庄嘉颖同样认为,随着DeepSeek海外用户数增加,对于一些平常不熟悉国际议题的人而言,长期使用下,久而久之,可能更加认同中国版的解读,且视为常态。
庄嘉颖说:“在中国国内会加强他(网民)现有的观点,在墙外(国际间)的话,可能因为(DeepSeek)用户费更便宜等,慢慢带领风向,尤其是对这个很多事情背景不了解的人,可能会开始认为中国版本的解读,是正常的理解。”
审查更高效:网民“擦边球”难逃DeepSeek过滤
原籍中国四川、现移居台湾的作家上官乱则认为,相比微博是基于“黑名单”筛选敏感词,DeepSeek的审查更加精细且高效。
上官乱举例说,过去中国网民会给已故中国国家主席江泽民取不同的绰号,微博从发现到屏蔽、删除的过程,往往比网民留言慢一步,但DeepSeek基于对中国舆情具有深度且逻辑化的理解,更容易识破提问者的各种“擦边球”,启动敏感词机制,立刻给出“合规性”的答复。
就她一个多星期以来的体验看来,DeepSeek显然会是中国政府最乐见,也最放心的人工智能工具。
但若要面向国际市场,上官乱认为,除非DeepSeek能像抖音那样,修改出一个国外网民专用的“墙外版”(TikTok),否则恐怕还是缺乏吸引力。
上官乱告诉美国之音:“我觉得为什么不用那么担心,因为(DeepSeek)它所有的内容都是合规性,但凡是在墙外的用户问他的问题,基本上10个就起码有3个它是拒绝回答的,为什么还要用你呢?就是它的合规性对我们来说,实在不方便。”