OpenAI 发布报告《与中国相关的影响力行动 正瞄准美国的人工智能辩论》

来源: https://openai.com/index/prc-linked-influence-operations-ai-debates/

我们的使命是确保通用人工智能(AGI)造福全人类。我们通过部署自身创新成果来推进这一使命,构建民主化人工智能(Democratic AI):一种由民主原则塑造、受常识性规则约束,并旨在帮助人们解决复杂问题、同时保护他们免受现实危害的人工智能。这一使命还要求我们识别并阻止威权政权及其代理人利用人工智能系统胁迫批评者、监视社区,或秘密干预民主社会的企图。

在本报告中,我们介绍了两个很可能源自中国的 ChatGPT 账号集群。我们在发现这些账号利用我们的模型支持明显的秘密影响力行动后,对其进行了封禁。这些行动传播特定叙事,试图操纵围绕美国人工智能及更广泛科技政策的正当公共讨论。

第一个集群生成了社交媒体评论和图片,声称为人工智能建设数据中心正在推高普通家庭的电费。我们将这一行动命名为“数据中心顺风车(Data Center Bandwagon)”行动。

第二个集群生成了批评美国关税政策的评论和图片,将其描述为试图主导技术竞争的手段。在生成内容的提示词中,他们特别要求输出内容不要包含中国领导人习近平,而只包含特朗普总统。该集群与一个很可能由虚假社交媒体账号组成的网络有关,这些账号似乎还将目标对准了 OpenAI,声称 ChatGPT 用户数据已经泄露。这些指控完全是虚假的。我们将这一行动命名为“科技与关税(Tech and Tariffs)”行动。

针对 OpenAI 和美国数据中心建设的行为之所以值得关注,并不是因为这些行动似乎成功改变了公众舆论,而是因为它表明,源自中华人民共和国(PRC)的影响力操作者正在围绕人工智能基础设施测试各种叙事——而人工智能基础设施正是美国技术领导地位、经济增长以及更广泛民主化人工智能生态系统的基础。

该行动试图利用并放大公众对能源价格上涨以及数据中心建设对当地社区影响的现有担忧,但我们没有发现任何证据表明其影响力突破了其自身活动范围。长期以来,外国影响力行动一直试图借助现有的地方议题和人们真诚持有的信念来建立可信度、放大社会分歧或加剧公众不信任。在这一案例中,行动操作者试图秘密介入美国关于国家人工智能能力未来发展的持续辩论,同时隐藏其身份以及背后的动机。

通过公开这些发现,我们希望帮助本行业、各国政府、公民社会组织以及公众,更好地识别并阻止外国威胁行为者操纵正当公共讨论、削弱民主制度,以及推进“具有人工智能特征的极权主义(totalitarianism with AI characteristics)”的企图——即利用人工智能对政治、社会和私人生活进行监控、审查和控制。

报告内容:

与中国有关联的影响力行动正在针对美国的人工智能(AI)相关讨论展开活动

引言

我们的使命是确保通用人工智能(AGI)造福全人类

我们通过部署自身创新成果来推进这一使命,构建民主化人工智能(Democratic AI):一种由民主原则塑造、受常识性规则约束,并旨在帮助人们解决复杂问题、同时保护他们免受现实危害的人工智能。

这一使命还要求我们识别并阻止威权政权及其代理人利用人工智能系统胁迫批评者、监视社区或秘密干预民主社会的企图。

在本报告中,我们介绍了两个很可能源自中国的 ChatGPT 账号集群。这些账号在使用我们的模型支持明显的秘密影响力行动后被我们封禁。这些行动通过传播特定叙事,试图操纵围绕美国人工智能及更广泛科技政策的正当公共讨论。

第一个集群生成了社交媒体评论和图片,声称人工智能数据中心的大规模建设正在推高普通家庭的电费。我们将该行动命名为**“数据中心顺风车(Data Center Bandwagon)”**。

第二个集群生成了评论和图片,批评美国关税政策,称其旨在主导技术竞争,并在提示词中特别要求输出内容不得包含中国领导人习近平,而仅包含特朗普总统。

该集群与一个很可能不真实的社交媒体账号网络有关,该网络还针对 OpenAI,声称 ChatGPT 用户数据遭到泄露。这些指控完全不属实。

我们将该行动命名为**“科技与关税(Tech and Tariffs)”**。

针对 OpenAI 及美国数据中心建设的定向行为,其重要性不在于其是否显著影响公众舆论,而在于它表明源自中华人民共和国的影响力操作者正在围绕 AI 基础设施测试叙事——而 AI 基础设施是美国技术领导力、经济增长以及更广泛民主 AI 生态系统的基础。

该行动试图利用并放大公众对能源价格以及数据中心本地影响的既有担忧,但我们未发现任何证据表明其影响扩散至自身活动之外。

外国影响力行动长期以来试图借助既有的本地议题与人们真实持有的信念,以建立可信度、放大社会分歧或加剧公众不信任。

在本案例中,操作者试图秘密介入美国关于未来 AI 能力的持续公共讨论,同时隐藏自身身份及动机。

通过公开这些发现,我们希望帮助产业界、政府、公民社会以及公众更好地识别并应对外国威胁行为者试图操纵公共讨论、削弱民主制度,并推进“具有人工智能特征的极权主义”(totalitarianism with AI characteristics)的行为——即利用 AI 对政治、社会与私人生活进行监控、审查与控制。

“数据中心顺风车(Data Center Bandwagon)”行动

一个源自中华人民共和国(PRC)的网络,正在针对美国数据中心建设开展秘密影响力行动,并将海外华人作为目标

行动者

我们封禁了一批很可能源自中国的ChatGPT账号,这些账号利用
ChatGPT生成社交媒体内容,用于开展隐蔽的影响行动。他们
用简体中文向ChatGPT输入提示,同时反复要求生成英语和
中文内容,伪装成来自不同背景的美国人,
并将这些内容发布在多个社交媒体平台上。由于我们不允许
中国用户访问我们的模型,他们通过VPN访问了我们的平台。

这些账号的运营者很可能隶属于某家中国私营科技公司的社交媒体运营团队,
该团队为中国省级政府客户提供服务。此类活动似乎符合
支持党和政府在舆论引导方面优先事项的商业生态系统。他们上传至
ChatGPT的另一份报告中,详细描述了其影响舆论的目标与
策略,以及建立旨在规避平台检测系统的社交媒体账号的
具体方案。

行为

我们封禁的这些账号试图影响两类受众。

他们主要针对美国受众,生成英文短评论和图片,声称数据中心和人工智能应用正在增加电力需求,并导致普通美国人的用电成本上升。

例如,他们要求生成关于某电网运营商容量拍卖价格的漫画,内容依据一家合法地区报纸的报道。

他们要求 ChatGPT 将评论重点放在容量价格上涨这一问题上,将其描述为电力需求高峰的结果,并将新增需求归因于数据中心和人工智能应用,同时主张这些成本最终会转嫁给普通家庭。

这些评论和图片随后由一组很可能并非真实用户的账号发布到 X 平台上,并附带有关该电网运营商容量拍卖以及数据中心电力需求的合法新闻报道链接。

这些由人工智能生成的内容在 X 上发布时使用了诸如 #capacityauction#datacentersuccess#datacenters 等标签。

他们还利用 ChatGPT 编辑图片,在普通电力市场相关图片中添加文字,以支持“普通民众正在为人工智能基础设施提供补贴”这一叙事。

该集群针对的第二类受众是海外华人,这与其显然旨在支持中国政府优先事项的角色相一致。

他们要求获取中国异议人士李颖(Teacher Li)(又名“李老师不是你老师”)的公开信息,并要求 ChatGPT 生成针对其本人及其团队 X 账号 @whyyoutouzhele 的侮辱性短评。

在我们上一份威胁报告中,我们曾指出,李颖曾遭到一名与中国执法部门有关联人员实施的类似网络骚扰。在本案例中,我们的模型拒绝生成针对李颖的煽动性内容或人身攻击。

他们试图骚扰的其他中国政治评论人士还包括 卢乙恒、徐驰 以及 X 账号 @SydneyDaddy1

一个值得注意的策略是,该行动者在网上伪装成居住在美国的华裔移民、工人、学生、母亲、职员和投资者,目的是鼓励美国社会对一名前中国警察、现居美国人士的批评,从而揭露美国的“黑暗面”。

这些行动者要求 ChatGPT 生成发给某位 YouTuber 的信息,鼓励这名前警察谈论美国政策的失败之处。

这似乎是一种新的策略:利用虚构的美国居民和华裔移民身份,鼓励网络影响者制作批评美国的内容。

除了生成社交媒体内容外,这些账号还利用 ChatGPT 协助实现工作流程的自动化和规模化。

这包括请求编写用于自动登录以及管理多个社交媒体平台互动的代码。

他们还将 ChatGPT 用作文本处理工具,用于提取用户名、批量添加 X 或 YouTube 链接前缀、删除超链接,以及按照电子表格要求格式化数据。

平台运营

这些账号要求 ChatGPT 生成、润色并编辑工作报告,这些报告揭示了其在社交媒体活动中的操作安全(OPSEC)考虑,以及他们对平台检测系统的理解。

他们的目标包括:建立持续且可信的账号、生产视觉吸引力强的内容以扩大目标地区的受众覆盖,以及通过预判平台执法机制来维持账号的长期存活。

其中一份报告专门聚焦于 Facebook 运营,强调构建真实、可信、贴近日常生活的“人格设定”,通过生活方式、时事评论、专业内容等建立初始账号品牌,并通过跨账号互动来放大叙事,同时保持自然互动的外观。

这表明他们采用了更复杂的工作流程,以在美国社交媒体平台上维持持续存在,并利用人工智能支持这些行动的运营规划。

同一份报告显示,他们已对 Facebook 平台进行了深入分析,以扩大传播范围并降低被干扰的风险。

他们讨论了 Facebook 的内容生态系统,包括群组、主页、话题标签、广告工具、推荐系统以及举报机制如何被用于逐步建立影响力并触达新受众。

他们将其框架描述为“双轨策略”:结合自然互动与 Facebook 广告,并通过对话题、内容形式和受众的迭代测试来支持执行。

他们还特别强调账号安全,包括创建备用账号,以及在不同账号之间分离操作活动,以避免平台将其识别为协调行为的一部分。

“科技与关税(Tech and Tariffs)”行动

一个源自中华人民共和国(PRC)的网络,批评美国在技术领域的主导地位,并试图抹黑 OpenAI。

行动者

我们封禁了一组很可能源自中国的 ChatGPT 账号。这些账号利用我们的模型生成短评论和政治漫画,批评美国科技政策与关税,同时协助编辑工作报告,并帮助设计社交媒体监测系统。

这些账号使用简体中文向 ChatGPT 提示,并通过 VPN 访问我们的平台。

其提示词中反复使用与中国公共安全系统相关人员一致的术语,例如要求对以下内容进行“舆情风险评估”:抗议活动、校园欺凌事件、上海人群流动、警务相关事件、上访活动以及交通执法情况。

其中一个用户将其运营的社交媒体账号称为“水军”(water army),这是中文中常见的术语,指在网络平台上集中发布评论、进行带节奏或攻击的协调账号群体。

该用户还指示 ChatGPT 生成有利于中华人民共和国(PRC)或推动亲 PRC 叙事的内容。

综合这些特征表明,这些账号很可能在支持与中国共产党(CCP)利益一致的活动,尽管我们无法确定其具体的机构归属。

此外,我们还在 X 平台上发现了一个针对 OpenAI 的网络,该网络散布 ChatGPT 用户数据被泄露的虚假信息。

基于开源行为特征分析,我们评估认为,该活动很可能与本次行动中识别出的同一 X 平台网络有关。

行为

该集群主要使用 ChatGPT 生成英文短评论以及卡通图像,并由一批很可能并非真实用户的 X 账号发布。

最显著的主题是中美技术竞争。操作者围绕关税、稀土、人工智能、5G、新能源以及工业韧性等议题来构建叙事,并声称美国正在寻求技术主导地位及规则制定权。

他们特别指定卡通内容应仅描绘特朗普总统,不应包含任何中国或中国领导人习近平的形象。

此外,他们还生成了大量中文短评论以及涉及多种其他主题的文章,内容倾向于支持中华人民共和国(PRC)、攻击美国与以色列,并传播反犹刻板印象(例如“犹太资本操纵舆论”),同时对中国异见人士进行骚扰。

他们通常要求生成具有口语风格、字数较短的大批量评论。

他们还要求 ChatGPT 提出一个用于监控网络舆情的 AI 系统概念。其设想是:该系统应自动抓取其定义为“关键人物”的社交媒体上的“有害”信息,进行存储日志、自动下载视频以进行大规模语义分析,并发送风险通知。

我们的模型生成了一份约500字的通用回答,提供了关于数据存储与管理的建议,但没有提供如何获取这些数据用于监控的设计思路。

平台运营

该行动具有全球性目标,试图影响国际受众。

他们重点生成对美国持批评态度的内容,声称美国存在孤立主义与霸权主义,并指控美国为了利益而背弃盟友。

除英文外,他们还要求 ChatGPT 生成意大利语、日语以及繁体中文内容,目标包括台湾受众。

根据账号互动情况,这些发布由该行动生成内容的、很可能不真实的 X 账号,似乎与一个更广泛的网络有关联,该网络还试图抹黑 OpenAI。

从 2025 年底开始,我们识别出一组很可能不真实的 X 账号,这些账号发布类似内容,声称其 ChatGPT 用户数据遭到泄露,并称自身生活受到负面影响。

这些账号似乎并未发布由我们模型生成的文本,但它们持续与我们在“科技与关税(Tech and Tariffs)”行动中识别出的 X 账号进行互动并放大其内容。

首先,在“科技与关税”集群中我们识别到的一个 ChatGPT 账号发布了一条关于美国情报机构据称入侵移动网络的帖子。该帖子随后被来自“ChatGPT 泄露指控”集群的、很可能不真实的 X 账号转发。

(相关截图见原报告)

平台运营

在另一个案例中,“ChatGPT 泄露指控”集群与“科技与关税”集群中的账号,在数小时内先后转发(quote-tweet)了同一条来自 X 平台某个无关联认证账号的推文。

此外,我们核查发现,所有转发该推文的账号均表现出明显的不真实特征,这表明它们很可能属于同一协调行动的一部分。

这些账号全部创建于 2025 年底,粉丝数量极少或为零,在“ChatGPT 泄露指控”行动期间仅发布了少量内容,并且已被 X 平台独立于我们的评估之外全部封禁。

平台运营

值得注意的是,该行动与此前已识别的、源自中华人民共和国(PRC)的秘密影响力行动之间存在部分内容重叠。

发布 ChatGPT 生成的特朗普总统卡通图像的 X 账号(如上图所示),也曾发布过关于菲律宾总统马科斯的图像,而这些图像此前已被与“九段线行动(Operation ‘Nine-dash Line’)”相关的、很可能不真实的 X 账号分享。

该行动曾在我们 2025 年 10 月的《应对 AI 恶意使用》报告中提及。

这些信息不足以最终确认两个行动之间存在直接关联,但进一步强化了一种判断:在 X 平台上存在一个相互交织的活动网络,正在放大来自中国的影响力行动。

影响

根据“突破规模”(Breakout Scale)评估,该活动被归类为一级(Category One):即仅局限于单一平台、未出现外溢传播的活动。

我们识别到的大多数社交媒体帖子几乎没有或仅有极少可观察到的互动。

我们未发现证据表明关于“ChatGPT 用户数据遭泄露”的虚假说法被高影响力的真实账号放大,或扩散至 X 平台之外。

尽管如此,这一针对 OpenAI(作为在战略性行业中运营的私营公司)的行动仍值得关注。

这种模式与此前由澳大利亚战略政策研究所(ASPI)以及 Mandiant 识别的、源自中国的影响力行动类似,这些行动曾针对试图减少对中国依赖的稀土行业公司。

例如,在 2022 年,“Spamouflage / DRAGONBRIDGE”网络曾利用虚假账号抹黑 Lynas Rare Earths,针对其在德克萨斯州建设加工设施的计划;随后又在加拿大 Appia Rare Earths & Uranium 以及美国 USA Rare Earth 宣布扩大北美产能后对其进行针对性攻击。

ASPI 与 Mandiant 均认为,这类活动旨在损害竞争对手声誉,从而维护中华人民共和国在稀土市场的主导地位。

同样地,我们在本次事件中也观察到类似策略用于损害 OpenAI 声誉,尽管未取得成功,并且发生在美国在该行业处于领先地位的背景下。

该行动的时间点也具有重要意义:当时正值中美经济与技术竞争明显升级,美国总统特朗普宣布对中国商品加征额外 100% 关税。

更重要的是,该行动发生在中共四中全会之后。会议通过的第十五个五年规划建议将人工智能(AI)提升为战略性技术与产业优先事项,提出加快 AI 创新,并推动全国范围的“AI+”行动。

这一点与此前稀土行业的相关行动具有可比性:2021 年发布的《“十四五”规划纲要》将战略性矿产资源产业“安全化”,并明确将“高端稀土功能材料”列为重点发展方向。

在两种情况下,虚假账号都针对民主国家中的私营企业,这些企业所处行业被北京视为国家发展与安全的重要领域。

结论

AI 驱动的影响力行动正在针对 AI 本身

尽管“数据中心顺风车(Data Center Bandwagon)”和“科技与关税(Tech and Tariffs)”两项行动似乎都未获得显著的真实用户互动,但其重要性在于揭示了来自中国的影响力操作者的意图,以及他们正在测试并试图放大的叙事。

这两个集群都试图将美国科技政策与产业,与普通人的经济焦虑以及地缘政治不稳定性联系起来。

这些主题很可能会继续对源自中国的影响力行动具有吸引力,因为它们可以嵌入合法的公共讨论之中,同时逐步引导受众对美国制度、科技公司以及民主政策选择产生不信任,从而帮助北京在人工智能发展中获得战略优势。

这两起案例属于我们近年来已识别并予以阻断的、源自中国的更广泛 AI 滥用模式的一部分。

在我们此前的威胁报告中,我们披露过一起与中国执法部门有关联的个体事件:该人员试图使用 ChatGPT 规划针对日本首相的“网络特种行动”,包括骚扰异见人士、冒充美国人、与网络影响者合作,以及在社交平台上使用不真实账号等。

此外,中国政府相关实体也曾要求 ChatGPT 协助起草一份“预警系统”方案,用于追踪被归类为与维吾尔相关及高风险人员的出行情况。

值得注意的是,这两项行动使用的是美国的人工智能系统,而不是中国本土模型来生成关于美国 AI 的内容。这一点具有某种讽刺意味。我们无法判断其原因;正如我们在 2 月份报告中提到的,中国“网络特种行动”战略强调使用本地部署的开源权重模型。

我们也认为,这类活动表明未来其他对手方在美国及全球范围内可能采取类似影响力行动的趋势。

产业界、政府、公民社会以及公众都应保持警惕,以识别类似信息扩散与外国干预活动的尝试。

习家平语:
习主席挺会啊,利用互相之间的摩擦或者理念不合进行放大,这种事升官路上没少干吧

还有内位当了半辈子晶结果被晶耍的团团转