OpenAI禁止与中国有关的账户因其试图开发维吾尔人监控AI系统
作者：Alp Uyghur阿尔普·维吾尔
OpenAI宣布，已封禁多个与中国实体有关的账户，这些账户利用ChatGPT编写用于大规模社交媒体“监听”探测以及针对人工智能监控系统的提案和宣传材料。公司在最新的威胁报告中披露了这一行动，证实了生成式AI技术被用于与国家有关的间谍与跟踪活动的非法用途。
OpenAI表示：“同样地，我们封禁了另一名可能与政府机构有关的用户，他曾请求ChatGPT帮助撰写一个名为‘高危涉维吾尔关注人员流入预警模型’（High-Risk Uyghur-Related Inflow Warning Model，高危涉维吾尔关注人员流入预警模型）的提案。该提案描述了一种分析交通出行预订信息并与警方记录进行比对的工具，旨在提前预警被归类为‘涉维吾尔’和‘高风险’人群的出行动态——但该类别并未被明确定义。该用户并未要求我们的模型帮助其构建此工具，只是请求协助撰写一份总体提案，因此我们无法独立确认其计划使用的具体技术，也无法确定此类工具是否已被中国政府实体使用。”
该“高危涉维吾尔关注人员流入预警模型”的开发目的是追踪与维吾尔族少数民族有关人员的行动和通信。OpenAI表示，相关账户已被立即封禁，这符合公司针对国家安全违规行为的政策，包括禁止用于监控、间谍活动或恶意代码调试等。
哈德逊研究所高级研究员迈克尔·索博利克（Michael Sobolik）对此举表示欢迎：“看到OpenAI认真对待人工智能的民主和社会影响，令人鼓舞。”
报告还提到，被封禁的账户不仅涉及中国政府相关实体，还包括来自俄罗斯、韩国、柬埔寨、缅甸和尼日利亚的开发者。
这并非OpenAI首次阻止与中国国家相关的账户活动，显示出持续存在的企图，即利用大型语言模型进行维吾尔人跟踪及其他政治与民族监控行为。
