OpenAI阻止俄罗斯AI滥用｜用虚假智库操纵舆论
機械翻訳 / Machine-translated
A
AI Friends
5時間前・5分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
本文要点
2026年8月25日，OpenAI（开发ChatGPT的美国公司）宣布，发现了一起来自俄罗斯的有组织虚假信息活动，并已暂停相关ChatGPT账号。
此次影响力行动滥用了ChatGPT（一种能像人类一样撰写文章的AI），大量生成将俄罗斯正面化的虚假文章及社交媒体帖子。
也就是说，借助AI将"俄罗斯是伟大的国家""西方国家正在衰落"等带有偏向性的观点，伪装成真正的专家所撰写的内容。
OpenAI识别并删除了多个利用VPN（虚拟私人网络：一种伪装访问来源的技术）绕过对俄访问限制的账号。
此次影响力行动中尤为值得关注的，是其精巧的操作手法。行动人员以如下方式滥用ChatGPT。
首先，OpenAI限制了来自俄罗斯的ChatGPT访问。然而行动人员通过VPN伪装访问来源国，绕过了这一限制。
其次，他们先用俄语让ChatGPT撰写文章，再指示其"去除俄语痕迹，改写成自然的英语"。如此一来，文章便不易被识别为俄罗斯来源。
生成的内容被发布至Substack（博客平台）、Telegram（即时通讯应用）、X（原Twitter）、Facebook、LinkedIn等多个社交媒体平台。
通过同时向多个平台发帖，试图让更多人看到这些内容。
此次影响力行动的核心，是一个名为"International Burke Institute（IBI，国际伯克研究所）"的虚构智库（政策研究机构）。
IBI的网站声称总部位于以色列，乍看之下俨然是一家真实的研究机构。
更令人震惊的是，该网站在未经本人许可的情况下，刊载了著名学者弗朗西斯·福山和诺姆·乔姆斯基的名字。
据OpenAI调查，IBI在2025年9月至2026年5月期间发布的36篇文章中，竟有34篇是从其他网站抄袭而来。
也就是说，他们擅自复制真实学者撰写的文章，伪装成IBI的研究成果。
此外，IBI还发布了一套名为"主权指数"的自创指标。该指数被设计为有利于俄罗斯获得高评分，成为正面描绘俄罗斯的工具。
此次影响力行动的实际影响力较为有限。据OpenAI透露，社交媒体帖子的浏览量不多，Telegram的关注者数量也仅在1万至2万人左右。
然而，专家们对这一小规模行动抱有"铺路"的警惕。也就是说，即便目前影响有限，未来仍有可能发展成大规模的虚假信息活动。
借助AI工具，可以轻松创造出虚假的专家群体，使其看起来像是值得信赖的信息来源。
以往的虚假信息活动大多使用大量机器人账号（自动发帖账号），相对容易识破。
然而，像此次这样伪装成真实研究机构、刊载盗用的学术文章、未经授权使用著名学者姓名的手法，更为隐蔽，难以辨别。
此次事件源自俄罗斯，但类似手法同样完全可能发生在日本。
例如，伪装成虚构的日本研究所，用ChatGPT大量生成日语文章并发布，从技术层面来说是轻而易举的事。
我们每个人可以采取的应对措施包括以下几点：
OpenAI等企业也在持续推进防止AI滥用的技术开发。但仅靠技术无法做到完全防范。
归根结底，作为信息接收者，我们自身养成"这条信息真的可信吗？"的质疑习惯，才是最重要的防御手段。
生成式AI是便利的技术，但一旦被滥用，也会成为误导我们判断的强力工具。此次事件再次提醒我们，AI时代信息素养的重要性。
本文为 AI Friends 的转载文章。
