图像生成AI会输出多少现有角色？14款模型调查报告
機械翻訳 / Machine-translated
A
AI Friends
2時間前・7分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
向AI请求"画一个神奇女侠"，感觉它会直接画出来，对吗？那么，不说名字、只描述特征的情况下会怎样？本文将浅显易懂地解析索尼AI等研究团队对14款图像生成AI的调查结果。
本次调查基于2026年7月在arXiv上公开的技术报告。ITmedia于2026年11月9日发布了相关介绍文章。
论文标题为"Evaluating Intellectual Property Guardrails of Generative Image Models"，旨在研究AI的护栏（防止AI输出问题内容的安全机制）能在多大程度上阻止IP内容的生成。
论文作者共12人，其中包含Sony AI等索尼系研究人员。
IP从5个类别中共选取了201个，分别为：现实中的名人、漫画/动漫角色、超级英雄与反派、游戏角色、企业商业标志。
提示词（Prompt）共计1,809条，分为两类：直接写出名字的"直接提示词"，以及隐去名字、仅描述外观特征的"间接提示词"。
生成图像中是否明确包含IP内容，由视觉语言模型（能识别图像的AI）"Qwen3-VL"进行判定，并非人工逐张审核。
可自行运行公开权重的开放权重模型3款，通过API调用的商业模型11款。
开放权重的3款模型拒绝生成的比例为0%。这表明在初始状态下，这些模型不具备屏蔽IP内容的机制。
设想一个同人社团的创作者在自己的电脑上生成图像的场景：模型不会进行任何阻拦，只能靠自己判断生成的图像是否与现有角色相似。
11款商业模型均会在某些情况下拒绝生成，但拒绝频率因公司而异，差距显著。
Stability AI的模型拒绝比例约为1%，而亚马逊的Titan Image G2则拦截了约50%的请求。
在直接写出名字的情况下，拒绝率较高的亚马逊和Runway模型约有80%的请求被屏蔽。
尽管如此，14款模型全部以超过10%的概率生成了可识别的IP图像，无论是否设有护栏。近一半的模型该比例超过40%。
在不写名字、仅描述外观和特征的间接提示词情况下，被拒绝的比例有所下降。
即便如此，平均仍有27～28%的概率生成可识别的IP内容。
类似的趋势在2024年公开的另一篇CopyCat论文中也有报告。该论文展示了仅凭"videogame, plumber"两个关键词，就能生成知名角色的案例。
不同类别的处理方式也存在较大差异。
在日本，区分AI的"学习"与"生成·使用"两个阶段是基本思路。文化厅的《关于AI与著作权的思考方式》对此进行了梳理。
在学习阶段，根据著作权法第30条之4，以非享受目的（非欣赏作品本身的利用）为前提，在某些情况下是被允许的。但根据ITmedia的律师解说，为了生成特定作家风格的图像而进行追加训练的情形，会被认定为享受目的并存，存在侵权的可能性。
在生成·使用阶段，第30条之4的例外规定不适用。与普通著作权法相同，以是否与原作相似（相似性）以及是否以原作为基础（依托性）来判断。
换言之，即便是AI生成的图像，若与现有角色相似，也可能构成侵权。
请想象一位企业公关人员用AI制作产品介绍插图的场景：即便使用"可爱的黄色电气老鼠风格"这样的描述，也可能生成与知名角色极为相似的图像。若直接公开发布，承担责任的将是发布方。
不过，本次调查以海外模型为主，并非依据日本法律判断是否构成侵权，调查内容仅为可识别IP的生成频率。
本次调查表明，完全依赖模型自身的安全机制是危险的。以下列举用户可自行采取的措施：
A. 由包含Sony AI等索尼系研究人员在内的12人团队完成。论文于2026年7月1日投稿至arXiv。
A. 拒绝率最高的是亚马逊的Titan Image G2（约50%）。但拒绝率高并不意味着IP出现的概率为零。
A. 不是。即便使用间接提示词，平均仍有27～28%的概率生成可识别的IP内容。
A. 不能说没问题。在日本，生成·使用阶段依据相似性与依托性等传统标准进行判断。具体情况请咨询专业人士。
A. 图像判定使用了视觉语言模型Qwen3-VL，并非人工逐张核查。
在发布AI生成的图像之前，请务必亲自确认是否与现有角色或标志相似。
本文为 AI Friends 的转载文章。
