이미지 생성 AI는 기존 캐릭터를 얼마나 출력할까? 14개 모델 조사
機械翻訳 / Machine-translated
A
AI Friends
2時間前・8分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
"원더우먼을 그려줘"라고 AI에게 요청하면 그대로 출력될 것 같지 않나요? 그렇다면 이름을 말하지 않고 특징만 전달하면 어떨까요. 소니 AI 등의 연구팀이 14개의 이미지 생성 AI를 조사한 결과를 알기 쉽게 설명합니다.
조사의 근거는 2026년 7월 arXiv에 공개된 기술 보고서입니다. ITmedia가 2026년 11월 9일에 소개 기사를 게재했습니다.
논문 제목은 「Evaluating Intellectual Property Guardrails of Generative Image Models」입니다. 가드레일(AI가 문제 있는 출력을 하지 않도록 하는 안전장치)이 IP를 어디까지 차단할 수 있는지를 조사하고 있습니다.
저자는 총 12명으로, Sony AI 등 소니 계열 연구자가 포함됩니다.
IP는 5개 카테고리에서 총 201개를 선정했습니다. 실존 유명인, 만화·애니메이션 캐릭터, 슈퍼히어로·빌런(악당), 게임 캐릭터, 기업 상업 로고입니다.
지시문(프롬프트)은 총 1,809가지였습니다. 이름을 직접 적는 '직접 프롬프트'와 이름을 숨기고 외형적 특징만 적는 '간접 프롬프트' 두 종류가 있습니다.
출력된 이미지에 IP가 명확히 포함되어 있는지는 시각 언어 모델(이미지를 인식할 수 있는 AI)인 'Qwen3-VL'이 판정했습니다. 사람이 한 장씩 직접 확인한 것은 아닙니다.
공개된 가중치를 직접 실행할 수 있는 오픈 웨이트 3개와 API를 통해 사용하는 상용 모델 11개입니다.
오픈 웨이트 3개 모델은 생성을 거부하는 비율이 0%였습니다. 초기 상태에서는 IP를 차단하는 기능이 없다는 것이 시사됩니다.
동인 서클의 작가가 자신의 PC에서 이미지를 만드는 상황을 떠올려보세요. 모델이 아무것도 막아주지 않기 때문에, 출력된 그림이 기존 캐릭터와 유사하지 않은지 스스로 확인하는 수밖에 없습니다.
상용 11개 모델은 모두 일부 생성을 거부했습니다. 단, 빈도는 회사마다 제각각입니다.
Stability AI의 모델은 거부 비율이 약 1%였습니다. 반면 Amazon의 Titan Image G2는 약 50%를 차단했습니다.
이름을 직접 적은 경우, 거부 비율이 높은 Amazon과 Runway의 모델에서는 약 80%가 차단됐습니다.
그럼에도 불구하고, 14개 모델 모두 가드레일 유무에 관계없이 10% 이상의 확률로 인식 가능한 IP 이미지를 생성했습니다. 절반에 가까운 모델에서는 40%를 넘었습니다.
이름을 적지 않고 외형과 특징만 전달하는 간접 프롬프트에서는 거부 비율이 낮아집니다.
그런 상황에서도 평균 27~28%의 비율로 인식 가능한 IP가 생성됐습니다.
유사한 경향은 2024년에 공개된 별도의 CopyCat 논문에서도 보고됩니다. "videogame, plumber"라는 단 두 단어의 키워드만으로도 유명 캐릭터가 출력되는 사례가 제시됐습니다.
카테고리에 따라서도 취급 방식이 크게 달랐습니다.
일본에서는 AI의 '학습'과 '생성·이용'을 나누어 생각하는 것이 기본입니다. 문화청의 「AI와 저작권에 관한 사고방식」이 그 정리를 제시하고 있습니다.
학습 단계에서는 저작권법 30조의4에 따라, 비향수 목적(작품을 즐기기 위한 이용이 아닌 경우)이라면 허용되는 경우가 있습니다. 단, ITmedia의 변호사 해설에 따르면, 특정 작가풍의 그림을 출력하기 위해 추가로 학습시키는 경우는 향수 목적이 병존한다고 정리되어, 침해 가능성이 있습니다.
생성·이용 단계에서는 30조의4의 특례를 적용할 수 없습니다. 일반 저작권법과 마찬가지로, 원작품과 유사한지(유사성)와 원작품을 기반으로 했는지(의거성)를 기준으로 판단됩니다.
즉, 이미지 생성 AI의 출력이 기존 캐릭터와 유사하다면, AI가 만든 그림이라도 침해가 될 수 있습니다.
회사 홍보 담당자가 AI로 상품 소개 일러스트를 만드는 상황을 상상해보세요. "귀여운 노란색 전기 쥐 느낌"과 같은 지시에도 유명 캐릭터와 꼭 닮은 그림이 출력될 수 있습니다. 그대로 공개하면 문제가 되는 것은 공개한 측입니다.
단, 이번 조사는 해외 모델이 중심이며, 일본 법률상 침해에 해당하는지를 판단한 것은 아닙니다. 조사한 것은 인식 가능한 IP가 출력되는 빈도입니다.
모델 측의 안전장치에만 의존하는 것은 위험하다는 점을 이번 조사는 보여줍니다. 이용자가 스스로 할 수 있는 것들을 소개합니다.
A. Sony AI 등 소니 계열 연구자를 포함한 12명의 팀입니다. 논문은 2026년 7월 1일에 arXiv에 투고됐습니다.
A. 거부 비율이 가장 높았던 것은 Amazon의 Titan Image G2(약 50%)입니다. 단, 거부 비율이 높아도 IP가 출력될 확률이 0이 되는 것은 아닙니다.
A. 아닙니다. 간접 프롬프트에서도 평균 27~28%의 확률로 인식 가능한 IP가 생성됐습니다.
A. 괜찮다고는 할 수 없습니다. 일본에서는 생성·이용 단계에서 유사성과 의거성이라는 기존 기준으로 판단된다고 설명됩니다. 개별적인 판단은 전문가에게 상담하세요.
A. 이미지 판정에는 시각 언어 모델인 Qwen3-VL이 사용됐습니다. 사람이 한 장씩 직접 확인한 것은 아닙니다.
AI로 만든 이미지를 공개하기 전에, 기존 캐릭터나 로고와 유사하지 않은지 반드시 직접 눈으로 확인합시다.
이 기사는 AI Friends 의 크로스포스트입니다.
