저가 GPT는 가짜? 섀도 API의 모델 위장을 조사하다
機械翻訳 / Machine-translated

機械翻訳 / Machine-translated
@aifriends
AI Friends(https://aifriends.jp)のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
"GPT-5를 공식의 절반 가격에 사용할 수 있다"는 말을 들으면 한번 써보고 싶어지지 않나요? 그런데 화면에 GPT-5라고 표시되어 있어도, 실제로는 다른 소형 AI가 답변하고 있던 사례가 발견되었습니다. 이 글에서는 연구자들의 조사 결과와 우리가 주의해야 할 점을 정리합니다.
ITmedia NEWS가 2026년 11월 19일에 해설 기사로 소개한 것은, 독일 CISPA와 캐나다 워털루 대학교 등의 연구입니다.
논문 제목은 「Real Money, Fake Models(진짜 돈, 가짜 모델)」. arXiv에 공개되어 있으며, 컴퓨터 보안 국제학회 ACM CCS 2026에 채택되었다고 명시되어 있습니다.
대상은 섀도 API입니다. API(소프트웨어 간 연결 창구)를 통해 OpenAI나 Google 등의 AI를 뒤에서 중개하면서, "공식과 동일한 모델을 저렴하게 사용할 수 있다"고 내세우는 비공식 서비스를 가리킵니다.
연구팀은 국제학회 채택 논문과 GitHub를 조사해 17종류의 섀도 API를 발견했습니다. 이 서비스들은 합산하여 187편의 학술 논문에서 사용되었습니다.
공식 API는 요금이 비싼 편이며, 신용카드 등의 결제 수단도 필요합니다. 게다가 중국이나 러시아 등에서는 일부 공식 API를 사용할 수 없습니다.
그 틈을 타고, 저렴하고 지역 제한도 없는 섀도 API가 파고듭니다. 실제로 이용자의 약 80%는 공식 API에 제한이 있는 중국 소속 기관에 재직하고 있었습니다.
어떤 대학원생을 상상해 보세요. 연구비가 부족하고 해외 카드도 없습니다. 그런 상황에서 저렴한 서비스를 발견한다면 바로 뛰어드는 것은 자연스러운 일입니다.
확산 규모도 상당하여, 가장 인기 있는 서비스는 5,966건의 논문 인용과 관련 리포지토리의 GitHub 스타 58,639개를 기록했습니다(2025년 12월 6일 기준).
동료 심사를 통과한 논문도 많아, 187편 중 62%에 해당하는 116편이 ACL, CVPR, ICLR 등의 국제학회 및 학술지에 채택되었습니다.
연구팀은 AI의 답변 패턴에서 '핑거프린트(지문)'를 추출하고, 통계적 검정과 결합하여 실제로 작동하는 모델을 조사했습니다.
그 결과, 조사한 24개 엔드포인트 중 11건(45.83%)이 신고된 모델과 다른 것으로 판정되었습니다.
예를 들어, GPT-5나 GPT-4o-mini로 표시된 응답이 GLM-4-9B나 Qwen2.5-7B라는 별도 AI의 핑거프린트와 일치했습니다. 둘 다 공식 GPT와는 다른 소형 모델입니다.
DeepSeek-Reasoner를 요청했는데, 깊이 생각하는 '추론 모드'가 없는 DeepSeek-Chat처럼 작동한 사례도 있었습니다.
저렴한 모델로의 교체가 의심되지만, 고의 여부까지는 논문만으로 단정할 수 없습니다.
연구팀은 인기 높은 3개 서비스에서 OpenAI, Google, DeepSeek의 모델을 비교했습니다. 수학과 과학에서는 8개 모델, 의료·법률·안전성에서는 각 사에서 1개 모델씩 조사했습니다.
깊이 생각할 필요가 없는 질문에서는 공식에 가까운 점수가 나왔습니다. 살짝 테스트해 보는 것만으로는 차이를 알아채기 어렵습니다.
차이가 드러난 것은 사고력이 필요한 상황입니다. 수학 시험 AIME 2025에서는 특정 섀도 API에서 Gemini-2.5-pro가 40.00포인트, DeepSeek-Reasoner가 38.89포인트 하락했습니다.
의료 시험 MedQA에서는 Gemini-2.5-flash의 정답률이 공식 83.82%에 비해 3개 서비스 모두에서 약 37%에 그쳤습니다. 법률 시험에서도 동일한 모델이 약 40포인트 하락했습니다.
논문에 따르면, 차이는 최대 47.21%에 달했습니다. 논문 본문과 ITmedia 기사는, Gemini-2.5-flash는 핑거프린트가 신고와 일치하더라도 성적이 크게 떨어지는 사례가 있었다고 전합니다.
의료 상담 앱을 만드는 회사가 저렴함만 보고 선택한 API의 답변을 그대로 환자에게 제공한다면 어떨까요. 정답률이 절반 이하라면, 웃어넘길 일이 아닙니다.
유해한 질문을 거부하는 능력에도 차이가 있었습니다. 탈옥(AI 안전 기능을 우회하는 공격)에 대한 취약성이 공식의 5배에 달하는 사례도 있었는가 하면, 반대로 낮아지는 경우도 있어, 차이의 방향을 예측할 수 없었습니다.
조사한 17개 서비스 중 15개는 신원이 불투명한 개인이 운영하고 있었습니다. 이미 4개 서비스는 중단된 상태입니다.
갑자기 사용할 수 없게 되거나, 기재된 결과를 재현할 수 없게 될 위험이 있다는 뜻입니다.
비용 면에서도 반드시 저렴한 것은 아닙니다. 논문의 가격 비교에서는 공식의 0.73배로 끝나는 경우도 있었지만, 5배 이상이 되는 경우도 있었습니다. GPT-5를 공식과 동일한 가격에 판매하면서, GPQA 시험에서 반환된 출력량이 공식의 38%에 불과했던 사례도 있습니다.
단, 이는 2025년 9월부터 12월 사이의 한 시점 기록입니다. 논문은 섀도 API가 예고 없이 변경될 가능성도 있음을 명시하고 있습니다.
지금까지의 내용을 공식 API와 섀도 API로 나누어 정리합니다.
논문 저자들은 연구 현장에서 섀도 API를 사용하지 말 것을 권고하고 있습니다. 아울러, 공식 측에도 지역 제한 완화와 학술용 요금제 마련을 촉구하고 있습니다.
이번 조사에서 이용자의 중심은 중국 소속 기관이었습니다. 한국에서는 공식 API를 사용할 수 있으므로, 같은 사정은 아닙니다.
그렇다고 남의 일이라고만은 할 수 없습니다. 개인 개발자나 스타트업이 비용을 줄이고자 "GPT와 동일"을 내세우는 저렴한 API를 선택하는 상황은 충분히 생각해볼 수 있습니다.
한국 연구자가 섀도 API로 얻은 결과를 담은 논문을 모르고 인용할 가능성도 있습니다.
기업이라면, 입력한 고객 데이터의 행방도 신경 쓰입니다. 운영자 신원을 알 수 없는 서비스에 사내 문서를 넘기는 것은 피하는 것이 좋습니다.
해외 해설 기사는 간단한 '핑거프린트 테스트'를 직접 만들어볼 것을 권장합니다. DEV Community의 이 글에 따르면, 동일한 질문을 정해진 설정으로 보내고 돌아온 답변 기록을 공식 답변과 비교합니다.
단, 이는 개인 블로그의 제안일 뿐, 논문 자체의 주장은 아닙니다. 답변이 일치해도 진짜라고 단정할 수 없고, 어긋난다면 의심스럽다는 정도로 받아들이는 것이 안전합니다.
논문 측의 제안은 좀 더 본격적입니다. LLMmap이라는 핑거프린트 도구의 프로브(탐색 질문)를 24개 이상 사용하는 것, 통계적 검정을 500개 이상의 샘플로 수행하는 것을 제시합니다. 또한, 3회 이상 시도하여 엔드포인트 URL, 모델 버전, 접속 날짜, 가격을 기록하도록 권장합니다.
개인이 우선 실천할 수 있는 것은 다음 세 가지입니다.
Q. 섀도 API는 불법인가요?
A. 이번 기사나 논문은 불법 여부를 판단하지 않습니다. 논문이 지적하는 것은 모델 위장 의혹, 성능 불안정, 운영자의 불투명성입니다.
Q. 저렴한 API는 모두 가짜인가요?
A. 모두 그런 것은 아닙니다. 조사한 24개 엔드포인트 중 신고 내용과 다른 것으로 판정된 것은 11건이었습니다. 다만, 논문은 별도로 12.50%에서 핑거프린트 불일치도 보고하고 있어 신중한 확인을 요구하고 있습니다.
Q. 간단한 질문으로는 왜 알아채기 어렵나요?
A. 소형 모델이라도 간단한 질문에는 거의 정확하게 답할 수 있기 때문입니다. 차이가 드러나는 것은 수학이나 의료처럼 깊이 생각해야 하는 질문입니다.
Q. 한국 기업이 주의해야 할 점은?
A. 요금의 저렴함보다 운영자의 신원과 데이터의 행방을 먼저 확인하세요. 계약 관계가 명확한 제공처를 선택하는 것이 무난합니다.
우선, 지금 사용 중인 API의 운영자와 돌아오는 답변의 품질을 한 번 확인해 보세요.
이 글은 AI Friends의 크로스포스트입니다.