확률적 앵무새란? AI는 이해하고 있는가를 둘러싼 논쟁
機械翻訳 / Machine-translated
A
AI Friends
14時間前・9分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
"ChatGPT는 그냥 앵무새처럼 따라 하는 것뿐이다"라는 말을 인터넷에서 본 적이 있으신가요? 이 글에서는 화제의 '확률적 앵무새'의 의미, 탄생 배경, 자주 있는 오해, 그리고 지금도 계속되는 논쟁을 알기 쉽게 정리합니다.
확률적 앵무새(stochastic parrot)란, AI가 자연스러운 문장을 만들 수 있어도 말의 의미를 이해하고 있는 것은 아니다라고 표현하는 비유입니다.
앵무새는 인간의 말을 그대로 흉내 냅니다. 하지만 의미를 알고 말하는 것은 아닙니다.
LLM(대규모 언어 모델. 인간처럼 문장을 작성할 수 있는 AI)도 마찬가지라는 것이 이 비유의 주장입니다. 단어나 문장을 확률에 따라 이어 붙일 뿐이라고 봅니다.
이 주제는 GIGAZINE의 2026년 10월 12일 기사에서도 다루어졌습니다.
'확률적'이란 "다음에 올 것 같은 단어를 확률로 선택한다"는 의미입니다.
예를 들어 "오늘은 날씨가 좋아서 공원에"라고 쓴다면, 다음에는 "갔습니다"나 "나갔습니다"가 올 것 같다고 우리는 자연스럽게 느끼지요. LLM은 이 "올 것 같은 단어"를 대량의 문장에서 학습하여, 확률이 높은 것을 선택해 문장을 만듭니다.
그렇다면 그 구조 속에 '이해'가 존재하는 걸까요? 이것이 논쟁의 핵심입니다.
이 용어는 2021년 3월에 발표된 논문에서 퍼졌습니다. 제목은 「On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?」(확률적 앵무새의 위험성: 언어 모델은 너무 커도 되는가?)입니다.
저자는 에밀리 벤더(Emily Bender) 씨, 팀닛 게브루(Timnit Gebru) 씨, 안젤리나 맥밀란-메이저(Angelina McMillan-Major) 씨, 마거릿 미첼(Margaret Mitchell) 씨, 이렇게 4명입니다. 발표된 장소는 AI와 사회의 관계를 논의하는 FAccT라는 학회였습니다.
사실 이 논문의 주제는 "AI는 이해하지 못한다"는 한 가지 점만이 아닙니다. IEEE Spectrum의 벤더 씨 인터뷰에 따르면, 언어 모델을 키우는 것 전체의 위험을 다루고 있었습니다.
또한 논문 발표 직전에 Google이 공동 저자 2명을 해고한 것으로도 큰 주목을 받았습니다.
2026년 3월, 공동 저자인 미첼 씨는 블로그에 "AI는 확률적 앵무새가 아닙니다"라고 게시했습니다. GIGAZINE 기사에 따르면, 비유의 대상은 LLM이지 AI 전체가 아니다라는 지적입니다.
벤더 씨도 같은 점을 언급하고 있습니다. 논문에서 'AI'라는 단어가 등장하는 것은 마지막 부분의 한 곳뿐이라고 합니다. 체스 AI나 단백질 구조를 예측하는 AlphaFold를 확률적 앵무새라고 부른 것이 아닙니다.
GIGAZINE 기사는 미첼 씨의 주장을 다음과 같이 전하고 있습니다.
현재의 AI는 LLM만으로 구성된 것이 아닌 경우도 있습니다. 정해진 규칙으로 작동하는 부분이나, 언어를 다루지 않는 머신러닝 모델을 조합한 것도 있습니다. 그러므로 'AI'라고 말할 때는 어떤 시스템이 무엇을 하고 있는지를 명확히 해야 한다는 것이 미첼 씨의 입장입니다.
한편, "LLM은 어떤 의미에서 이해하고 있다"고 생각하는 연구자들도 있습니다.
그 상징이 2025년 3월 캘리포니아의 컴퓨터 역사 박물관에서 열린 「The Great Chatbot Debate」입니다. 워싱턴 대학교의 벤더 씨와 OpenAI의 세바스티안 뷰베크(Sebastien Bubeck) 씨가 "LLM은 정말로 이해하고 있는가?"를 주제로 토론했습니다.
뷰베크 씨는 2023년 논문 「Sparks of Artificial General Intelligence」의 제1저자입니다. 제목의 'sparks(불꽃)'는 진정한 지능의 조짐이라는 의미입니다.
즉, 한쪽은 "의미를 이해하지 못하는 확률적 앵무새"로 봅니다. 다른 한쪽은 "지능의 불꽃이 보인다"고 봅니다. 같은 LLM을 보면서도 평가가 크게 엇갈리는 것입니다.
연구자들의 시각은 크게 3가지로 나눌 수 있습니다.
벤더 씨가 대표적입니다. LLM은 다음 단어를 예측하는 구조이며, 의미를 이해하지는 않는다고 봅니다.
뷰베크 씨처럼 LLM의 능력에서 지능의 불꽃을 발견하는 입장입니다. 전문 시험 합격이나 프로그램 생성 같은 성과가 근거로 거론됩니다.
멜라니 미첼(Melanie Mitchell) 씨와 데이비드 크라카우어(David Krakauer) 씨는 논문에서 양측의 논거를 정리했습니다. 이 논문의 저자 멜라니 미첼 씨는 확률적 앵무새 논문의 공동 저자 마거릿 미첼 씨와는 다른 인물입니다.
또한 맥코이(McCoy) 씨 등의 「Embers of Autoregression」은 LLM을 인간과 같은 기준으로 측정하지 말 것을 제안하고 있습니다. 다음 단어를 예측한다는 훈련의 영향을 받은, 다른 종류의 시스템으로 봐야 한다는 생각입니다.
실험에서는 GPT-4가 암호를 푸는 과제에서, 정답이 높은 확률의 단어 열이면 약 51%, 낮은 확률이면 약 13%의 정답률을 보였습니다. 즉, 훈련에서 익숙한 형태인지 아닌지에 따라 성적이 크게 달라진 것입니다.
이 논쟁은 한국에서 생성 AI를 사용하는 우리에게도 무관하지 않습니다.
예를 들어, 회사에서 자료 작성에 ChatGPT를 사용하는 직장인을 생각해 봅시다. AI가 자신 있게 쓴 숫자를 그대로 믿어도 될까요? AI는 의미를 확인하며 쓴 것이 아닐 수 있습니다. 그러므로 숫자나 출처는 사람이 직접 확인해야 합니다.
학교에서 AI에게 독후감 초안을 부탁하는 고등학생도 있을 것입니다. 자연스러운 문장이 나와도 "AI가 그 책을 읽고 감동했다"는 것이 아닙니다. 감상의 내용은 자신의 말로 추가해야 합니다.
한국어는 주어가 생략되거나 상황에 따라 의미가 달라지는 언어입니다. 그 때문에 AI의 답변이 자연스럽게 보여도 미묘한 의미의 어긋남이 섞일 수 있습니다. 중요한 문서는 사람이 직접 다시 읽어보는 것이 좋습니다.
한편, "그냥 앵무새니까 쓸모없다"고 단정 짓는 것도 오류입니다. 미첼 씨도 실용적인 성과를 낼 수 있다는 것과는 모순되지 않는다고 말하고 있습니다.
우리는 AI와 어떻게 마주해야 할까요? 논쟁에 결론이 나지 않았더라도, 사용 방법을 궁리할 수 있습니다.
A. 벤더 씨는 모욕이나 비판을 위한 말이 아니라 시스템의 실태를 설명하는 표현이라고 말하고 있습니다. 미첼 씨도 LLM이 무능하다는 의미가 아니라는 점을 강조했습니다.
A. 비유의 대상은 LLM입니다. ChatGPT의 핵심에도 LLM이 있습니다. 다만, 정말로 의미를 이해하지 못하는지에 대해서는 연구자들 사이에서 의견이 나뉩니다.
A. 맞지 않습니다. 미첼 씨는 LLM과 AI 전체를 동일시하는 것은 카테고리 오류라고 지적하고 있습니다. AI에는 LLM 외의 기술도 포함되기 때문입니다.
A. 현시점에서 결론이 나지 않았습니다. '이해'의 정의가 사람마다 다른 것도 논의가 계속되는 이유 중 하나입니다.
A. 아닙니다. 환경에 대한 부하, 학습 데이터의 편향, 데이터 수집의 문제 등도 다루고 있었습니다.
다음에 AI의 답변을 사용할 때는, "이것은 어떤 AI가 무엇을 바탕으로 낸 답인가"를 한 번 생각해 보세요.
이 글은 AI Friends에서의 크로스포스트입니다.
