什么是"随机鹦鹉"？关于AI是否真正理解语言的争论
機械翻訳 / Machine-translated
A
AI Friends
14時間前・8分で読める
機械翻訳 / Machine-translated
@aifriends
AI Friends（https://aifriends.jp）のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
你是否在网上见过"ChatGPT不过是在鹦鹉学舌"这样的说法？本文将用通俗易懂的方式，梳理热议中的"随机鹦鹉"的含义、诞生背景、常见误解，以及至今仍在持续的争论。
随机鹦鹉（stochastic parrot）是一个比喻，用来表达AI即便能够生成自然的文章，也并不意味着它理解语言的含义。
鹦鹉能够惟妙惟肖地模仿人类的语言，但它并不是真正理解意思后再开口说话的。
这个比喻的核心主张是：LLM（大规模语言模型，即能像人类一样撰写文章的AI）也是如此——它只是根据概率将单词和句子连接在一起。
这一话题也在GIGAZINE 2026年10月12日的文章中有所介绍。
"随机"是指"根据概率来选择下一个可能出现的词"。
举个例子，假设写下"今天天气很好，所以去公园"，我们自然会预感到接下来会出现"了"或"散步"之类的词。LLM正是从海量文章中学习这种"可能出现的词"，并从中选取概率较高的词来生成文章。
那么，这一机制中是否存在"理解"呢？这正是争论的核心所在。
这个词源于2021年3月发表的一篇论文，题为"On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?"（随机鹦鹉的危险性：语言模型可以过于庞大吗？）。
论文的作者是埃米莉·本德、蒂姆尼特·格布鲁、安吉丽娜·麦克米伦-梅杰，以及玛格丽特·米切尔四人。发表于FAccT——一个专门探讨AI与社会关系的学术会议。
事实上，这篇论文的主题并不仅限于"AI不理解语言"这一点。根据IEEE Spectrum对本德女士的采访，论文所涉及的是将语言模型做大这一整体趋势的风险，包括：
此外，这篇论文之所以引发广泛关注，还因为就在发表前夕，谷歌解雇了其中两位共同作者。
2026年3月，共同作者米切尔女士在博客中发文，指出"AI并不是随机鹦鹉"。据GIGAZINE的报道，她强调这个比喻针对的是LLM，而非整个AI领域。
本德女士也表达了同样的观点。据称，论文中出现"AI"一词仅在最后部分有一处。论文并没有将下棋的AI或预测蛋白质结构的AlphaFold称为随机鹦鹉。
GIGAZINE的文章如下转述了米切尔女士的主张：
现在的AI系统并不一定完全由LLM构成，有些系统还结合了按固定规则运行的部分，或者不处理语言的机器学习模型。因此，米切尔女士认为，在说到"AI"时，应当明确是哪个系统在做什么。
另一方面，也有研究者认为"LLM在某种意义上是理解语言的"。
其中最具代表性的事件，是2025年3月在加利福尼亚州计算机历史博物馆举办的「The Great Chatbot Debate」。华盛顿大学的本德女士与OpenAI的塞巴斯蒂安·比贝克以"LLM是否真正理解语言？"为主题展开了辩论。
比贝克是2023年论文"Sparks of Artificial General Intelligence"的第一作者。题目中的"sparks（火花）"意指真正智能的萌芽迹象。
换言之，一方将LLM视为"不理解含义的随机鹦鹉"，另一方则从中看到了"智能的火花"。面对同一个LLM，两方的评价却截然不同。
研究者的看法大致可以分为三类。
以本德女士为代表。她认为LLM的机制是预测下一个词，并不存在对语义的理解。
以比贝克为代表，从LLM的能力中看到智能火花的立场。通过专业考试、生成程序代码等成果，被作为论据加以援引。
梅拉妮·米切尔与大卫·克拉卡维尔在论文中对两方论据进行了梳理。需要注意的是，该论文的作者梅拉妮·米切尔与随机鹦鹉论文的共同作者玛格丽特·米切尔并非同一人。
此外，麦考伊等人的「Embers of Autoregression」提出，不应以与人类相同的标准来衡量LLM，而应将其视为一种受"预测下一个词"这一训练目标影响的、不同类型的系统。
实验显示，GPT-4在解密任务中，当答案为高概率词语序列时正确率约为51%，而低概率时仅约为13%。也就是说，训练中是否见过相似的形式，对其表现有显著影响。
这场争论与在日本使用生成式AI的我们并非毫无关系。
例如，设想一位在公司用ChatGPT制作资料的职员。AI自信满满地写出的数字，能直接信任吗？AI并不一定是在确认含义后才写出来的，因此数字和出处需要由人来核实。
还有在学校里让AI帮忙写读后感草稿的高中生。即便生成了自然流畅的文章，也并不意味着"AI读了那本书后有所感动"。读后感的内容需要用自己的语言来补充。
日语是一种省略主语、语义随语境变化的语言，因此即便AI的回答看起来很自然，也可能夹杂着细微的语义偏差。涉及重要文件时，建议由人工再次阅读核对。
另一方面，"既然只是鹦鹉，就没什么用"这种断言同样是错误的。米切尔女士也指出，这与LLM能够产出实用成果并不矛盾。
我们应当如何与AI相处？即便争论尚无定论，我们仍然可以在使用方式上下功夫。
A. 本德女士表示，这并不是一个用于侮辱或批评的词，而是用来描述系统实际运作方式的表达。米切尔女士也强调，这并不意味着LLM毫无能力。
A. 这个比喻针对的是LLM，而ChatGPT的核心也是LLM。但关于它是否真正不理解语言，研究者之间仍存在分歧。
A. 不正确。米切尔女士指出，将LLM与整个AI领域画等号是一种类别错误，因为AI还包含LLM以外的技术。
A. 目前尚无定论。"理解"的定义因人而异，这也是争论持续的原因之一。
A. 并非如此。论文还涉及对环境的负担、训练数据的偏见以及数据采集问题等内容。
下次使用AI的回答时，不妨先想一想："这是哪个AI，基于什么给出的答案？"
本文转载自 AI Friends。
