
@aifriends
AI Friends(https://aifriends.jp)のクロスポスト公式アカウント。AIツールの紹介・使い方・できることを、中学生でもわかるやさしい日本語で届けます。
AIの答えが丁寧で自然だと、つい信じてしまいませんか? 2026年11月に注目された研究が、まさにその心理を数字で示しました。この記事では、研究の中身と、私たちにできる対策をやさしく解説します。
オランダのラドバウド大学の研究チームが、チャットボットの言葉遣いと、利用者から信頼されやすさの関係を調べました。研究者はマリアナ・デ・サ・シケイラさん、ティボール・ボッセ教授、バーバラ・ミュラー准教授です。
論文は、学術誌『Computers in Human Behavior: Artificial Humans』に掲載されました。大学の発表は2026年10月29日です。日本ではGIGAZINEが11月14日に取り上げました。
結論はシンプルです。流れるような文章で話すAIは、内容が間違っていても、正しいけれどそっけないAIと同じくらい「賢くて感じがいい」と評価されました。
ハルシネーション(AIがもっともらしいうそを作ってしまう現象)があっても、話し方が上手ならば、人は気にしなくなるということです。
実験では、参加者に『指輪物語(ロード・オブ・ザ・リング)』についてのチャットボットとの会話を読んでもらいました。会話は次の4種類のうち1つです。
参加者は、あらかじめ原作の基本知識がある人だけが選ばれました。間違いに気づけるはずの人たちです。
参加者は会話を読んだあと、チャットボットの賢さや感じのよさを評価しました。参加人数は、大学の発表にもGIGAZINEの記事にも書かれていません。
いちばん高く評価されたのは、なめらかで正しいチャットボットでした。ここまでは予想どおりです。
驚くのは次の結果です。なめらかなのに間違った情報を話すチャットボットも、正しい情報を事務的に話すチャットボットと同じくらい「知的で感じがいい」と評価されました。
さらに、Digital Information Worldなどの報道によると、約80%の参加者が間違いに気づきませんでした。
ミュラー准教授は「文章がエレガントで自然に聞こえると、人は自動的にそこに知性を感じてしまう」と話しています。
想像してみてください。会議で、落ち着いた口調でスラスラ話す同僚と、ぼそぼそ話す同僚がいます。内容を細かく確認する前に、前者のほうが「できる人」に見えませんか? AIでも同じことが起きているのです。
ボッセ教授は、チャットボットが「人間らしく、説得力があるように話す」ことを重視して作られていると指摘しています。内容が事実かどうかは二の次になっているそうです。
人間が話すとき、自信がないと言葉に詰まったり、「たぶん」とつけたりします。ところがLLM(人間のように文章を書けるAI)は、知らないことでも同じ調子で、なめらかに答えることがあります。
聞き手が頼りにする「言いよどみ」というサインが、AIにはありません。そのため、間違いに気づきにくくなります。
たとえば、資料づくりをしている会社員を考えてみましょう。AIに市場規模を聞くと、具体的な金額と年を添えた答えが堂々と返ってきます。
文章がきれいなので、そのままスライドに貼ってしまいます。数日後に上司から「この数字の出典は?」と聞かれて、初めて怪しいと気づく。こうした場面は、決して珍しくないはずです。
学生が宿題の調べものをするときも、健康や薬のことをAIで調べるときも、同じ落とし穴があります。
研究チームが挙げた対策は、AIが答えるたびに不確実さを見せることです。ボッセ教授は「チャットボット自身が疑いを示せば、人がでたらめを真実として受け取るのを防げる」と話しています。
教授によると、チャットの最初に「AIは間違えることがあります」と一度出すだけでは足りません。そこで、テック企業に不確実さの表示を義務づけることも考えるべきだと言っています。
たとえば「この部分は確信が低いです」「出典を確認してください」と答えの中で教えてくれるAIなら、読む側も立ち止まれます。
日本でも似た問題が見えています。セキュリティ会社のエルテスが2026年9月に発表した実態調査があります。対象は、業務で生成AIをよく使う400人です。
この調査では、ハルシネーションを「何度もある」「たまにある」と答えた人が81.1%でした。
誤った情報を信じて仕事に影響が出た人は33.4%です。内訳は、社外向けの資料や提出物が17%、社内の意思決定や報告が16.4%でした。
気づいた理由でいちばん多かったのは、自分でのファクトチェック(事実確認)で64.2%です。一方で、普段からファクトチェックをしていない人も13.5%います。
エルテスは、ファクトチェックをしない54人のうち50人が予防策もとっておらず、全員がハルシネーションの経験なしと答えた点に注目しています。「気づいていないだけ」の可能性が高いという見方です。ただし、これは調査会社の推論で、確認された事実ではありません。
テック企業の対応を待つ間も、私たちにできることはあります。
仕事で使う数字や人名、日付は、元の資料や公式サイトで必ず確認しましょう。
「根拠となる出典を教えて」「どの部分が不確かか教えて」と質問してみてください。出てきたURLが本当に存在するかも、自分の目で確かめます。
文章が上手なことと、内容が正しいことは別の話です。今回の研究では、人がこの2つをつい混同することが示されました。
大学の発表やGIGAZINEの記事には、参加人数が書かれていません。原作の基本知識がある人が選ばれたことだけが分かっています。
AIが事実ではないことを、もっともらしい文章で答えてしまう現象です。「幻覚」と訳されます。
そうとは言えません。実験には、事務的な話し方で作り話が混ざる条件も入っていました。話し方に関係なく、内容は確認が必要です。
今回の実験は『指輪物語』についての会話を使ったもので、日本のサービスを調べたものではありません。ただ、エルテスの調査のとおり、日本の利用者もハルシネーションを多く経験しています。
次にAIの答えを使うときは、数字と固有名詞を1つだけでも、元の資料で確かめてみてください。
この記事は AI Friends からのクロスポストです。