AIはなぜウソをつく？「ハルシネーション」の理由と、今日からできる3つの対策

カテゴリ：しくみ・注意点

AIに質問したら、自信たっぷりに答えてくれた。でも、調べてみたら間違っていた——そんな経験はありませんか？

AIがもっともらしい間違いをすることを「ハルシネーション（幻覚）」と呼びます。この記事では、なぜそれが起きるのかと、ふだんの使い方でできる対策をまとめました。

この記事の結論
AIは「次に来る言葉」を予想して文章を作っていて、内容が正しいかどうかを調べているわけではありません。だから知らないことでも、それっぽく答えてしまうことがあります。数字・日付・名前・出典は特に注意し、最後は自分で確かめましょう。

1. AIは「知らない」と言うのが苦手

たとえば、存在しない町について「〇〇市の人口は？」と聞いたとします。AIによっては「わかりません」と答えずに、「約12万人です」のように、いかにもありそうな数字を答えてしまうことがあります。

文章はとても自然なので、読んでいる側は間違いに気づきにくいのがやっかいなところです。

AIの文章づくりの基本は、「次に来る言葉の予想ゲーム」です（くわしくはAIはどうやって文章を作っている？で解説しています）。

たとえば「この本が出たのは」の次に来る言葉を、学んだパターンから確率で選びます。このとき、AIはその答えが事実かどうかを、図書館やデータベースで確認しているわけではありません。

そのため、学習したデータに答えがない質問や、あいまいな質問をされると、「それっぽい言葉」が「それっぽく」つながって、間違った答えができあがってしまうのです。

文部科学省の学校向けガイドラインでも、生成AIは「統計的にそれらしい応答」を作るため、誤りを含むことがあると説明されています。

「その情報の出典を教えて」と聞き、示されたリンク先を自分で開いて、本当にそう書いてあるか確認します。リンクそのものが間違っていることもあるので、「リンクがある＝正しい」ではない点に注意しましょう。

質問の最後に、次のひとことを添えるだけで、無理に答えをひねり出すことが減ります。

わからないときは、「わからない」と答えてください。推測の場合は、推測だと書いてください。

説明書、お知らせのPDF、記事の本文など、正しい情報が書かれた資料をAIに貼りつけて、「この資料の中から答えて」と頼みます。AIが自分の記憶にたよらず資料を読むので、間違いがぐっと減ります。

ただし、個人情報や会社の秘密が書かれた資料は、AIに貼りつけないようにしましょう。

この記事の内容を、約4分の動画にしました

YouTubeで見る

いいえ。AIは、要約、言いかえ、下書き、アイデア出しなど、「文章を作る・整える」作業はとても得意です。こうした使い方なら、多少の言いまわしの違いはあっても、大きな問題にはなりにくいでしょう。

大切なのは、「AIは物知りな予想マシン。最後に確かめるのは人間」と覚えておくこと。とくに、お金・健康・法律に関わることは、必ず公式の情報や専門家で確かめましょう。