ハルシネーション

ハルシネーション（英語 hallucination＝幻覚）とは、生成AIが、実際には正しくない内容を、あたかも事実であるかのように自信を持って出力してしまう現象を指します。存在しない論文や条文を「実在する」かのように挙げたり、誤った数値・日付・人名を断定したりするのが典型です。AI検索（＝AIが要約回答を返す仕組み）の信頼性を左右する最大の課題であり、当ラボが観測を続けるテーマでもあります。生成AIを実務で安全に使えるかどうかは、突きつめればこのハルシネーションとどう付き合うかにかかっている、と言っても過言ではありません。便利さと危うさが表裏一体である以上、正しく恐れて使いこなすための基礎知識として、まず押さえておくべき現象です。

ハルシネーションとは

ハルシネーションは「AIが嘘をつく」という擬人的な表現で語られがちですが、より正確には「もっともらしいが事実に反する出力」を指す技術用語です。人間の嘘には意図がありますが、生成AIには「事実を確かめてから答える」という仕組みが本来備わっておらず、悪意なく誤りを生みます。重要なのは、誤っている内容ほど、口調はむしろ流暢で自信ありげに見えることがある、という点です。だからこそ受け手が気づきにくく、実害につながります。人間なら「自信がない」ときに口ごもったり前置きしたりしますが、生成AIはその手がかりを出さないまま断定するため、読み手は文章の見た目だけから正しさを判断できません。

「幻覚」という訳語のとおり、AIは実在しない情報を頭の中で作り出しているように振る舞います。ただしこれはバグ（＝プログラムの不具合）ではなく、後述するとおり、確からしい言葉のつながりを作るという生成AIの性質そのものから生じる副作用です。だからこそ「修正すれば消えるエラー」ではなく「付き合い方を設計すべき恒常的な特性」として扱う必要があります。近年は「作話（コンファビュレーション）」というより中立的な呼び方を推す専門家もいますが、いずれにせよ指しているのは、根拠のない内容を自信をもって生成してしまう同じ現象です。

なぜ起きるか（次語予測の性質）

大規模言語モデル（LLM＝大量の文章で訓練された言語予測モデル）の中核は、「ここまでの文に続いて、次に最も来そうな語は何か」を確率的に予測し続けることです。つまりモデルが最適化しているのは「事実として正しいこと」ではなく「言葉として自然につながること」です。この設計上のズレが、ハルシネーションの根本原因です。

• 真偽の判定機構がない：モデルは自らの出力が事実かを検証していません。もっともらしさ（言葉の流暢さ）を、正しさと取り違えて出力します。
• 知識の空白を埋めようとする：学習データに無い・薄い事柄でも、パターンから「それらしい答え」を合成してしまいます。知らないと答えるより、埋めるほうが確率的に自然だから。
• 知識が古い・固定されている：モデルの知識は学習時点で止まっており、その後の出来事は知りません。にもかかわらず古い知識で断定します。
• 学習データ自体の誤り：訓練に使った文章に含まれる誤情報や偏りを、そのまま再生産することがあります。

もう一段掘り下げると、生成AIには「自分がどれだけ確信しているか」を正しく申告する仕組みが十分に備わっていない、という問題があります。人間なら「うろ覚えだけど」と前置きできますが、モデルは確信度の低い推測も、確かな知識も、同じように滑らかな文章として出力します。この確信度の校正（キャリブレーション＝自信の度合いを実際の正しさに合わせること）の甘さが、誤りを見抜きにくくしています。加えて、対話型AIは利用者に沿う（同意しやすい）方向へ最適化されている面があり、間違いを指摘されても、正しい反論をせずに相手に合わせて誤った訂正をしてしまう「追従（へつらい）」も、ハルシネーションの一種として観察されます。

種類と典型例

ハルシネーションは大きく2種類に分けて理解すると対策が立てやすくなります。与えた資料と食い違う「内在的（intrinsic）」な誤りと、資料にも事実にも無い情報を作り出す「外在的（extrinsic）」な誤りです。

実務で最も厄介なのは「出典の捏造」です。回答自体は一見正しく、それらしい出典まで添えられているため、専門家でも見抜きにくく、確認を省いたまま資料に転記されて、誤りが静かに拡散していきます。出典が実在するかどうかを1件ずつ開いて確かめる工程を省くと、誤りはそのまま外部に出ていきます。

ハルシネーションが起きやすい問いには、はっきりした傾向があります。第一に、学習データに乏しいニッチ（＝ごく限られた専門・少数の話題）な事柄。第二に、学習後に起きた最新の出来事。第三に、正確な数値・日付・固有名詞・引用を要求する問い。第四に、複数の事実を組み合わせて推論させる複雑な問いです。逆に、広く知られた一般常識や、与えた資料の要約に徹する問いでは誤りが起きにくくなります。この傾向を知っておくだけでも、どの回答を重点的に検証すべきかの当たりが付けられます。とりわけ「実在の確認が要る固有名詞（論文・判例・製品名・URL）」と「時間で変わる数値（価格・統計・役職・日付）」の2つは誤りの二大温床であり、出力に現れたら反射的に裏取りする習慣を持つとよいでしょう。

対策（RAG・グラウンディング・一次情報・出典確認）

完全になくすことはできませんが、発生を減らし、起きても検知できるようにする対策は確立されつつあります。柱は「根拠を持たせる」ことと「根拠を確かめる」ことの2つです。

• RAG（検索拡張生成）：答える前に外部文書を検索して取り込み、それを根拠に回答させます。学習知識だけの推測を減らせます。
• グラウンディング（＝回答を実在の資料に接地させること）：回答の各主張を、提示した資料のどこに基づくかと結び付けます。根拠のない断定を出させない設計。
• 一次情報の提示：公式文書・原典など出所の確かな資料をモデルに与えます。根拠の質が回答の質を決めます。
• 出典確認（人間の検証）：AIが挙げた出典が実在し、かつ主張を実際に支持しているかを人が確かめます。捏造出典を止める最後の砦。
• 「分からない」を許す設計：資料に根拠が無ければ未確認と答えさせます。埋めさせないことが誤答を防ぎます。

これらの対策は「モデル側の工夫」と「使う側の規律」に分けて考えると整理できます。RAG・グラウンディング・一次情報の提示は、AIに正しい根拠を持たせる仕組み側の対策です。一方、出典確認と「分からないを許す設計」は、出力を鵜呑みにしない運用側の規律にあたります。どちらか一方では不十分で、根拠を持たせたうえで、なお人間が確かめる、という二重の構えが要ります。とりわけ、医療・法務・金融のように誤りが重大な結果を招く領域では、AI単独の断定をそのまま使うことは避け、必ず専門家が最終判断する運用を敷くべきです。

技術的な軽減策としては、回答の生成時に確度の低い出力を抑える設定（＝いわゆる温度パラメータ＝出力のばらつきの度合いを下げる調整）や、同じ問いに複数回答えさせて食い違う部分を弾く手法（自己整合性チェック）、別のモデルに回答を検証させる方式なども研究・実装が進んでいます。ただし、いずれも発生を減らすものであって根絶するものではなく、最終的な事実確認を人間が担う前提は変わりません。

当ラボのハルシネーション率観測との関係

当ラボ（GMO AI検索ラボ）は、AI検索が返す回答に、どの程度の誤りや根拠の欠落が含まれるかを継続的に観測しています。ハルシネーションは「起こるか否か」ではなく「どのモデルで・どんな問いに・どのくらいの頻度で起こるか」を測る対象です。日本語での固有名詞・制度・最新情報に関する問いは、誤りが出やすい領域として重点的に扱います。

この観測は、単なる批評ではなく、情報発信側の実務に直結します。AIが誤りやすい問いほど、正しい一次情報が構造化されて公開されていれば、RAG を通じて根拠として拾われ、誤答を上書きできるからです。ハルシネーション率の観測は、どこに正確な情報を置くべきかを示す地図になります。とりわけ企業名・サービス名・料金・沿革といった自社に関する固有情報は、AIが誤って断定しやすい領域であり、正しい一次情報を明確に公開しておくことが、誤情報の流布を防ぐ最も現実的な防御になります。

見抜くための着眼点

ハルシネーションは完全には防げないため、受け手が「怪しい箇所に気づく力」を持つことが実務では重要になります。次のような特徴が現れたら、いったん疑ってよい合図です。

• 具体的すぎる数値・日付・固有名詞が、出典なしでさらっと断定されています。
• 挙げられた論文名・書籍名・URL・条文番号が、検索しても実在を確認できません。
• 最新の出来事や、ごく専門的・ニッチな事柄について、迷いなく詳細に答えています。
• 同じ問いを少し言い換えて再質問すると、前と食い違う答えが返ってきます（＝根拠が一定していない兆候）。
• 「一般に」「多くの場合」といった曖昧な前置きの直後に、妙に具体的な断定が続きます。

実務での向き合い方

1. AIの出力を「下書き」として扱い、事実・数値・日付・固有名詞は必ず一次情報で裏を取ります。
2. AIが挙げた出典は、実在するか・主張を支持しているかをリンク先まで開いて確認します。
3. 最新の出来事や専門的・固有の事柄は、AI単独に断定させず、必ず人間が確認する前提で使います。
4. 外部発信では、事実と数値を明確にした一次情報を構造化して公開し、AIに正しい根拠として拾われる状態を作ります。
5. 重要な用途では、根拠提示（RAG・グラウンディング）を組み込んだAIを選び、根拠なしの断定を出させません。

組織で生成AIを使う場合は、個人の注意に頼るだけでなく、仕組みで誤りを止める設計が要ります。具体的には、AIの出力をそのまま外部へ出さず必ず人が確認する工程を挟む、確認の負担が大きい高リスク用途にはAIを使わない線引きを決める、AIが根拠を示せない事柄は「未確認」として扱う運用を共有する、といった規律です。誰か一人が油断すれば誤りは通り抜けてしまうため、確認を個人の心がけでなく手順に組み込むことが、組織としての防御になります。