AIのハルシネーションとは何か、発生する理由と対処法

AIのハルシネーションとは何ですか？

AIのハルシネーションとは、生成AIツールが自信を持って提示するものの、誤りや捏造を含んでいたり、与えられた入力に裏付けられていなかったりする出力です。NISTの生成AIプロファイルは、同じ現象に「作話」という用語を使い、生成システムが誤った内容や虚偽の内容を生成し、自信を持って提示することと説明しています。NISTはその定義に、プロンプトなどの入力から逸脱する出力や、同じ会話内の以前の発言と矛盾する出力も含めています。

ハルシネーションという言葉は比喩であり、少し誤解を招く表現です。ツールが幻覚を見ているわけではありません。文脈に照らして統計的にもっともらしい文章を生成しており、その文章が間違っていることもあります。そのため、ハルシネーションは明らかな誤りには見えにくいのです。自然で、よく書かれた回答に見えます。

ChatGPTがハルシネーションを起こすのはなぜですか？

ChatGPTなどのツールがハルシネーションを起こすのは、検証済みの事実を検索するためではなく、文章の続きをもっともらしく生成するために作られているからです。NISTは、こうした作話を生成モデルの設計上自然に生じる結果と説明しています。生成モデルは学習データの統計的分布を近似するため、正確な出力を生成することもあれば、事実と異なる出力や一貫性のない出力を生成することもあります。NISTは、自由度の高い長文の回答や、専門知識を必要とする質問では、この問題が特に重要になると指摘しています。

Kalai、Nachum、Vempala、Zhangによる2025年の研究論文は、この現象を説明するもう1つの要因を示しています。著者らは、学習や評価の仕組みには、不確かさを認めるよりも推測することを評価する傾向があると論じています。多くのベンチマークでは、「わかりません」と答えるモデルよりも、推測して答えるモデルのほうが高い点数を得られるためです。著者らの見方では、モデルはテストで好成績を取るように最適化されています。正確な仕組みがどうであれ、従業員が実務で覚えておくべきことは同じです。ツールがどれほど自信ありげに答えても、その内容が事実かどうかはわかりません。

ハルシネーションは、あまり知られていないこと、最近のこと、非常に具体的なこと、提供した資料に含まれていないことについて尋ねると起きやすくなります。たとえば、正確な数値、特定の人物の役職、引用、裁判事例、商品の現在の価格などです。貼り付けた文書だけに基づいて処理するよう指示すれば、発生する可能性は下がりますが、なくなるわけではありません。

業務で起こるAIのハルシネーションには、どのような例がありますか？

業務でのハルシネーションは通常、もっともらしく聞こえる細かな具体的情報として現れます。この一覧は、従業員がよく遭遇する形をまとめたものです。そのパターンを見分けられるようになると、誤りに気づきやすくなります。

ハルシネーションを見逃すとどうなりますか？

公に知られている最も有名な事例は、22 June 2023に米国ニューヨーク南部地区連邦地方裁判所で判断が下された、マタ対アビアンカ事件です。弁護士らは、ChatGPTが作成した架空の引用文や引用情報を含む、実在しない判例を記載した訴訟書類を提出しました。裁判所は悪意があったと認定し、弁護士らと所属事務所に対して連帯して5,000米ドルの制裁金を科しました。また、依頼人と、架空の判例に名前を不正に使われた裁判官らに書面を送るよう命じました。制裁を検討するにあたり、裁判所は、事務所が弁護士と職員を対象に、技術を適切に扱う能力とAIツールに関する必須の継続法律教育を手配したことに言及しました。つまり、研修が行われたのは問題が起きた後でした。

ここでの教訓は、弁護士が不注意だということではありません。捏造された引用は本物とまったく同じように見え、それを信頼した人が、誤りを見抜けるはずの手順、つまり出典を開いて確認する作業を省いたということです。職場で起きるハルシネーションの多くは、顧客宛てメールの納期の誤りや、提案資料に含まれる架空の統計など、もっと小さなものですが、問題の構造は同じです。

AI のハルシネーションは今も問題ですか？

はい。各ベンダーは、出典付きのウェブ検索や、アップロードしたファイルに基づく回答など、役立つ機能を追加しています。ただし、ハルシネーションをなくしたと主張しているベンダーはありません。AnthropicのClaudeに関する公式文書でも、推奨手法はハルシネーションを減らすものの、完全にはなくせないと説明し、特に重大な判断では重要な情報を検証するよう勧めています。GoogleのGmailおよびSheets向けGeminiのヘルプページでも、Geminiの機能が不正確または不適切な情報を提示する場合があると注意しています。

ツールがもうハルシネーションを起こさないという主張は、疑ってかかってください。より有用なのは、自分の目的に対して、そのツールがどの業務を、どのような確認を伴えば十分に信頼できる水準で処理できるか、という問いです。

AIのハルシネーションを減らすにはどうすればよいですか？

ハルシネーションを減らすには、ツールが独自に補う余地を狭めます。参照資料を渡し、その資料だけを使うよう指示し、分からないと答えることを認め、各主張の根拠を示すよう求めます。以下の手法は、ハルシネーションの低減に関するAnthropicの文書など、提供元のガイダンスを基に、技術職以外の業務向けに調整したものです。どの手法を使っても、確認は必要です。

複数の手法を組み合わせたプロンプトの例：以下の規程の本文だけを使い、出発まで48時間以内に予約する従業員の出張に適用されるルールを3つ挙げてください。それぞれのルールについて、根拠となる文をそのまま引用してください。規程に記載がない事項は「記載なし」と書いてください。一般知識は使わないでください。

ハルシネーションは、実際にどのように見抜きますか？

架空の歯科用品販売会社、従業員25人のノースゲート・サプライを考えてみます。営業コーディネーターが会社の2ページの返品規定を貼り付け、アシスタントに質問します。開封済み商品の返品期限はいつまでですか。また、返品手数料はかかりますか。入力した規定には、未開封品は30日以内なら返品可能、開封済み商品は不良品の場合のみ返品可能とありますが、返品手数料についての記載はありません。

最初の回答：「開封済みの商品は14日以内であれば返品できますが、15パーセントの再入庫手数料がかかります。」この二つの条件は、どちらも作り出されたものです。規定には14日とも手数料とも書かれていません。多くの返品規定に含まれる条件なので、もっともらしく見えます。統計的にありそうな回答が間違いにつながるのは、まさにこういう場合です。

調整担当者は、上記の方法を使ってもう一度質問します。規程だけを使い、根拠の文を引用し、記載がなければ「記載なし」と書くよう指示します。二度目の回答は次のとおりです。開封済み商品：不良品の場合のみ返品可能です（引用：開封済み商品は、製品に不良がある場合に限り返品できます）。返品手数料：記載なし。この回答は文書と照合して数秒で確認できます。手数料に関する不明点は、顧客向けメールに書き込まれるのではなく、規程の責任者に確認されます。

従業員がハルシネーションに気づいたら、何をすべきですか？

誤った記述を削除または訂正し、すでに誰かがそれを判断の根拠にしていないか確認します。出力が下書きの段階であれば、修正したうえで先に進み、確認記録にツールがその内容を捏造したことを残します。すでに送信、共有、または意思決定に使用されている場合は、責任者に伝えて訂正できるようにします。他の人がすでに読んだ文書を、黙って修正してはいけません。

どのような質問で誤りが生じたかを同僚に伝えることも役立ちます。失敗例を共有するチームは、一人ひとりが同じ失敗を別々に経験するチームよりも速く学べます。下書きを確認する具体的な手順は、AI出力のファクトチェックガイドで説明しています。

AIの不適切な回答がハルシネーションではないのは、どのような場合ですか？

悪い回答がすべてハルシネーションというわけではなく、対処法も異なります。学習後に情報が変わったために古い回答が出た場合は、最新の情報源が必要です。偏った回答や一面的な回答の場合は、捏造ではなく、問いの立て方や公平性の問題です。曖昧なプロンプトに従った結果、筋は通っていても望んでいない結果になった場合は、指示を明確にする必要があります。また、誰かが意図的にAIを使って人を欺く場合は、研修ではなく行動上の問題です。

このガイドは、特定のツールを重大な影響のある特定の業務に安全に使えると判断するものでもありません。個人に関する法務、医療、財務、雇用上の判断には、出力がどのように作られたかにかかわらず、適切な専門知識を持つ確認者を関与させてください。

出典と対象範囲

NIST、AI 600-1：生成 AI プロファイル、July 2024 ↗

Kalai、Nachum、Vempala、Zhang著「言語モデルはなぜハルシネーションを起こすのか」、arXiv、4 September 2025 ↗

Anthropic、Claude ドキュメント「ハルシネーションの低減」、16 October 2026 閲覧 ↗

Mata v. Avianca, Inc., 678 F.Supp.3d 443（S.D.N.Y., 22 June 2023）、CLLAが掲載している写し ↗

Gmailヘルプ、GmailでGeminiと共同作業する、16 October 2026閲覧 ↗

Googleドキュメント エディタ ヘルプ、GoogleスプレッドシートでGeminiと共同作業する、16 October 2026閲覧 ↗