もっともらしい回答だけでは不十分なのはなぜですか？
もっともらしい回答だけでは不十分です。生成AIは、誤った記述、架空の引用、文脈に合わない正しい事実を、すべて同じ自信に満ちた調子で出力できるからです。流暢な文章ほど、こうした問題を見落としやすくなります。NISTの生成AIプロファイルでは、ハルシネーションをリスクとして挙げ、推奨する対応の一つとして、AI出力内の情報源や引用を確認・検証することを示しています。
NIST は、AI の出力には、回答を正当化しているように見える、作り上げられた論理や引用が含まれる場合があり、そのために人が出力を不適切に信頼するおそれがあるとも指摘しています。筋道立った推論が示されていても、結論が正しい証拠にはなりません。なぜこうしたことが起こるのかは、AI のハルシネーションに関するガイドで説明しています。このガイドでは、確認の手順を扱います。
どの主張から先に確認すべきですか？
誤っていた場合の影響が最も大きい主張と、AIが作り上げた可能性が最も高い主張を優先して確認してください。影響の小さい社内向けの下書きなら、一字一句を検証する必要はほとんどありませんが、顧客への提案書に載せる数値は必ず検証する必要があります。この表は、よくある主張の種類ごとに確認の優先順位を決めるための実用的な目安です。チームの業務や承認ルールに合わせて調整してください。
| 主張の種類 | 確認方法 | 使用に適しているかを判断する人 |
|---|---|---|
| 数値、価格、日付 | 再計算または元の記録との照合 | 作成者。社外に出す場合は、さらに別の1人 |
| 引用文と出典表記 | 情報源を開き、該当する箇所を正確に見つけます | 作成者 |
| 氏名、役職、組織 | 公式ページまたは当事者が公開したページを確認 | 作成者 |
| 原因についての記述 | 何が証拠になるかを確認し、なければ削除してください | 作成者と意思決定の責任者 |
| 法律、財務、安全、雇用に関する事項 | 一次資料と適切な専門知識を持つ確認担当者 | 作成者だけでなく、適切な専門知識を持つ人 |
引用はどのように検証すればよいですか？
実際の情報源を開き、その記述を裏付ける箇所を見つけてください。著者または発行元、日付、対象範囲、留保条件を確認します。実在するリンクでも、ページが扱う対象集団、期間、問いが異なれば、根拠としては不十分です。別の人が同じ確認をできるように、情報源を記録してください。
根拠となる箇所が見つからない場合、モデルに自分の引用を確認させるだけで終わらせないでください。不足している根拠を求めるか、その記述を削除するか、未解決と明記してください。別のモデルに確認すべき質問を提案させることはできますが、二つのモデルの回答が一致しても、独立した検証にはなりません。どちらも、もっともらしい同じ誤りを学習している可能性があります。
数値と推論は、どのように確認すればよいですか？
数式、ピボットテーブル、電卓など、独立した方法を使い、提供されたデータから重要な数値を再計算します。単位、期間、比較基準を確認します。合計値が正しくても、変化の理由に根拠がない場合があるため、計算と原因についての主張は分けて扱います。
架空の表で、売上が80から92単位に、費用が50から61単位に変化したとします。増加分はそれぞれ12単位と11単位なので、利益は30から31単位に増えています。ただし、この表だけでは、その変化が新規顧客、価格変更、計上時期のどれによるものかはわかりません。責任ある要約では、変化を示したうえで原因は断定しないか、原因を確定するために必要な証拠を示します。また、生成された要約では、パーセントとパーセントポイントの混同もよくあるため注意してください。
職種とのつながりを確認してみませんか？
計画中のチーム向けトライアルを見る ↗AIが作成した文書の要約は、どのように事実確認すればよいですか？
AIの要約は、書かれていることと省かれていることの両方を確認します。まず、要約から3つか4つの記述を選び、それぞれに対応する箇所を原文で探します。次に、原文の見出しや各節の冒頭を読み、重要な内容が抜けていないか確認します。最後に、限定条件が落ちていないかを確認します。「可能性がある」が「必ず起きる」に、「一部の場合」が「常に」に変わっていたり、「承認を条件として」が完全に消えていたりしないかを見ます。
要約を意思決定に使う場合は、要約する前に、各論点の根拠となる引用を提示するようツールに依頼してください。AnthropicのClaude向け文書では、長い文書を扱う際に、この方法と、引用で裏付けられない主張を削除するよう求める方法を推奨しています。要約の確認は速くなりますが、引用が元のページと一致するかは、引き続き自分で読む必要があります。
十分な事実確認では、具体的に何をしますか？
練習用に、意図的に問題を含めた下書きを示します。架空の制作会社ケストレル・スタジオが、顧客から提供された製品概要を、提案資料に載せる1段落にまとめるようAIアシスタントに依頼しました。製品概要には、顧客の予定管理アプリが2025年3月に公開されたこと、無料プランと有料プランがあること、自社ユーザー200人を対象とした調査で大半が毎週利用していると分かったことが記載されています。
AIによる下書き：2024年初めに公開されたこのアプリは、英国で特に人気のあるスケジュール管理アプリの一つへと急速に成長しました。最近の独立した調査では、利用者の85パーセントが毎日アプリを開くことが示されています。無料プランと有料プランがあります。
主張ごとの確認です。公開日：指示書にはMarch 2025とあるため、early 2024は誤りです。英国で特に人気のある計画管理ツールの一つ：指示書には裏付けがないため、削除します。最近の独立調査：指示書にあるのは顧客企業が自社の利用者を対象に実施した調査なので、独立調査という記述は誤りです。85パーセントが毎日利用：指示書では大半が週単位で利用しているとされており、数値も頻度も創作です。無料プランと有料プラン：裏付けがあります。
レビュー済みの段落：2025年3月に公開されたこのアプリには、無料プランと有料プランがあります。顧客企業が独自に実施した200人の利用者への調査では、大半が毎週利用していると回答しました。レビュー記録には四つの修正点と削除した主張一つが記載されており、資料を顧客に送る前に担当責任者が承認します。
AIは自身の出力を利用者がファクトチェックする手助けをできますか？
AIはファクトチェックの準備を手伝えますが、完了させることはできません。役立つ指示には、「この下書きに含まれる事実に関する主張をすべて番号付きの一覧にする」「各主張について、添付資料の中から裏付けとなる文を引用し、見つからなければ『裏付けなし』と記す」「資料にない数値を特定する」などがあります。こうした指示で、文章を確認用のチェックリストに変えられます。
AIは、独立した検証役にはなれません。同じツールに自分の回答が正しいかと尋ねても、正しいと安心させるような返答になりがちです。Anthropicの文書にある、同じ質問を何度か実行して回答を比較する手法は、不整合の発見に役立ちます。ただし、回答が一貫していても、一貫して間違っている可能性はあります。最後には必ず、元の情報源を開くか、数値を再計算する必要があります。
確認履歴には何を記録すべきですか？
元の主張、検証に使った出典や計算、修正内容、未解決の疑問を残してください。出力が想定用途に適しているかを判断する責任者も明記します。この記録により、すべてのリスクがなくなったと装うことなく、確認の過程を検証できるようになります。
確認履歴を残すために、専用のソフトウェアは必要ありません。社内業務の大半では、文書末尾の短いメモやコメントのやり取りで十分です。顧客への納品物は、通常の承認手順に従ってください。AIの支援を受けても、最終承認者は変わりません。
このチェックリストだけでは不十分なのは、どのような場合ですか？
このチェックリストは業務上の確認手順であり、正確性を認証するものではありません。法的助言、規制当局への提出書類、医療・安全情報、監査済み財務数値、個人の雇用に関する判断には、これだけでは不十分です。どのツールで下書きを作成したかにかかわらず、適切な専門知識を持つ確認者と一次資料が必要です。
必要以上の確認になることもあります。アイデア出し、会議の議題案の一覧、自分だけが読む大まかな初稿などでは、主張を一つずつ確認する必要はほとんどありません。間違えた場合の影響に合わせて、確認の深さを調整してください。