チャットボットが同じ質問に異なる回答をするのはなぜですか？
チャットボットが同じ質問に異なる回答をするのは、次に来る可能性の高い単語を選びながら毎回回答を生成し、その選択には通常、ある程度のランダム性が含まれるためです。保存済みの1つの回答を取り出しているわけではありません。
架空の従業員30人の建築設計事務所、Fairline Architectsを想像してください。共同経営者が、AIアシスタントの導入前に3つの点を説明するよう、事務所管理担当のローワンに求めています。ローワンのメモには、'開発許可が不要となる工事のルールについて2回聞いたら、違う答えが返ってきた'、'存在しない計画指針の文書番号を出典として示した'、'画像ツールは新しいスタジオのきれいなスケッチを作ったが、窓の位置がそろっていない'とあります。共同経営者は、ツールが壊れているのか知りたいと思っています。壊れているわけではありません。設計されたとおりに動いているのです。
生成AIモデルはどのように学習しますか？
大規模言語モデルは、まず膨大なテキストで次のテキスト片を予測するように学習し、その後、指示に従って役立つ回答をするための追加学習を受けます。Anthropicの用語集では、事前学習を、大規模なラベルなしコーパスを使い、それまでの文脈から次の単語を予測する学習と説明しています。その後、ファインチューニングと人間のフィードバックによる強化学習を行います。人が回答例に順位を付け、モデルはよりよい回答を優先するように学びます。
モデルは、すべての文書のコピーを保持しているわけではありません。予測がデータ内のパターンと一致するように、内部の数十億個の数値を調整します。その結果として得られるのは、検索可能な図書館というよりも、言葉や概念が通常どのように結び付くかを非常に細かく捉えた感覚に近いものです。
トークンとは何ですか？また、モデルはトークンをどのように予測しますか？
トークンはモデルが読み書きする小さな単位で、多くの場合、単語または単語の一部に当たります。モデルは、次に来る可能性が高いトークンを繰り返し予測して文章を生成します。Googleの機械学習講座では、言語モデルを、長い並びの中にあるトークンやトークン列が出現する確率を推定するものと説明しています。また、約400トークンは英語の約300語に相当するとしています。
各ステップで、モデルは次に続く多数のトークン候補を採点します。その後、アプリケーションが1つを選びます。最も確率の高いものを選ぶ場合もありますが、多くの場合は確率の高い候補の中から抽出します。「温度」という設定は、この選択の幅を調整します。値が高いほど表現が多様になり、低いほど予測しやすい表現になります。Anthropicは、温度を最低にしても結果が完全に決定的になるわけではないと説明しています。これが、ローワンの最初のメモへの答えです。
画像生成AIはどのような仕組みで動きますか？
多くのAI画像生成ツールは、拡散と呼ばれる手法を使います。モデルは画像からノイズを取り除くことを学習し、画像を生成する際にはランダムなノイズから始め、入力された文章の説明に沿って段階的に整えていきます。Hugging Faceの拡散モデル講座では、学習はさまざまな量のノイズを加えてモデルに修復を教えること、生成は画像が現れるまでランダムなノイズを徐々に整えることだと説明しています。
モデルは建築家の図面に従うのではなく、もっともらしく見えるように画素を生成するため、窓の位置関係、看板の文字、指の本数などの細部を間違えることがあります。これがローワンの3つ目の指摘です。
このことは、ツールの使い方にどのような影響がありますか？
ツールの記憶に頼るのではなく、判断の基にしてほしい事実をツールに渡すべきだという意味です。不十分なプロンプトの例：'建物の裏側を増築する場合、許可申請なしで施工できる条件は何ですか？' 回答は流暢でも、試すたびに内容が変わり、異なる年や国の規則が混ざることがあります。また、もっともらしく見える架空の文書への参照が含まれる場合もあり、これがローワンの2つ目のメモの理由です。
改善したプロンプト：ローワンさんは、公式の建築計画ガイダンスから該当箇所を貼り付け、次のように尋ねます。'以下の文章だけを使って、建物背面の平屋増築に関する寸法制限を表にまとめてください。文章で扱われていない事項は、記載なしとしてください。' これでモデルの仕事は、参照できる文章を言い換えて整理することになります。これはモデルが得意とする作業で、ローワンさんは各行を原文と照合できます。
生成AIにはどのような限界がありますか？
生成AIの主な限界は、誤ったことを自信ありげに述べること、検索や文書に接続しない限り知識に期限があること、コンテキストウィンドウに収まる情報しか扱えないこと、学習データの偏りを反映する場合があることです。いずれも、より丁寧に頼めば直る不具合ではありません。モデルの仕組みに由来するものです。
事実、数値、名前、参照情報を信頼できる情報源と照合し、正確さが重要な場合は必ずツールに元の資料を渡します。
このレッスンはTosheo.aiの講座一覧のどこに位置づけられていますか?
「生成AIの仕組み」は、AIの基礎カテゴリに属しています。初心者向けAI学習の初期に学ぶレッスンであり、生成AIコースの最初のレッスンでもあります。Tosheo.aiの実践課題では、温度に相当する設定を変えたり、参照元の文章を与えたりしたときにツールがどう動くかを予測し、実際に試します。評価基準に沿ったフィードバックでは、その説明が同僚にも伝わるものになっているかを確認します。
出典と対象範囲
Google開発者向けサイト、機械学習集中講座、大規模言語モデルとトークンの入門（19 October 2026確認） ↗
Anthropic Claudeドキュメント、用語集：事前学習、RLHF、温度、トークン（確認日：19 October 2026） ↗