- 生成AIが文章を作るときの仕組み
- トークンとLLMが何を指すのか
- 学習と推論という2つの段階の違い
- 一度に読める量に上限がある理由
- もっともらしい誤りが起きる理由
結論
生成AIは、文章の意味を人と同じように分かって書いているわけではありません。やっていることは、ここまでの文章に続く言葉として、どれが来やすいかを予測し、1つずつ足していくことです。膨大な文章から言葉の並び方の傾向を身につけているので、結果として筋の通った文章になります。
この仕組みを知っておくと、得意なこと（下書き、言い換え、要約）と、苦手なこと（事実の保証、最新の情報、計算の正確さ）の境目が見えてきます。
文章を「トークン」に区切って扱う
生成AIは、文章をそのまま1文字ずつ扱うのではなく、トークンという小さな単位に区切って扱います。トークンは、単語や、単語の一部、記号などのかたまりです。「請求書を送ってください」という文なら、「請求」「書」「を」「送って」「ください」のように分けられるイメージです。
どこで区切るかはモデルによって違い、日本語では1文字が1トークンになるとは限りません。サービスの利用料や「一度に読める量」がトークン数で決まっていることが多いのは、AIの側がこの単位で文章を数えているからです。
同じ文章でも、モデルが違えばトークン数は変わります。料金や上限の目安は、使うサービスの公式情報で確認してください。
LLMは「次に来る言葉」を予測する
文章を作る生成AIの中心にあるのが、LLM（大規模言語モデル） です。大量の文章を読み込んで、「この言葉の後には、どんな言葉が来やすいか」の傾向を、非常に細かい単位で覚えたプログラムと考えると分かりやすくなります。
たとえば「本日はお忙しいところ」と来たら、続きは「ありがとうございます」「恐れ入ります」あたりが来やすい、という予測です。LLMは、予測した1トークンを文の後ろに足し、足した後の文章をもとにまた次を予測する、という作業を繰り返して文章を伸ばしていきます。長い返答も、この繰り返しでできています。
ここで大事なのは、予測の根拠が「その内容が正しいか」ではなく「その並びがありそうか」だという点です。人が読んで自然な文章になるのはこのためで、同時に、自然なのに間違っている文章が出てくる理由にもなっています。
学習と推論は別の段階
生成AIには、大きく分けて2つの段階があります。
- 学習：大量の文章を使って、言葉の並び方の傾向をモデルに身につけさせる段階です。時間も計算の設備も大きく必要で、利用者が普段目にする部分ではありません。
- 推論：学習を終えたモデルに質問や指示を入れ、答えを作らせる段階です。チャット画面で文章を送ると返事が返ってくる、あの動きが推論です。
学習はある時点までの文章で行われるので、それより後の出来事はモデル自身の知識には入っていません。「昨日発表されたこと」を聞いても答えられない、または古い内容で答えてしまうのはこのためです。検索の結果を読み込ませる機能があるサービスもありますが、それは推論のときに情報を足しているのであって、モデルが覚え直したわけではありません。
一度に読める量には上限がある
AIが1回の推論で読める文章の量には上限があります。この範囲をコンテキスト（コンテキストウィンドウ） と呼びます。入力した指示や資料、それまでの会話、これから書く返答が、すべてこの範囲に入ります。
チャットで長く話し込んだとき、最初のほうに伝えた条件を守らなくなることがあります。会話が長くなって古い部分が範囲から外れたり、情報が多すぎて重要な部分に注意が向きにくくなったりするためです。上限の大きさはモデルによって違い、変わりやすいので、ここでは数字を挙げません。
実務では次のような工夫が役に立ちます。
- 大事な条件は、会話の途中でももう一度書く。
- 長い資料は、関係する部分だけを渡す。
- 話題が変わったら、新しい会話を始める。
もっともらしい誤り（ハルシネーション）が起きる理由
生成AIが、事実と違う内容をいかにも本当らしく書くことがあります。これをハルシネーションと呼びます。存在しない本の題名、架空の制度の名前、ありそうな数字などが典型です。
理由は、ここまでの説明とつながっています。LLMは「ありそうな続き」を作る仕組みなので、答えを知らないときに「知りません」と止まるより、形の整った文章を作ってしまうことがあります。本人に嘘をつくつもりがあるわけではなく、正しいかどうかを確かめる手順が、予測そのものには含まれていないのです。
金額、日付、法律や制度、人名、出典のURLは、生成AIの答えをそのまま使わず、元の資料で確かめてください。
実務での使い分け
社内でお知らせの文面を作る場面で考えます。「来月から経費精算の締め日が変わることを、全員に分かりやすく伝える文章を書いて」と頼むと、生成AIは読みやすい下書きをすぐに出してくれます。文の組み立てや言い回しは、生成AIの得意な部分です。
一方で、下書きに「締め日は毎月25日」と書かれていたら、その日付が本当に社内の決定と合っているかは人が確かめます。AIは社内の決定を知らないので、よくありそうな日付を入れているだけかもしれません。社内の資料を読ませて答えさせる仕組みもあり、次の記事で説明するRAGがその代表です。
まとめ
- 生成AIは、意味を理解しているのではなく、続きの言葉を予測して足していく。
- 文章はトークンという単位で扱われ、料金や上限もこの単位で決まることが多い。
- 学習の後の出来事は、モデル自身の知識には入っていない。
- 一度に読める量には上限があり、長い会話では条件が抜けやすい。
- もっともらしい誤りが起きる前提で、事実や数字は元の資料で確かめる。