30秒で分かる説明
LLM(大規模言語モデル)は、とても大量の文章を読んで、言葉のつながり方を身につけたAIの本体です。質問に答えたり、文章を書いたり、要約したりするチャットAIの中身は、たいていこのLLMです。
詳しい説明
LLMは Large Language Model の頭文字です。「大規模」は、学習に使う文章の量と、モデルの中の調整できる値の数がとても多いことを表しています。LLMは、文章を「トークン」という小さな単位に区切って扱い、それまでの流れから次に来そうなトークンを選び続けることで、文章を作ります。
一度に読める文章の長さには上限があり、これを「コンテキストウィンドウ」と呼びます。長い資料を渡すと、全部を読みきれなかったり、前半の内容を取りこぼしたりすることがあります。
LLMが知っているのは、学習した時点までの情報です。社内の資料や最新の情報をもとに答えさせたいときは、関係する文書を探して一緒に渡す「RAG」という仕組みを組み合わせます。
どこで使われる?
- 対話型のAIサービスや、社内向けのチャットボット
- 文章の要約、翻訳、言い換え
- 問い合わせの下書きや、分類の手伝い
- 手元のパソコンで動かす「ローカルLLM」
具体例
会議の文字起こしをLLMに渡し、「決まったことと、次にやることを分けて箇条書きにして」と頼みます。長い会議だと上限を超えることがあるので、前半と後半に分けて渡すと取りこぼしが減ります。
よくある勘違い
- LLMは正しい知識のデータベースだ、と思われがちですが、実際は言葉のつながりのパターンを学んだものです。事実の確認には向いていません。
- 大きいモデルほどどんな仕事でも良い、と思われがちですが、用途によっては小さいモデルのほうが速く、費用も抑えられることがあります。