本文へスキップ

GLOSSARY

ファインチューニング

学習済みLLMに追加データを与え特定用途に適応させる手法。RAGとの使い分けが要。

ふぁいんちゅーにんぐ11分で読めます

ファインチューニングとは、学習済みの大規模言語モデル(LLM)に追加のデータを与えて再学習させ、特定の用途・文体・タスクに適応させる手法です。ゼロからモデルを作り直すのではなく、汎用の土台にわずかな上書き学習を重ねる点が特徴で、その代わりにモデル内部の数値(重み)が実際に書き換わります。回答のたびに外部文書を読み込ませる RAG(検索拡張生成)とは仕組みが根本的に異なり、AI活用の設計ではこの二つの使い分けが最初の分岐点になります。

ファインチューニングとは(正確な定義)

ファインチューニングは、事前学習(プレトレーニング=インターネット規模の大量テキストで言葉の一般的なパターンを学ばせる最初の学習段階)を終えたモデルを出発点として、そこに目的別のデータセット(=入力と望ましい出力の組を集めた学習用データ)を追加で学習させ、モデルの重みを更新する操作を指します。つまり「新しいモデルを一から作る」のではなく、「完成済みのモデルに、特定用途向けの微調整を上乗せする」学習です。土台がすでに言語の一般知識を持っているため、比較的少ないデータと計算量でも、狙った向に出力の傾向を寄せられます。

ここで重要なのは、更新されるのがモデルの「重み」だという点です。重みとは、モデル内部に無数に存在する数値パラメータで、入力からどんな出力を導くかを決める、いわば学習の成果そのものです。ファインチューニングはこの数値を追加データに合わせて少しずつ書き換えるため、学習後のモデルは「新しい振る舞いを身につけた別の状態」になります。一度学習させれば、その傾向は回答のたびに外部情報を渡さなくても発揮されます。この「重みを書き換える」という一点が、外部情報を都度差し込むだけの RAG との決定的な違いです。

お実務で単に「ファインチューニング」と言うとき、その中身はいくつかに分かれます。すべての重みを更新するフルファインチューニング(=モデル全体を再学習する重い方式)のほか、ごく一部の小さな追加パラメータだけを学習して本体は凍結する PEFT(Parameter-Efficient Fine-Tuning=計算とメモリを節約する効率的な微調整の総称)、その代表格である LoRA(ローラ=低ランク適応。小さな行列だけを学習して本体に足し込む手法)などがあります。PEFT 系はコストと運用のしやすさが利点ですが、いずれも「重みに手を入れて振る舞いを変える」という本質は共通しています。

なぜ重要か(AI検索での位置づけ)

AI検索対策を考えるうえでファインチューニングが重要なのは、「AIに自社の知識をどう持たせるか」という問いに対する二大選択肢のひとつだからです。生成AIは学習した時点までの知識しか内部に持たず、その後に増えた情報や社内固有の情報は原則として知りません。この不足を補う道が、大きく分けてファインチューニング(学習で覚え込ませる)と RAG(回答時に読み込ませる)の二つです。どちらを選ぶかで、情報の更新頻度・コスト・出典の示しやすさが大きく変わります。

AI検索の文脈で特に効くのは、出典(=回答の根拠となった情報源)の扱いです。RAG は回答のたびに外部文書を引いてくるため、「どの文書を根拠にしたか」を回答に添えやすく、引用・リンク表示と相性が良い設計です。一方ファインチューニングは知識をモデルの重みに溶かし込むため、どの情報から答えたのかを後から特定しにくく、出典明示が難しくなります。AIに引用されることを狙う立場からは、この差は無視できません。「自社サイトを情報源として引用してもらう」ことが目的なら、多くの場合ファインチューニングよりも、外部文書として拾われやすいコンテンツ設計と RAG 型の照合を意識するほうが理にかないます。

もうひとつ重要なのが情報の鮮度です。価格・在庫・最新の仕様のように頻繁に変わる情報を重みに覚え込ませると、変わるたびに再学習が必要になり、更新が追いつかず古い答えを返し続けるリスクが生じます。変化の速い事実は RAG で外から与え、変わりにくい「文体・口調・応答の型・業界特有の言い回し」といった振る舞いの部分をファインチューニングで固める、という役割分担が、AI検索まわりの設計では定石になります。

仕組み

ファインチューニングで学習済みモデルが特定用途向けに作り替えられるまでの流れは、おおむね次の順序で進みます。

  1. 土台となる学習済みモデル(ベースモデル)を選びます。用途・言語・ライセンス・コストの条件で決めます。
  2. 学習用データを用意します。多くは「入力(指示や質問)」と「望ましい出力(模範解答)」の組を大量に集めた形式にします。
  3. データの品質を整えます。誤り・偏り・重複・不適切な例を取り除きます(=この工程の質が仕上がりを大きく左右します)。
  4. 学習を実行し、追加データに合わせてモデルの重み、または追加パラメータだけを更新します。
  5. 検証用データ(学習に使っていない別データ)で出力を評価し、狙った振る舞いになったか・悪化した点はないかを確かめます。
  6. 問題なければ本番へ組み込み、以後も定期的に評価してずれを監視します。

この過程で注意が要るのが、過学習(オーバーフィッティング=学習データに合わせすぎて、そればかりを丸暗記し、未知の入力にうまく答えられなくなる状態)と、破滅的忘却(カタストロフィック・フォゲッティング=新しいことを覚える過程で、元々できていたことを忘れてしまう現象)です。追加データが少なすぎたり偏っていたりすると、この二つが起きやすくなります。だからこそ、学習前後を必ず比較評価し、狙った改善と引き換えに別の能力が落ちていないかを点検する工程が欠かせません。

ファインチューニングと RAG の使い分け
観点ファインチューニングRAG(検索拡張生成)
変えるものモデルの重み(内部の記憶)モデルは変えず、回答時に外部文書を渡す
得意なこと文体・口調・応答の型・専門的な振る舞い最新・大量・頻繁に変わる事実の反映
情報の更新再学習が必要(手間・費用がかかる)文書を差し替えるだけで即反映
出典の明示難しい(どこから答えたか特定しにくい)しやすい(引いた文書を根拠に示せる)
初期コスト学習の計算コストと準備が重い検索基盤の構築が要るが学習は不要

横にスクロールできます

具体例・データ

ファインチューニングが向く場面と、RAG のほうが向く場面を具体で並べると、判断の勘所が見えてきます。

  • ファインチューニング向き:問い合わせ対応を「常に丁寧で簡潔な自社トーン」に固定したい場合です(=文体・応答の型を安定させたいとき)。
  • ファインチューニング向き:特定業界の専門用語や言い回しを、毎回説明せずとも自然に使わせたい場合です。
  • ファインチューニング向き:決まった出力形式(例:必ず箇条書きで3点にまとめる)を確実に守らせたい場合です。
  • RAG 向き:価格表・在庫・最新の製品仕様など、頻繁に更新される事実を反映させたい場合です。
  • RAG 向き:回答の根拠として「どの社内文書・どのページから答えたか」を明示したい場合です。

現実の運用では、二者択一ではなく併用が有力です。振る舞い(文体・型・専門性)はファインチューニングで固め、変わりやすい事実は RAG で外から与える、という組み合わせにすると、双方の弱点を補い合えます。「AIに何かを覚えさせたい」と感じたとき、それが変わりにくい振る舞いなのか、変わりやすい事実なのかをまず切り分けることが、無駄な再学習コストを避ける第一歩になります。

データ品質が仕上がりを決める

ファインチューニングの成否を最も左右するのは、追加データの量よりも質です。少数でも狙いが一貫した良質な例のほうが、大量でも玉石混交の例より良い結果を生みやすいという傾向があります。逆に、誤りを含む例・矛盾する例・偏った例を学習させると、モデルはその欠点まで忠実に真似てしまいます。「モデルは与えた見本を映す鏡」だと考えると、なぜ準備工程にこれほど手間をかけるのかが腑に落ちます。

また、学習用データに一部の話題・言い回しばかりが偏って含まれていると、モデルの応答も同じ方向に引っ張られます。想定される多様な入力を、バランスよく代表するデータを揃えることが重要です。データを集める段階で「この見本を大量に学ばせたら、モデルはどんな癖を身につけるか」を想像しながら選別する姿勢が、後戻りの少ない上がりにつながります。

軽量な手法と全体更新の違い

前述のとおりファインチューニングには、モデル全体を再学習するフルファインチューニングと、小さな追加パラメータだけを学習する PEFT(効率的な微調整)があります。両者の差は、コストと運用のしやすさに大きく現れます。フルは全ての重みを書き換えるため計算資源を多く使い、学習後のモデルも丸ごと1つの大きな成果物になります。対して LoRA(低ランク適応)に代表される PEFT は、本体を凍結したまま小さな部品だけを学習して足し込むため、学習が軽く、複数の用途向けに小さな部品を差し替えて使い分ける、といった柔軟な運用がしやすくなります。

実務では、まず PEFT で狙いが出るかを試し、それで足りない特殊な用途に限ってフルを検討する、という順序が費用対効果の面で理にかないます。いずれにせよ「重みに手を入れて振る舞いを変える」という本質は共通しており、学習前後を評価して副作用を点検する規律は、どちらの方式でも等しく必要です。手法の軽さは、評価を省いてよい理由にはなりません。

誤解・注意点

もうひとつの誤解は「データは多ければ多いほど良い」というものです。前述のとおり、質の伴わないデータはむしろ悪影響で、過学習や偏りを招きます。加えて、学習前に良好だった一般的な受け答えが、狭い追加学習の副作用で劣化することもあります(=破滅的忘却)。だからこそ、学習後は必ず「狙った改善が出たか」と「別の能力が落ちていないか」の両面を、学習に使っていないデータで評価する必要があります。片面だけ見て「良くなった」と判断すると、見えないところで後退している危険があります。

実務での扱い方

  1. まず「覚えさせたいのは振る舞いか、事実か」を切り分けます。事実なら RAG を第一候補にし、ファインチューニングに飛びつきません。
  2. 振る舞いを固めたい場合でも、まずはプロンプト(=AIへの指示文)の工夫で足りないか試します。指示だけで狙いが出るなら学習コストは不要。
  3. それでも不十分なときにファインチューニングを検討し、少数でも一貫した良質なデータを用意します。
  4. 学習前後を同じ検証データで比較し、改善と副作用(能力低下)を必ず両面で確認します。
  5. 本番投入後も定期的に出力を点検し、実際の入力傾向とのずれや情報の陳腐化を監視します。

AI検索対策の立場からは、自社が引用されることを狙うなら、ファインチューニングよりも「拾われやすい良質なコンテンツを外部に置き、RAG に読ませる」設計のほうが優先されがちだと押さえておくと判断を誤りません。ファインチューニングはあくまで、自社が運用するAIの振る舞いを整える手段であって、他社のAI検索に自社を引用させる直接の手段ではない、という切り分けが実務では効きます。

ファインチューニングと RAG は、どちらか一方を選ぶものですか。

いいえ。多くの実務では併用します。文体・口調・応答の型など変わりにくい振る舞いをファインチューニングで固め、価格や最新仕様など変わりやすい事実を RAG で外から与える、という役割分担が定石です。両者は競合ではなく補完関係にあります。

追加データは多いほど良い結果になりますか。

一概には言えません。量より質が効きます。誤りや偏りを含むデータを大量に学ばせると、モデルはその欠点まで真似てしまいます。少数でも狙いが一貫した良質な例のほうが、玉石混交の大量データより良い結果を生みやすい傾向があります。

自社サイトをAI検索に引用させたい場合、ファインチューニングは有効ですか。

直接の手段としては通常不向きです。他社のAI検索に引用されるかは、その検索側が外部文書として拾えるかで決まるため、拾われやすい良質なコンテンツを用意することが本筋です。ファインチューニングは、自社が運用するAIの振る舞いを整えるための手段です。

関連する出典

この記事の根拠にした一次情報(=発表元がみずから出している資料)です。

  1. OpenAI Platform — Fine-tuning guide(新しいタブで開く)https://platform.openai.com/docs/guides/fine-tuning
  2. Wikipedia — Fine-tuning (deep learning)(新しいタブで開く)https://en.wikipedia.org/wiki/Fine-tuning_(deep_learning)

CONTACT US

お問い合わせ

調査・取材・共同研究のご相談を承ります。

FOLLOW US

最新情報をチェック

新着のレポートと研究員コラムをお知らせします。

調査レポート日本のAI検索 実態レポート 第1回:通信キャリア編