こんにちは、にどねゆうきです。AI・機械学習についての資格試験であるディープラーニングのG検定の勉強を始めたのですが、その中で「事前学習済みモデル」「転移学習」「ファインチューニング」という言葉の理解に苦労しました。
色々調整しているのは分かるのですが、なんだかすごく似ててごっちゃになるんですよね。
そんなコトバたちですが、gemini2.0に聞きながら調べてる中でそれぞれの関係性や役割が少しずつ理解できるようになってきました。
そこで今回は自分自身の学習メモも兼ねて、これらの概念についてGPTとChatGPTを例に整理してみたいと思います。
専門的な知識はあまりない文系脳の私でも（なんとなく概要が）理解できた内容なので、特にAIについての知識がない方にとっても分かりやすく内容かと思います。
なお、あくまで初学者の私が調べまとめたモノとなりますので、誤りなどございましたらご指摘頂けましたら大変幸いです..!!
事前学習済みモデルとは？
まず、今回の記事の中心となる「事前学習済みモデル」について。
これは、あらかじめ大量のデータで学習されたディープラーニングモデルのことです。
例えば、GPT（Generative Pre-trained Transformer）というモデルは、インターネット上の膨大なテキストデータを学習し、言葉の意味や文章の構造を理解しています。
イメージとしては、「会話の知識が詰まった巨大な脳」のようなものです。スターフォックス64の最後のアンドルフみたいな感じです。違うか。
事前学習済みモデルの例
会話を例に考えてみます。
事前学習済みモデルは過去の膨大な会話の記録をすべて読み込み、その内容を理解しているような状態です。
様々な会話のパターンや言葉の使い方が頭の中に詰まっている状態ですね。
この状態のモデルは、まだ特定の会話のスタイルに特化しているわけではなく、様々な種類の会話に応用できる可能性を秘めています。
転移学習とは？
次に、「転移学習」について。
転移学習とはあるタスクで学習した知識を、別のタスクに応用する手法のことです。
例えば、GPTのような事前学習済みモデルは、膨大なテキストデータで学習した「会話の一般的な知識」を持っています。
この知識を、カスタマーサポートっぽい会話をするとか、村上春樹みたいな小説の登場人物っぽい会話をさせるとか、別の種類の会話に応用するのが転移学習です。
転移学習を使うと、ゼロから学習する場合に比べて、少ないデータ量で効率的にモデルを学習させることができます。数億円をかけてゼロから村上春樹っぽい会話をさせるAIを作るのは正気ではないので、こうして転移学習という過程を経ることの重要性が分かります。
転移学習の例
例えるなら、日常会話の知識を、ビジネスの場での会話に応用するようなもの。
普段の友達との会話で身につけた言葉遣いや話し方は、ある程度はビジネスの場での会話でも活かすことができますよね。
転移学習も、これと似たようなイメージです。
「会話の基礎知識」を学習済みのモデルを、別の種類の会話（ビジネスならこう話した方がいいよ）に応用することで、効率的に学習ができるのです。
ファインチューニングとは？
次に、「ファインチューニング」について。
ファインチューニングとは、転移学習で応用したモデルを、さらに特定の会話のスタイルに特化させるための微調整のことです。
例えば、事前学習済みのGPTを、カスタマーサポートの会話に特化させるために、カスタマーサポートの会話データを用いて、モデルのパラメータを少しずつ調整します。
この微調整によって、モデルは、より高い精度で特定のスタイルの会話を実行できるようになります。
ファインチューニングの例
例えるなら、ビジネスの場で使う会話スキルを磨くために、さらに研修やロールプレイングを行うようなもの。
ビジネスシーンに特化した会話の練習を重ねることで、より丁寧な言葉遣いや適切な受け答えができるようになりますよね。
つまり、基本的な会話能力を身につけた上で、特定の会話のスタイルに特化させるために、微調整を加えるのがファインチューニングです。
GPTとChatGPTの関係性で理解を深める
３つの言葉の違いを調べてきましたがちょっとフワっとしていますので、GPTとChatGPTの関係でもう１度整理してみます。
GPTは、事前学習済みモデルの一つで、大量のテキストデータを学習して、言語に関する一般的な知識、つまり様々な会話の知識を持っています。
一方、ChatGPTは、GPTをベースに作られたチャットボットです。GPTの知識を「転移」させ、さらにチャットという会話のスタイルに特化するように「ファインチューニング」されています。
つまり、GPTは、様々な会話の知識を持つ人で、ChatGPTは、その知識を使ってチャットをする人、のようなイメージです。
-
事前学習（GPT）：様々な会話の知識を学ぶ
GPTは、インターネット上の膨大なテキストデータを使って、言語の構造、単語の意味、文法、様々な会話のパターンを徹底的に学習します。
例えるなら、過去の膨大な会話の記録をすべて読み込み、会話に関する知識を吸収している状態です。 -
転移学習（GPTの知識をチャットに応用）：
ChatGPTは、GPTが学習した知識を、チャットという会話のスタイルに応用します。
この段階で、GPTのモデルは、チャットという会話のスタイルに適応するための土台を築きます。
例えるなら、様々な会話の知識を身につけた人が、チャットという形式で会話をする準備を始めるようなものです。
-
ファインチューニング（ChatGPT）：チャットのスキルを磨く
ChatGPTは、チャットデータを用いて、チャットに特化した能力を強化します。
例えば、チャットでの質問に適切に答えたり、チャットの流れを理解したり、ユーザーの感情に寄り添った応答を生成したりする能力を学習します。
例えるなら、チャットのトレーニングを重ね、チャットのスキルを磨いているようなものです。
-
タスク実行（ChatGPTの会話）：チャットスキルを活かす
ファインチューニングを終えたChatGPTは、ユーザーからの質問や指示を受け取り、チャットスキルを活かして、適切な応答を生成します。
例えるなら、チャットのトレーニングを終えた人が、その知識とスキルを駆使して、チャットでスムーズに会話を進めるようなものです。
似たようなことを何度も書いてしまいましたが、事前学習済みモデル、転移学習、ファインチューニングの関係性はこのような形になっています。
私も分かったような気になっているだけではありますが、少なくともどのような段階、どのような順番でそれぞれが行われるかについては腹落ちすることが出来ました。
