訓練データ（training data）は、機械学習モデルのパラメータを学習するために実際に使われるデータです。画像分類なら画像とクラス情報、文章生成なら大量のテキスト、音声認識なら音声と文字起こしなどが代表例です。ただし、学習方式によって必要なデータの形は大きく変わります。
目次
訓練データとは何か
GoogleのMachine Learning Glossaryではtraining setを「datasetのうちモデルの訓練に使う部分」と位置づけています。つまり「訓練データ」はデータの種類だけではなく、そのデータが学習工程でどの用途に使われるかを示す言葉でもあります。
データセット全体と訓練データは同じとは限らない
一つのデータセットを、訓練用・検証用・テスト用へ分割することがあります。訓練データはモデルの重みなどを更新するために使います。検証データはハイパーパラメータ選択や学習停止判断に使い、テストデータは最終性能を評価するために残します。
この分離が重要なのは、モデルが見たことのあるデータで高得点を出しても、未知データへ汎化できるとは限らないからです。同じ例がtrainingとtestの両方に入るdata leakageが起きると、性能を実際より高く見積もる危険があります。
訓練データは必ずラベル付きではない
教師あり学習では、入力と正解ラベルの組を使うことが多いため、「訓練データ＝ラベル付きデータ」と思われがちです。しかしこれは一般化しすぎです。
教師なし学習ではラベルなしデータから構造を学びます。自己教師あり学習では、データ自身の一部から学習用の目標を作ります。大規模言語モデルの事前学習では、文章中の次のトークン予測などにより、大量のテキストから学習信号を作れます。したがって「ラベルがないから訓練データではない」とは言えません。
「量が多いほど良い」は条件付き
大規模モデルでは大量の訓練データが重要ですが、単純に件数を増やせば必ず性能が上がるわけではありません。重複、ノイズ、誤ラベル、偏ったサンプル、低品質コンテンツが増えれば、モデルへ望ましくないパターンを学習させる可能性があります。
さらに、訓練データの分布と実際に使う場面の分布が大きく違うと性能が落ちます。晴天の昼間の道路画像だけで訓練した認識モデルが、夜間や雪道で弱いといった例です。量だけでなく、代表性、品質、多様性、時間範囲が重要です。
生成AIでは「何を学習したか」の範囲が広い
生成AIの説明で「training data」という言葉が出る場合、事前学習、継続事前学習、ファインチューニング、SFT、選好学習など複数段階のどこを指すのか確認する必要があります。
「このモデルは医療データで訓練された」という表現でも、基盤モデルの事前学習全体が医療データだったのか、一般モデルを医療データで追加学習しただけなのかでは意味が大きく異なります。また、学習データが公開されているか、概要だけか、非公開かによって検証可能性も変わります。
訓練データと著作物・個人情報
訓練データには技術的な品質だけでなく、収集元、利用許諾、個人情報、機密情報などの論点があります。「公開Webから取得した」と「自由に再利用できる」は同じ意味ではありません。データセットのライセンス、利用規約、個人情報処理、削除要求などは別途確認が必要です。
また、モデルから訓練データの具体的な内容がどこまで再現されるかは、モデル構造、重複度、学習条件、攻撃手法などに依存します。「訓練に使った＝モデル内部にその文書がそのまま保存されている」と単純化するのも正確ではありません。
具体例：猫と犬の画像分類
10,000枚の画像データセットを持っているとします。そのうち8,000枚をtraining、1,000枚をvalidation、1,000枚をtestに分けた場合、訓練データは8,000枚です。元の10,000枚全体がdatasetですが、全体をtraining dataと呼ぶと評価用データとの境界が曖昧になります。
さらに、8,000枚のうち猫の写真ばかりが室内、犬の写真ばかりが屋外なら、モデルは動物ではなく背景を手掛かりに学ぶかもしれません。訓練データの品質を見るとは、正解ラベルの精度だけでなく、こうした交絡や偏りを見ることでもあります。
元の文脈へ戻ったときの確認ポイント
「training data」と書かれていたら、まずどの学習段階で使われたデータかを確認します。次に、元datasetからどのように分割されたか、validation/testとの重複がないか、データの収集期間や出所、ラベル付け方法、前処理やフィルタリングを見ます。
生成AIなら、事前学習データとポストトレーニングデータを区別することが特に重要です。また、総量だけでなく、言語・地域・分野・時期の偏りが用途に合っているかを確認してください。
訓練データはモデル性能の重要な材料ですが、それだけで性能や安全性が決まるわけではありません。モデル構造、学習目的、最適化、評価条件も合わせて読む必要があります。
関連するAI用語
- データセット（G057）
- データラベリング（G059）
- アノテーション（G060）
注・出典
AI協働制作について
本記事は、著者が独自に設計した指示、参照資料、出典確認規則、著作権確認および監査工程を組み込んだChatGPT等の生成AIを、情報収集の補助、資料整理、構成検討、草稿作成、文章校正および監査補助に使用して制作しました。記事の対象範囲、情報源の採否、構成、解釈および最終表現は著者が判断し、最終稿を承認しています。著者は、本記事の正確性、独自性、引用、著作権処理および公開内容について責任を負います。制作工程の詳細は「AI協働制作方針」をご覧ください。 AI協働制作方針