事前学習

1. 定義

事前学習とは、大規模なデータセットをAIモデルに読み込ませ、言語の構造や一般的な知識をあらかじめ習得させる段階のことです。特定のタスクに特化する前の段階であるため、モデルの基礎的な能力を形成するために非常に重要なプロセスとして位置づけられています。

2. 仕組みと種類

この工程を経たモデルは汎用的な能力を持ち、その後に特定の業務向けに調整するファインチューニングを行うことで、効率的に高精度なAIが構築されます。最初から全てを特定のタスク用に学習させるより計算コストが抑えられるため、現代のAI開発において標準的な手順となっています。

3. 試験ごとの視点

ITパスポート試験や基本情報技術者試験では、生成AIの学習プロセスの一部として扱われます。転移学習の一種として捉えることができ、汎用的な知識を蓄積したモデルを再利用する点が特徴です。ファインチューニングとの手順の前後関係や、それぞれの役割の差異が試験で問われるポイントです。