発展:推論特化モデル(考える時間を与えて解かせる)
言語モデルのレッスンの続きとして、答える前に考える手順を長く費やすことで難しい問いを解く、推論特化モデルを掘り下げます。モデルを大きくして賢くする学習時の工夫と、答えるときに考える時間を長くとる推論時の工夫という二つの向き、思考の連鎖を訓練に組み込むこと、複数の道すじを試して多数決をとる自己整合性、自分の答えを見直す自己検証までを実装のコードは扱わず、なぜ考える時間が効くのかに絞って説明します。
言語モデルのレッスンの続きとして、答える前に考える手順を長く費やすことで難しい問いを解く、推論特化モデルを掘り下げます。モデルを大きくして賢くする学習時の工夫と、答えるときに考える時間を長くとる推論時の工夫という二つの向き、思考の連鎖を訓練に組み込むこと、複数の道すじを試して多数決をとる自己整合性、自分の答えを見直す自己検証までを実装のコードは扱わず、なぜ考える時間が効くのかに絞って説明します。