オンライン学習

学習を一度で終えるか、繰り返すか

Google の Machine Learning Crash Course は、モデルの学習のしかたを大きく2つに分けて説明している。

• 静的学習(オフライン学習): モデルを一度だけ学習し、その学習済みモデルをしばらくの間そのまま使い続ける。
• 動的学習(オンライン学習): モデルを継続的に、あるいは少なくとも頻繁に学習し、通常は直近に学習したモデルを使う。

両者の違いは、学習を一度で終えるか、繰り返し行って新しいモデルに入れ替え続けるかという、運用上の違いである。

静的学習のモデルが古くなる例

利用者が花を買う確率を予測するモデルを考える。時間の制約から、このモデルは7月と8月の花の購入行動のデータだけを使って一度だけ学習された。数か月はうまく動いたが、バレンタインデー前後になると予測がひどく悪くなった。花を贈る行事の時期には、利用者の行動が大きく変わるためである。

このように、特徴量とラベルの関係が時間とともに変わると、一度だけ学習したモデルは古くなり、予測が劣化していく。

オンライン学習の利点

最大の利点は適応性である。新しいデータが届くたびにそのデータで学習できるため、モデルは特徴量とラベルの関係の変化に追従し、古くなることによる問題の多くを避けられる。

オンライン学習の欠点

その代わりに手間が増える。新しいモデルを作り、試験し、公開する作業を絶えず続けなければならない。さらに、学習ジョブが健全に、意図どおりに動いているかを継続的に監視する必要がある。不具合のあるジョブや入力データの破損など、学習で問題が起きた場合に備えて、モデルを以前のスナップショットへ戻す(ロールバックする)仕組みのような支える基盤も要る。これに対して静的学習は、学習時の監視の要求が比較的軽く、本番運用で考えるべき多くの事柄から切り離される。

どちらを選ぶか

データセットが本当に時間とともに変わらないなら、作成と保守の費用が安い静的学習を選ぶのがよい。ただしデータセットは時間とともに変わりやすく、海面の高さのように一定だと思える特徴量でも変化しうる。そのため静的学習を選んだ場合でも、入力データの変化は監視し続ける必要がある。