MobileNet

モバイルと組み込み機器のための軽量モデル

MobileNetは、モバイル機器や組み込み機器で動く画像認識の用途に向けて提案された、効率のよいモデルの一群です。無駄を省いた簡素な構造を持ち、深さ方向分離畳み込み(depthwise separable convolution)を使って軽量なディープニューラルネットワークを組み立てます。さらに、処理の遅延(レイテンシ)と精度のあいだのトレードオフを調整するための、単純な2つのハイパーパラメータを備えています。これにより、モデルを作る人は、自分の用途の制約に合わせて適切な大きさのモデルを選べます。

深さ方向分離畳み込みの仕組み

MobileNetの中心にあるのが深さ方向分離畳み込みです。これは畳み込みを分解する手法の一種で、標準的な畳み込みを2つの処理に分けます。

• 深さ方向の畳み込み(depthwise convolution): 入力の各チャネルに対して、それぞれ1つのフィルタを適用します。
• 点単位の畳み込み(pointwise convolution): 1x1の畳み込みで、深さ方向の畳み込みの出力を結合します。

標準的な畳み込みは、入力のフィルタリングと結合を1つの段階でまとめて行い、新しい出力の組を作ります。これに対して深さ方向分離畳み込みは、この処理をフィルタリングのための層と結合のための層という、別々の2つの層に分けます。この分解によって、計算量とモデルの大きさが大幅に減ります。

計算量はどれだけ減るか

MobileNetは3x3の深さ方向分離畳み込みを使っており、標準的な畳み込みと比べて8〜9倍少ない計算量で済みます。その代わりに生じる精度の低下はわずかです。計算量を大きく削りつつ精度をあまり落とさない点が、限られた計算資源で動かす用途に向いている理由です。

ネットワークの層の構成

MobileNetの構造は、最初の層を除いて深さ方向分離畳み込みで組み立てられています。最初の層だけは通常の畳み込み(full convolution)です。すべての層の後ろにはバッチ正規化とReLUの非線形関数が続きます。ただし最後の全結合層だけは非線形関数を持たず、分類のためのソフトマックス層に出力を渡します。深さ方向の畳み込みと点単位の畳み込みを別々の層として数えると、MobileNetは28層になります。

2つのハイパーパラメータで大きさを調整する

MobileNetには、より小さく効率のよいモデルを作るための2つのハイパーパラメータがあります。

• 幅の乗数(width multiplier): ネットワークを各層で一様に細くする役割を持ちます。
• 解像度の乗数(resolution multiplier): 入力画像の解像度を下げて、計算コストを減らします。

この2つはネットワーク全体にかかる単純な設定値で、遅延と精度のトレードオフを効率よく調整できます。精度をできるだけ保ちたいのか、処理を速く軽くしたいのかといった用途の条件に応じて、同じ構造のままモデルの大きさを選べる点がMobileNetの特徴です。

押さえておきたい整理

MobileNetを理解するには、次の2点を結び付けて覚えると整理しやすくなります。1つ目は、フィルタリングと結合を別の層に分ける深さ方向分離畳み込みによって、計算量とモデルの大きさを減らしていることです。2つ目は、幅の乗数と解像度の乗数という2つのハイパーパラメータで、用途の制約に合わせてモデルの大きさと精度、速度の釣り合いを調整できることです。