モデル窃取

モデル窃取とは、公開されている機械学習モデルに対して外部から入出力クエリを繰り返し送信し、得られた結果を観察することで、元のモデルを模倣した代理モデルを作成する攻撃手法です。機械学習モデルは、開発に多大な計算資源やデータを必要とする知的財産であるため、その機能を盗用されることは深刻なリスクとなります。

攻撃者は、ターゲットとなるモデルに様々なデータを入力し、それに対する予測結果を集めることで、元のモデルの内部パラメータや意思決定の論理を近似的に再現します。一度代理モデルが完成すれば、ターゲットモデルを使わずに予測を行えるほか、さらに高度な敵対的攻撃を仕掛けるための踏み台としても悪用されます。

G検定では、AIモデルに対する脅威の一つとして位置づけられます。悪意ある第三者がモデルの入出力情報を盗み出すリスクがあることを理解し、APIのレート制限やクエリの監視など、不正なアクセスを防ぐセキュリティ対策が必要であるという観点で問われます。