らいむ

LIME

LIME = Local Interpretable Model-agnostic Explanations

複雑なモデルの予測根拠を局所的に説明する手法です。入力データをわずかに変化させ、その反応から単純なモデルをあてはめることで、予測に寄与した特徴量を特定し、結果の解釈を容易にします。

詳しい説明

LIMEは、複雑なモデルの予測根拠を局所的に説明する技術です。モデルがなぜその予測を出したのかを人間が解釈可能な形で提示することを目的としており、説明可能なAI（XAI）の手法の一つとして知られています。

仕組みとして、予測したいデータ点を中心に少しずつ変化させたデータを生成し、その結果をモデルに入力します。観測された出力に対して単純なモデル（線形回帰など）をあてはめることで、元のモデルがどの特徴量を重視したかを近似的に特定します。

G検定では、XAI（説明可能なAI）の文脈で登場します。モデルの種類を選ばない（Model-agnostic）という性質が重要で、ブラックボックスなモデルであっても、その予測の解釈を助けるための有効なツールとして理解しておく必要があります。