SHAP（SHapley Additive exPlanations）は、機械学習モデルの予測を説明するための手法です。

この手法は、予測結果における各特徴量の貢献度を定量的に評価します。これは、協力ゲーム理論のシャプレー値という概念に基づいています。

協力ゲームでは、各プレイヤーが全体の利益にどれだけ貢献したかを公平に配分する方法を考えます。この考え方を機械学習モデルに適用し、各特徴量を「プレイヤー」とみなし、モデルの予測を「全体の利益」と捉えます。

SHAPは、ある特定の予測値とモデルのベースラインとなる平均的な予測値との差を、各特徴量に公平に分解することで、その予測がなぜそうなったのかを説明します。

具体的には、特徴量のありとあらゆる組み合わせを考慮し、その特徴量がある場合とない場合の予測値の差を計算し、その平均値をとることで、個々の特徴量の限界的な貢献度を算出します。このプロセスによって得られる値がSHAP値です。

SHAP値は、特徴量が予測値をどれだけ押し上げたか、または押し下げたかを示します。正の値は予測値を増加させる方向に働き、負の値は減少させる方向に働いたことを意味します。

このアプローチは、モデルの種類（ツリーベースモデル、線形モデルなど）を問わず適用できるモデル非依存性を持っているため、様々なモデルの解釈に利用可能です。これにより、モデルの透明性を高め、その挙動を理解し、信頼性を向上させることができます。