スタッキングとは、機械学習の分野で用いられるアンサンブル学習手法の一つであり、複数の異なる基本モデル（Base Learners）の予測結果を、さらに別の最終的なモデル（Meta Learner または Combiner）に入力として与え、最終的な予測を行う手法です。日本語では「積み重ね」と訳されるように、複数の層（レイヤー）を持つ構造で学習が進められます。

このプロセスの第一段階では、複数の多様なアルゴリズム、例えば決定木、サポートベクターマシン、ニューラルネットワークなど、様々な基本モデルを同じ訓練データセットでそれぞれ独立して学習させます。

ここで重要なのは、それぞれの基本モデルが異なる特性やバイアスを持つことで、予測の際に互いの弱点を補い合えるようにすることです。

第二段階では、これらの基本モデルが訓練データに対して行った予測値を新たなデータセットとして構築します。この新しいデータセットをメタデータセットと呼びます。

例えば、元のデータセットの各行（インスタンス）に対して、基本モデル１の予測値、基本モデル２の予測値、…といった形で特徴量が並びます。

そして、第三段階として、このメタデータセットを入力とし、目的の正解ラベルを出力するように、メタ学習器（通常はロジスティック回帰や線形モデルなど、シンプルなモデルが用いられることが多い）を学習させます。

このメタ学習器の役割は、基本モデル群の予測の傾向を分析し、どの基本モデルの予測をどれだけ信頼すべきかを学習することで、個々のモデルよりも高い精度を持つ最終的な統合予測を生成することにあります。

スタッキングの利点は、単一のモデルでは捉えきれない複雑な関係性やパターンを、多様なモデルの知見を集約することで効果的に学習し、予測性能を大幅に向上させることができる点にあります。

これは、特に予測精度を最大限に高めたいコンペティションや実務において非常に有効な手法とされています。