AIの本と用語検索

サポートベクターマシン(SVM)

サポートベクターマシン(SVM)は、主に分類や回帰問題に用いられる教師あり学習の一種です。このアルゴリズムの目的は、与えられたデータセットの異なるクラスを最も効果的に分離する決定境界を見つけ出すことにあります。

特に、SVMはマージン最大化というユニークな概念に基づいています。

決定境界と、それに最も近い訓練データ(サポートベクターと呼ばれる点)との間の距離を最大化することで、未知のデータに対する高い汎化性能を実現します。このマージンが広いほど、モデルの信頼性が高いと見なされます。

線形分離不可能なデータセットに対しても、カーネルトリックという強力な手法を適用することで対応可能です。これにより、低次元空間のデータをより高次元の空間へと変換し、その高次元空間で線形分離を可能にします。

代表的なカーネル関数には、線形カーネル、多項式カーネル、ガウスカーネル(RBFカーネル)などがあり、問題に応じて適切なカーネルを選択することが重要です。

SVMの利点は、比較的小規模なデータセットでも高い性能を発揮する点や、過学習のリスクが比較的低い点です。

しかし、大規模なデータセットでは計算コストが高くなる傾向があり、また適切なカーネル関数やハイパーパラメータ(Cやガンマ)の選択がモデルの性能に大きく影響するため、調整には熟練を要します。