t_wの輪郭

Feedlyでフォローするボタン
あれ

SVM

2024/3/16 23:13:00

サポートベクターマシン (Support Vector Machine, SVM)

線形二値分類器を作るアルゴリズム。

SVMではクラスAとクラスBからの距離が最大になる識別平面を求める。これによって汎化性能が高い識別面が得られる傾向がある。

ラグランジュの未定乗数法カーネルトリック『サポートベクターマシン入門』

カーネルトリック

2024/3/17 0:01:00

SVMなどで非線形な分布のクラスを分類できるようにする技法。PCAでも使えるっぽい雰囲気がある。

入力ベクトルを高次元空間に飛ばして、そこで内積を取るみたいなことをしてる。
なぜそういうことをするかというと、「入力ベクトルの特徴量を増やしたいけどデータ量と計算量は増やしたくない」という要請に基づく。


入力ベクトルを高次元空間に飛ばす関数をカーネル関数と呼ぶ(たぶん)。
カーネル関数には多項式カーネルガウスカーネルシグモイドカーネルがよく用いられる(らしい)。