SVM2024/3/16 23:13:00 サポートベクターマシン (Support Vector Machine, SVM) 線形二値分類器を作るアルゴリズム。 SVMではクラスAとクラスBからの距離が最大になる識別平面を求める。これによって汎化性能が高い識別面が得られる傾向がある。
カーネルトリック2024/3/17 0:01:00 SVMなどで非線形な分布のクラスを分類できるようにする技法。PCAでも使えるっぽい雰囲気がある。 入力ベクトルを高次元空間に飛ばして、そこで内積を取るみたいなことをしてる。 なぜそういうことをするかというと、「入力ベクトルの特徴量を増やしたいけどデータ量と計算量は増やしたくない」という要請に基づく。 入力ベクトルを高次元空間に飛ばす関数をカーネル関数と呼ぶ(たぶん)。 カーネル関数には多項式カーネル・ガウスカーネル・シグモイドカーネルがよく用いられる(らしい)。