SVM(サポートベクタマシン)
ハードマージンSVM
SVMはパターン認識手法の一種です。 ハードマージンSVMはその中でも一番基本となるものです。ソフトマージンSVM
上のハードマージンSVMリンクではJavascriptで実装した簡単なデモができます。 そのデモでいろいろいじってみると分かりますが、線形分離不可能(直線では分けられない場合)にはうまく行きません。 それを解決するのがソフトマージンSVMです。
カーネルトリック
ソフトマージンで線形分離不可能な場合でも、分離超平面を決定することができますが、 所詮線形分離なので、性能には限界があります。 カーネルトリックはその限界を取り払い、SVMが注目されるきっかけを作った手法です。
参考
- Wikipedia:Support vector machine
わかんなかったら取り合えずここをみちゃうよね - 小野田 崇 「サポートベクタマシンの概要」
- Support Vector Machine
ActionScriptによる実装例 - SVM
SVMの導出と、SMOアルゴリズムによる解の求め方 - SVMの学習用アルゴリズムSMOを実装してみる