現在,AI技術の中心はビッグデータを活用した Deep Learning ですが,それ以前まではサポートベクターマシン(Support Vector Machine)が主流でした。工学分野では1万以下の少数データを用いる場面も多く,サポートベクターマシンが活躍する機会は未だ多いです。本記事では,少数データセットに対して非常に強力な分類器であるサポートベクターマシンについて解説します。
関連記事はこちら↓
サポートベクター回帰(Support Vector Regression)ー数千のデータセットに対して最強の非線形回帰分析!ー【Pythonプログラム付】
ビッグデータを活用した Deep Learning が現在すさまじい発展を遂げていますが,以前まではサポートベクターマシン(Support Vector Machine)が主流でした。
工学分野ではデータの入手コストが高いことも多く,...
大きい画面で表示したい方はこちらからご覧ください。
pythonによるサンプルプログラムはGitHubで公開しています。
スライドの目次
- 2クラス分類問題
- 線形2クラス分類問題の定義
- 分類境界のマージンを考える
- マージン評価のための点と直線の距離の公式
- マージンの定式化
- ハードマージンSVMの定式化
- ソフトマージンSVMへの拡張
- ソフトマージンの考え方
- マージンを±1で定義すると何が嬉しいのか
- ソフトマージンへの制約条件の拡張
- スラック変数の取りうる値
- ソフトマージンSVMの主問題
- 主問題から双対問題へ
- ラグランジュの未定乗数法による変換
- 主変数と双対変数
- ラグランジュ関数の主変数による最小化
- 主変数を削除する
- 双対問題が完成
- サポートベクターマシンの分類境界
- バイアスの計算
- 非線形写像
- 非線形写像したSVM
- カーネル関数による非線形写像
- カーネル関数の例
参考文献
- C.M. ビショップ,パターン認識と機械学習 下, 丸善出版 (2012)
- 竹内一郎・烏山昌幸,サポートベクトルマシン,講談社 (2015)
質問、コメント等ございましたら、下部のコメント欄,もしくはメールやTwitterよりご連絡ください。