サポートベクターマシン(Support Vector Machine)ー機械学習で非常に強力なクラス分類器!ー【Pythonプログラム付】

統計・機械学習

現在,AI技術の中心はビッグデータを活用した Deep Learning ですが,それ以前まではサポートベクターマシン(Support Vector Machine)が主流でした。工学分野では1万以下の少数データを用いる場面も多く,サポートベクターマシンが活躍する機会は未だ多いです。本記事では,少数データセットに対して非常に強力な分類器であるサポートベクターマシンについて解説します。

関連記事はこちら↓

サポートベクター回帰(Support Vector Regression)ー数千のデータセットに対して最強の非線形回帰分析!ー【Pythonプログラム付】
ビッグデータを活用した Deep Learning が現在すさまじい発展を遂げていますが,以前まではサポートベクターマシン(Support Vector Machine)が主流でした。 工学分野ではデータの入手コストが高いことも多く,...

大きい画面で表示したい方はこちらからご覧ください。

pythonによるサンプルプログラムはGitHubで公開しています。

クリエイティブ・コモンズ・ライセンス

 

スライドの目次

  • 2クラス分類問題
  • 線形2クラス分類問題の定義
  • 分類境界のマージンを考える
  • マージン評価のための点と直線の距離の公式
  • マージンの定式化
  • ハードマージンSVMの定式化
  • ソフトマージンSVMへの拡張
  • ソフトマージンの考え方
  • マージンを±1で定義すると何が嬉しいのか
  • ソフトマージンへの制約条件の拡張
  • スラック変数の取りうる値
  • ソフトマージンSVMの主問題
  • 主問題から双対問題へ
  • ラグランジュの未定乗数法による変換
  • 主変数と双対変数
  • ラグランジュ関数の主変数による最小化
  • 主変数を削除する
  • 双対問題が完成
  • サポートベクターマシンの分類境界
  • バイアスの計算
  • 非線形写像
  • 非線形写像したSVM
  • カーネル関数による非線形写像
  • カーネル関数の例

参考文献

  • C.M. ビショップ,パターン認識と機械学習 下, 丸善出版 (2012)
  • 竹内一郎・烏山昌幸,サポートベクトルマシン,講談社 (2015)

質問、コメント等ございましたら、下部のコメント欄,もしくはメールやTwitterよりご連絡ください。

コメント

タイトルとURLをコピーしました