1 / 17

Support Vector Machine

Support Vector Machine. 知能システム論. 参考文献 C. Cortes and V. Vapnik , Support-Vector Networks , Machine Learning, 20(3):273-297, September 1995 Vladimir N. Vapnik . The Nature of Statistical Learning Theory . Springer, New York, 1995

Jims
Download Presentation

Support Vector Machine

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Support Vector Machine 知能システム論 • 参考文献 • C. Cortes and V. Vapnik, Support-Vector Networks, Machine Learning, 20(3):273-297, September 1995 • Vladimir N. Vapnik. The Nature of Statistical Learning Theory. Springer, New York, 1995 • 　高須淳宏「Support Vector Machine による分類」bit別冊－発見科学とデータマイニング, 共立出版, 2000年

  2. w b xi Fisher の線形判別 yi = 1 yi = -1

  3. w Fisher の線形判別 m+ m-

  4. 線形判別とマージン m+ x x x x m-

  5. Support Vector Machineマージン (Margin) yi = 1 SVM はマージンを 最大化するアプローチ マージン境界上の点 (support vector) に依存 w yi = -1

  6. 最適超平面　(Optimal Hyperplanes) w0 w0 がマージンを最大化する 超平面を与える場合を考えると 境界線上に載る点が存在するように w0の大きさを調節

  7. 最適超平面の計算: ２次計画問題

  8. 最適超平面の計算：　双対問題へ

  9. 最適超平面の計算：　w0 w0

  10. 最適超平面の計算: マージン

  11. エラーを許す分類へ：　ソフトマージン

  12. ソフトマージン

  13. 非線形の判別関数による分類 正のデータ y=x2 y y y=x 負のデータ x x

  14. 非線形の判別関数：　特徴空間

  15. 非線形の判別関数：　計算量の軽減

  16. d=4, n=3 c1=0, c2=1, c3=2, c4=1 非線形の判別関数：　カーネルトリック

  17. Support Vector Machine のまとめ • 　線形分離にマージンの概念を導入 • 　マージンを最適化する超平面を２次計画法で計算 • support vector によるマージン境界を表現 • 　エラー処理のためソフトマージンを導入 • 　非線形な判別関数による分類　特徴空間の導入 • 　カーネルトリックによる計算の軽減

More Related