わかりやすいパターン認識第６章　特徴空間の変換

わかりやすいパターン認識第６章　特徴空間の変換わかりやすいパターン認識第６章　特徴空間の変換６・６空間変換の計算例　　　　　　　　　　２００３年６月１３日　　　　　　　　　　　　　　結城　　隆

空間変換の計算 • ここでは第６章で述べてきた特徴空間の変換法を具体例を用いて計算し理解を深めることを目的として進めていく。

２クラス２次元特徴ベクトルの具体例 クラス　　に属するパターンをクラス　　に属するパターンをこのとき，　　　　　　　　　　　　　　　　　，でありとなる。

具体例の図　２クラスの特徴ベクトルの分布 （ｂ）.正規化空間 (a).特徴空間

(a)変動行列，分散行列の算出(1) 変動行列　　と，共分散行列　　を求めると

(a)変動行列，分散行列の算出(2) 　ここでは　　　　　　　を仮定する。すると共分散行列はそれぞれ今までの式においてが成立またm=0であるので　　　　　　　　　　　　　　　　　　　　　　　　よりが成り立つ

(b)KL展開による主軸 • 全共分散行列　　　の固有値　　　　　　とそれに対応する正規直固有ベクトル　　　　　　を求めるとなりKL展開によって定まる主軸は(3,2)方向であり，図２(a)のPとなる。これはパターン全体の主軸である。

(c)線形判別法による判別軸 　　　　　　　　　の逆行列より　　これが成立するのは　　　　　　　　　　　　と　　　　　　仮定したためこのとき　　　　　　の固有ベクトルと固有値を求めるとこの固有ベクトル　　の方向は図2(c)におけるDの方向であり、クラス内分散・クラス間分散比最大という基準において二つのクラスを識別するのに最も適した軸

図２：種々の線形変換によって得られる１次元部分空間と決定境界図２：種々の線形変換によって得られる１次元部分空間と決定境界 (b).主軸からの距離 (a)KL展開 (c) 線形判別法

(d)　　の最大値とマハラノビス汎距離 各クラスの平均と全平均とのマハラノビス汎距離の平均値の最大固有値に等しいまた、クラス　　　　の平均間マハラノビス汎距離は

(e) 第一の変換行列　　(1) 線形判別によって求まる変換行列Aは　　　行列　　　と　　　　行列　　　とに分解できるクラス内共分散行列　　　の固有値と正規直交固有ベクトルを求めると

(e) 第一の変換行列 (2) 　　　　　　　　　から第一の変換行列　　は現空間上の点　　　　　　　　　　　を　　で変換した点，すなわち正規化空間上での座標　　　　　　　　　は

(f) 第二の変換行列　　(1) 正規化空間上での各クラスの平均　　　　　　に対してKL展開クラス平均の共分散行列　　　の　　　固有ベクトルを求める固有値と正規直交固有ベクトル

(f) 第二の変換行列　　(2) とするとが直行変換でないため　　　は　　　　　　を通るが，原空間上で　　が　　　　　　　を通るとは限らないことに注意　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　正規化空間上で　　　に垂直な方向　　　は、原空間上では

(ｇ) 決定境界 (a).KL展開によって定まる１次元空間の最適な決定境界 (b).各クラスの分布の主軸　　　　からの距離によって識別した場合の決定境界 (c).線形判別法によって定まる１次元空間の最適な決定境界この三つの決定境界を比べると・与えたれた10個の特徴ベクトルに対して誤識別をするのはどれにおいても各クラス１パターンずつ計２パターン・分布全体の中で誤識別を引き起こす領域を比べてみると，この例では，(c)の　　が最も良い決定境界

わかりやすいパターン認識 第６章 特徴空間の変換