290 likes | 853 Views
Örüntü Tanıma. Hafta 9: Radyal Temelli Fonksiyon Ağları (RBF) Yrd. Doç. Dr. Serap KAZAN. Radyal Temelli Fonksiyon Ağları. Sinir Ağları birkaç girişten bir veya daha fazla çıkış ile lineer olmayan bir eşleme için güçlü bir çerçeve sunar.
E N D
Örüntü Tanıma Hafta 9: Radyal Temelli Fonksiyon Ağları (RBF) Yrd. Doç. Dr. Serap KAZAN
Radyal Temelli Fonksiyon Ağları Sinir Ağları birkaç girişten bir veya daha fazla çıkış ile lineer olmayan bir eşleme için güçlü bir çerçeve sunar. Sinir Ağlarının birkaç farklı paradigması vardır. Bunlardan bazıları (örneğin PNN ve k-en yakın komşu) parametrik değildir ve bunlar parametre kümesi kestirimini kapsamaz. Bazıları da (örneğin lineer diskriminant fonksiyonu) parametriktir.
Sinir Ağının önemli bir uygulaması regresyondur. Girişleri ayrık sınıf etiketlerine eşlemek yerine sinir ağı giriş etiketlerini sürekli değerlere eşler. Sinir ağlarının ana sınıfı radyal temelli fonksiyon (RBF) ağlarıdır. Burada RBF ağlarının mimarisini inceleyerek regresyon ve sınıflandırma uygulamalarından bahsedeceğiz.
RBF Ağının Mimarisi Girişi x ve çıkışı y(x) olarak alırsak RBF ağının mimarisi Gauss fonksiyonunu temel fonksiyon olarak seçersek, şeklinde verilebilir. Burada ci merkezler ve σgenişlik olarak adlandırılır. ci merkezli M tane temel fonksiyon vardır. wi’ler ağırlıklar olarak adlandırılır.
RBF Ağları Kullanılarak Eğri Uydurma Regresyonda RBF ağları uygulamalarına eğri uydurma örneği ile giriş yapabiliriz. σ=1, c1 =2, c2 =5, ve c3=8 alınarak aşağıdaki denklemde ağırlıklar ve merkezler değiştirilerek aşağıdaki şekiller çizilebilir.
Ağırlıklar ve merkezler değiştirilerek eğrilerin şekli düzenlenebilir. Böylece gözlemlenmiş veri örneklerinden herhangi bir bilinmeyen lineer olmayan bir fonksiyonu RBF kullanarak kestirebiliriz. xi reel değerler almak üzere (x1, t1 ),…(xn,tn) çiftleri kümesi verilsin. RBF ağı veri kümesi kullanılarak eğitilir. Amaç y(xi) değerlerinin mümkün olduğunca ti değerlerine yakın olmasıdır.
Yukarıdaki şekiller aynı merkez ve farklı ağırlıklar için RBF fonksiyonlarıdır.
Yukarıdaki şekiller aynı ağırlıklar ve farklı merkezler için RBF fonksiyonlarıdır.
Örneğin, aşağıdaki tabloda verildiği gibi (x1, t1 ),…,(x10, t10)’a kadar 10 tane veri örneği kümesine sahip olduğumuzu varsayalım. Veri kümesi t=sin(2πx) kullanılarak üretilmiştir.
Genelde RBF ağlarının eğitimi ci merkezlerinin yerinin tespit edilmesini ve wi ağırlıklarının kestirilmesini kapsar. σ’nın da ayarlanması gerekir. Örneğin σ=1 olarak sabit alınabilir. Başlangıç olarak ci ’ler verildiğinde wi ağırlıklarının kestirilmesine bakalım. Merkezleri tespit etmek için kullanılan metotlardan daha sonra bahsedilecektir.
Bu örnek için c1 =0.2, c2=0.4, c3=0.6, c4=0.8 olarak bize 4 merkez verilmiştir. Ayrıca σ=1 olarak ayarlanmıştır. Bu bize aşağıdaki 4 temel fonksiyonu verir.
Verilen on veri örneği ile ϕ’nin matris biçimi şeklinde verilebilir.Buradaki Φi,j değerleri aşağıdaki şekilde hesaplanır.
4 bilinmeyen parametre için 10 eşitlik var (Φkare matris değil) kesin bir çözüm yok. En küçük kareler kestirimi şeklinde hesaplanır ve sonucu bulunur.
Sonuç RBF ağı aşağıdaki denklemde görüldüğü gibi herhangi bir x’i kestirmek için artık hazırdır.
Şekil 3. Eğri uydurmak için ortaya çıkan RBF ağı sonuçları. Kodlar sinEX.m’de kullanılmıştır.
Regresyon için RBF ağının oluşturulma özeti aşağıdaki gibidir; • ci merkezlerini ve sayısını tespit et; • Bütün eğitme veri örnekleri için Φi,j ‘leri hesapla; • Φvet’yi matris biçimine dönüştür. • denklemini hesapla • Herhangi bir yeni x örneği için kestirim yapmak için aşağıdaki RBF ağı sonucunu kullan
RBF için Matlab Örneği (sinEx.m) clear; for i=1:10 ; x(i)=i/10 ; y(i)=sin(x(i)*2*pi); end; hold on; plot(x,y,'o'); c=[0.2 0.4 0.6 0.8]; for i=1:10; ph1(i)=exp(- (x(i)-c(1))^2/2 ); ph2(i)=exp(- (x(i)-c(2))^2/2 ); ph3(i)=exp(- (x(i)-c(3))^2/2 ); ph4(i)=exp(- (x(i)-c(4))^2/2 ); end; P=[ph1' ph2' ph3' ph4']; w= inv(P'*P )*P'*y'; yhat=P*w; hold on;plot(x,yhat,'*');
Kaynaklar • PatternRecognitionandImageAnalysis,Gose, Earl ; Richard Johnsonbaugh, SteveLost, PrenticeHall, 1996 • PatternRecognitionandMachineLearningBishop, Christopher M. , Springer , 2006 • Introduction to Pattern Recognition and Computer Vision, Koichiro DEGUCHI, Graduate School of Information Sciences, Tohoku University, 2011 • PatternClassification, Richard O. Duda, Peter E. Hart, David G. Stork