شبکه هاي توابع بنيادي شعاعي Radial Basis Function Network

1. شبکه هاي توابع بنيادي شعاعي Radial Basis Function Network Vali Derhami Yazd University, Computer Department vderhami@yazduni.ac.ir

2. Outlines • Radial Basis Functions • RBFN با تابع خروجي خطي • RBFNبا تابع خروجي غير خطي نرمال • RBFN درون ياب • RBFN تقريب زننده • مقايسه RBFN با MLP • آموزش RBFN • آموزش ترکيبي • آناليز برازندگي آموزش

3. Radial Basis Functions • هر تابعي را ميتوان بصورت ترکيب خطي توابع بنيادي غير خطي نوشت. • تابع بنيادي شعاعي: • f(d) تابع بنيادي شعاي است اگر • 1) داراي ماکزيمم يکتا در مرکز باشد d=0 => f(d)=1 • 2) f نسبت به d غير صعودي باشد. • 3- lim f(d)=0 when d goes to Infinity

4. نمونه هايي از توابع بنيادي شعاعي • تابع گوسي • تابع logistic

5. The RBF Network • Example: Network function f: R3  R output vector o1 output layer w0 w1 w2 w3 w4 1 RBF layer 1,1 2,2 3,3 4,4 input layer input vector x0=1 x2 x3

6. شبکه توابع بنيادي شعاعي درون يابInterpolation RBFN • درصورتيکه يک شبکه عصبي داده هاي ورودي و خروجي را دقيقا ارائه دهد و مقادير مياني را درون يابي کند اصطلاحا آنرا Interpolation RBFN گويند. • يک RBFN با تعداد توابع بنيادي شعاعي برابر با داده که مرکز توابع برابر با داده هاي خواهد بود. • Nدسته داده (xi; yi) • در صورت استفاده از تابع بنيادي گوسي • MATLAB command: net = newrbe(P,T,SPREAD)

7. شبکه توابع بنيادي شعاي تقريب زنندهApproximation RBFN • اگر تعداد داده ها زياد باشد، با روش درون يابي تعداد زيادي عصب خواهيم داشتم لذا روش تقريب را سعي ميکنيم انجام دهيم. • پارامتر هايي که بايد تعيين شوند • تعداد توابع RBF و نوع آنها • مرکز توابع بينادي شعاعي و ضرايب نفوذ • مقادير وزنهاي در لايه خروجي • استفاده از روشهايي خوشه بندي براي تعيين مرکزها و تعداد آنها • MATLAB command: net = newrb(P,T,GOAL,SPREAD) • net = newgrnn(P,T);

8. مقايسه RBFN و MLP • هر دو جزو شبکه هاي پيشرو • هر دو تقريب زننده جامع • تفاوتهاي ساختاري • MLP داراي يک چند لايه مخفي ولي RBFN تنها يک لايه مخفي • عصب ها در MLP تک بعدي • در MLP تحرک عصب برا اساس ضرب داخلي (WX) در RBFN بر اساس فاصله بردار ورودي و مرکز عصب • شفافيت عملکرد • MLP مانند جعبه سياه • RBFN جعبه سفيد • تعداد عصبهاي RBFN معمولا بيشتر است. • عدم حساسيت به ترتيب داده ها در آموزش در RBFN • سرعت بالاتر آموزش در RBFN

9. Learning in RBF Networks • we first have to define an error function E:

10. روش آموزش مختلط Hybrid Learning • انتخاب ساختار شبکه و مقادير اوليه براي پارامترهاي شبکه • اجرا روش LS براي محاسبه دقيق پارامترهاي خطي • اگر تابع هدف از حد دلخواه کمتر بود توقف آموزش • اجراي يکبار تکرار آموزش بر پايه مشتق براي تازه سازي پارامترهاي غير خطي و بازگشت به مرحله دوم.

11. آناليز برازندگي پس از آموزش • Post Training Regression Analysis پيدا کردن yd بر اساس y Yd=b+mY • هر چه m به يک نزديک تر و b به صفر نزديکتر باشد بهتر است.