Pertemuan 5 SUPERVISED HEBBIAN LEARNING

1. Pertemuan 5 SUPERVISED HEBBIAN LEARNING Matakuliah : H0434/Jaringan Syaraf Tiruan Tahun : 2005 Versi : 1

2. Learning Outcomes Pada akhir pertemuan ini, diharapkan mahasiswa akan mampu : • Membuktikan Hebb Rule dengan contoh aplikasi.

3. Outline Materi • Review Vektor • Jaringan Linier Assosiator

4. VECTOR REVIEW • Linier Dependence ( bergantung linier ) • Jika ada n buah skalar a1, a2, …..an dimana paling sedikit satu tidak bernilai nol sedemikian rupa sehingga : a1X1 + a2X2 + …….. + anXn = 0 maka { X1, X2, ……Xn } bergantung linier ( linearly dependent )

5. VECTOR REVIEW • Linier Independence ( bebas linier ) • Jika a1X1 + a2X2 + …….. + anXn = 0 dan a1, a2, …..an semuanya nol maka { X1, X2, ……Xn } bebas linier ( linearly independent ).

6. CONTOH • Jeruk : p1 = Apel : p2 = Misalkan : a1p1 + a2p2 = 0 , hal ini bisa terjadi jika a1 dan a2 sama dengan nol sehingga p1 dan p2 adalah vektor-vektor yang bebas linier, p1 tidak dapat dinyatakan sebagai perkalian bilangan skalar dengan p2 ataupun sebaliknya.

7. INNER PRODUCT DAN NORM • Inner Product • ( x,y ) = xTy = x1y1 + x2y2 + ……… + xnyn • Norm • || x || = ( xTx )1/2 = • Pada aplikasi jaringan syaraf sering berguna untuk menormalisasikan vektor input yang berarti || pi || = 1 untuk setiap vektor input.

8. ANGLE DAN ORTOGONALITY • ANGLE ( Sudut antara 2 vektor ) • ORTHOGONALITY • Dua vektor x , y  X dikatakan orthogonal jika ( x,y ) = 0.

9. SUPERVISED HEBBIAN LEARNING • LINIER ASSOCIATOR

10. LINIER ASSOCIATOR • Linier associator adalah sebuah contoh dari tipe jaringan syaraf yang disebut dengan associative memory. Tugas dari associative memory adalah mempelajari Q buah pasangan dari prototype input/output vector : { p1,t1 } , { p2,t2 } , ………. , { pQ,tQ } • Dengan kata lain jika jaringan menerima input p = pq, maka jaringan harus memberikan output a = tq untuk q = 1,2,….,Q. Jika input berubah sedikit ( p = pq +  ) maka output hanya akan diubah sedikit pula ( a = tq+  ).

11. HEBB RULE • Hebb’s Postulate : If two neuron on either side of a synapse are activated simultaneously, the strength of the synapse will increase. • Koneksi ( synapse ) antara input p dan output a adalah bobot w sehingga secara matematis postulate diatas dapat ditulis sbb :

12. HEBB RULE Secara Vektor dengan dengan learning rate  = 1 : Jika bobot awal diinisialisasi dengan nol, maka :

13. CONTOH • Prototipe vector input/output dinyatakan sbb : Tentukanlah matriks bobot W.

14. JAWAB Test dengan prototipe input :