YAPAY SİNİR AĞLARI VE NÖRAL HESAPLAMA

1. YAPAY SİNİR AĞLARI VE NÖRAL HESAPLAMA • Prof. Dr. Tülay Yıldırım • tulay@yildiz.edu.tr

2. İÇERİK • Tarihçe • Biyolojik nöron • Matematiksel nöron modeli • Ağ yapıları • Yapay sinir ağlarında öğrenme • Yapay sinir ağı tasarımı ve nöral hesaplama • Sorular

3. Nöral sistemler • Eğitilebilir • Adaptif • Kendi kendine organize olabilen bilgi sistemleridir.

4. Nöral ağlar • Eğitmeye / örnek bilgiye dayanan bir fonksiyon geliştirir. • Tasarımdan ziyade eğitmeyle hesaplama yapıları sağlayabilir.

5. Yapay Sinir Ağlarının Tarihi • Aristotle !... • İlk çalışmalar 1940 yılında başlamıştır. • McCulloch ve Pitts (1943) ilk temel hesap yapan nöron modelini tasarlamayı başarmıştır. • İlk sinaps , fizyolojik öğrenme kuralına ilk adım : Hebb, 1949 yılında, "Hebbian öğrenme kuralı" adında ilk öğrenme şeklini geliştirdi. • 1950'lerde ilk nörobilgisayarlar yapıldı ve 1954'de Minsky tarafından test edildi.

6. Yapay Sinir Ağlarının Tarihi • 1958'de Rosenblatt, nöron benzeri "Perceptron" denen elemanları ortaya koymuştur. • 1960-1962 yıllarında Widrow-Hoff öğrenme kuralı geliştirildi. • 1969 yılında Minsky ve Papert, tek katmanlı ağlarla ayrıcalıklı-veya (XOR) işleminin yapılamayacağını ortaya koydu. • Taylor (1956) ve Steinbuch (1961) çağrışımlı bellek yapılarını ortaya attı. • Van der Malsberg (1973), self organizasyon için modeller sundu.

7. Yapay Sinir Ağlarının Tarihi • Sun-Ichi Amari (1972-1977) tarafından ağırlıklı toplama elemanlarının öğrenmeleri ile ilgili matematiksel teoremler geliştirilmiştir. • Grossberg ve Carpenter (1974-1982), yeni mimari yapıları ve teoremler dizisini ortaya atmıştır (yarışmalı öğrenme). • Kohonen (1974-1989) : Eğiticisiz öğrenme • Hopfield (1982) : Enerji fonksiyonu kavramı • 1986 yılında McClelland ve Rumelhart tarafından Hatanın geriye yayılması metodu geliştirilmiştir.

8. Kullanıcılar • Mühendisler • Bilgisayar bilimciler • Matematikçiler • Ve diğerleri........

9. Uygulama Alanları • Görüntü İşleme • İşaret İşleme • Patern Tanıma • Tıp • Askeri Sistemler • Finansal Sistemler • Planlama, kontrol ve araştırma • Yapay Zeka • Güç Sistemleri

10. YAPAY SİNİR AĞLARI KONUSUNDA YOĞUNLAŞAN ÇALIŞMALAR CANLI SİNİR SİSTEMİNİN BİR ANLAMDA MODELLENMESİDİR.

11. Seri çalışma Hızlı birimler Sayısal Tam tanımlı komut dizini Giriş verilerine duyarlı Her adım önemli Paralel çalışma Yavaş birimler Analog Eksik veya bozulmuş bilgiye adapte olabilir. Giriş verilerine duyarsız Birimlerin yapılan ana işe katkısı azdır. Bilgisayar Beyin

12. Biyolojik Nöron

13. Yapay Sinir Ağı Modeli • Tek yönlü işaret kanalları ile birbirine bağlanan işlemsel elemanlardan oluşur. • Çıkış işareti tek olup kopyalanabilir. • Daha önce öğrendiği bilgiyi eksik veya bozuk giriş verildiği zaman bile yeniden üretebilir. • Lineer olmayan bir karakteristiğe sahip olmaları nedeniyle gerçek dünya problemlerine daha doğru çözümler getirebilirler.

14. YSA Modelinde neler olmalı? • İşlem birimleri (nöronlar) • Aktivasyon durumu • Birimler arası bağlantı ağırlıkları • Propagasyon kuralı • Aktivasyon fonksiyonu • Offset • Bilgi toplama metodu • Çevre

15. İşlem elemanının yapısı

16. İleri Beslemeli Ağ Mimarisi

17. Geri Beslemeli Ağ Mimarisi Çıkışlar Girişler Z-1 : gecikme operatörü

18. Aktivasyon Fonksiyonları

19. Eğiticili Öğrenme

20. Eğiticisiz Öğrenme

21. Karar sınırları

22. Uygulama Metodu • Sınıflama • Kümeleme • Çağrışımlı Bellek

23. YSA Tasarım Parametreleri • Bağlantı stratejisi /ağ topolojisi /ağ yapısı • Birim karakteristikleri • Eğitme prosedürleri • Eğitme ve test setleri • Giriş/çıkış temsili • Ön- ve son-işleme

24. Nöral hesaplama için mühendislik yaklaşımları ..... • YSA teknikleri problem için uygun mu? • Problemin çözümü tek mi? • Duruma uygun YSA yapıları geliştirilebilir mi? • Çözüm prosedürünün hesaplama kompleksliği nedir?

25. Tasarım sırasında ...... • Ağ istendiği gibi eğitilebilir mi? • Problemde çözümü imkansız kılan belirsizlikler var mı? • Uygun ağ yapısı veya topolojisi nedir? • Ağı gerçeklemek ve eğitmek için ne çeşit hesaplama kaynakları mevcut (zaman, depolama, hafıza, işlemci)?

26. Avantajları • Yoğun bir şekilde paralel • Paralellikten dolayı hataya toleranslı • Adaptif olarak tasarlanabilir • Eğitme setinin dışında problemin tam tanımlı olması gerekmez.

27. Dezavantajları • Rasgele uygulamalar için kesin kurallar ve tasarım kriterleri yoktur. • Ağın iç çalışmasını değerlendirecek genel bir yol yoktur. • Eğitme zor veya İMKANSIZ olabilir. • Ağın gelecekteki performansını tahmin etmek zordur.

28. BÜTÜN PROBLEMLERİ ÇÖZEBİLECEĞİNİ SÖYLEMEK GERÇEKÇİ DEĞİL !