1.51k likes | 1.73k Views
Neuro-komputery. Ryszard Tadeusiewicz. Współczesne komputery są coraz większe i coraz doskonalsze. Cyfronet AGH Superkomputer SGI 2800 „Grizzly”.
E N D
Neuro-komputery Ryszard Tadeusiewicz
Współczesne komputery są coraz większe i coraz doskonalsze Cyfronet AGH Superkomputer SGI 2800„Grizzly”
Wciąż jednak nawet najdoskonalsze z posiadanych przez nas komputerów daleko ustępują niewielkiemu narządowi, który każdy posiada, a niektórzy nawet używają...
Nic dziwnego, że chcąc doskonalić systemy informatyczne zaczynamy obecnie coraz odważniej budować maszyny wzorowane na budowie i działaniu ludzkiego mózgu
Współcześnie budowane neurokomputery noszą zwykle nazwę Sieci Neuronowych i pod taką nazwą będą w tym referacie przedstawiane.
Sieci neuronowe są narzędziemktórego zakres zastosowaństale się poszerza.Należą do tego zakresu między innymi takie zadania, jak: • Tworzenie modeli złożonych systemów • Automatyczne metody przetwarzania, analizy i klasyfikacji złożonych sygnałów • Predykacja szeregów czasowych • i liczne, liczne inne...
Cechy charakterystyczne zadań, przy rozwiązywaniu których sieci neuronowe mają przewagę nad innymi technikami: Częściowy lub całkowitybrak znajomości reguł Duża złożoność Modele statystyczneSystemy ekspertoweMetody dedukcyjne Częściowa znajomość reguł Mała i średnia złożoność Dokładnealgorytmy Nieznajomość reguł rządzących problemem Sieci neuronowe Metody indukcyjne Pełna znajomość reguł Mała i średnia złożoność Stopień złożoności problemu
Zasadnicze zalety,warunkujące używanie sieci neuronowychsą następujące: • Możliwość rozwiązywania problemów niezbyt dobrze sformułowanych formalnie • Możliwość zastępowania procesu „ręcznego” tworzenia modelu procesem uczenia sieci • Brak konieczności jawnego formułowania założeń dla modeli • Możliwość pracy współbieżnej
Zalety te mogą być wykorzystane jedynie wtedy, gdy typ sieci zostanie właściwie dopasowany do charakteru rozwiązywanego zadania
Omówimy teraz elementy, determinujące różne dostępne typy sieci neuronowych
Sieci neuronowe są wzorowane na faktach, które udało się ustalić w trakcie wieloletnich badań ludzkiego mózgu
Nagrody Nobla związane z badaniami układu nerwowego, których wyniki wykorzystano w sieciach neuronowych: • 1904 - Pavlov I.P. - teoria odruchów warunkowych • 1906 - Golgi C., - badanie struktury układu nerwowego • 1906 - Ramón Y Cajal S. - odkrycie, że mózg składa się z sieci oddzielnych neuronów • 1920 - Krogh S.A. - opisanie funkcji regulacyjnych w organizmie • 1932 – Sherrington Ch. S. - badania sterowania nerwowego pracy mięśni • 1936 – Dale H., Hallett L.O. - odkrycie chemicznej transmisji impulsów nerwowych • 1944 - Erlanger J., Gasser H. S. - procesy w pojedynczym włóknie nerwowym • 1949 - Hess W.R. - odkrycie funkcji śródmózgowia • 1963 - Eccles J.C., Hodgkin A.L., Huxley A.F. - mechanizm elektrycznej aktywności neuronu • 1969 – Granit R., Hartline H.K., Wald G. – fizjologia widzenia • 1970 – Katz B., Von Euler U., Axelrod J. - transmisja informacji humoralnej w komórkach nerwowych • 1974 – Claude A., De Duve Ch., Palade G. - badania strukturalnej i funkcjonalnej organizacji komórki. • 1977 – Guillemin R., Schally A., Yalow R. - badania hormonów mózgu • 1981 – Sperry R. - odkrycia dotyczące funkcjonalnej specjalizacji półkul móżdżku • 1981 – Hubel D.H., Wiesel T. - odkrycie zasad przetwarzania informacji w systemie wzrokowym • 1991 – Neher E., Sakmann B. - funkcje kanałów jonowych w komórkach nerwowych
Dzięki wieloletnim badaniom anatomia i fizjologia mózgu jest dzisiaj doskonale znana
Badania te na początku pozwoliły jedynie na ustalenie lokalizacji najbardziej podstawowych funkcji mózgu
Towarzyszyły temu mniej lub bardziej uzasadnione spekulacje na temat zadań, jakie pełnia poszczególne struktury mózgowe
Doskonalenie technik analizy działania mózgu pozwoliło na dokładniejsze określenie tego, w jaki sposób on działa
Dokładniejsze badania pozwoliły zidentyfikować i zlokalizować podstawowe funkcje mózgu
Zasadnicze funkcje mózgu bada się obecnie głównie przy użyciu techniki PET, która bez mała umożliwia „podglądanie myśli” podglądaniemyśli Co ciekawe – technika ta pozwala wykryć i opisać nawet tak subtelne zmiany, jakie wywołuje w mózgu np. romantyczna miłość
Przy użyciu tej techniki można prześledzić nawet zakłopotanie, jakie sprawiają w trakcie percepcji tak zwane obrazy dwuznaczne
Przykład obrazu dwuznacznego, będącego źródłem konfuzji objawiającej się także w aktywności mózgu
Współczesne techniki analityczne pozwoliły sięgnąć nawet w najgłębsze zakamarki mózgu
Wzajemne relacje pomiędzy różnymi systemamineurocybernetycznymi
Jak wynikało z poprzedniego slajdu istnieją różne techniczne realizacje sieci neuronowych, najczęściej jednak stosowana jest symulacja z wykorzystaniem typowych komputerów i specjalnego oprogramowania.
Sztuczna sieć neuronowa, podobnie jak sieci rzeczywiste, zbudowana jest z neuronów
Komórka nerwowa ma wyraźnie zdefiniowany kierunek przepływu sygnałów, co pozwala wyróżnić jej wejścia(jest ich wiele) oraz wyjście.
Budowa wiernego modelu nawetpojedynczego neuronu (komórki Purkinjego) jest bardzo kosztowna (de Schutter’05) • Do zbudowania modelu użyto: • 1600 kompartmentów • 8021 modeli kanałów jonowych • 10 typów różnych złożonych opisów matematycznych kanałów zależnych od napięcia • 32000 równań różniczkowych! • 19200 parametrów do oszacowania przy dostrajaniu modelu • Opisu morfologii zrekonstruowanej za pomocą mikroskopu
Obrazy wyników symulacji komputerowej modelu komórki Purkinjego uzyskane w badaniach de Schuttera: u góry aktywność elektryczna symulowanej komórki, u dołu zjawiska biochemiczne (przepływ jonów wapnia
Komórki nerwowe zwykle mają typowy rozgałęziony kształt, z dobrze wyróżnionym drzewkiem dendrytów i z aksonem dającym odgałęzienia do następnych neuronów
Najczęściej da się wtedy wyraźnie wyróżnić obszar wejściowych i wyjściowych połączeń komórki
Innym razem liczne rozgałęzienia na aksonie zacierają różnicę między drzewem wejść, a gwiazdą wyjść
Zwykle jednak można wyraźnie wskazaćskąd i dokąd przepływają sygnały
Zwykle na wejściu neuron zbiera informacje z raczej małego obszaru poprzedniej warstwy sieci, natomiast rozsyła swój sygnał do większej liczby neuronów kolejnej warstwy
Czasem rozgałęzienia wyraźnie „szukają” swojego docelowego połączenia na wejściu...
Czasem cała struktura komórki ma wyraźnie kierunkowy charakter
Bywają komórki o takiej budowie, że trudno orzec, gdzie jest ich wejście, a gdzie wyjście
Najciekawsze procesy toczą się na złączach pomiędzy neuronami
Neuron - podstawowy element sieci w1 x1 Zadania ??? w2 y x2 Jak zróżnicować te sygnały? wn xn agregacja danych wejściowych obliczenie wartości funkcji aktywacji
Przy stosowaniu sieci neuronowych zasadnicze korzyści odnosi się z procesów uczenia zachodzących w obrębie tak zwanych synaps.
Pojęcie „wagi” synaptycznej jest w sztucznym neuronie bardzo uproszczone, podczas gdy w rzeczywistych komórkach odpowiada mu dosyć skomplikowana struktura anatomiczna i bardzo złożone procesy elektrochemiczne
Własności neuronu determinują: przyjęta agregacja danych wejściowych oraz założona funkcja wyjścia neuron nieliniowy -------------- ---------------- ---------- Agregacja liniowa neuron liniowy w1 x1 w2 y x2 -------- y = s ... wn xn Agregacja radialna
W przypadku neuronu liniowego jego zachowanie daje się łatwo zinterpretować
W przypadku neuronu nieliniowego nie jest tak łatwo, ponieważ zagregowany (w taki lub inny sposób) sygnał wejściowy może być przetworzony przy użyciu funkcji nieliniowej o teoretycznie dowolnym kształcie.