Technologia

1. Technologia Inteligentne Systemy Autonomiczne Wykorzystano wykłady Ray Kurzwail, The Singularity Summit at Stanford oraz Dr Kazimierza Duzinkiewicza, Politechnika Gdańska Janusz A. Starzyk Wyższa Szkoła Informatyki i Zarządzania w Rzeszowie

2. Jak stworzyć wysoka inteligencje? • Musimy wiedzieć jak • Musimy rozwinąć metody jej implementacji • Musimy mieć środki do jej budowy i ciągłej operacji

3. Resources – Evolution of Electronics From Ray Kurzwail, The Singularity Summit at Stanford, May 13, 2006

4. By Gordon E. Moore

6. Clock Speed (doubles every 2.7 years) From Ray Kurzwail, The Singularity Summit at Stanford, May 13, 2006

7. Podwajanie (albo skrócenie o połowę) czasu • Dynamiczna pamięć RAM “Połowienie” Wielkości Skali 5.4 lat • Dynamiczna pamięć RAM (bity/dolar) 1.5 roku • Średnia cena tranzystora 1.6 roku • Cena mikroprocesora na cykl produkcyjny tranzystora 1.1 roku • Suma sprzedanych bitów 1.1roku • Sprawność Procesora w MIPS 1.8 roku • Ilość tranzystorów w mikroprocesorach Intel 2.0 lata • Szybkość zegara Mikroprocesora 2.7 lat From Ray Kurzwail, The Singularity Summit at Stanford, May 13, 2006

8. From Ray Kurzwail, The Singularity Summit at Stanford, May 13, 2006

9. From Hans Moravec, Robot, 1999

10. Przetwarzanie szeregowe Wrażliwe na błędy Wymaga oprogramowania Niski koszt Dobrze rozwinięte metody programowania Przetwarzanie równolegle Odporne na błędy Wymaga zaprojektowania Wysoki koszt Prototypy hardwarowe trudne do wykonania Software czy hardware? Software Hardware

11. Zalety biologicznych systemów nerwowych:  Odporność na uszkodzenia elementów  Zdolność uczenia  Zdolność przetwarzania informacji zaszumionej lub niespójnej  Nieduże wymiary, zwartość, małe zużycie energii Przetwarzanie neuronowe jest równolegle W przeciwieństwie do przetwarzania wprowadzonego przez von Neumanna, opartego na sekwencyjnym wykonywaniu instrukcji, który jest do dzisiaj podstawą działania prawie wszystkich komputerów Z wykładu Dr Kazimierza Duzinkiewicza, Politechnika Gdańska

12. Porównanie przetwarzania komputerowego i neuronowego Przetwarzanie Cecha Komputerowe Neuronowe Postać danych wejściowych Cyfrowa lub analogowa Cyfrowa Wybór architektury sieci i reprezentatywnych wzorców Przygotowanie przetwarzania Opracowanie algorytmu Sposób wprowadzania wiedzy Przez programowanie Przez uczenie Struktura przetwarzania Przetwarzanie szeregowe Przetwarzanie równoległe Arytmetyka wysokiej dokładności Przekształcenia nieliniowe o niewielkiej dokładności Cechy obliczeń Przechowywanie algorytmu przetwarzania Architektura sieci i wagi połączeń Zblokowane pamięci ROM i RAM Przechowywanie danych Zblokowane pamięci RAM Sygnały w sieci Z wykładu Dr Kazimierza Duzinkiewicza, Politechnika Gdańska

13. Porównanie przetwarzania komputerowego i neuronowego Sztuczne Sieci Neuronowe (ANN) próbują przybliżyć systemy komputerowe do zdolności przetwarzania informacji w mózgu Z wykładu Dr Kazimierza Duzinkiewicza, Politechnika Gdańska

14. Przyszłe możliwości oprogramowania/sprzętu Złożoność mózgu ludzkiego

15. Dlaczego jest to ważne? Source: SEMATECH

16. Rozpiętość produkcyjna  Wyroby o niskiej złożoności? Procent powierzchni chipów który musi być użyty przez pamięć żeby zachować wydolność produkcji w SOC Źródło = Japoński przemysł LSI

17. Samo-organizujace Uczące sie Sieci • Samo-organizacja • Rzadkie i lokalne połączenia • Dynamicznie przełączane • Sterowane danymi uczenie w czasie rzeczywistym • Obwody scalone łączą tranzystory w systemy • Łatwo złożyć układ z milionów tranzystorów • Pierwszych 50 lat rewolucji mikroelektronicznej • Samo-organizujace sieci łącza procesory w systemy • Łatwo złożyć układ z milionów procesorów • Następnych 50 lat rewolucji mikroelektronicznej

18. Założenia Self Organizing Learning Arrays SOLAR • SOLAR pseudoprzypadkowo łączy grupy neuronów (minikolumny) • Każda minikolumna ma ta sama strukturę • Każda kolumna wykonuje ten sam algorytm obliczeniowy zgodnie z hipoteza Mountcastle • V. Mountcastle argumentuje ze wszystkie rejony kory mózgowej wykonują ten sam algorytm obliczeniowy • VB Mountcastle (2003). Introduction [to a special issue of Cerebral Cortex on columns]. Cerebral Cortex, 13, 2-4.

19. Opis struktur SOLAR • SOLAR jest regularna struktura identycznych komórek obliczeniowych połączonych programowalnymi kanałami przesyłowymi. • Każda komórka może się samoorganizować przez adaptacje swojej funkcji w odpowiedzi na informację zawartą w danych wejściowych. • Komórki wybierają swoje wejścia z przylegających kanałów przesyłowych i wysyłają swoje wyjścia do kanałów przesyłowych. • Komórki obliczeniowe mogą być zgrupowane w minikolumny.

20. Architektura SOLAR SOLAR jest regularna struktura identycznych komórek obliczeniowych połączonych programowalnymi kanałami przesyłowymi.

21. Organizacja Połączeń w SOLAR Komórki wybierają swoje wejścia z przylegających kanałów przesyłowych i wysyłają swoje wyjścia do kanałów przesyłowych.

22. Hybrydowe połączenia Potokowe Połączenia szeregowo – równolegle w układzie procesorów z kanałem połączeń Cztery stany 1. Bezczynny 2. Czytanie 3. Działanie 4. Pisanie

23. Płytka drukowana SOLAR XILINX VIRTEX XCV 1000 Implementacja układowa systemu SOLAR zawiera 4 kostki XILINX XCV 1000.

24. System SOLAR Płytki drukowane systemu SOLAR Mogą być łączone w struktury 3-wymiarowe.

25. Struktura Sieci • Wielowarstwowa dwu lub trzy wymiarowa • Sieć dwuwymiarowa: • Wejście wektorowe • Kolumny kolejnymi warstwami • Sieć trójwymiarowa • Lepiej nadaje sie do przetwarzania obrazów • połączenia typu “Small world” • Większość krótkich połączeń • Tak jak w sieciach biologicznych • Niewielka ilość długich połączeń

26. Połączenia w SOLAR Początkowa i końcowa struktura połączeń w przypadku problemu przyznawania kart kredytowych

27. Wyniki Klasyfikacji przy użyciu SOLAR

28. Nadzieje Pokładane w Obudowanej Inteligencji Rozwój inteligencji maszyn będzie miał ogromny wpływ na życie i organizacje społeczeństw • Dla Społeczeństwa • Postęp technologii • Roboty • Maszyny uczące • Inteligentne urządzenia • Nadchodzi era inteligencji • Rewolucja przemysłowa • Rewolucja technologiczna • Rewolucja informatyczna ISAC, a Two-Armed Humanoid RobotVanderbilt University

29. Nadzieje Pokładane w Obudowanej Inteligencji • Dla Społeczeństwa • Społeczeństwo umysłów • Ponad ludzka inteligencja • Rozwój nauki • Rozwiązanie bolączek społecznych • Wzrost zrozumienia i tolerancji • Poprawa jakości i warunków życia

30. Nadzieje Pokładane w Obudowanej Inteligencji • Dla Przemysłu • Rozwój technologiczny • Duzy wzrost przemysłu elektronicznego • Nowe rynki zbytu • Rozwój ekonomiczny

31. Biologicznie Inspirowane Systemy (Wpływ na transport kosmiczny, naukę o Kosmosie i o Ziemi ) 2002 2010 2020 2030 Samo Budujące sie Systemy Embrionika Transport Kosmiczny Inspirowane biologicznie pojazdy kosmiczne Mission Complexity Sztuczny mozg Siec sensorów Extremophiles detektory zycia na Marsie Skora i Kości Samoreperujące sie układy i systemy ochrony termicznej Komputery DNA Biologiczna imitacja Sztuczne nanofiltry o dużej rozdzielczości Biologiczne nanofiltry o niskiej rozdzielczości

32. Wygląda jak “Science fiction” • Jeżeli próbujesz patrzeć daleko w przyszłość i to co widzisz wygląda jak “science fiction”, to możesz się mylić. • Ale gdy to nie wygląda jak “science fiction”, to napewno sie mylisz. Z prezentacji przez Feresight Institute

33. Obudowana Sztuczna Inteligencja Referencje: [1] E. R. Kandel et al. Principles of Neural Science, McGraw-Hill/Appleton & Lange; 4 edition, 2000. [2] F. Inda, R. Pfeifer, L. Steels, Y. Kuniyoshi, “Embodied Artificial Intelligence,” International seminar, Germany, July 2003. [3] R. Chrisley, “Embodied artificial intelligence, ” Artificial Intelligence, vol. 149, pp.131-150, 2003. [4] R. Pfeifer and C. Scheier, Understanding Intelligence, MIT Press, Cambridge, MA, 1999. [5] R. A. Brooks, “Intelligence without reason,” In Proc. IJCAI-91. (1991) 569-595 . [6] R. A. Brooks, Flesh and Machines: How Robots Will Change Us, (Pantheon, 2002). [7] R. Kurzweil The Age of Spiritual Machines: When Computers Exceed Human Intelligence, (Penguin, 2000).

34. Pytania ?

36. Zastosowania Maszynowego Uczenia Analiza danych finansowych – przewidywanie głównej bankowej stopy oprocentowania Dane sa dostępne na: www.forecast.org: “rynek jest nieprzewidywalny” • Dane wejściowe • Miesięczna bankowa stopa oprocentowania • Stopa dyskontowa • Stopa oprocentowania funduszy federalnych • Stopa oprocentowania 10-letni bonów Ministerstwa Finansów; • Dane wyjściowe • Przewidywana bankowa stopa • oprocentowania w następnym miesiącu • Okres uczenia sie • Styczeń 1995 do grudnia 2000 • Okres testowania: • Luty 2001 do września 2002 • Hipoteza Random Walk; • Hipoteza wydajnego rynku

37. Przewidywane Wyniki Przewidywana przez system SOLAR bankowa stopa oprocentowania (luty 2001 - wrzesień 2002)

38. Porównanie Wyników: błąd najmniejszej sumy kwadratów (MSE)

39. Akumulowany zarobek od 1990 2 S&P 500 Nasdaq Russell Midcap Selekcja 1.5 Dow Jones 1 Zarobek w skali logarytmicznej 0.5 0 Jul-04 Jul-05 Jul-95 Jul-96 Jul-97 Jul-98 Jul-99 Jul-00 Jul-03 Jul-02 Jul-90 Jul-91 Jul-92 Jul-93 Jul-94 Jul-01 Jan-05 Jan-95 Jan-96 Jan-97 Jan-98 Jan-99 Jan-00 Jan-01 Jan-04 Jan-03 Jan-90 Jan-91 Jan-92 Jan-93 Jan-94 Jan-02 Kwartał -0.5

40. Cortical algorithms for perceptual grouping Pieter R. Roelfsema Dept. Vision & Cognition, Netherlands Institute for Neuroscience (KNAW) Department of Experimental Neurophysiology Centre for Neurogenomics and Cognitive Research, Vrije Universiteit, Amsterdam, NL

43. Two forms of grouping: • Base grouping – feedforward connections • “pre-attentive vision” 2. Incremental grouping – feedback and lateral connections - “attentive vision” Ullman 1984

44. Felleman & van Essen, 1991

45. Feedforward Felleman & van Essen, 1991

46. Recurrent Felleman & van Essen, 1991