UPE – Caruaru – Sistemas de Informação Disciplina: Redes Neurais Prof.: Paulemir G. Campos

1. UPE – Caruaru – Sistemas de InformaçãoDisciplina: Redes NeuraisProf.: Paulemir G. Campos Introdução a Redes Neurais (Parte 1) RN - Prof. Paulemir Campos

2. Roteiro da Aula • O que são Redes Neurais; • História das Redes Neurais; • Inspiração Biológica. • Referências. RN - Prof. Paulemir Campos

3. O que são Redes Neurais RN - Prof. Paulemir Campos

4. Definições • Redes Neurais, ou melhor, Redes Neurais Artificiais (RNAs) são modelos de computação com propriedades particulares: • Capacidade de se adaptar ou aprender; • Generalizar; • Agrupar ou organizar dados. RN - Prof. Paulemir Campos

5. Definições • RNAs: • estruturas distribuídas formadas por grande número de unidades de processamento conectadas entre si; • Multi-disciplinaridade: • Ciência da Computação, Matemática, Física, Engenharias, Psicologia, Biologia, Lingüística, Filosofia, etc. RN - Prof. Paulemir Campos

6. Definições • Modelos inspirados no cérebro humano: • Compostas por várias unidades de processamento (“neurônios” ou nodos) interligadas por um grande número de conexões (“sinapses” ou pesos). • Eficientes onde métodos tradicionais têm se mostrado inadequados. RN - Prof. Paulemir Campos

7. Exemplo de RNA RN - Prof. Paulemir Campos

8. Principais Características • Aprendem através de exemplos; • Adaptabilidade; • Capacidade de generalização; • Tolerância a falhas; • Implementação rápida. RN - Prof. Paulemir Campos

9. História das Redes Neurais RN - Prof. Paulemir Campos

10. Introdução • Inter-relação entre • Investigação do comportamento e estrutura do sistema nervoso através de experimentação e modelagem biológica; • Desenvolvimento de modelos matemáticos e suas aplicações para a solução de vários problemas práticos. • Simulação e implementação destes modelos. RN - Prof. Paulemir Campos

11. A Origem • (384-322 a. C.) Aristóteles escreveu: • “De todos os animais, o homem, proporcionalmente, tem o maior cérebro.” • (1700) Descartes acreditava que mente e cérebro eram entidades separadas; • (1911) Ramon e Cajal introduzem a idéia de neurônios como estruturas básicas do cérebro. RN - Prof. Paulemir Campos

12. A Década de 1940: O Começo • (1943) McCulloch & Pitts: • Provam, teoricamente, que qualquer função lógica pode ser implementada utilizando unidades de soma ponderada e threshold (limiar); • (1949) Hebb desenvolve algoritmo para treinar RNA (aprendizado Hebbiano): • Se dois neurônios estão simultaneamente ativos, a conexão entre eles deve ser reforçada. RN - Prof. Paulemir Campos

13. 1950-1960: Anos de Euforia • (1958) Von Neumann mostra interesse em modelagem do cérebro (RNA): • “The Computer and the Brain”, Yale University Press • (1959) Rosenblatt implementa primeira RNA, a rede Perceptron: • Ajuste iterativo de pesos; • Prova teorema da convergência. RN - Prof. Paulemir Campos

14. Década de 1970: Pouca Atividade • (1969) Minsky & Papert analisam Perceptron e mostram suas limitações: • Não poderiam aprender a resolver problemas simples como o OU-exclusivo; • Causou grande repercussão. RN - Prof. Paulemir Campos

15. Década de 1970: Pouca Atividade • (1971) Aleksander propõe Redes Booleanas; • (1972) Kohonen e Anderson trabalham com RNA Associativas; • (1975) Grossberg desenvolve a Teoria da Ressonância Adaptiva (redes ART). RN - Prof. Paulemir Campos

16. Década de 1980: A Segunda Onda • (1982) Hopfield mostra que Redes Neurais podem ser tratadas como sistemas dinâmicos; • (1986) Hinton, Rumelhart e Williams, propõem algoritmo de aprendizagem para redes multi-camadas: • Parallel Distribuited Processing • Paul Werbos (1974) RN - Prof. Paulemir Campos

17. Inspiração Biológica RN - Prof. Paulemir Campos

18. Introdução • O cérebro humano contém cerca de 1011 neurônios; • Cada neurônio processa e se comunica com milhares de outros neurônios continuamente e em paralelo. RN - Prof. Paulemir Campos

19. Introdução • O cérebro humano é responsável por: • Emoção; • Pensamento; • Percepção; • Cognição; • Execução de funções sensoriomotoras e autônomas. RN - Prof. Paulemir Campos

20. Introdução • Por sua vez, a rede de neurônios do cérebro é capaz de: • Reconhecer padrões e relacioná-los; • Usar e armazenar conhecimento por experiência; • E, interpretar observações. RN - Prof. Paulemir Campos

21. Introdução • Contudo, o funcionamento das redes biológicas ainda não foi totalmente desvendado pelo homem; • Ou seja, não se sabe ao certo a forma como as funções cerebrais são realizadas. RN - Prof. Paulemir Campos

22. Introdução • Por outro lado, a estrutura básica das redes de neurônios naturais é conhecida; • As RNAs baseiam-se justamente nesta estrutura fisiológica. RN - Prof. Paulemir Campos

23. Neurônios Biológicos • Célula fundamental do cérebro humano; • Dividem-se em três seções: • Corpo Celular; • Dendritos; • Axônio. RN - Prof. Paulemir Campos

24. Neurônios Biológicos • Corpo Celular • Mede apenas alguns milésimos de milímetros; • Local onde a informação é processada e onde novos impulsos são gerados. RN - Prof. Paulemir Campos

25. Neurônios Biológicos • Dendritos • Possuem poucos milímetros de comprimento; • Recebem as informações (ou impulsos nervosos) oriundas de outros neurônios e as conduz até o corpo celular. RN - Prof. Paulemir Campos

26. Neurônios Biológicos • Axônio • É mais longo que os dendritos e, em geral, tem calibre uniforme; • Transmite os impulsos nervosos a outros neurônios. • O ponto de contato entre a terminação axônica de um neurônio com o dendrito de outro é chamado de sinapse. RN - Prof. Paulemir Campos

27. Neurônios Biológicos • Os neurônios se unem funcionalmente pelas sinapses, formando redes neurais. • As sinapses: • Funcionam como válvulas; • Controlam a transmissão de impulsos, ou seja, o fluxo de informação entre os nodos da rede neural. RN - Prof. Paulemir Campos

28. Neurônio Biológico Estrutura Microscópica Fonte: Adaptado de http://gballone.sites.uol.com.br/atlas/neuron.htm RN - Prof. Paulemir Campos

29. Neurônio Biológico Ligações Sinápticas Fonte: Adaptado de http://gballone.sites.uol.com.br/atlas/neuron.htm RN - Prof. Paulemir Campos

30. Neurônios Artificiais • Modelo MCP • Proposto por McCulloch e Pitts (1943); • É uma simplificação do neurônio biológico; • Possui n terminais de entradaX1, X2, ..., Xn (representando os dendritos); • Apenas um terminal de saídaY (representando o axônio); RN - Prof. Paulemir Campos

31. Neurônios Artificiais • Modelo MCP (Continuação) • E, os terminais de entrada do neurônio têm pesos acoplados W1, W2, ..., Wn emulando o comportamento das sinapses, cujos valores podem ser positivos ou negativo. RN - Prof. Paulemir Campos

32. Neurônios Artificiais • Um nodo MCP tem sua saída ativa (Y=1) quando: • onde: n – número de entrada; Wi – peso associado à entrada Xi; θ – é o limiar (threshold) do neurônio; Σ XiWi – soma ponderada das entradas do neurônio. RN - Prof. Paulemir Campos

33. Neurônio Artificial Modelo de McCulloch e Pitts Fonte: BRAGA et. al., 2000, pág. 9 RN - Prof. Paulemir Campos

34. Referências • Braga, A. P.; Ludermir, T. B. e Carvalho, A. C. P. L. F. Redes Neurais Artificiais: Teoria e Aplicações. Editora LTC, 2000. • Notas de aulas da Profa. Teresa B. Ludermir e do Prof. Aluízio Araújo, ambos do CIn/UFPE. RN - Prof. Paulemir Campos