Redes Neurais

1. Redes Neurais Rafael Lima(ragpl) Recife, 29 de Junho de 2010

2. Roteiro • Descrição do problema • Redes Neurais Artificiais • Preparação dos dados • O experimento • Resultados • Conclusões • Bibliografia

3. Descrição do problema

4. Cross-Selling • Direcionamento de Produtos • 35% das vendas do Amazom Deseja fritas para acompanhar!?

5. Redes Neurais Artificiais

6. Redes Neurais Artificiais • Baseadas nas redes neurais biológicas • Neurônio de McCulloch & Pitts • Caracteristicas desejadas • Aprendizagem através de exemplos • Adaptabilidade • Capacidade de generalização • Tolerância a ruídos Dendritos Axônio

7. MultilayerPerceptron (MLP) • Rede feed forward com mais de uma camada de neurônios • Aproximador universal de funções • Uma única camada é suficiente para aproximar qualquer superficie contida num hipercubo

8. Preparação dos dados

9. Preparação dos dados • Base de dados PAKDD: • 40700 amostras • Processamento para procura de inconsistências: • 23 instancias repetidas removidas • PAKDD: • 39977 amostras de C1 • 700 amostras de C2 40700 40677

10. Preparação dos dados 40677 700 39977 • Divisão dos dados • 39977 amostras de C1 • 700 amostras de C2

11. C2 C1 Preparação dos dados 19989 350 700 39977 9994 175 • Divisão dos dados • 39977 amostras de C1 • 700 amostras de C2 • Treinamento com validação cruzada • 50% treinamento • 25% validação • 25% teste • Conjuntos de dados são normalizados • Replicar dados do conjunto menor • Selecionar dados do conjunto maior • Randomização 9994 175

12. O experimento

13. O experimento • Primeira fase

14. O experimento • Primeira fase (REPLICADA) • 90 redes testadas • Script MATLAB calculou, gerou gráficos de desempenho e curvas ROC automaticamente. • Dados guardados em arquivos txt e bmp • Configurações comparadas com auxílio do excel

15. O experimento • Segunda fase (REDUZIDA) • As 5 redes com menor MSE de teste da primeira fase • Terceira fase (REPETIÇÃO) • Selecionadas duas redes: • Menor MSE de teste • Maior AUC da curva ROC

16. O experimento • Resultados primeira fase: • 32 configurações com MSE teste < 0.22 • Resultados segunda fase: • Das 5 configurações apenas uma apresentou MSE de teste maior do que na primeira fase • Resultados terceira fase: • BTA x BNME = Rede instável • Aleatorização inicial dos pesos com alta influência

17. O experimento • Primeira Fase

18. O experimento • Segunda fase:

19. O experimento • Tegunda fase:

20. O experimento • Primeira fase:

21. O experimento • Segunda fase

22. O experimento • Terceira fase

23. Dúvidas?