170 likes | 310 Views
Redes Neurais. Uso de Redes Neurais MLP para resolver problemas de reconhecimento de padrões. Alexandre de Oliveira Stauffer. Modelo Geral. X 1. W 1. X 2. W 2. Função de Ativação. Função de Propagação. Y. W N. X N. X 1. 1. W 1. 2. W 2. Y. Z=X 1 W 1 +X 2 W 2. -3. X 2. 0.
E N D
Redes Neurais Uso de Redes Neurais MLP para resolver problemas de reconhecimento de padrões Alexandre de Oliveira Stauffer
Modelo Geral X1 W1 X2 W2 Função de Ativação Função de Propagação Y WN ... XN
X1 1 W1 2 W2 Y Z=X1W1+X2W2 -3 X2 0 Modelo bidimensional 1, se Z>=1 0, cc Z=2 1
Modelo bidimensional X2 1 2X1-3X2-1=0 X1 1
Treinamento • Reconhecer função lógica OR; • Pesos Iniciais: [1, 1] • Bias Inicial: 3 • Regra Delta: ΔWi=-λεX • Y=1, se X1+X2-3>=0 • Y=0, cc
X1+X2-3=0 X1+2X2-2=0 2X1+2X2-1=0 Dinâmica de Treinamento X2 1 X1 1
X Y Redes MLP – Backpropagation
MLP: Treinamento • Conjuntos: treinamento, testes e validação; • devem possuir amostras de todas as classes; • devem possuir amostras bem distribuídas de todas as classes;
T MLP: Treinamento Erro Treinamento
MLP: Normalização • Ordenadas da entrada com magnitudes diferentes: • Pressão Sangüínea; • Idade; • Taxa de colesterol no sangue; • Xi=(Xi-μ)/σ • μ – estimador da média; • σ - estimador do desvio padrão;
1 0 MLP: Iniciar Pesos • Devem ser próximos de zero; • Devem ser inicializados de forma randômica (uniformemente distribuídos);
Erro W MLP: Tx. Aprendizagem • Solução: Taxa de aprendizagem adaptativa, que diminua com o tempo de aprendizagem;
Erro W MLP: Termo Momentum • Diminui instabilidade da rede; • Regra Delta: ΔWi+1=-λεX+α ΔWi
MLP: Estimadores • Estimador da média: centro de cada classe; • Estimador de desvio padrão: grau de dispersão da classe em torno de sua média;
MLP: PCA • Redução na dimensão do vetor de entradas; • Perda de informação; • Diminuição na complexidade da RNA; • Eliminação de Ruídos; • Calculado a partir da matriz de covariância;
Referências • C. M. Bishop, Neural Network for Pattern Recognition, Oxford University, 1995. • A. P. Braga, A. P. L. F. Carvalho, T. B. Ludemir, Fundamentos de Redes Neurais Artificiais, XI Escola de Computação, 1998. • http://ltc.nutes.ufrj.br/stauffer/rna • stauffer@centroin.com.br