560 likes | 675 Views
UMA INVESTIGAÇÃO DO MODELO DE REDE NEURAL RePART EM TAREFAS DE RECONHECIMENTOS DE PADRÕES. Araken de Medeiros Santos. Anne Magály de P. Canuto Orientadora. Trabalhos Anteriores Motivação Objetivos Modelos Neurais Análise Comparativa e Estatística Considerações Finais
E N D
UMA INVESTIGAÇÃO DO MODELO DE REDE NEURAL RePART EM TAREFAS DE RECONHECIMENTOS DE PADRÕES Araken de Medeiros Santos Anne Magály de P. Canuto Orientadora
Trabalhos Anteriores • Motivação • Objetivos • Modelos Neurais • Análise Comparativa e Estatística • Considerações Finais • Trabalhos futuros ROTEIRO
Análise comparativa do desempenho do RePART com o Fuzzy ARTMAP, ARTMAP-IC e Fuzzy MLP • Caracteres numéricos TRABALHOS ANTERIORES
Qual o comportamento do RePART em outras tarefas de reconhecimento de padrões? MOTIVAÇÃO
Descobrir vantagens e desvantagens de cada um dos modelos abordados em aplicações de reconhecimento de padrões • Dar um embasamento mais amplo à utilização do RePART OBJETIVOS
Grau de similaridade • Dilema estabilidade-plasticidade • RNA incremental • Aprendizagem não-supervisionada ART (Adaptive Resonance Theory)
Mesma estrutura • ART => teoria dos conjuntos clássica • Fuzzy ART =>teoria dos conjuntos fuzzy ART x Fuzzy ART
ART x Fuzzy ART Cálculo dos neurônios F2 • ART => AND booleano (x*y) • Fuzzy ART => AND fuzzy [min(x, y)]
Dois módulos ART ARTa => padrão de entrada ARTb => saída desejada • Map Field • Aprendizagem supervisionada ARTMAP/Fuzzy ARTMAP
Wj J = (b, 1-b) I = (a, 1-a) a b ESTRUTURA DO ARTMAP
Proliferação de categoria • Má classificação (1 vencedor) • Sensibilidade a ruídos PROBLEMAS DO ARTMAP
Mesmo processo de aprendizagem • Melhorias na fase de reconhecimento • Suavizar o problema de má classifica- ção ARTMAP-IC
Codificação distribuída (grupo de vencedores) • Parâmetro contador de instância ARTMAP-IC
Suavizar os problemas de proliferação de categoria e má classificação • Codificação distribuída (grupo de vencedores + grupo de perdedores) • Parâmetro contador de instância RePART
Mecanismos Adicionais: • Vigilância variável individual (proliferação de categorias) • Recompensa/Punição (má classificação) RePART
Dilema bias/variância • Individual • Freqüência relativa de ativação (RFA) • Inversa da média relativa de ativação (RIAA) Vigilância Variável
Vencedores => recompensa • Perdedores => punição • Má classificação RECOMPENSA/PUNIÇÃO
Semelhante ao FA e AIC • Diferença básica => cálculo das vigilâncias de todos os neurônios APRENDIZAGEM
Neurônios F2 de ARTa • Ranking dos neurônios • Divisão em vencedores e perdedores • Neurônios Map Field => duas fases RECONHECIMENTO
Análise Intraclasse • 5 bases de dados • Validação cruzada com 30 grupos EXPERIMENTOS
Taxa de reconhecimento • Complexidade da rede • Variação no número de vencedores • Modificação nas freqüências ANÁLISE COMPARATIVA
Instâncias geradas randomicamente de 7 imagens de outdoor • 7 classes • 19 atributos • 330 padrões por classe IMAGE DATASET
IMAGE DATASET 15% Menor nº de vencedores 1,5% Maior nº de vencedores
FA e AIC => 147 neurônios • RePART => 74 neurônios 49,6% menos IMAGE DATASET
Instâncias de 384 bits (16x24) • 330 padrões por classe CARACTERES ALFANUMÉRICOS
CARACTERES ALFANUMÉRICOS 12% Influência da modificação na freqüência 4,58%
FA e AIC => 490 neurônios • RePART => 340 neurônios 30,61% menos CARACTERES ALFANUMÉRICOS
2 classes • 32 atributos • 240 padrões por classe CANCER DE MAMA(Breast-cancer)
CANCER DE MAMA(Breast-cancer) Modificação na freqüência não alterou resultados
FA e AIC => 234 neurônios • RePART => 145 neurônios 38% menos CANCER DE MAMA(Breast-cancer)
2 classes • 10 atributos • 210 padrões por classe CANCER DE MAMA(WDBC)
CANCER DE MAMA(WDBC) 5,5% Modificação na freqüência não alterou resultados 1,87%
FA e AIC => 105 neurônios • RePART => 56 neurônios 46,67% menos CANCER DE MAMA(WDBC)
Seqüência de DNA • 60 atributos • 3 classes • 750 padrões por classe BIOLOGIA MOLECULAR
BIOLOGIA MOLECULAR Modificação na freqüência alterou resultados Modificação na freqüência não alterou resultados
FA e AIC => 1710 neurônios • RePART => 910 neurônios 46,78% menos BIOLOGIA MOLECULAR
RePART Taxa de reconhecimento superior Complexidade inferior • Número de vencedores Efeitos inversos no ReP e AIC ANÁLISE GERAL
T-Teste de variância combinada Compara duas amostras (conjunto de resultados) para verificar se as diferen- ças são estatísticamente significantes. ANÁLISE ESTATÍSTICA
Erro médio • Desvio padrão • Número de grupos ANÁLISE ESTATÍSTICA
Validação cruzada com 30 grupos • Nível de confiança => 95% (=0,05) • Teste unicaudal inferior (X, Y) Indica se a amostra X é significante- mente menor que a amostra Y ANÁLISE ESTATÍSTICA
Busca do RePART e AIC com me- lhores resultados em cada uma das aplicações utilizadas • RePART x Fuzzy ARTMAP • RePART x ARTMAP-IC ANÁLISE ESTATÍSTICA
IMAGE DATASET RePART apresentou erro médio estatisicamente inferior ao do Fuzzy ARTMAP e ARTMAP-IC
CARACTERES ALFANUMÉRICOS O Fuzzy ARTMAP teve erro médio inferior, mas não estatisticamente significante
CARACTERES ALFANUMÉRICOS RePART obteve erro médio estatisticamente inferior ao do Fuzzy ARTMAP e ARTMAP-IC
CÂNCER DE MAMA (Breast-cancer) RePART apresentou erro médio estatisticamente seme-lhante ao FA e AIC, contudo pode ser considerado mais eficiente (complexidade inferior e desempenho superior)
CÂNCER DE MAMA (WDBC) Novamente, o RePART apresentou erro médio estatis-ticamente inferior ao FA e AIC
BIOLOGIA MOLECULAR RePART apresentou erro médio inferior ao FA e AIC-3 e semelhante ao AIC-7, logo pode-se observar que a modifi- cação nas freqüências melhorou significantemente o desem-penho do ARTMAP-IC