1 / 9

Indução de Árvores de Decisão

Indução de Árvores de Decisão. Prof. Alex F. V. Machado. Recordando. Recordando. Árvores de Decisão. São classificadores baseados em árvores para instâncias representadas como vetores de características. Os nós internos testam os valores de uma característica.

thi
Download Presentation

Indução de Árvores de Decisão

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Indução de Árvores de Decisão Prof. Alex F. V. Machado

  2. Recordando...

  3. Recordando...

  4. Árvores de Decisão • São classificadores baseados em árvores para instâncias representadas como vetores de características. • Os nós internos testam os valores de uma característica. • Existe um ramo para cada valor possível da característica. • As folhas especificam a classe.

  5. Árvores de Decisão • Podem representar conjunções e disjunções arbitárias. • Podem representar qualquer função de classificação com atributos discretos. • Podem ser reescritas como um conjunto de regras, por exemplo, em forma normal disjuntiva (DNF). Outlook: sunny  humidity: high → no Outlook: sunny  humidity: normal → yes Outlook: overcast → yes

  6. color green red blue shape circle triangle square Indução Top-Down de Árvores de Decisão • Árvore é construída recursivamente de cima para baixo, usando divisão e conquista. <red, circle>: + <red, square>:  <blue, circle>:  <green, square>:- <red, triangle>:+ neg neg pos neg pos

  7. Histórico da pesquisa em árvores de decisão • Hunt e colegas usam métodos de árvore de decisão com busca (CLS) para modelar o aprendizado humano de conceitos na década de 1960. • No final dos anos 70, Quinlan desenvolve o ID3 com a heurística de ganho de informação para aprender sistemas especialistas a partir de exemplos. • Na década de 1980 uma série de melhorias foram introduzidas para lidar com o ruído, características contínuas, características ausentes, e critérios de divisão melhores. • Pacote de árvore de decisão atualizado de Quinlan (C4.5) lançado em 1993. • Weka inclui uma versão Java do C4.5 chamada J48.

  8. Weka J48 Trace 1 data> java weka.classifiers.trees.J48 -t figure.arff -T figure.arff -U -M 1 Options: -U -M 1 J48 unpruned tree ------------------ color = blue: negative (1.0) color = red | shape = circle: positive (2.0) | shape = square: negative (1.0) | shape = triangle: positive (0.0) color = green: positive (0.0) Number of Leaves : 5 Size of the tree : 7 Time taken to build model: 0.03 seconds Time taken to test model on training data: 0 seconds

  9. Weka J48 Trace 2 data> java weka.classifiers.trees.J48 -t figure3.arff -T figure3.arff -U -M 1 Options: -U -M 1 J48 unpruned tree ------------------ shape = circle | color = blue: negative (1.0) | color = red: positive (2.0) | color = green: positive (1.0) shape = square: positive (0.0) shape = triangle: negative (1.0) Number of Leaves : 5 Size of the tree : 7 Time taken to build model: 0.02 seconds Time taken to test model on training data: 0 seconds

More Related