🎯 Árvores de Decisão
Em poucas palavras
Uma Árvore de Decisão é um modelo preditivo que mapeia observações sobre um item (ramos) para conclusões sobre o valor alvo do item (folhas). Estruturalmente, é um grafo acíclico dirigido que decompõe um conjunto de dados complexo em subconjuntos menores e mais homogêneos através de testes lógicos sequenciais.
📝 Notas e Desenvolvimento
Estrutura Anatômica
- Nó Raiz (Root Node): Representa a população total ou amostra e o primeiro atributo de divisão.
- Nós Internos (Decision Nodes): Pontos onde o algoritmo faz uma pergunta (ex: ?). Cada nó representa uma característica (feature).
- Ramos (Branches): O caminho que conecta os nós, representando o resultado de uma decisão.
- Nós Folha (Leaf Nodes): O resultado final. Não há mais divisões aqui (representa a classe ou valor contínuo).
📝 Notas de Implementação
1. Tipos de Problemas
As árvores de decisão são versáteis e dividem-se em:
- Classificação (CART): Quando a variável alvo é categórica (ex: Sim/Não, Spam/Não-Spam).
- Regressão: Quando a variável alvo é contínua (ex: Preço de uma casa).
2. Critérios de Divisão (Splitting)
Para decidir qual “pergunta” fazer em cada nó, o algoritmo busca a Pureza. Os critérios mais comuns são:
- Entropia (Ganho de Informação): Mede a desordem dos dados.
- Índice Gini: Mede a probabilidade de um elemento ser classificado incorretamente.
3. Vantagens vs. Desvantagens
| ✅ Prós | ❌ Contras |
|---|---|
| Fácil de interpretar (White Box) | Propensa a Overfitting (decoreba) |
| Requer pouca limpeza de dados | Instável (pequenas mudanças nos dados mudam a árvore) |
| Lida com dados numéricos e categóricos | Viés para classes dominantes |
Exemplo de Árvore de Decisão
graph TD A[Início: Vai chover?] -->|Sim| B(Tenho guarda-chuva?) A -->|Não| C(Aproveite o sol) B -->|Sim| D[Vá passear] B -->|Não| E[Fique em casa]
🔗 Conexões e Contexto
- Atlas: MdC - Matemática, MdC - Estratégia de vida
- Notas Relacionadas:
- Área geral: Algoritmos | Inteligência artificial
- Conceito Fundamental: Estruturas de Dados |
- Evoluções (Ensemble Learning):
- Random Forest (Várias árvores juntas)
- Gradient Boosting (Melhoria sequencial de árvores)
- Conceitos Relacionados: Overfitting, Poda (Pruning), Ganho de Informação.
📚 Referências e Fontes
Links Externos
- Wikipedia: Decision Treee