Meta-Aprendizado
(Meta-Learning)
Prof. Renê Rodrigues Veloso
Departamento de Ciências da Computação – DCC
Universidade Est...
Aprendizado e Tomada de Decisões
O que é tomar decisões?
Cada opinião tem um
peso ou relevância...
Qual Confiar??
Um Exemplo de Conjuntos ou EBS!
Qual as métricas
de separação, e
qual o melhor
classificador?
Introdução - Meta-Learning
Em Meta-Aprendizado, cada exemplo de treinamento (meta-exemplo)
armazena a experiência obtida c...
Introdução - Meta-Learning
Um modelo de aprendizado (meta-aprendiz) é então
aplicado sobre um conjunto de meta-exemplos, e...
Meta-Aprendizado(Meta-Learning)
Por que uma “maquina” aprender?
Quando se trabalha com Redes Neurais ou classificadores automatizados:
● Um bom desempenho...
Grandes volumes de dados
● A quantidade de dados a serem analisados pode ser muito grande
para serem efetivamente manipula...
Dividir para Conquistar
Criando um Ensemble
● Como os classificadores serão gerados?
● Como tais classificadores irão diferir entre eles?
● Respos...
Bagging
● O primeiro algoritmo para a construção de EBS;
● Possui uma implementação simples e intuitiva;
● A diversidade é...
Boosting
Geração e combinação de classificadores fracos (rules of
thumb)
● Os dados de treinamento são amostrados de acord...
Suponha uma base de artigos de notícias...
Boosting – Ideia Geral
Boosting – Ideia Geral
Boosting
Conclusão
Experiência = meta-conhecimento
Referências
VELOSO, R. R. Meta-Learning, Universidade Federal de Minas Gerais
LOPES, S. N Modelos de classificação de risc...
Apresentação meta-aprendizado
Próximos SlideShares
Carregando em…5
×

Apresentação meta-aprendizado

379 visualizações

Publicada em

Trabalho apresentado ao professor Renê Rodrigues Veloso para
obtenção de nota parcial da disciplina Mineração de Dados
do 6º período do curso de Sistemas de Informação da
Universidade Estadual de Montes Claros.

Publicada em: Tecnologia
0 comentários
1 gostou
Estatísticas
Notas
  • Seja o primeiro a comentar

Sem downloads
Visualizações
Visualizações totais
379
No SlideShare
0
A partir de incorporações
0
Número de incorporações
1
Ações
Compartilhamentos
0
Downloads
5
Comentários
0
Gostaram
1
Incorporações 0
Nenhuma incorporação

Nenhuma nota no slide

Apresentação meta-aprendizado

  1. 1. Meta-Aprendizado (Meta-Learning) Prof. Renê Rodrigues Veloso Departamento de Ciências da Computação – DCC Universidade Estadual de Montes Claros – UNIMONTES Equipe: Jader Gabriel Nilton Rodrigues Pereira
  2. 2. Aprendizado e Tomada de Decisões
  3. 3. O que é tomar decisões? Cada opinião tem um peso ou relevância... Qual Confiar??
  4. 4. Um Exemplo de Conjuntos ou EBS! Qual as métricas de separação, e qual o melhor classificador?
  5. 5. Introdução - Meta-Learning Em Meta-Aprendizado, cada exemplo de treinamento (meta-exemplo) armazena a experiência obtida com a aplicação de um ou mais algoritmos de aprendizado em um problema resolvido no passado. Mais especificamente, cada meta-exemplo armazena: ● Os meta-atributos do problema, características descritivas do problema, como número de exemplos e número de atributos; ● As informações sobre o desempenho obtido pelos algoritmos para o problema, como as taxas de erro obtidas.
  6. 6. Introdução - Meta-Learning Um modelo de aprendizado (meta-aprendiz) é então aplicado sobre um conjunto de meta-exemplos, e adquire conhecimento de forma automática capaz de predizer o desempenho dos algoritmos de aprendizado a partir das características dos problemas. Obs: ● Ocorre não somente no nível de exemplos, mas também no nível de tarefas. ● Não somente refinar as hipóteses
  7. 7. Meta-Aprendizado(Meta-Learning)
  8. 8. Por que uma “maquina” aprender? Quando se trabalha com Redes Neurais ou classificadores automatizados: ● Um bom desempenho no conjunto de treinamento não prediz um bom desempenho de generalização; ● Um conjunto de classificadores com desempenhos similares no conjunto de classificação podem ter diferentes desempenhos de generalização; ● Mesmo classificadores com desempenhos de generalização similares podem trabalhar diferentemente; ● A combinação das saídas produzidas pelos classificadores reduz o risco de uma escolha infeliz por um classificador com um pobre desempenho ● Não seguir apenas a “recomendação”de um único especialista
  9. 9. Grandes volumes de dados ● A quantidade de dados a serem analisados pode ser muito grande para serem efetivamente manipulados por um único classificador; ● DNA ● Mais apropriados particionar os dados em sub-conjuntos e treinar diferentes classificadores com diferentes partições dos dados e então combinar as saídas com uma inteligente regra de combinação ● Geralmente tal estratégia tem se mostrado a mais eficaz.
  10. 10. Dividir para Conquistar
  11. 11. Criando um Ensemble ● Como os classificadores serão gerados? ● Como tais classificadores irão diferir entre eles? ● Respostas -> determinarão a diversidade dos classificadores = performance final do EBS; ● Uma estratégia para geração dos membros de um EBS DEVE buscar uma melhora da diversidade; ● Não existe uma única medida de diversidade aceita uniformemente;
  12. 12. Bagging ● O primeiro algoritmo para a construção de EBS; ● Possui uma implementação simples e intuitiva; ● A diversidade é obtida com o uso de diferentes subconjuntos de dados aleatoriamente criados com reposição; ● Cada subconjunto é usado para treinar um classificador do mesmo tipo; ● As saídas dos classificadores são combinadas por meio do voto majoritário com base em suas decisões; ● Para uma dada instância, a classe que obtiver o maior número de votos será então a resposta.
  13. 13. Boosting Geração e combinação de classificadores fracos (rules of thumb) ● Os dados de treinamento são amostrados de acordo com uma dada distribuição modificada ao longo do tempo; ● Mais atenção aos exemplos incorretamente classificados pela hipótese mais recente;
  14. 14. Suponha uma base de artigos de notícias...
  15. 15. Boosting – Ideia Geral
  16. 16. Boosting – Ideia Geral
  17. 17. Boosting
  18. 18. Conclusão Experiência = meta-conhecimento
  19. 19. Referências VELOSO, R. R. Meta-Learning, Universidade Federal de Minas Gerais LOPES, S. N Modelos de classificação de risco de crédito para finaciamentos imobiliários: Regressão logisticam análise discriminante, árvore de decisão, bagging e boosting. Disponível em:<http://tede.mackenzie.com.br/tde_busca/arquivo.php?codArquivo=2341> Acessado em: 11 de Junho. de 2014. Sistemas baseados em ensembles de classificadores. Disponível em:<http://professor.ufabc.edu. br/~ronaldo.prati/MachineLearning/ensemples.pdf> Acessado em: 11 de Junho. de 2014. L. Kuncheva, Combining pattern classifiers: methods and algorithms. Wiley-Interscience, 2004.

×