1) O documento discute a classificação hierárquica de notícias usando Naive Bayes para um portal de notícias. 2) É comparado o desempenho de classificação plana versus hierárquica em dois conjuntos de dados, mostrando pequena vantagem da abordagem hierárquica. 3) O sistema proposto foi implementado no site Informeme.com para organizar e recomendar notícias.

1. Um Portal Web para a Organização Hierárquica de NotíciasDissertação de mestrado04/11/2009Hugo Lima BorgesOrientadora: Profa. Dra. Ana Carolina Lorena

2. Motivações e objetivosEstudar a CHT (Categ. Hierárquica de Textos) e aplicá-lo no contexto de um portal agregador de notícias

3. Uso da hierarquia facilita acesso a notícias mais específicas e pode ajudar na categorização

4. Avaliar uma boa configuração para o classificador no cenário propostoClassificação HierárquicaPossível ganho na efetividade preditiva (depende do algoritmo)

5. Decomposição do problema plano ( possível ganho de desempenho computacional)

6. Usada em cenários em que é possível estruturar documentos em uma hierarquia de categoriasNaïve Bayes Plano x Hierárquico (20 Newsgroups)

7. EtapasPré-processamento

8. Representação do texto

9. Redução dimensional

10. Stemming e cuttof

11. Seleção de atributos

12. Pesagem de atributos

13. Abordagem hierárquica

14. Algoritmo de classificação

15. Avaliação da efetividade preditivaRepresentação do TextoBag of Words (BOW): cada palavra representa um atributo (ou termo)

16. Desconsidera posição das palavras

17. Pesagem dos termos: frequência, binária …

18. Alternativas:

19. Bigrama, trigrama (n-grama)

20. Análise de Semântica Latente

21. Extração de termos (ex.: agrupamento)Stemming e cutoffStemming: redução da palavra para radical (palavras com significado próximo)

22. Cutoff: remoção de palavras com baixa/alta frequência que não são representativas para a distinção entre classes (típico: 3 ou 5)Seleção de atributosSelecionar atributos mais relevantes para distinguir as classes

23. Filtragem ou wrapper

24. Atributos que aparecem na classe

25. Atributos que não aparecem na classeMultinomialNaïveBayes(MNB)Algoritmo probabilístico (regra de Bayes)

26. Assume independência dos termos

27. Variações do algoritmo e heurísticas para contornar alguns problemasMNB (2)Fi – pesagem do termo i no documento dj

28. Nci – ocorrências do termo i na classe c

29. Nc – ocorrência de termos na classe c

30. N – total de termos

31. Dc– documentos pertencentes a classe c

32. D – total de documentosMNB (3)Eficiente computacionalmente

33. Implementação simples

34. Fácil adição de exemplos de treinamento

35. Pré-processamento é importante

36. Nem sempre apresenta boa efetividade

37. Necessidade de quantidade mínima de exemplosAbordagem top-downf1_plano1 2f3_planof2_plano1.1 1.22.1 2.2Mais empregada

38. Fácil de implementar (algoritmos planos)

39. Propagação de erros