O slideshow foi denunciado.
Utilizamos seu perfil e dados de atividades no LinkedIn para personalizar e exibir anúncios mais relevantes. Altere suas preferências de anúncios quando desejar.
Classificação de
Documentos
Classificação baseada em Inteligência Artificial
Agenda
1. Introdução
2. Ferramentas
3. Exercício prático
4. Case
Por que classificar
documentos?
Como fazer isso?
Classificação de documentos
1. Exemplos de documentos (arquivos) de cada classe;
2. Criar dicionários de dados e extrair c...
Isso é fácil?
Ferramentas
Ferramentas
● O processamento distribuído do Hadoop permite escalar;
● O Mahout encapsula a complexidade matemática dos al...
Ambiente
Ambiente
● Virtualização Docker;
● Apache Hadoop;
● Apache Mahout;
● Exemplos de textos divididos em 4 categorias (esporte...
Prática :)
Case
Case - Contexto
Uma acessoria jurídica separa, classifica e encaminha convocações judiciais aos
advogados associados.
Seu ...
Case - Dificuldades
● O volume de trabalho dificulta a evolução do processo
● “Afoga” o departamento de TI e os analistas
...
Case - Objetivo
Os principais objetivos deste trabalho são:
● Melhorar a classificação automática (hoje ~ 20%)
● Minimizar...
Case - Solução
Case - Resultados
APROVADOS DESCARTADOS ACERTOS %
APROVADOS 64.934 667 98.98%
DESCARTADOS 40.300 192.388 82.68%
DESCARTES ...
Case - Resultados
Foram criados dois cenários de análise:
● Analisar manualmente as aprovações (-64% de trabalho)
○ Benefí...
Próximos passos
Decisão
Algoritmo de Classificação
Naive Bayes
Decisão
● Simples de manter
● Agilidade de replicação
● Integração multiplataforma
Solução baseada em
infraestrutura
Perguntas?
Próximos SlideShares
Carregando em…5
×

Classificação de documentos

Esta palestra apresenta as principais técnicas para classificação de documentos, através do uso do Apache Mahout, a popular biblioteca Java para aprendizado de máquina.

A palestra apresenta um case real onde utilizamos inteligência artificial para classificar convocações judiciais, que são extraidas de editais públicos e precisam ser encaminhadas aos advogados conveniados. O objetivo deste trabalho foi minimizar a intervenção humana durante a análise dos documentos, separando as convocações que precisam ser encaminhadas daquelas que devem ser descartadas.

  • Entre para ver os comentários

Classificação de documentos

  1. 1. Classificação de Documentos Classificação baseada em Inteligência Artificial
  2. 2. Agenda 1. Introdução 2. Ferramentas 3. Exercício prático 4. Case
  3. 3. Por que classificar documentos?
  4. 4. Como fazer isso?
  5. 5. Classificação de documentos 1. Exemplos de documentos (arquivos) de cada classe; 2. Criar dicionários de dados e extrair características; 3. Separar amostras para treino e teste; 4. Treinar classificador; 5. Testar classificador treinado.
  6. 6. Isso é fácil?
  7. 7. Ferramentas
  8. 8. Ferramentas ● O processamento distribuído do Hadoop permite escalar; ● O Mahout encapsula a complexidade matemática dos algoritmos de ML; ● Embora o Mahout seja uma API Java, é possível utilizá-la com outras tecnologias.
  9. 9. Ambiente
  10. 10. Ambiente ● Virtualização Docker; ● Apache Hadoop; ● Apache Mahout; ● Exemplos de textos divididos em 4 categorias (esporte, medicina, politica e religião); Referência: https://github.com/evertongago/text-mining
  11. 11. Prática :)
  12. 12. Case
  13. 13. Case - Contexto Uma acessoria jurídica separa, classifica e encaminha convocações judiciais aos advogados associados. Seu processo de trabalho inclui: ● 200+ diários oficiais publicados entre 06h e 11h da manhã ● Converter arquivos PDF para recortes em arquivos texto ● Classificar manualmente cada convocação (80% = ~ 14M / mês)
  14. 14. Case - Dificuldades ● O volume de trabalho dificulta a evolução do processo ● “Afoga” o departamento de TI e os analistas ● Sobra pouco tempo e recurso para evoluções
  15. 15. Case - Objetivo Os principais objetivos deste trabalho são: ● Melhorar a classificação automática (hoje ~ 20%) ● Minimizar a classificação crítica e spam ● Diferencial de mercado em relação aos outros players
  16. 16. Case - Solução
  17. 17. Case - Resultados APROVADOS DESCARTADOS ACERTOS % APROVADOS 64.934 667 98.98% DESCARTADOS 40.300 192.388 82.68% DESCARTES ERRADOS 1.02% APROVAÇÕES ERRADAS 17.3%
  18. 18. Case - Resultados Foram criados dois cenários de análise: ● Analisar manualmente as aprovações (-64% de trabalho) ○ Benefício: Minimizar o número de spam ○ Risco: Assume 1.02% de notificações não recebidas ● Analisar manualmente os descartes (-35% de trabalho) ○ Benefício: Minimizar o número de notificações não recebidas ○ Risco: Assume 17.3% de spam
  19. 19. Próximos passos
  20. 20. Decisão Algoritmo de Classificação Naive Bayes
  21. 21. Decisão ● Simples de manter ● Agilidade de replicação ● Integração multiplataforma Solução baseada em infraestrutura
  22. 22. Perguntas?

×