O documento descreve vários usos possíveis do software FME para processamento de dados em TI, incluindo cruzamento de bases de dados distintas, limpeza e validação de dados, carga de dados em vários formatos e processos de sincronismo entre bases. Ele fornece exemplos de cruzamento de bases de endereços em Excel e JSON e destaca a capacidade de FME lidar com problemas como ausência de padrão, erros de acentuação e dados nulos.
2. Possibilidade de usos para TI
• Cruzamento de bases distintas;
• Cruzamento de diferente tipos de arquivos e banco;
• Validação e análise dos resultados;
• Processos de limpeza;
• Validações de Padrões;
• Processos de cargas;
• Processos de sincronismo;
• Exportação de dados em diferentes formatos;
• Geração de relatório;
• Disponibilização de serviços;
• Notificações;
• Geocodificação;
• E muito mais...
3. Cruzamento de bases distintas
Base em Excel com endereços de São José dos Campos Arquivo Json com complemento dos endereços
Mais de 340 formatos disponíveis
5. Cruzamento de Bases com erros
Inconsistência no cruzamento das bases poderão
acontecer, para esses casos, é possível identificar
esses pontos e trata-los de forma específica, por
exemplo:
• Saídas:
• Merger – Registros que foram encontrados
nas duas bases;
• NotMerged – Registros não encontrados
• Referenced / Unreferenced – Registros não
utilizados em ambas as bases analisadas.
VIDEO DEMO CLICK HERE!
6. Cruzamento de três bases
Base em Excel com endereços de São José dos Campos
Base em CSV com endereços de Jacareí
• Facilidade no cruzamento de diversas Bases de dados.
• Cruzamento entre tabelas e arquivos.
• Cruzamento por chave direta ou chave composta.
VIDEO DEMO CLICK HERE!
7. Problemas com acentos e padrão
Análise dos Dados
Ruas e tipos sem nomes
• Identificação de Padrões.
• Erros de escrita.
• Atributos nulos.
• Diferentes formas de escritas.
• Diferentes modelos de dados.
• Etc...
O que fazer
8. Limpeza dos dados
Problemas encontrados na base de endereços:
• Sem padrão de letras Maiúsculas e Minúsculas;
• Erros de acento;
• Endereço completo sendo necessário a divisão por:
• Titulo;
• Endereço;
• Cidade;
• Estado;
9. Limpeza dos dados
• Sem padrão de letras Maiúsculas e Minúsculas;
• Erros de acento;
VIDEO DEMO CLICK HERE!
10. Validação dos dados
• Endereços Nulos;
• Validação do Tipo dos endereços, por exemplo, Rua
Avenida, etc...
VIDEO DEMO CLICK HERE!
11. Padronização
• Endereço completo sendo necessário a divisão por:
• Titulo;
• Endereço;
• Cidade;
• Estado;
VIDEO DEMO CLICK HERE!
12. Carga de dados
O resultado das operações poderão ser gravados mais de
340 formatos suportados pelo FME
• Banco de dados
• Arquivos
• Serviços
• Etc..
13. Carga de dados
Os resultados serão armazenados no Postgres
VIDEO DEMO CLICK HERE!
14. Processo de sincronismo de bases
O FME permite após a realização da carga, o sincronismo
entre as bases com ajuda de alguns Transformers.
• Change Detector
• Sql Executor
• Matcher
• FeatureMerger
Funções específicas dos Reader e Writer, auxiliam no
processo de sincronismo
• Sql after and Before the translation;
• Where clause;
• Mode operation;