2018 - Sistema de Alertas de Desmatamento no Estado do Pará: "De Olho na Flor...
2018 - Uso do software livre para geoinformação na Embrapa: Aplicações, desenvolvimento e transferência
1. Alan Massaru NakaiAlan Massaru Nakai
Embrapa Informática Agropecuária - AnalistaEmbrapa Informática Agropecuária - Analista
18/09/201818/09/2018
Uso do software livre paraUso do software livre para
geoinformação na Embrapa:geoinformação na Embrapa:
Aplicações e desenvolvimentoAplicações e desenvolvimento
2. ConteúdoConteúdo
●
Quem somos?Quem somos?
●
Embrapa x Tecnologias de GeoinformaçãoEmbrapa x Tecnologias de Geoinformação
●
Estudo de caso: Zoneamento Agrícola de Risco ClimáticoEstudo de caso: Zoneamento Agrícola de Risco Climático
●
AplicaçõesAplicações
➔
GeoinfoGeoinfo
➔
SiageoSiageo
➔
SatVegSatVeg
➔
Portal TerraClassPortal TerraClass
➔
Pecuária do FuturoPecuária do Futuro
3. Quem somos?Quem somos?
Fundação: 1973
Empregados: 9.733
Pesquisadores: 2.425
Analistas: 2.517
Doutores: 1.958
Rede de 42 Unidades de pesquisa
➔
Unidades Temáticas
➔
Unidades de Produtos
➔
Unidades Ecorregionais e Agroflorestais
Plataforma de Cooperação Científica - Labex (US, Europe, Asia)
Plataforma de Cooperação Técnica - África
A EmbrapaA Embrapa
Empresa Brasileira de Pesquisa AgropecuáriaEmpresa Brasileira de Pesquisa Agropecuária
4. Quem somos?Quem somos?
Embrapa Informática Agropecuária:Embrapa Informática Agropecuária:
Atuação nas áreas de agroinformática e bioinformática para prover soluçõesAtuação nas áreas de agroinformática e bioinformática para prover soluções
para agricultura, aplicando métodos, técnicas e ferramentas computacionais,para agricultura, aplicando métodos, técnicas e ferramentas computacionais,
Envolvendo uma equipe multidisciplinar.Envolvendo uma equipe multidisciplinar.
Localização:
Campus Unicamp
Campinas - SP
6. Quem somos?Quem somos?
Bioinformática
e Biologia
Computacional
Computação
Científica e
Automação
Modelagem
Agroambiental e
Geotecnologias
Sistemas de
Informação
Pipeline para descoberta
de genes e sequências
regulatórias
Análise e integração de
dados ômicos
Estrutura de proteínas
Biologia de sistemas e
biologia sintética
BD de genótipos e
fenótipos
Modelagem matemática
Simulação
computacional
Smart Systems
Reconhecimento de
padrões
Apoio à decisão
Visão computacional
Ciência de dados
Agricultura de precisão
Zoneamento de risco
climático
Uso e cobertura da terra
Análise de cenários
Mudanças climáticas
Tecnologias e serviços
geoespaciais
Mapeamento e
monitoramento
Cloud computing
Processamento de alto
desempenho
Internet das coisas
Integração de dados
Interoperabilidade
Bancos de dados
Sistemas abertos e
padrões
Big data
Representação do
conhecimento
Souce: Silvia Massruhá – Embrapa Informática Agropecuária
Temas de PesquisaTemas de Pesquisa
7. Embrapa x Tec. de GeoinformaçãoEmbrapa x Tec. de Geoinformação
Processamento/Transformação de dadosProcessamento/Transformação de dados
●
Múltiplas fontes de dados e diferentes formatosMúltiplas fontes de dados e diferentes formatos
➔
Sensores remotos, estações climáticas, simulações, mapeamentos, ...Sensores remotos, estações climáticas, simulações, mapeamentos, ...
➔
Shapefile, Geotiff, Netcdf, Binário/CTL, ASCII, ...Shapefile, Geotiff, Netcdf, Binário/CTL, ASCII, ...
●
Operações típicasOperações típicas
➔
Transformações de formatoTransformações de formato
➔
Seleções espaço-temporais, mosaicos, filtros, cruzamentos, interpolações, …Seleções espaço-temporais, mosaicos, filtros, cruzamentos, interpolações, …
➔
Cálculos aritméticos, estatísticas, …Cálculos aritméticos, estatísticas, …
➔
ClassificaçãoClassificação
●
Tecnologias utilizadasTecnologias utilizadas
➔
R e PythonR e Python
➔
Ferramentas: Gdal, CDO, Grads, Quantum Gis, …Ferramentas: Gdal, CDO, Grads, Quantum Gis, …
➔
Soluções para processamento distribuído/workflows: SGE, Galaxy, Docker Swarm, ...Soluções para processamento distribuído/workflows: SGE, Galaxy, Docker Swarm, ...
➔
(Softwares proprietários)(Softwares proprietários)
8. Embrapa x Tec. de GeoinformaçãoEmbrapa x Tec. de Geoinformação
Armazenamento/Catalogação/DistribuiçãoArmazenamento/Catalogação/Distribuição
●
Bases de dadosBases de dados
➔
PostgreSQL / Postgis (vetor e raster)PostgreSQL / Postgis (vetor e raster)
➔
Sistemas de arquivosSistemas de arquivos
●
Servidores de mapasServidores de mapas
➔
Mapserver e GeoserverMapserver e Geoserver
●
Catálogos/IDECatálogos/IDE
➔
GeonetworkGeonetwork
➔
GeonodeGeonode
●
Usuário finalUsuário final
➔
WebGis de propósito amplo: GeoExplorer, I3GeoWebGis de propósito amplo: GeoExplorer, I3Geo
➔
WebGis de propósito específico: Desenvolvimento interno (Java + Openlayers)WebGis de propósito específico: Desenvolvimento interno (Java + Openlayers)
➔
APIs de acesso a dados (Postgis + Java)APIs de acesso a dados (Postgis + Java)
9. Estudo de Caso:Estudo de Caso:
Zoneamento Agrícola de Risco ClimáticoZoneamento Agrícola de Risco Climático
O que,O que,
onde,onde,
quandoquando
plantar?plantar?
10. Zoneamento Agrícola de Risco ClimáticoZoneamento Agrícola de Risco Climático
●
Ferramenta de análise do risco derivado daFerramenta de análise do risco derivado da variabilidade climáticavariabilidade climática,,
considerando características daconsiderando características da culturacultura e doe do solosolo;;
●
Permite quantificar oPermite quantificar o riscorisco para cada época depara cada época de semeadurasemeadura e para cadae para cada
local;local;
●
Contribui paraContribui para redução deredução de perdasperdas,, racionalizaçãoracionalização dodo créditocrédito agrícolaagrícola;;
●
É instrumento indireto de transferência de tecnologia, com grandeÉ instrumento indireto de transferência de tecnologia, com grande
potencial de expansão;potencial de expansão;
●
Contribui para o aumento da produção/produtividade agrícola;Contribui para o aumento da produção/produtividade agrícola;
●
DesdeDesde 20152015, executado pela, executado pela EmbrapaEmbrapa..
12. Zoneamento Agrícola de Risco ClimáticoZoneamento Agrícola de Risco Climático
Bases de
Clima
Entrada
SARRA
Entrada
SARRA
Filtros
Raster
Filtros
Raster
Bases
Auxiliares
Máscaras
Raster
Máscaras
Raster
Planilhas
Restrições
Planilhas
Restrições
Galaxy - Workflow
Banco de Dados
ZARC
MapasMapasTabelas
(MAPA)
Tabelas
(MAPA)
Cliente
Web
Service
Cliente
Web
Service
Cadastro
Arquivos:
KC
Solo
Arquivos:
KC
Solo
Visualização / Análise
Produtos
Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
13. Zoneamento Agrícola de Risco ClimáticoZoneamento Agrícola de Risco Climático
Bases de
Clima
Entrada
SARRA
Entrada
SARRA
Filtros
Raster
Filtros
Raster
Bases
Auxiliares
Máscaras
Raster
Máscaras
Raster
Planilhas
Restrições
Planilhas
Restrições
Arquivos:
KC
Solo
Arquivos:
KC
Solo
Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
●
Insumos:Insumos:
➔
Especialistas / Pesquisa de campoEspecialistas / Pesquisa de campo
➔
Fontes: ANA, INMET, Agritempo, instituições internacionaisFontes: ANA, INMET, Agritempo, instituições internacionais
➔
Formatos: ASCII, Raster, ShapefilesFormatos: ASCII, Raster, Shapefiles
➔
Ex: séries climáticas de estações, séries temporais raster, dados de topografia,Ex: séries climáticas de estações, séries temporais raster, dados de topografia,
mapeamentos, etcmapeamentos, etc
●
Pré-ProcessamentoPré-Processamento
➔
Padronização de formatosPadronização de formatos
➔
Agregações e seleções espaço-temporaisAgregações e seleções espaço-temporais
➔
Geração de filtros. Exs:Geração de filtros. Exs:
Frequência de geada decendial agregada por janela deslizante deFrequência de geada decendial agregada por janela deslizante de NN decêndiosdecêndios (para(para
diferentesdiferentes NN))
Temperatura Média decendial >= 18 graus CTemperatura Média decendial >= 18 graus C
14. Zoneamento Agrícola de Risco ClimáticoZoneamento Agrícola de Risco Climático
Bases de
Clima
Entrada
SARRA
Entrada
SARRA
Filtros
Raster
Filtros
Raster
Bases
Auxiliares
Máscaras
Raster
Máscaras
Raster
Planilhas
Restrições
Planilhas
Restrições
Arquivos:
KC
Solo
Arquivos:
KC
Solo
Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
●
Ferramentas:Ferramentas:
➔
Linguagem R:Linguagem R:
Scripting, automatizaçãoScripting, automatização
Aritmética rasterAritmética raster
Manipulação de dadosManipulação de dados
Acesso a SGBDAcesso a SGBD
➔
CDO, Gdal, Grads (+ shellscript):CDO, Gdal, Grads (+ shellscript):
Formatação dos dados originais (Netcdf, binário, outros)Formatação dos dados originais (Netcdf, binário, outros)
➔
QGis, Grass, outros:QGis, Grass, outros:
Geração de filtros e máscaras de maior complexidadeGeração de filtros e máscaras de maior complexidade
15. Galaxy - Workflow
Banco de Dados
ZARC
Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
16. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
Galaxy - Workflow
Banco de Dados
ZARC
17. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
●
Simulador SARRAZON:Simulador SARRAZON:
➔
Cálculo do ISNA para toda a rede de estações (~3500)Cálculo do ISNA para toda a rede de estações (~3500)
➔
Cultivares VS. Níveis de risco VS. Solos VS. Data deCultivares VS. Níveis de risco VS. Solos VS. Data de
plantio → 4.5 milhões de simulaçõesplantio → 4.5 milhões de simulações
➔
Linguagem C, executável em linha de comandoLinguagem C, executável em linha de comando
Rede de EstaçõesRede de Estações
Balanço Hídrico – CálculoBalanço Hídrico – Cálculo
do ISNAdo ISNA
Galaxy - Workflow
Banco de Dados
ZARC
18. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
Galaxy - Workflow
Banco de Dados
ZARC
19. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
●
Espacialização do ISNA:Espacialização do ISNA:
➔
Krigagem Ordinária com ajuste automático (Linguagem RKrigagem Ordinária com ajuste automático (Linguagem R
– pacote Automap)– pacote Automap)
➔
Cultivares VS. Níveis de risco VS. Solos VS. Data deCultivares VS. Níveis de risco VS. Solos VS. Data de
plantio → ~2.500 interpolações / culturaplantio → ~2.500 interpolações / cultura
Galaxy - Workflow
Banco de Dados
ZARC
20. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
Galaxy - Workflow
Banco de Dados
ZARC
21. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
●
Cálculo da área apta ao plantio eCálculo da área apta ao plantio e
classificação municipal:classificação municipal:
➔
ISNAs espacializados são cruzados com diferentes filtrosISNAs espacializados são cruzados com diferentes filtros
➔
Área apta municipal é calculadaÁrea apta municipal é calculada
➔
Município é apto se área apta >= 20%Município é apto se área apta >= 20%
➔
Tabela municipal é cruzada com tabelas de restriçõesTabela municipal é cruzada com tabelas de restrições
➔
Resultados são armazenados em BD PostgisResultados são armazenados em BD Postgis
➔
Scripts R (pacotes: raster, maptools, rgeos, etc)Scripts R (pacotes: raster, maptools, rgeos, etc)
Filtros
+
Tabelas
Restrições+
Galaxy - Workflow
Banco de Dados
ZARC
22. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Workflow deWorkflow de
ProcessamentoProcessamento
●
Infraestrutura de Processamento:Infraestrutura de Processamento:
➔
Nuvem privada OpenStack (compartilhamento eNuvem privada OpenStack (compartilhamento e
flexibilidade)flexibilidade)
➔
Hardware: ~10 servidores 64 cores, 512 Gb RamHardware: ~10 servidores 64 cores, 512 Gb Ram
➔
Galaxy → Gerenciador de workflowsGalaxy → Gerenciador de workflows
➔
Oracle Grid Engine (Sun Grid Engine) → processamentoOracle Grid Engine (Sun Grid Engine) → processamento
distribuídodistribuído
Workflow - GalaxyWorkflow - Galaxy
DatacenterDatacenter
Galaxy - Workflow
Banco de Dados
ZARC
23. Zoneamento Agrícola de Risco ClimáticoZoneamento Agrícola de Risco Climático
BD Postgis
(Vetores)
+
Sistema de
Arquivos
(Imagens)
Banco de Dados
ZARC
MapasMapasTabelas
(MAPA)
Tabelas
(MAPA)
Cliente
Web
Service
Cliente
Web
Service
Visualização / Análise
Produtos
Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Aplicação Web
●
JavaEE
●
Openlayers
Servidores de
Mapas
●
Geoserver
●
MapServer
24. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Ferramenta para Análise e ValidaçãoFerramenta para Análise e Validação
25. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Ferramenta para Análise e ValidaçãoFerramenta para Análise e Validação
26. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Ferramenta para Análise e ValidaçãoFerramenta para Análise e Validação
27. Fluxo de GeraçãoFluxo de Geração
do ZARCdo ZARC
Ferramenta para Análise e ValidaçãoFerramenta para Análise e Validação
28. Outros Exemplos de AplicaçõesOutros Exemplos de Aplicações
●
Apoio às políticas públicas e ao usuário finalApoio às políticas públicas e ao usuário final
●
Transferência de conhecimentoTransferência de conhecimento
●
Desenvolvimento tecnológico voltado à agriculturaDesenvolvimento tecnológico voltado à agricultura
29. Aplicações:Aplicações:
Geoinfo – Infraestrutura de Dados Espaciais da EmbrapaGeoinfo – Infraestrutura de Dados Espaciais da Embrapa
●
Plataforma para compartilhamento do acervo de dados espaciais da Embrapa com aPlataforma para compartilhamento do acervo de dados espaciais da Embrapa com a
sociedadesociedade
●
Interface com a Infraestrutura Nacional de Dados Espaciais (Inde)Interface com a Infraestrutura Nacional de Dados Espaciais (Inde)
http://inde.geoinfo.cnpm.embrapa.br
30. Aplicações:Aplicações:
Geoinfo – Infraestrutura de Dados Espaciais da EmbrapaGeoinfo – Infraestrutura de Dados Espaciais da Embrapa
GeonodeGeonode
Drucker, D. P., et al. “GeoInfo - Infraestrutura de Dados Espaciais Abertos para a Pesquisa
Agropecuária.” Revista Eletrônica de Comunicação, Informação & Inovação em Saúde 11, no. 0
(December 20, 2017)
31. Aplicações:Aplicações:
SIAGEO – Sist. Interativo de Análise Geoespacial da Amazônia LegalSIAGEO – Sist. Interativo de Análise Geoespacial da Amazônia Legal
●
Reúne informações sistematizadas do Zoneamento Ecológico-Econômico daReúne informações sistematizadas do Zoneamento Ecológico-Econômico da
Amazônia LegalAmazônia Legal
●
Iniciativa: Embrapa – Ministério do Meio Ambiente – Governos EstaduaisIniciativa: Embrapa – Ministério do Meio Ambiente – Governos Estaduais
●
~700 temas~700 temas
●
SoloSolo
●
Terras indígenasTerras indígenas
●
HidrografiaHidrografia
●
Areas de preservação/Areas de preservação/
conservaçãoconservação
http://www.amazonia.cnptia.embrapa.br
32. Aplicações:Aplicações:
SIAGEO – Sist. Interativo de Análise Geoespacial da Amazônia LegalSIAGEO – Sist. Interativo de Análise Geoespacial da Amazônia Legal
●
Relatório de análise espacialRelatório de análise espacial
●
Arquitetura:Arquitetura:
➔
PostgreSQL/PostgisPostgreSQL/Postgis
➔
I3GeoI3Geo
➔
MapserverMapserver
➔
Ferramenta de importação de dados baseado em QGisFerramenta de importação de dados baseado em QGis
33. Aplicações:Aplicações:
SATVeg – Sistema de Análise Temporal da VegetaçãoSATVeg – Sistema de Análise Temporal da Vegetação
http://www.satveg.cnptia.embrapa.br
●
Ferramenta para visualização de perfis temporais dos índices vegetativos NDVI eFerramenta para visualização de perfis temporais dos índices vegetativos NDVI e
EVI do sensor MODISEVI do sensor MODIS
●
Apoio a atividades de monitoramento agrícola e ambientalApoio a atividades de monitoramento agrícola e ambiental
●
Consultas instantâneasConsultas instantâneas
por pixel ou polígonopor pixel ou polígono
●
Atualizações regularesAtualizações regulares
●
Filtros para sériesFiltros para séries
temporaistemporais
34. Aplicações:Aplicações:
SATVeg – Sistema de Análise Temporal da VegetaçãoSATVeg – Sistema de Análise Temporal da Vegetação
●
Biblioteca de PadrõesBiblioteca de Padrões
●
Arquitetura:Arquitetura:
➔
PostgreSQL/Postgis Raster – Otimização para recuperação das séries temporaisPostgreSQL/Postgis Raster – Otimização para recuperação das séries temporais
em tempo de execuçãoem tempo de execução
➔
GeoserverGeoserver
➔
JavaEE + OpenlayersJavaEE + Openlayers
35. Aplicações:Aplicações:
TerraClass GeoportalTerraClass Geoportal
●
O Projeto TerraClass (2010) – damanda do Governo Federal para qualificação dosO Projeto TerraClass (2010) – damanda do Governo Federal para qualificação dos
desmatamentos da região Amazônica – Embrapa/INPEdesmatamentos da região Amazônica – Embrapa/INPE
●
WebGis: sistema destinado ao acesso e visualização do dados de uso e coberturaWebGis: sistema destinado ao acesso e visualização do dados de uso e cobertura
da terra identificados em áreas desmatadasda terra identificados em áreas desmatadas
LANÇAMENTO EM BREVE
●
Ferramentas para comparaçãoFerramentas para comparação
da evolução do uso e coberturada evolução do uso e cobertura
através dos anosatravés dos anos
●
Gráficos de setores paraGráficos de setores para
diferentes recortes geográficosdiferentes recortes geográficos
●
Matrizes de transiçãoMatrizes de transição
●
Fluxogramas de transiçãoFluxogramas de transição
38. Aplicações:Aplicações:
Pecuária do FuturoPecuária do Futuro
●
Uso de imagens de VANT para monitoramento de pastagensUso de imagens de VANT para monitoramento de pastagens
●
Geração de ortomosaicos: OpenDroneMap + OpenstackGeração de ortomosaicos: OpenDroneMap + Openstack
●
Estimativa de biomassa: TensorFlow + CUDA (GPU)Estimativa de biomassa: TensorFlow + CUDA (GPU)
39. Grato pela atençãoGrato pela atenção
Contato: alan.nakai@embrapa.brContato: alan.nakai@embrapa.br