SlideShare uma empresa Scribd logo
#GlobalAzureBH
PALESTRANTE
#GlobalAzureBH
Paulo Ricardo Santos –
Desmistificando o Big Data com o Microsoft Azure HDInsight + PowerBI
Arquiteto de Dados
Rede social | @pauloricardovds
pauloricardodba@gmail.com
pauloricardovds
AGENDA
#GlobalAzureBH
Big Data?
Apache Spark e Arquitetura.
Apache Hive e Arquitetura.
Apache Ambari e Power BI.
HDInsight
Demo
Duvidas – http://sli.do | Z581
Acesso Laptop
Acesso
Smartphone
Big Data é o termo que descreve o imenso volume de dados –
estruturados e não estruturados – que impactam os negócios
no dia a dia. Mas o importante não é a quantidade de dados, e
sim o que as empresas fazem com os dados que realmente
importam.
Definição de Big Data
O que torna o Spark rápido?
Spark X MapReduce tradicional
Arquitetura do Apache Spark
*Resilient Distributed
Datasets (RDD):
Spark tem diversos componentes
Apache Hive?
HiveQL?
2- Apache Ambari
4- Power BI
1- Apache Hive
3- Azure Storage
O Azure HDInsight é um serviço de nuvem totalmente
gerenciamento que facilita e torna mais rápido e econômico
processar grandes quantias de dados. Use as estruturas de
software livre populares como Hadoop, Spark, Hive, LLAP, Kafka,
Storm, R e mais. O Azure HDInsight permite uma ampla gama
de cenários como ETL, Data Warehousing, Machine Learning,
IoT e mais.
Azure HDInsight?
O que você pode criar com o Azure HDInsight?
https://azure.microsoft.com/pt-br/services/hdinsight/
Demo!
Hands on
#GlobalAzureBH
Baixe os scripts e dataset neste link.
https://github.com/pauloricardovds/AzureBootCamp2018
OBRIGADO
#GlobalAzureBH
https://www.linkedin.com/in/pauloricardovds/
pauloricardovds
pauloricardodba@gmail.com

Mais conteúdo relacionado

Mais procurados

Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...
Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...
Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...
Mauricio Cesar Santos da Purificação
 
Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017
Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017
Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017
Marciel Torres
 
Big data, e eu com isso?
Big data, e eu com isso?Big data, e eu com isso?
Big data, e eu com isso?
Alexandre Uehara
 
Power bi sinc 2014
Power bi sinc 2014Power bi sinc 2014
Computação em Nuvem, Serviços Cognitivos e Mercado de Trabalho
Computação em Nuvem, Serviços Cognitivos e Mercado de TrabalhoComputação em Nuvem, Serviços Cognitivos e Mercado de Trabalho
Computação em Nuvem, Serviços Cognitivos e Mercado de Trabalho
Lucas Chies
 
Aula 2 Big Data
Aula 2 Big DataAula 2 Big Data
Aula 2 Big Data
VicenteTino
 

Mais procurados (6)

Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...
Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...
Intelligence, Discovery, Analytics e Data Science: Evolução, Desafios e Oport...
 
Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017
Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017
Cloud Computing - AWS - Semana Acadêmica Uniritter - Out/2017
 
Big data, e eu com isso?
Big data, e eu com isso?Big data, e eu com isso?
Big data, e eu com isso?
 
Power bi sinc 2014
Power bi sinc 2014Power bi sinc 2014
Power bi sinc 2014
 
Computação em Nuvem, Serviços Cognitivos e Mercado de Trabalho
Computação em Nuvem, Serviços Cognitivos e Mercado de TrabalhoComputação em Nuvem, Serviços Cognitivos e Mercado de Trabalho
Computação em Nuvem, Serviços Cognitivos e Mercado de Trabalho
 
Aula 2 Big Data
Aula 2 Big DataAula 2 Big Data
Aula 2 Big Data
 

Semelhante a Desmistificando o Big Data com o Microsoft Azure HDInsight + PowerBI

Big Data: O que é? e por onde começar?
Big Data: O que é? e por onde começar?Big Data: O que é? e por onde começar?
Big Data: O que é? e por onde começar?
Paulo Ricardo Santos
 
Big Data Week São Paulo 2017
Big Data Week São Paulo 2017 Big Data Week São Paulo 2017
Big Data Week São Paulo 2017
Thiago Santiago
 
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
Paulo Ricardo Santos
 
Evento Allen ES Office 365 e Azure
Evento Allen ES Office 365 e AzureEvento Allen ES Office 365 e Azure
Evento Allen ES Office 365 e Azure
Allen Informática
 
BigData
BigDataBigData
24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigData24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigData
Diego Nogare
 
Big Data na Nuvem
Big Data na NuvemBig Data na Nuvem
Big Data na Nuvem
Amazon Web Services LATAM
 
Whitepapper oportunidades-cloud-computing-para-empresas
Whitepapper oportunidades-cloud-computing-para-empresasWhitepapper oportunidades-cloud-computing-para-empresas
Whitepapper oportunidades-cloud-computing-para-empresas
Linda Maia, CSM, ITIL V3®, Cobit
 
Case RDStation: Construindo DataLakes com Apache Hadoop em cloud agnóstica
Case RDStation: Construindo DataLakes com Apache Hadoop em cloud agnósticaCase RDStation: Construindo DataLakes com Apache Hadoop em cloud agnóstica
Case RDStation: Construindo DataLakes com Apache Hadoop em cloud agnóstica
Alessandro Binhara
 
Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.
Lucas Modesto
 
Evento Allen Office 365 e Azure-28-05
Evento Allen Office 365 e Azure-28-05Evento Allen Office 365 e Azure-28-05
Evento Allen Office 365 e Azure-28-05
Allen Informática
 
GABC 2018 Transformação Digital
GABC 2018 Transformação DigitalGABC 2018 Transformação Digital
GABC 2018 Transformação Digital
Paulo Daniel Nobre
 
Eduardo Rocha - Criando produtos invisíveis
Eduardo Rocha - Criando produtos invisíveis   Eduardo Rocha - Criando produtos invisíveis
Eduardo Rocha - Criando produtos invisíveis
Agile Trends
 
Power Tuning - Portfolio de BI
Power Tuning - Portfolio de BIPower Tuning - Portfolio de BI
Power Tuning - Portfolio de BI
Dirceu Resende
 
Gestão Ágil de Dados com Enterprise Data Fabric
Gestão Ágil de Dados com Enterprise Data FabricGestão Ágil de Dados com Enterprise Data Fabric
Gestão Ágil de Dados com Enterprise Data Fabric
Denodo
 
Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...
Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...
Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...
Andrea Rigoni
 
Guia de compras - Microsoft Azure
Guia de compras - Microsoft AzureGuia de compras - Microsoft Azure
Guia de compras - Microsoft Azure
Renato Grau
 
Digital Transformation: Como a nuvem da AWS pode ajudar o seu negócio
Digital Transformation: Como a nuvem da AWS pode ajudar o seu negócioDigital Transformation: Como a nuvem da AWS pode ajudar o seu negócio
Digital Transformation: Como a nuvem da AWS pode ajudar o seu negócio
Amazon Web Services LATAM
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
Diego Nogare
 
Big Data Analytics - Do MapReduce ao dashboard com Hadoop e Pentaho
Big Data Analytics - Do MapReduce ao dashboard com Hadoop e PentahoBig Data Analytics - Do MapReduce ao dashboard com Hadoop e Pentaho
Big Data Analytics - Do MapReduce ao dashboard com Hadoop e Pentaho
Ambiente Livre
 

Semelhante a Desmistificando o Big Data com o Microsoft Azure HDInsight + PowerBI (20)

Big Data: O que é? e por onde começar?
Big Data: O que é? e por onde começar?Big Data: O que é? e por onde começar?
Big Data: O que é? e por onde começar?
 
Big Data Week São Paulo 2017
Big Data Week São Paulo 2017 Big Data Week São Paulo 2017
Big Data Week São Paulo 2017
 
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
 
Evento Allen ES Office 365 e Azure
Evento Allen ES Office 365 e AzureEvento Allen ES Office 365 e Azure
Evento Allen ES Office 365 e Azure
 
BigData
BigDataBigData
BigData
 
24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigData24HoP 2013 - Por Onde Começar no BigData
24HoP 2013 - Por Onde Começar no BigData
 
Big Data na Nuvem
Big Data na NuvemBig Data na Nuvem
Big Data na Nuvem
 
Whitepapper oportunidades-cloud-computing-para-empresas
Whitepapper oportunidades-cloud-computing-para-empresasWhitepapper oportunidades-cloud-computing-para-empresas
Whitepapper oportunidades-cloud-computing-para-empresas
 
Case RDStation: Construindo DataLakes com Apache Hadoop em cloud agnóstica
Case RDStation: Construindo DataLakes com Apache Hadoop em cloud agnósticaCase RDStation: Construindo DataLakes com Apache Hadoop em cloud agnóstica
Case RDStation: Construindo DataLakes com Apache Hadoop em cloud agnóstica
 
Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.Guia sobre análise de dados e aprendizado de máquina para CIO.
Guia sobre análise de dados e aprendizado de máquina para CIO.
 
Evento Allen Office 365 e Azure-28-05
Evento Allen Office 365 e Azure-28-05Evento Allen Office 365 e Azure-28-05
Evento Allen Office 365 e Azure-28-05
 
GABC 2018 Transformação Digital
GABC 2018 Transformação DigitalGABC 2018 Transformação Digital
GABC 2018 Transformação Digital
 
Eduardo Rocha - Criando produtos invisíveis
Eduardo Rocha - Criando produtos invisíveis   Eduardo Rocha - Criando produtos invisíveis
Eduardo Rocha - Criando produtos invisíveis
 
Power Tuning - Portfolio de BI
Power Tuning - Portfolio de BIPower Tuning - Portfolio de BI
Power Tuning - Portfolio de BI
 
Gestão Ágil de Dados com Enterprise Data Fabric
Gestão Ágil de Dados com Enterprise Data FabricGestão Ágil de Dados com Enterprise Data Fabric
Gestão Ágil de Dados com Enterprise Data Fabric
 
Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...
Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...
Palestra "Datacenter ao alcance de todos com Cloud Computing", Andrea Rigoni,...
 
Guia de compras - Microsoft Azure
Guia de compras - Microsoft AzureGuia de compras - Microsoft Azure
Guia de compras - Microsoft Azure
 
Digital Transformation: Como a nuvem da AWS pode ajudar o seu negócio
Digital Transformation: Como a nuvem da AWS pode ajudar o seu negócioDigital Transformation: Como a nuvem da AWS pode ajudar o seu negócio
Digital Transformation: Como a nuvem da AWS pode ajudar o seu negócio
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
 
Big Data Analytics - Do MapReduce ao dashboard com Hadoop e Pentaho
Big Data Analytics - Do MapReduce ao dashboard com Hadoop e PentahoBig Data Analytics - Do MapReduce ao dashboard com Hadoop e Pentaho
Big Data Analytics - Do MapReduce ao dashboard com Hadoop e Pentaho
 

Mais de Paulo Ricardo Santos

Data Storytelling - Power BI
Data Storytelling - Power BIData Storytelling - Power BI
Data Storytelling - Power BI
Paulo Ricardo Santos
 
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
Paulo Ricardo Santos
 
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no KibanaIntrodução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
Paulo Ricardo Santos
 
¿Cómo influye el Internet de las cosas en nuestra vida? Y como crear su prim...
¿Cómo influye el Internet de las cosas en nuestra vida?  Y como crear su prim...¿Cómo influye el Internet de las cosas en nuestra vida?  Y como crear su prim...
¿Cómo influye el Internet de las cosas en nuestra vida? Y como crear su prim...
Paulo Ricardo Santos
 
Arquitetura e Processamento de Dados em Tempo Real.
Arquitetura e Processamento de Dados em Tempo Real.Arquitetura e Processamento de Dados em Tempo Real.
Arquitetura e Processamento de Dados em Tempo Real.
Paulo Ricardo Santos
 
Iot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
Iot e Big Data na Indústria 4.0: O Futuro da Indústria ConectadaIot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
Iot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
Paulo Ricardo Santos
 
Monitorando ambiente de micro serviços em tempo
Monitorando ambiente de micro serviços em tempoMonitorando ambiente de micro serviços em tempo
Monitorando ambiente de micro serviços em tempo
Paulo Ricardo Santos
 
Iot e Big Data na Indústria 4.0
Iot e Big Data na Indústria 4.0Iot e Big Data na Indústria 4.0
Iot e Big Data na Indústria 4.0
Paulo Ricardo Santos
 

Mais de Paulo Ricardo Santos (8)

Data Storytelling - Power BI
Data Storytelling - Power BIData Storytelling - Power BI
Data Storytelling - Power BI
 
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
 
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no KibanaIntrodução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
 
¿Cómo influye el Internet de las cosas en nuestra vida? Y como crear su prim...
¿Cómo influye el Internet de las cosas en nuestra vida?  Y como crear su prim...¿Cómo influye el Internet de las cosas en nuestra vida?  Y como crear su prim...
¿Cómo influye el Internet de las cosas en nuestra vida? Y como crear su prim...
 
Arquitetura e Processamento de Dados em Tempo Real.
Arquitetura e Processamento de Dados em Tempo Real.Arquitetura e Processamento de Dados em Tempo Real.
Arquitetura e Processamento de Dados em Tempo Real.
 
Iot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
Iot e Big Data na Indústria 4.0: O Futuro da Indústria ConectadaIot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
Iot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
 
Monitorando ambiente de micro serviços em tempo
Monitorando ambiente de micro serviços em tempoMonitorando ambiente de micro serviços em tempo
Monitorando ambiente de micro serviços em tempo
 
Iot e Big Data na Indústria 4.0
Iot e Big Data na Indústria 4.0Iot e Big Data na Indústria 4.0
Iot e Big Data na Indústria 4.0
 

Último

PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...
PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...
PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...
Faga1939
 
Escola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdf
Escola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdfEscola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdf
Escola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdf
Gabriel de Mattos Faustino
 
TOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdf
TOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdfTOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdf
TOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdf
Momento da Informática
 
Segurança Digital Pessoal e Boas Práticas
Segurança Digital Pessoal e Boas PráticasSegurança Digital Pessoal e Boas Práticas
Segurança Digital Pessoal e Boas Práticas
Danilo Pinotti
 
História da Rádio- 1936-1970 século XIX .2.pptx
História da Rádio- 1936-1970 século XIX   .2.pptxHistória da Rádio- 1936-1970 século XIX   .2.pptx
História da Rádio- 1936-1970 século XIX .2.pptx
TomasSousa7
 
Manual-de-Credenciamento ANATER 2023.pdf
Manual-de-Credenciamento ANATER 2023.pdfManual-de-Credenciamento ANATER 2023.pdf
Manual-de-Credenciamento ANATER 2023.pdf
WELITONNOGUEIRA3
 
Logica de Progamacao - Aula (1) (1).pptx
Logica de Progamacao - Aula (1) (1).pptxLogica de Progamacao - Aula (1) (1).pptx
Logica de Progamacao - Aula (1) (1).pptx
Momento da Informática
 

Último (7)

PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...
PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...
PRODUÇÃO E CONSUMO DE ENERGIA DA PRÉ-HISTÓRIA À ERA CONTEMPORÂNEA E SUA EVOLU...
 
Escola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdf
Escola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdfEscola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdf
Escola Virtual - Fundação Bradesco - ITIL - Gabriel Faustino.pdf
 
TOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdf
TOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdfTOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdf
TOO - TÉCNICAS DE ORIENTAÇÃO A OBJETOS aula 1.pdf
 
Segurança Digital Pessoal e Boas Práticas
Segurança Digital Pessoal e Boas PráticasSegurança Digital Pessoal e Boas Práticas
Segurança Digital Pessoal e Boas Práticas
 
História da Rádio- 1936-1970 século XIX .2.pptx
História da Rádio- 1936-1970 século XIX   .2.pptxHistória da Rádio- 1936-1970 século XIX   .2.pptx
História da Rádio- 1936-1970 século XIX .2.pptx
 
Manual-de-Credenciamento ANATER 2023.pdf
Manual-de-Credenciamento ANATER 2023.pdfManual-de-Credenciamento ANATER 2023.pdf
Manual-de-Credenciamento ANATER 2023.pdf
 
Logica de Progamacao - Aula (1) (1).pptx
Logica de Progamacao - Aula (1) (1).pptxLogica de Progamacao - Aula (1) (1).pptx
Logica de Progamacao - Aula (1) (1).pptx
 

Desmistificando o Big Data com o Microsoft Azure HDInsight + PowerBI