SlideShare uma empresa Scribd logo
1 de 22
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

MVP ShowCast 2013
HDInsight
Primeiros passos com BigData
Diego Nogare
SQL Server
Business Intelligence – Minha Vida
@DiegoNogare
© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

HDInsight

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
SESSÃO: DESENVOLVIMENTO

Criando o Cluster

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Demo – Criando o Cluster de
HDInsight

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

A caixa de sapato digital
Business Intelligence

Data Science
Real-Time
Hadoop DB

Machine Learning
Dremel

Data Mining

Query Self-Service

Analytics

Hive

Predictive

Ad-Hoc

Operational

Batch

Map Reduce

SQL

Exploratory
Unstructured

Social

Pig

Insight

Interactive

Cloud Scale

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

Data Warehouse
Pivot

Visualization

Hadoop
Big Query

Text Analytics

Reporting
Drill
SESSÃO: DESENVOLVIMENTO

HADOOP

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

15%
Dados
Estruturados

85%
Dados Não
Estruturados

Fonte: Apresentação da Gartner ‘O Gerenciamento 'Radical‘

de Informações': Os Maiores Desafios do CIOs com apoio
© 2013, MVP ShowCast. Evento organizado por MVPs paraBrasildo Século 21 da Microsoft.

7

Mark Beyer, Outubro 2011
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Arquitetura do Hadoop

Distributed Processing
(Map Reduce)
Distributed Storage
(HDFS)

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Arquitetura do Hadoop

Distributed Processing
(Map Reduce)
Distributed Storage
(HDFS)

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

Business Intelligence
(Excel, Power View, SSAS…)

Machine Learning
(Mahout)

Stats processing
(RHadoop)

Data Integration

Log file aggregation
(Flume)

Graph
(Pegasus)

( ODBC / SQOOP/ REST)

Pipeline / workflow
(Oozie)

System Center
(Future)

NoSQL Database
(HBase)

Active Directory
(Future)

Metadata
(HCatalog)
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Arquitetura do Hadoop

Distributed Processing
(Map Reduce)
Distributed Storage
(HDFS)

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

Business Intelligence
(Excel, Power View, SSAS…)

Machine Learning
(Mahout)

Stats processing
(RHadoop)

Data Integration

Log file aggregation
(Flume)

Graph
(Pegasus)

( ODBC / SQOOP/ REST)

Pipeline / workflow
(Oozie)

System Center
(Future)

NoSQL Database
(HBase)

Active Directory
(Future)

Metadata
(HCatalog)
SESSÃO: DESENVOLVIMENTO

MOVIMENTANDO DADOS PRO HADOOP

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Demo – Movimentando Dados

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

12
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Mudando a forma de pensar com os 3
Vs do BigData
Volume

Velocidade

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

Variedade
SESSÃO: DESENVOLVIMENTO

HIVE

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Arquitetura do Hive
Hive

Hadoop

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Demo – Consumindo dados com HIVE

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

MAP REDUCE

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
SESSÃO: DESENVOLVIMENTO

Propósito

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

E como é processado?

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Livros técnicos sobre BigData

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Livros sobre assuntos relacionados

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
SESSÃO: DESENVOLVIMENTO

Perguntas & Respostas

© 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.

TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE

Mais conteúdo relacionado

Destaque

12 segredos do google
12 segredos do google12 segredos do google
12 segredos do google
alipionunes
 

Destaque (18)

Pre modelo de projeto metta socios (microcrédito)
Pre modelo de projeto metta socios (microcrédito)Pre modelo de projeto metta socios (microcrédito)
Pre modelo de projeto metta socios (microcrédito)
 
12 segredos do google
12 segredos do google12 segredos do google
12 segredos do google
 
Codificando Live Data Warehouse com SSIS 2012 (Parte 1)
Codificando Live Data Warehouse com SSIS 2012 (Parte 1)Codificando Live Data Warehouse com SSIS 2012 (Parte 1)
Codificando Live Data Warehouse com SSIS 2012 (Parte 1)
 
Hogyan tegyük a vásárlást élménnyé egy webáruházban?
Hogyan tegyük a vásárlást élménnyé egy webáruházban?Hogyan tegyük a vásárlást élménnyé egy webáruházban?
Hogyan tegyük a vásárlást élménnyé egy webáruházban?
 
2016 02-24-contas de gestão de paracuru-ce 2006-multa-desaprovação por irregu...
2016 02-24-contas de gestão de paracuru-ce 2006-multa-desaprovação por irregu...2016 02-24-contas de gestão de paracuru-ce 2006-multa-desaprovação por irregu...
2016 02-24-contas de gestão de paracuru-ce 2006-multa-desaprovação por irregu...
 
Inovações em educação
Inovações em educaçãoInovações em educação
Inovações em educação
 
Workshop Marketing Digital para o Turismo 3 Google
Workshop Marketing Digital para o Turismo 3 Google Workshop Marketing Digital para o Turismo 3 Google
Workshop Marketing Digital para o Turismo 3 Google
 
買収案件のセキュリティテストを 円滑に進める手段
買収案件のセキュリティテストを 円滑に進める手段買収案件のセキュリティテストを 円滑に進める手段
買収案件のセキュリティテストを 円滑に進める手段
 
SibirCTF 2016. Практические методы защиты веб-приложений
SibirCTF 2016. Практические методы защиты веб-приложенийSibirCTF 2016. Практические методы защиты веб-приложений
SibirCTF 2016. Практические методы защиты веб-приложений
 
Разведка боем
Разведка боемРазведка боем
Разведка боем
 
Dilma Rousseff no STF: negada cautelar em mandado de segurança
Dilma Rousseff no STF: negada cautelar em mandado de segurançaDilma Rousseff no STF: negada cautelar em mandado de segurança
Dilma Rousseff no STF: negada cautelar em mandado de segurança
 
New wave of attacks in Ukraine 2016
New wave of attacks in Ukraine 2016New wave of attacks in Ukraine 2016
New wave of attacks in Ukraine 2016
 
Plano de aula
Plano de aulaPlano de aula
Plano de aula
 
Wordpress security
Wordpress securityWordpress security
Wordpress security
 
Communicating animation slides
Communicating animation slidesCommunicating animation slides
Communicating animation slides
 
Expressões Regulares com Python 3
Expressões Regulares com Python 3Expressões Regulares com Python 3
Expressões Regulares com Python 3
 
Information Gathering Over Twitter
Information Gathering Over TwitterInformation Gathering Over Twitter
Information Gathering Over Twitter
 
PNAIC 2015 - Texto 01 Concepção de infância, criança e educação
PNAIC 2015 - Texto 01 Concepção de infância, criança e educaçãoPNAIC 2015 - Texto 01 Concepção de infância, criança e educação
PNAIC 2015 - Texto 01 Concepção de infância, criança e educação
 

Semelhante a MVPShowCast - HDInsight Primeiros Passos com BigData

Semelhante a MVPShowCast - HDInsight Primeiros Passos com BigData (20)

Desenvolvimento de jogos para a Windows Store [MVP ShowCast 2013 - DEV - Wind...
Desenvolvimento de jogos para a Windows Store [MVP ShowCast 2013 - DEV - Wind...Desenvolvimento de jogos para a Windows Store [MVP ShowCast 2013 - DEV - Wind...
Desenvolvimento de jogos para a Windows Store [MVP ShowCast 2013 - DEV - Wind...
 
C++11 e C++14 no Visual Studio 2013 [MVP ShowCast 2013 - DEV - Ferramentas de...
C++11 e C++14 no Visual Studio 2013 [MVP ShowCast 2013 - DEV - Ferramentas de...C++11 e C++14 no Visual Studio 2013 [MVP ShowCast 2013 - DEV - Ferramentas de...
C++11 e C++14 no Visual Studio 2013 [MVP ShowCast 2013 - DEV - Ferramentas de...
 
Construindo Aplicações PHP com Twelve-Factor App
Construindo Aplicações PHP com Twelve-Factor AppConstruindo Aplicações PHP com Twelve-Factor App
Construindo Aplicações PHP com Twelve-Factor App
 
Azure Bootcamp 2018 - DevOps para profissionais de Infra - Infomach / Goiânia
Azure Bootcamp 2018 - DevOps para profissionais de Infra - Infomach / GoiâniaAzure Bootcamp 2018 - DevOps para profissionais de Infra - Infomach / Goiânia
Azure Bootcamp 2018 - DevOps para profissionais de Infra - Infomach / Goiânia
 
MVP ShowCast 2014 - O dia a dia do Cientista de Dados
MVP ShowCast 2014 - O dia a dia do Cientista de DadosMVP ShowCast 2014 - O dia a dia do Cientista de Dados
MVP ShowCast 2014 - O dia a dia do Cientista de Dados
 
Docker: dicas e truques para o dia a dia | MVPConf Latam 2020
Docker: dicas e truques para o dia a dia | MVPConf Latam 2020Docker: dicas e truques para o dia a dia | MVPConf Latam 2020
Docker: dicas e truques para o dia a dia | MVPConf Latam 2020
 
Construindo apps de tempo real com SignalR
Construindo apps de tempo real com SignalRConstruindo apps de tempo real com SignalR
Construindo apps de tempo real com SignalR
 
Por que devo utilizar o Windows Azure Pack?
Por que devo utilizar oWindows Azure Pack?Por que devo utilizar oWindows Azure Pack?
Por que devo utilizar o Windows Azure Pack?
 
Latinoware 2019 - DEsenvolvimento mobile em Nivel jedi
Latinoware 2019 - DEsenvolvimento mobile em Nivel jediLatinoware 2019 - DEsenvolvimento mobile em Nivel jedi
Latinoware 2019 - DEsenvolvimento mobile em Nivel jedi
 
O que há de novo no Microsoft Azure IaaS
O que há de novo no Microsoft Azure IaaSO que há de novo no Microsoft Azure IaaS
O que há de novo no Microsoft Azure IaaS
 
Gt 10 fcsi
Gt 10   fcsiGt 10   fcsi
Gt 10 fcsi
 
Microsoft & Openness - Contruindo Pontes entre Tecnologias
Microsoft & Openness - Contruindo Pontes entre TecnologiasMicrosoft & Openness - Contruindo Pontes entre Tecnologias
Microsoft & Openness - Contruindo Pontes entre Tecnologias
 
Campus Party - Desenvolvendo aplicações .Net com software gratuito
Campus Party  - Desenvolvendo aplicações .Net com software gratuitoCampus Party  - Desenvolvendo aplicações .Net com software gratuito
Campus Party - Desenvolvendo aplicações .Net com software gratuito
 
Evento Allen ES Office 365 e Azure
Evento Allen ES Office 365 e AzureEvento Allen ES Office 365 e Azure
Evento Allen ES Office 365 e Azure
 
Allen apresentação365 & azure
Allen apresentação365 & azureAllen apresentação365 & azure
Allen apresentação365 & azure
 
Utilização de DevOps
Utilização de DevOpsUtilização de DevOps
Utilização de DevOps
 
Computação em nuvem e Windows Azure
Computação em nuvem e Windows AzureComputação em nuvem e Windows Azure
Computação em nuvem e Windows Azure
 
Rchaves developers in a devices & services world - 201404 - final
Rchaves   developers in a devices & services world - 201404 - finalRchaves   developers in a devices & services world - 201404 - final
Rchaves developers in a devices & services world - 201404 - final
 
Containers no Ambiente de Desenvolvimento - mvp conf latam 2019
Containers no Ambiente de Desenvolvimento - mvp conf latam 2019Containers no Ambiente de Desenvolvimento - mvp conf latam 2019
Containers no Ambiente de Desenvolvimento - mvp conf latam 2019
 
Azure Event Hubs: processando eventos em tempo real | MVPConf Latam 2021
Azure Event Hubs: processando eventos em tempo real | MVPConf Latam 2021Azure Event Hubs: processando eventos em tempo real | MVPConf Latam 2021
Azure Event Hubs: processando eventos em tempo real | MVPConf Latam 2021
 

Mais de Diego Nogare

Mais de Diego Nogare (20)

Build your first spark big data environment in azure
Build your first spark big data environment in azureBuild your first spark big data environment in azure
Build your first spark big data environment in azure
 
ABC da Aprendizagem de Máquinas
ABC da Aprendizagem de MáquinasABC da Aprendizagem de Máquinas
ABC da Aprendizagem de Máquinas
 
Real Time Analytics - do Machine Learning ao Power BI
Real Time Analytics - do Machine Learning ao Power BIReal Time Analytics - do Machine Learning ao Power BI
Real Time Analytics - do Machine Learning ao Power BI
 
Real Time Analytics in Industry 4.0
Real Time Analytics in Industry 4.0Real Time Analytics in Industry 4.0
Real Time Analytics in Industry 4.0
 
Real Time Analytics e Machine Learning
Real Time Analytics e Machine Learning Real Time Analytics e Machine Learning
Real Time Analytics e Machine Learning
 
Análise preditiva com consumo de dados em tempo real
Análise preditiva com consumo de dados em tempo realAnálise preditiva com consumo de dados em tempo real
Análise preditiva com consumo de dados em tempo real
 
The Art of Machine Learning & Predictive Intelligence
The Art of Machine Learning & Predictive IntelligenceThe Art of Machine Learning & Predictive Intelligence
The Art of Machine Learning & Predictive Intelligence
 
Real Time Analytics na Industria 4.0
Real Time Analytics na Industria 4.0Real Time Analytics na Industria 4.0
Real Time Analytics na Industria 4.0
 
Big Data: Tomando Decisões
Big Data: Tomando DecisõesBig Data: Tomando Decisões
Big Data: Tomando Decisões
 
Integrando Azure Machine Learning na prática
Integrando Azure Machine Learning na práticaIntegrando Azure Machine Learning na prática
Integrando Azure Machine Learning na prática
 
Criando modelos preditivos com Azure Machine Learning
Criando modelos preditivos com Azure Machine LearningCriando modelos preditivos com Azure Machine Learning
Criando modelos preditivos com Azure Machine Learning
 
Criando modelos preditivos com Azure Machine Learning
Criando modelos preditivos com Azure Machine LearningCriando modelos preditivos com Azure Machine Learning
Criando modelos preditivos com Azure Machine Learning
 
Colocando o Azure Machine Learning no seu Cotidiano
Colocando o Azure Machine Learning no seu Cotidiano Colocando o Azure Machine Learning no seu Cotidiano
Colocando o Azure Machine Learning no seu Cotidiano
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 12 - Sessão de pergun...
Mini-Curso: Introdução à Big Data e Data Science - Aula 12 - Sessão de pergun...Mini-Curso: Introdução à Big Data e Data Science - Aula 12 - Sessão de pergun...
Mini-Curso: Introdução à Big Data e Data Science - Aula 12 - Sessão de pergun...
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 11 - SQL 2016 + BigDa...
Mini-Curso: Introdução à Big Data e Data Science - Aula 11 - SQL 2016 + BigDa...Mini-Curso: Introdução à Big Data e Data Science - Aula 11 - SQL 2016 + BigDa...
Mini-Curso: Introdução à Big Data e Data Science - Aula 11 - SQL 2016 + BigDa...
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 10 - Introdução ao HD...
Mini-Curso: Introdução à Big Data e Data Science - Aula 10 - Introdução ao HD...Mini-Curso: Introdução à Big Data e Data Science - Aula 10 - Introdução ao HD...
Mini-Curso: Introdução à Big Data e Data Science - Aula 10 - Introdução ao HD...
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
Mini-Curso: Introdução à Big Data e Data Science - Aula 9 - Introdução ao Pow...
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 8 - Introdução ao Azu...
Mini-Curso: Introdução à Big Data e Data Science - Aula 8 - Introdução ao Azu...Mini-Curso: Introdução à Big Data e Data Science - Aula 8 - Introdução ao Azu...
Mini-Curso: Introdução à Big Data e Data Science - Aula 8 - Introdução ao Azu...
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 7 - Introdução à Ling...
Mini-Curso: Introdução à Big Data e Data Science - Aula 7 - Introdução à Ling...Mini-Curso: Introdução à Big Data e Data Science - Aula 7 - Introdução à Ling...
Mini-Curso: Introdução à Big Data e Data Science - Aula 7 - Introdução à Ling...
 
Mini-Curso: Introdução à Big Data e Data Science - Aula 5 - Onde usamos Data ...
Mini-Curso: Introdução à Big Data e Data Science - Aula 5 - Onde usamos Data ...Mini-Curso: Introdução à Big Data e Data Science - Aula 5 - Onde usamos Data ...
Mini-Curso: Introdução à Big Data e Data Science - Aula 5 - Onde usamos Data ...
 

Último

Último (8)

Padrões de Projeto: Proxy e Command com exemplo
Padrões de Projeto: Proxy e Command com exemploPadrões de Projeto: Proxy e Command com exemplo
Padrões de Projeto: Proxy e Command com exemplo
 
ATIVIDADE 1 - GCOM - GESTÃO DA INFORMAÇÃO - 54_2024.docx
ATIVIDADE 1 - GCOM - GESTÃO DA INFORMAÇÃO - 54_2024.docxATIVIDADE 1 - GCOM - GESTÃO DA INFORMAÇÃO - 54_2024.docx
ATIVIDADE 1 - GCOM - GESTÃO DA INFORMAÇÃO - 54_2024.docx
 
Luís Kitota AWS Discovery Day Ka Solution.pdf
Luís Kitota AWS Discovery Day Ka Solution.pdfLuís Kitota AWS Discovery Day Ka Solution.pdf
Luís Kitota AWS Discovery Day Ka Solution.pdf
 
Boas práticas de programação com Object Calisthenics
Boas práticas de programação com Object CalisthenicsBoas práticas de programação com Object Calisthenics
Boas práticas de programação com Object Calisthenics
 
ATIVIDADE 1 - ESTRUTURA DE DADOS II - 52_2024.docx
ATIVIDADE 1 - ESTRUTURA DE DADOS II - 52_2024.docxATIVIDADE 1 - ESTRUTURA DE DADOS II - 52_2024.docx
ATIVIDADE 1 - ESTRUTURA DE DADOS II - 52_2024.docx
 
ATIVIDADE 1 - CUSTOS DE PRODUÇÃO - 52_2024.docx
ATIVIDADE 1 - CUSTOS DE PRODUÇÃO - 52_2024.docxATIVIDADE 1 - CUSTOS DE PRODUÇÃO - 52_2024.docx
ATIVIDADE 1 - CUSTOS DE PRODUÇÃO - 52_2024.docx
 
Programação Orientada a Objetos - 4 Pilares.pdf
Programação Orientada a Objetos - 4 Pilares.pdfProgramação Orientada a Objetos - 4 Pilares.pdf
Programação Orientada a Objetos - 4 Pilares.pdf
 
ATIVIDADE 1 - LOGÍSTICA EMPRESARIAL - 52_2024.docx
ATIVIDADE 1 - LOGÍSTICA EMPRESARIAL - 52_2024.docxATIVIDADE 1 - LOGÍSTICA EMPRESARIAL - 52_2024.docx
ATIVIDADE 1 - LOGÍSTICA EMPRESARIAL - 52_2024.docx
 

MVPShowCast - HDInsight Primeiros Passos com BigData

  • 1. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE MVP ShowCast 2013 HDInsight Primeiros passos com BigData Diego Nogare SQL Server Business Intelligence – Minha Vida @DiegoNogare © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 2. SESSÃO: DESENVOLVIMENTO HDInsight © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
  • 3. SESSÃO: DESENVOLVIMENTO Criando o Cluster © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
  • 4. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Demo – Criando o Cluster de HDInsight © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 5. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE A caixa de sapato digital Business Intelligence Data Science Real-Time Hadoop DB Machine Learning Dremel Data Mining Query Self-Service Analytics Hive Predictive Ad-Hoc Operational Batch Map Reduce SQL Exploratory Unstructured Social Pig Insight Interactive Cloud Scale © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. Data Warehouse Pivot Visualization Hadoop Big Query Text Analytics Reporting Drill
  • 6. SESSÃO: DESENVOLVIMENTO HADOOP © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
  • 7. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE 15% Dados Estruturados 85% Dados Não Estruturados Fonte: Apresentação da Gartner ‘O Gerenciamento 'Radical‘ de Informações': Os Maiores Desafios do CIOs com apoio © 2013, MVP ShowCast. Evento organizado por MVPs paraBrasildo Século 21 da Microsoft. 7 Mark Beyer, Outubro 2011
  • 8. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Arquitetura do Hadoop Distributed Processing (Map Reduce) Distributed Storage (HDFS) © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 9. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Arquitetura do Hadoop Distributed Processing (Map Reduce) Distributed Storage (HDFS) © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. Business Intelligence (Excel, Power View, SSAS…) Machine Learning (Mahout) Stats processing (RHadoop) Data Integration Log file aggregation (Flume) Graph (Pegasus) ( ODBC / SQOOP/ REST) Pipeline / workflow (Oozie) System Center (Future) NoSQL Database (HBase) Active Directory (Future) Metadata (HCatalog)
  • 10. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Arquitetura do Hadoop Distributed Processing (Map Reduce) Distributed Storage (HDFS) © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. Business Intelligence (Excel, Power View, SSAS…) Machine Learning (Mahout) Stats processing (RHadoop) Data Integration Log file aggregation (Flume) Graph (Pegasus) ( ODBC / SQOOP/ REST) Pipeline / workflow (Oozie) System Center (Future) NoSQL Database (HBase) Active Directory (Future) Metadata (HCatalog)
  • 11. SESSÃO: DESENVOLVIMENTO MOVIMENTANDO DADOS PRO HADOOP © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
  • 12. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Demo – Movimentando Dados © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. 12
  • 13. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Mudando a forma de pensar com os 3 Vs do BigData Volume Velocidade © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. Variedade
  • 14. SESSÃO: DESENVOLVIMENTO HIVE © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
  • 15. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Arquitetura do Hive Hive Hadoop © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 16. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Demo – Consumindo dados com HIVE © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 17. SESSÃO: DESENVOLVIMENTO MAP REDUCE © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
  • 18. SESSÃO: DESENVOLVIMENTO Propósito © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE
  • 19. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE E como é processado? © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 20. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Livros técnicos sobre BigData © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 21. SESSÃO: DESENVOLVIMENTO TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE Livros sobre assuntos relacionados © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft.
  • 22. SESSÃO: DESENVOLVIMENTO Perguntas & Respostas © 2013, MVP ShowCast. Evento organizado por MVPs do Brasil com apoio da Microsoft. TRILHA: DESENVOLVIMENTO DE APLICAÇÕES PARA WINDOWS AZURE