SlideShare uma empresa Scribd logo
1 de 91
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Roberto Yoshida, Business Development Manager, AWS
AWS Storage
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Qual é a sua expectativa dessa sessão?
Tem experiência com AWS?
Tem experiência com algum serviço de Storage da AWS?
Quais tipos de storage trabalha hoje?
Quais os seus desafios?
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Agenda
• Diferentes tipos de storage e seu uso (on-prem Vs. AWS)
• Movimentação de dados para a nuvem
• Arquiteturas híbridas de storage
• Total Cost of Ownership (TCO) de storage
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
O que está influenciando na relevância do storage?
Artificial
Intelligence
Natural Language
Processing
Internet of
Things
Information
Assets
Data Trust
Frameworks
Escala de Storage Ilimitada
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Alguns clientes globais de storage da AWS
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Quadrante Mágico do Gartner - 2017
- Gartner Magic Quadrant for Public Cloud Storage Services, Worldwide
Raj Bala, Arun Chandrasekaran, John McArthur, July 24, 2017
“AWS define o mercado de storage em nuvem
pública em que todos os outros provedores
operam.”
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
“…a escala em que a AWS opera o storage na
nuvem pública domina os outros provedores no
Quadrante Mágico.”
- Gartner Magic Quadrant for Public Cloud Storage Services, Worldwide
Raj Bala, Arun Chandrasekaran, John McArthur, July 24, 2017
Por exemplo: O Amazon S3 tem trilhões de
objetos com picos de milhões de requests por
segundo
TEMPO
OBJETOSDE
CLIENTES
Confiabilidade em escala
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
3 tipos de storage
Arquivo ObjetoBloco
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
3 tipos de storage
Arquivo
Dados guardados com arquivos
numa hierarquia de diretório
Compartilhado através da rede
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
3 tipos de storage
Bloco
Dados guardados como
blocos em disco(s)
Conectado localmente
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
3 tipos de storage
Objeto
Dados guardados como objeto
identificado por uma chave em
espaço plano
API simples para colocar (put),
pegar (get) e apagar (delete) com
base na chave
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Performance dos vários tipos de storage
File
Object
Block
Latency
Throughput
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Transferência de dados
OnlineOffline
Segurança e gestão
de dados
Portfólio completo de soluções de storage
Amazon
EFS
Amazon
EBS
Família AWS Snow
AWS Storage Gateway
AWS Direct Connect
Amazon EFS File Sync
Amazon S3
Transfer Acceleration
Parceiros
Amazon Kinesis
Data Streams
Amazon Kinesis
Video Streams
Amazon
S3
Amazon
Glacier
AWS KMS
AWS IAM
Amazon CloudWatch
AWS CloudTrail
AWS CloudFormation
AWS Lambda
Amazon Macie
Amazon QuickSight
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Storage de bloco
Storage de
bloco da AWS
Storage
Instância
EC2
io1gp2
EBS
SSD
sc1st1
EBS
HDD
HDDSSD
O que é o storage da instância Amazon EC2?
EC2 instances • Local na instância
• Não persistente
• Dado não replicado (default)
• Não suporta snapshot
• SSD ou HDD
Physical host
Instance store
or
Storage da instância EC2 Vs. EBS
• Local na instância
• Não persistente
• Dado não replicado (default)
• Não suporta snapshot
• SSD ou HDD (pré-definido)
• Persistente
• 99.999% de disponibilidade
• Automaticamente replicado dentro
da Zona de Disponibilidade (AZ)
• Snapshot com Point-in-time
• Mudança do tipo de volume
• SSD ou HDD
EBS Storage da instância EC2
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
A história do EBS
O que é o EBS?
EBS
volume
EC2
instance
• Storage de bloco as a service
• Crie, atache volumes através de API
• Serviço acessado pela rede
EBS não é como o volume de disco do seu datacenter
EC2
instance
!=
EBS
volume
O dados do EBS estão replicados
EC2
instance
EBS
volume
Persistência e flexibilidade do EBS
EC2
instance
• Volume persiste independente
da instância EC2
• Selecione o storage e a
instância de acordo com a sua
aplicação
• Desatache e atache de
instâncias dentro da mesma AZ
Availability Zone
AWS Region
EBS
volume
Persistência e flexibilidade do EBS
EC2
instance
• Volume persiste independente
da instância EC2
• Selecione o storage e a
instância de acordo com a sua
aplicação
• Desatache e atache de
instâncias dentro da mesma AZ
Availability Zone
AWS Region
EBS
volume
Atachando vários EBS na instância EC2
EC2
instance
• Volume atacha em uma
instância de cada vez
• Muitos volumes podem ser
atachados a uma instância
• Separe volumes de boot
dos de dadosEBS
volume
(boot)
EBS
volume
(data)
EBS
volume
(data)
Availability Zone
AWS Region
A replicação do volume EBS é nativa
EBS
volume
Availability Zone
AWS Region
Replica
O EBS foi projetado para
99.999% de disponibilidade
0.1% a 0.2% de taxa de falha anual (AFR)
(Vs. 1%~2% de um HD convencional)
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Tipos de volumes EBS
Tipos de volumes EBS
Solid-State Drives (SSD) Hard Disk Drives (HDD)
Tipos de volumes EBS
SSD
Provisioned IOPS
SSD
io1
General Purpose
SSD
gp2
Throughput Optimized HDD
st1 sc1
Cold HDD
HDD
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
ou
Escolhendo o tipo de volume EBS
O que é mais importante na sua aplicação?
IOPS Throughput?
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Tipo de volume EBS: General Purpose SSD (gp2)
gp2
Throughput: 160MiB/s
Latência: Um dígito de ms
Capacidade: 1 GiB a 16 TiB
Baseline: 100 IOPS + 3 IOPS por GB, até 10k IOPS
Burst: 3k IOPS (para volumes até 1 TiB)
Ótimo para volumes de boot, aplicações de baixa latência e
banco de dados com bursts
General Purpose SSD
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Tipo de volume EBS: I/O Provisionado
Provisioned IOPS SSD
io1
Baseline: 100 a 32,000 IOPS
Throughput: 500 MiB/s
Latência: Um dígito de ms
Capacidade: 4 GiB a 16 TiB
Ideal para apliações críticas e bancos de dados com IOPS permanente
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Tipo de volume EBS: Throughput Provisionado
st1
Baseline: 40 MiB/s por TiB, até 500 MiB/s
Capacidade: 500 GiB a 16 TiB
Burst: 250 MiB/s por TiB, até 500 MiB/s
Ideal para blocos grandes, aplicação sequencial com alto throughput
(MapReduce, Kafka, data warehouse e ETL)
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
sc1
Tipo de volume EBS: Throughput Provisionado
Cold HDD
Baseline: 12 MiB/s por TB, até 192 MiB/s
Capacidade: 500 GiB a 16 TiB
Burst: 80 MiB/s por TB, até 250 MiB/s
Ideal para aplicação de throughput sequencial, como logs e backup
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Throughput
é mais importante
Pouco I/O, aleatório Muito I/O, sequencial
O que é mais importante?
Latência?
i3
gp2 io1 sc1 st1
d2
Escolhendo o tipo de volume EBS
IOPS
≤ 80,000> 80,000
< 1 ms Um dígito de ms ≤ 1,250 MiB/s
Throughput?
> 1,250 MiB/s
é mais importante
Custo Performance
O que é mais importante?
Custo Performance
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Volumes com I/O Provisionado Volumes com Throughput Provisionado
sc1st1io1gp2
$0.10 por GiB $0.125 por GiB
$0.065 por PIOPS
* Todos os preços por mês, pro-rata por hora e na região us-west-2
$0.045 por GiB $0.025 por GiB
Snapshot dos volumes = $0.05 por GiB por mês
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
EBS elastic volumes
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Elastic volumes – Propriedades
• Aumento do tamanho do disco
• Troca do tipo de volume
• Aumento/Diminuição de IOPS
provisionados
*Modificações do volume precisam ser válidos no volume final
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Elastic volumes – tipos de volumes suportados
Provisioned IOPS
SSD
General Purpose
SSD
Throughput Optimized
HDD
Cold
HDD
io1 st1 sc1gp2
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Elastic volumes – alterar IOPS provisionados
io1
aumentar diminuir
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Elastic volumes – aumentar o tamanho do volume
gp2
gp2
io1
io1
st1
st1
sc1
sc1
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Diminuição do tamanho do volume?
gp2
gp2
sc1
sc1
io1
io1
st1
st1
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Troca de tipo e tamanho do volume
gp2 sc1io1 st1
gp2 sc1io1 st1
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Criptografia EBS
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
O que é criptografia EBS?
Criptografia
• Atache criptogrados e não criptografados
• Sem impacto na performance do volume
• Qualquer instância da geração atual
• Suportado em todos os tipos de EBS
• Snapshots também criptografados
• Sem custo extra
• Volumes de boot e dados podem ser
criptografados
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
EBS snapshot
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
O que é o EBS snapshot?
EBS
volume
Availability Zone
AWS Region
Amazon
S3
Availability Zone
Replica
EBS snapshot
Como funciona o EBS snapshot?
• Backup point-in-time dos blocos alterados do
volume
• Armazenado no S3
• Snapshots seguintes são incrementais
• Apagar um snapshot somente remove os dados
exclusivos daquele snapshot
EBS
volume
EBS
snapshot
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Usando o snapshot para (re)criar instâncias
EBS
volume
Availability Zone
AWS Region
EBS snapshot
EC2 instance
Amazon
Machine
Image
(AMI)
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Usando o snapshot para replicação em outra região AWS
EBS
volume
Availability Zone
AWS Region
Amazon
S3
EBS snapshot
EBS
volume
Availability Zone
AWS Region
EBS snapshot
Replica Replica
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Storage de objeto
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon Simple Storage Service (S3)
Projetado para
99.999999999% de
durabilidade
Compliance
Opções de replicação para
outras regiões
Diferentes formas de
mover os dados (in/out)
Segurança para ajudar o
CISO
Ferramentas automáticas
para diminuir o custo
On-demand analytics
Suporte native a
expressões SQL com S3
Select
Dados detalhados de
perfis de uso e acesso
Colete AnaliseGuarde
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Amazon Glacier
Projetado para
99.999999999% de
durabilidade
Opções de replicação em
outras regiões
Compliance
Ferramentas de
locking, criptografia,
auditoria e alertas
Query-in-place
analytics
Recuperação rápida ou
em alto volume
ArquivoSegurança Custo
Classes de storage de objeto AWS
GlacierS3 Standard
S3 Standard -
Infrequent Access
Regras automáticas do ciclo de vida do dado
S3 One Zone -
Infrequent Access
Dados ativos
Acesso em ms
Min 3 AZs
$0.023
Arquivo
Minutos a Horas
Min 3 AZs
$0.004
Duração minima de 30 dias
Acesso em ms
Min 3 AZs
$0.0125
Duração minima de 30 dias
Acesso em ms
Min 1 AZ
$0.01
Preço por GB por mês na região de US East (N. Virginia)
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Como as classes de storage de objeto diferem entre si?
Availability Zone
Availability Zone
Availability Zone
S3 Standard
S3 Standard-IA
Glacier
Availability Zone
S3 One Zone-IA
Região AWS RegiãoAWS
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
projetado para
99.99%
durabilidade
2 cópias em 1 site
projetado para
99.999%
durabilidade
Cópias em 2 sites
projetado para
99.999999999%
durabilidade
GlacierStandard IA
Região AWS
Entendendo Durabilidade
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Movimentação de dados em grande
escala
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
O que é o Snowball e por
que o criamos?
AWS Snowball AWS Snowball Edge
Mover grandes volumes de dados pela Internet pode
levar anos – A AWS envia um equipamento físico seguro
para você transferir os seus dados e retorná-lo para
importação direta na AWS.
A nuvem nem sempre é acessível de locais remotos
onde a conectividade é limitada ou intermitente –
instale um equipamento robusto na borda com storage
e computação local para processor dados sem depender
de rede.
Envio tradicional de HDs é trabalhoso e sujeito a falhas –
Etiqueta de envio E-ink e rastreabilidade simplifica a
logística em escala.
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Snowball AWS Snowball Edge AWS Snowmobile
• 50 ou 80TB de storage
• 10 GE de rede
• Criptografia fim-a-fim
• Robustez (8.5G de impacto)
• Resistente a intempéries
• 100TB de storage
• 10/25/40 GE de rede
• Criptografia fim-a-fim
• Robustez (8.5G de impacto)
• Resistente a intempéries
• Suporte a AWS Greengrass para
computação, mensagem e
caching local
• Suporte a Amazon EC2/AMI para
edge compute
• Escala de Exabyte em um
container de 45 pés
• Criptografia fim-a-fim
• Time de segurança dedicada
• Rastreamento via GPS,
monitoramento de alarme,
monitoramento 24x7 e segurança
adicional opcional
Família AWS Snow
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Detalhes e especificações da família Snow
Storage 50 ou 80 TB 100 TB 100 PB
Interfaces CLI, S3 SDK S3, NFSv4 NFSv4
Rede 10G 10/25/40G 40/100G
Energia 200W 400W ~350kW
Computação NA m4.4xl (equivalente) NA
Custo do Job
(Import)
$200 ou $250 por job $300 por job $0.005/GB por mês
Custo diário $15/dia depois do 10o dia $30/dia depois do 10o dia NA
Snowball Snowball Edge Snowmobile
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Você precisa do caminhão?
< 10PB > 10PB
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Arquiteturas híbridas de storage
com AWS Storage Gateway
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Qual é o problema?
Você tem muitos dados on-premises…
…E quer…
• Usar a nuvem
• Manter acesso rápido ao seu dado
Dados
existentes
Novos dados
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Isto parece familiar?
Expansão do espaço
para Storage
Aumento da
complexidade para
guardar dados
Custos crescentes do
Storage on-premises
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
O AWS Storage Gateway possibilita vários casos híbridos
Backup | DR | Archive
Enterprise data centers
Amazon
EBS
Amazon
S3
Amazon
Glacier
App serversFile servers
Research sites
AWS Storage Gateway
DevicesDatabasesMultimedia content
Analytics | File Services | Machine Learning | Processamento de Dados
Distribuição de Dados | Backup | DR | Arquivo | Migração
Amazon
EC2
AWS
Lambda
Amazon
CloudFront
Amazon
Athena
Amazon
EMR
Backup serversUsers
Remote offices Small to medium businesses
Amazon
Rekognition
Amazon
MachineLearning
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
AWS Storage Gateway
Amazon EC2
IAM
Amazon
CloudWatch
AWS Key Management
Service (AWS KMS)
AWS CloudTrail
Files
(NFS / SMB)
Volumes
(iSCSI)
Fitas
(iSCSI VTL)
Amazon S3
Amazon Glacier
Amazon EBS
snapshots
Região AWSSeu Datacenter
Storage Gateway
HTTPS
Gateway Service
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Família AWS Storage Gateway
File gateway
Guarde e acesse objetos no Amazon S3 através de aplicações
“file-based” com caching local
Volume gateway
Storage de bloco on-premises replicado na AWS com caching
local, snapshots do Amazon EBS e clones
Tape gateway
Substituição de fita física usando AWS e caching local
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Protocolos de storage
padrões
Storage da AWS acessível sem alterar
aplicações
Cache 100% gerenciado
Dados de uso mais frequente com cache local
para acesso com baixa latência
Storage Durável
Dados de aplicação on-premises nativamente
guardados no Amazon S3, Amazon Glacier e
Amazon EBS snapshots
Principais características do AWS Storage Gateway
Transferência de dados
Otimizada
Upload seguro de dados alterados e download
de dados requisitados
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Arquitetura híbrida para File Gateway
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
File Gateway
Guarde e acesse objetos no Amazon S3 pelas aplicações “file-based” com caching local
Datacenter do cliente
HTTPS
NFS v3/v4
SMB v2/v3
File Gateway Objetos no
bucket S3
Servidor
de
Aplicação
Opções de compartilhamento por arquivo
IAM role
Classe de storage de objeto
Criptografia com AWS KMS
Etc...
Opções por bucket S3
Restrição de acesso por client IP (NFS) ou Active
Directory (SMB) users/groups
Permissões POSIX para acesso no nível de objeto*
Read-only/read-write
* Subset de compatibilidade do NTFS
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
s3://{bucket name}/{diretorio1}/{arquivo1}
s3://{bucket name}/{diretorio1}/{arquivo2}
s3://{bucket name}/{diretorio1}/{arquivo3}
…
s3://{bucket name}/{diretorio2}/{arquivo1}
s3://{bucket name}/{diretorio2}/{arquivo2}
File Gateway
Mapeamento de 1:1 entre arquivos e objetos
nfs://{IP}/{share name}/{diretorio1}/{arquivo1}
nfs://{IP}/{share name}/{diretorio1}/{arquivo2}
nfs://{IP}/{share name}/{diretorio1}/{arquivo3}
…
nfs://{IP}/{share name}/{diretorio2}/{arquivo1}
nfs://{IP}/{share name}/{diretorio2}/{arquivo2}
Gateway de Arquivo
Cliente NFS Objetos no
Amazon S3
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Arquitetura híbrida para Volume
Gateway
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Volume
• Armazenamento de bloco na nuvem exposto como local
• Até 1 PB de storage por Gateway
• Recupere seus volumes de forma flexível via snapshots
Servidor de
aplicação
Snapshots
do Amazon
EBS
Gateway de
Volume
Volume
armazenado no
Amazon S3
HTTPSiSCSI
Cliente
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
No modo Cached, uma cópia completa do volume é armazenado na AWS,
e o dado quente fica disponível localmente
Snapshots
do Amazon
EBS
HTTPSiSCSI
Cliente
Gateway de
Volume
Servidor de
aplicação
Volume
armazenado no
Amazon S3
Gateway de Volume – Modo Cached
100% do volume
armazenado na AWS
Volume virtual Blocos acessados
frequentemente ficam no cache
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Snapshots do Amazon EBS
Amazon CloudWatch
Cliente
iSCSI
Gateway de Volume
Upload buffer
Volume
Cache
VolumeServidor de
aplicação
Gateway de Volume – Modo Cached
Tamanho dos volumes?
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Volume – Modo Cached
Operações de escrita
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Snapshots do Amazon EBS
Amazon CloudWatch
Cliente
iSCSI
Gateway de Volume
Upload buffer
Volume
Cache
Cliente escreve no gateway, que primeiramente
popula o cache
Servidor de
aplicação
Gateway de Volume – Modo Cached
Operações de escrita
Volume
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Snapshots do Amazon EBS
Amazon CloudWatch
Cliente
iSCSI
Gateway de Volume
Upload buffer
Volume
Cache
Servidor de
aplicação
Gateway de Volume – Modo Cached
Operações de escrita
Volume
A escrita é então copiada para o buffer
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Snapshots do Amazon EBS
Amazon CloudWatch
Cliente
iSCSI
Gateway de Volume
Upload buffer
Volume
Cache
O dado comprimido é então enviado para o Amazon S3 via HTTPS
Servidor de
aplicação
Gateway de Volume – Modo Cached
Operações de escrita
Volume
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Volume – Modo Cached
Operações de leitura
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Snapshots do Amazon EBS
Amazon CloudWatch
Cliente
iSCSI
Gateway de Volume
Upload buffer
Volume
Cache
Se o bloco está no cache, ele será lido direto dele
Servidor
de
aplicação
Gateway de Volume – Modo Cached
Operações de leitura
Volume
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Snapshots do Amazon EBS
Amazon CloudWatch
Cliente
iSCSI
Gateway de Volume
Upload buffer
Volume
Cache
Servidor
de
aplicação
Gateway de Volume – Modo Cached
Operações de leitura
Volume
Se o bloco não está no cache, o gateway requisita o bloco e o popula
no cache local
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Snapshots do Amazon EBS
Amazon CloudWatch
Cliente
iSCSI
Gateway de Volume
Upload buffer
Volume
Cache
Servidor
de
aplicação
Gateway de Volume – Modo Cached
Operações de leitura
Volume
O gateway então retorna o bloco que está no cache
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Fita
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Fita
• Fácil adoção de nuvem: fita virtual no Amazon S3 e no Amazon Glacier, acessadas via Gateway
• Seguro e eficiente: dados comprimidos e criptografados em trânsito e armazenados
• Escalável: capacidade ilimitada de armazenamento; até 1-PB por gateway
• Confiável: recuperação em 3–5-horas do Amazon Glacier com 99.999999999% durabilidade
• Baixo custo: custos previsíveis de armazenamento e redução de esforços em gestão
Media changer
Armazenamento
no
Amazon S3
Arquivamento no
Amazon Glacier
Servidor
de
backup
iSCSI
Gateway de Fita
Tape drive
HTTPS
Cliente
Armazene suas fitas virtuais no Amazon S3 e no Amazon Glacier com VTL
Cache
local
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Fita: Substituição de fitas
• Emula uma biblioteca de fitas; fitas virtuais no Amazon S3 e Amazon Glacier
• Funciona com os aplicativos mais comuns de backup
• Baixo custo: Custos previsíveis e gerenciamento reduzido
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Fita: Como o VTL funciona
Datacenter do cliente
Região
Storage Gateway
Servidor de
Backup
Upload buffer
Cache
Media
changer
Tape drive
Tape drive
Tape drive
Tape drive
Tape drive
Tape drive
Tape library
(Amazon S3))
Tape shelf
(Amazon Glacier)
• Emula o equipamento de fita física com drives e media changer
• Escalável: Storage na AWS virtualmente ilimitado
• Fitas virtuais gravadas no S3: Dado está no S3 quando a fita está no drive ou slot
• Fitas virtuais ejetadas são marcadas como “read only” e movidas para “tape shelf” no Glacier
• Recuperação: Recupere fitas para a biblioteca (3–5 horas) e leia o dado no mesmo ou outro
gateway
Tape gateway VM
Tape drive
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Gateway de Fita: Comparação de custo, Exemplo de cliente
Todo mês, 100 TB escrita e recuperação de 1 fita; retenção de 1 ano
Tape gateway
Data written via
gateway
Data transfer out
and tape retrieval
On-premises tape
$34.5 K / year
Virtual tapes archived
in Amazon Glacier
Admin time
Admin time
Tape library
maintenance
Robotic tape library
Tape media costs
Offsite archive
service
$56.8K / year
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Backup & Restore Archive Primary Storage BC/DRData Migration
Parceiros da AWS para Migração e Storage
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Revisão do que vimos hoje
Storage de bloco na AWS (EBS)
Storage de objeto na AWS (S3 e Glacier)
Movimentação de grandes volumes de dados para AWS
(Snowball)
Arquiteturas híbridas para storage (Gateway: File, Volume,
Fita)
© 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
Obrigado!

Mais conteúdo relacionado

Mais procurados

Building blocks #4 - Rede de entrega de conteúdo (CDN) na AWS
Building blocks #4 - Rede de entrega de conteúdo (CDN) na AWSBuilding blocks #4 - Rede de entrega de conteúdo (CDN) na AWS
Building blocks #4 - Rede de entrega de conteúdo (CDN) na AWSAmazon Web Services LATAM
 
Quais são as opções de banco de dados gerenciados na AWS?
 Quais são as opções de banco de dados gerenciados na AWS? Quais são as opções de banco de dados gerenciados na AWS?
Quais são as opções de banco de dados gerenciados na AWS?Amazon Web Services LATAM
 
AWS Meetup Rio - Qual banco usar e quando?
AWS Meetup Rio - Qual banco usar e quando?AWS Meetup Rio - Qual banco usar e quando?
AWS Meetup Rio - Qual banco usar e quando?Pedro Pisa
 
Melhores práticas de workloads Microsoft na AWS
Melhores práticas de workloads Microsoft na AWSMelhores práticas de workloads Microsoft na AWS
Melhores práticas de workloads Microsoft na AWSAmazon Web Services LATAM
 
Raising the bar #2 - Explorando o poder do banco de dados com Amazon Aurora
Raising the bar #2 - Explorando o poder do banco de dados com Amazon AuroraRaising the bar #2 - Explorando o poder do banco de dados com Amazon Aurora
Raising the bar #2 - Explorando o poder do banco de dados com Amazon AuroraAmazon Web Services LATAM
 
Armazenamento para uma estratégia híbrida
 Armazenamento para uma estratégia híbrida Armazenamento para uma estratégia híbrida
Armazenamento para uma estratégia híbridaAmazon Web Services LATAM
 
Utilizando NoSQL para Big Data com DynamoDB
Utilizando NoSQL para Big Data com DynamoDB Utilizando NoSQL para Big Data com DynamoDB
Utilizando NoSQL para Big Data com DynamoDB Amazon Web Services LATAM
 
Explorando o poder do banco de dados com Amazon Aurora
Explorando o poder do banco de dados com Amazon AuroraExplorando o poder do banco de dados com Amazon Aurora
Explorando o poder do banco de dados com Amazon AuroraAmazon Web Services LATAM
 
Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2
Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2
Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2Amazon Web Services LATAM
 
Path to the future #2 - Internet das coisas com AWS IoT
Path to the future #2 - Internet das coisas com AWS IoTPath to the future #2 - Internet das coisas com AWS IoT
Path to the future #2 - Internet das coisas com AWS IoTAmazon Web Services LATAM
 
Como construir sua primeira aplicação de Big Data na AWS
Como construir sua primeira aplicação de Big Data na AWSComo construir sua primeira aplicação de Big Data na AWS
Como construir sua primeira aplicação de Big Data na AWSAmazon Web Services LATAM
 
Migrando seu workload de Big Data para o Amazon EMR
Migrando seu workload de Big Data para o Amazon EMRMigrando seu workload de Big Data para o Amazon EMR
Migrando seu workload de Big Data para o Amazon EMRAmazon Web Services LATAM
 

Mais procurados (18)

Building blocks #4 - Rede de entrega de conteúdo (CDN) na AWS
Building blocks #4 - Rede de entrega de conteúdo (CDN) na AWSBuilding blocks #4 - Rede de entrega de conteúdo (CDN) na AWS
Building blocks #4 - Rede de entrega de conteúdo (CDN) na AWS
 
Quais são as opções de banco de dados gerenciados na AWS?
 Quais são as opções de banco de dados gerenciados na AWS? Quais são as opções de banco de dados gerenciados na AWS?
Quais são as opções de banco de dados gerenciados na AWS?
 
AWS Meetup Rio - Qual banco usar e quando?
AWS Meetup Rio - Qual banco usar e quando?AWS Meetup Rio - Qual banco usar e quando?
AWS Meetup Rio - Qual banco usar e quando?
 
Melhores práticas de workloads Microsoft na AWS
Melhores práticas de workloads Microsoft na AWSMelhores práticas de workloads Microsoft na AWS
Melhores práticas de workloads Microsoft na AWS
 
Raising the bar #2 - Explorando o poder do banco de dados com Amazon Aurora
Raising the bar #2 - Explorando o poder do banco de dados com Amazon AuroraRaising the bar #2 - Explorando o poder do banco de dados com Amazon Aurora
Raising the bar #2 - Explorando o poder do banco de dados com Amazon Aurora
 
Armazenamento para uma estratégia híbrida
 Armazenamento para uma estratégia híbrida Armazenamento para uma estratégia híbrida
Armazenamento para uma estratégia híbrida
 
Utilizando NoSQL para Big Data com DynamoDB
Utilizando NoSQL para Big Data com DynamoDB Utilizando NoSQL para Big Data com DynamoDB
Utilizando NoSQL para Big Data com DynamoDB
 
Explorando o poder do banco de dados com Amazon Aurora
Explorando o poder do banco de dados com Amazon AuroraExplorando o poder do banco de dados com Amazon Aurora
Explorando o poder do banco de dados com Amazon Aurora
 
Deep dive de Amazon DynamoDB
Deep dive de Amazon DynamoDBDeep dive de Amazon DynamoDB
Deep dive de Amazon DynamoDB
 
Webinar: Introdução a Big data
Webinar: Introdução a Big dataWebinar: Introdução a Big data
Webinar: Introdução a Big data
 
Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2
Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2
Raising the bar #4 - Economize utilizando instâncias Spot no Amazon EC2
 
Fazendo seu DR na AWS de maneira prática
Fazendo seu DR na AWS de maneira práticaFazendo seu DR na AWS de maneira prática
Fazendo seu DR na AWS de maneira prática
 
Seu primeiro aplicativo de Big Data
Seu primeiro aplicativo de Big DataSeu primeiro aplicativo de Big Data
Seu primeiro aplicativo de Big Data
 
Reduzindo custos com Microsoft na AWS
Reduzindo custos com Microsoft na AWSReduzindo custos com Microsoft na AWS
Reduzindo custos com Microsoft na AWS
 
Tendências de Big Data
Tendências de Big DataTendências de Big Data
Tendências de Big Data
 
Path to the future #2 - Internet das coisas com AWS IoT
Path to the future #2 - Internet das coisas com AWS IoTPath to the future #2 - Internet das coisas com AWS IoT
Path to the future #2 - Internet das coisas com AWS IoT
 
Como construir sua primeira aplicação de Big Data na AWS
Como construir sua primeira aplicação de Big Data na AWSComo construir sua primeira aplicação de Big Data na AWS
Como construir sua primeira aplicação de Big Data na AWS
 
Migrando seu workload de Big Data para o Amazon EMR
Migrando seu workload de Big Data para o Amazon EMRMigrando seu workload de Big Data para o Amazon EMR
Migrando seu workload de Big Data para o Amazon EMR
 

Semelhante a Armazenamento - EBC on the road Brazil Edition [Portuguese]

Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...
Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...
Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...Amazon Web Services
 
Path to the Future #1 - Tendências de Big Data
Path to the Future #1 - Tendências de Big DataPath to the Future #1 - Tendências de Big Data
Path to the Future #1 - Tendências de Big DataAmazon Web Services LATAM
 
Sessão Avançada: Amazon Aurora - DAT302 - Sao Paulo Summit
Sessão Avançada: Amazon Aurora -  DAT302 - Sao Paulo SummitSessão Avançada: Amazon Aurora -  DAT302 - Sao Paulo Summit
Sessão Avançada: Amazon Aurora - DAT302 - Sao Paulo SummitAmazon Web Services
 
Escalando do Zero aos seus Primeiros 10 Milhões de Usuários - ARC203 - Sao P...
Escalando do Zero aos seus Primeiros 10 Milhões de Usuários -  ARC203 - Sao P...Escalando do Zero aos seus Primeiros 10 Milhões de Usuários -  ARC203 - Sao P...
Escalando do Zero aos seus Primeiros 10 Milhões de Usuários - ARC203 - Sao P...Amazon Web Services
 
Encontre o Banco de Dados certo para sua Carga de Trabalho
Encontre o Banco de Dados certo para sua Carga de TrabalhoEncontre o Banco de Dados certo para sua Carga de Trabalho
Encontre o Banco de Dados certo para sua Carga de TrabalhoAmazon Web Services LATAM
 
Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...
Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...
Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...Amazon Web Services
 
Conhecendo as opcoes de Storage na Nuvem da AWS
Conhecendo as opcoes de Storage na Nuvem da AWSConhecendo as opcoes de Storage na Nuvem da AWS
Conhecendo as opcoes de Storage na Nuvem da AWSAmazon Web Services LATAM
 
Construindo um Data Warehouse moderno com Amazon Redshift
Construindo um Data Warehouse moderno com Amazon RedshiftConstruindo um Data Warehouse moderno com Amazon Redshift
Construindo um Data Warehouse moderno com Amazon RedshiftAmazon Web Services LATAM
 
Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway - CM...
Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway -  CM...Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway -  CM...
Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway - CM...Amazon Web Services
 
Escalando para os primeiros 10 milhoes de usuarios
Escalando para os primeiros 10 milhoes de usuariosEscalando para os primeiros 10 milhoes de usuarios
Escalando para os primeiros 10 milhoes de usuariosAmazon Web Services LATAM
 
Data Lakes - EBC on the road Brazil Edition [Portuguese]
Data Lakes - EBC on the road Brazil Edition [Portuguese]Data Lakes - EBC on the road Brazil Edition [Portuguese]
Data Lakes - EBC on the road Brazil Edition [Portuguese]Amazon Web Services
 
Seus logs nas costas largas da AWS
Seus logs nas costas largas da AWSSeus logs nas costas largas da AWS
Seus logs nas costas largas da AWSMarcelo Palladino
 

Semelhante a Armazenamento - EBC on the road Brazil Edition [Portuguese] (20)

Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...
Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...
Aplicando uma Estratégia de Banco de Dados AWS Personalizada: Encontre o Banc...
 
Tendências de Big Data
Tendências de Big DataTendências de Big Data
Tendências de Big Data
 
Tendências de Big Data
Tendências de Big DataTendências de Big Data
Tendências de Big Data
 
Path to the Future #1 - Tendências de Big Data
Path to the Future #1 - Tendências de Big DataPath to the Future #1 - Tendências de Big Data
Path to the Future #1 - Tendências de Big Data
 
AWS Webinar | Como usar AWS?
AWS Webinar | Como usar AWS?AWS Webinar | Como usar AWS?
AWS Webinar | Como usar AWS?
 
Sessão Avançada: Amazon Aurora - DAT302 - Sao Paulo Summit
Sessão Avançada: Amazon Aurora -  DAT302 - Sao Paulo SummitSessão Avançada: Amazon Aurora -  DAT302 - Sao Paulo Summit
Sessão Avançada: Amazon Aurora - DAT302 - Sao Paulo Summit
 
Tech Talks Webinar- Armazenamento na AWS
Tech Talks Webinar- Armazenamento na AWSTech Talks Webinar- Armazenamento na AWS
Tech Talks Webinar- Armazenamento na AWS
 
Escalando do Zero aos seus Primeiros 10 Milhões de Usuários - ARC203 - Sao P...
Escalando do Zero aos seus Primeiros 10 Milhões de Usuários -  ARC203 - Sao P...Escalando do Zero aos seus Primeiros 10 Milhões de Usuários -  ARC203 - Sao P...
Escalando do Zero aos seus Primeiros 10 Milhões de Usuários - ARC203 - Sao P...
 
Encontre o Banco de Dados certo para sua Carga de Trabalho
Encontre o Banco de Dados certo para sua Carga de TrabalhoEncontre o Banco de Dados certo para sua Carga de Trabalho
Encontre o Banco de Dados certo para sua Carga de Trabalho
 
Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...
Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...
Sessão Avançada: Otimizando Bancos de Dados Relacionais na AWS com Amazon RDS...
 
[Webinar] AWS Storage Day - Português
[Webinar] AWS Storage Day - Português[Webinar] AWS Storage Day - Português
[Webinar] AWS Storage Day - Português
 
Conhecendo as opcoes de Storage na Nuvem da AWS
Conhecendo as opcoes de Storage na Nuvem da AWSConhecendo as opcoes de Storage na Nuvem da AWS
Conhecendo as opcoes de Storage na Nuvem da AWS
 
arcserve in the AWS cloud
arcserve in the AWS cloud arcserve in the AWS cloud
arcserve in the AWS cloud
 
Construindo um Data Warehouse moderno com Amazon Redshift
Construindo um Data Warehouse moderno com Amazon RedshiftConstruindo um Data Warehouse moderno com Amazon Redshift
Construindo um Data Warehouse moderno com Amazon Redshift
 
Bancos de Dados gerenciados na nuvem AWS
Bancos de Dados gerenciados na nuvem AWSBancos de Dados gerenciados na nuvem AWS
Bancos de Dados gerenciados na nuvem AWS
 
Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway - CM...
Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway -  CM...Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway -  CM...
Sessão Avançada: Armazenamento Híbrido na Nuvem com AWS Storage Gateway - CM...
 
Escalando para os primeiros 10 milhoes de usuarios
Escalando para os primeiros 10 milhoes de usuariosEscalando para os primeiros 10 milhoes de usuarios
Escalando para os primeiros 10 milhoes de usuarios
 
AWS Database Day - Português
AWS Database Day - PortuguêsAWS Database Day - Português
AWS Database Day - Português
 
Data Lakes - EBC on the road Brazil Edition [Portuguese]
Data Lakes - EBC on the road Brazil Edition [Portuguese]Data Lakes - EBC on the road Brazil Edition [Portuguese]
Data Lakes - EBC on the road Brazil Edition [Portuguese]
 
Seus logs nas costas largas da AWS
Seus logs nas costas largas da AWSSeus logs nas costas largas da AWS
Seus logs nas costas largas da AWS
 

Mais de Amazon Web Services

Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...
Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...
Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...Amazon Web Services
 
Big Data per le Startup: come creare applicazioni Big Data in modalità Server...
Big Data per le Startup: come creare applicazioni Big Data in modalità Server...Big Data per le Startup: come creare applicazioni Big Data in modalità Server...
Big Data per le Startup: come creare applicazioni Big Data in modalità Server...Amazon Web Services
 
Esegui pod serverless con Amazon EKS e AWS Fargate
Esegui pod serverless con Amazon EKS e AWS FargateEsegui pod serverless con Amazon EKS e AWS Fargate
Esegui pod serverless con Amazon EKS e AWS FargateAmazon Web Services
 
Costruire Applicazioni Moderne con AWS
Costruire Applicazioni Moderne con AWSCostruire Applicazioni Moderne con AWS
Costruire Applicazioni Moderne con AWSAmazon Web Services
 
Come spendere fino al 90% in meno con i container e le istanze spot
Come spendere fino al 90% in meno con i container e le istanze spot Come spendere fino al 90% in meno con i container e le istanze spot
Come spendere fino al 90% in meno con i container e le istanze spot Amazon Web Services
 
Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...
Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...
Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...Amazon Web Services
 
OpsWorks Configuration Management: automatizza la gestione e i deployment del...
OpsWorks Configuration Management: automatizza la gestione e i deployment del...OpsWorks Configuration Management: automatizza la gestione e i deployment del...
OpsWorks Configuration Management: automatizza la gestione e i deployment del...Amazon Web Services
 
Microsoft Active Directory su AWS per supportare i tuoi Windows Workloads
Microsoft Active Directory su AWS per supportare i tuoi Windows WorkloadsMicrosoft Active Directory su AWS per supportare i tuoi Windows Workloads
Microsoft Active Directory su AWS per supportare i tuoi Windows WorkloadsAmazon Web Services
 
Database Oracle e VMware Cloud on AWS i miti da sfatare
Database Oracle e VMware Cloud on AWS i miti da sfatareDatabase Oracle e VMware Cloud on AWS i miti da sfatare
Database Oracle e VMware Cloud on AWS i miti da sfatareAmazon Web Services
 
Crea la tua prima serverless ledger-based app con QLDB e NodeJS
Crea la tua prima serverless ledger-based app con QLDB e NodeJSCrea la tua prima serverless ledger-based app con QLDB e NodeJS
Crea la tua prima serverless ledger-based app con QLDB e NodeJSAmazon Web Services
 
API moderne real-time per applicazioni mobili e web
API moderne real-time per applicazioni mobili e webAPI moderne real-time per applicazioni mobili e web
API moderne real-time per applicazioni mobili e webAmazon Web Services
 
Database Oracle e VMware Cloud™ on AWS: i miti da sfatare
Database Oracle e VMware Cloud™ on AWS: i miti da sfatareDatabase Oracle e VMware Cloud™ on AWS: i miti da sfatare
Database Oracle e VMware Cloud™ on AWS: i miti da sfatareAmazon Web Services
 
Tools for building your MVP on AWS
Tools for building your MVP on AWSTools for building your MVP on AWS
Tools for building your MVP on AWSAmazon Web Services
 
How to Build a Winning Pitch Deck
How to Build a Winning Pitch DeckHow to Build a Winning Pitch Deck
How to Build a Winning Pitch DeckAmazon Web Services
 
Building a web application without servers
Building a web application without serversBuilding a web application without servers
Building a web application without serversAmazon Web Services
 
AWS_HK_StartupDay_Building Interactive websites while automating for efficien...
AWS_HK_StartupDay_Building Interactive websites while automating for efficien...AWS_HK_StartupDay_Building Interactive websites while automating for efficien...
AWS_HK_StartupDay_Building Interactive websites while automating for efficien...Amazon Web Services
 
Introduzione a Amazon Elastic Container Service
Introduzione a Amazon Elastic Container ServiceIntroduzione a Amazon Elastic Container Service
Introduzione a Amazon Elastic Container ServiceAmazon Web Services
 

Mais de Amazon Web Services (20)

Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...
Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...
Come costruire servizi di Forecasting sfruttando algoritmi di ML e deep learn...
 
Big Data per le Startup: come creare applicazioni Big Data in modalità Server...
Big Data per le Startup: come creare applicazioni Big Data in modalità Server...Big Data per le Startup: come creare applicazioni Big Data in modalità Server...
Big Data per le Startup: come creare applicazioni Big Data in modalità Server...
 
Esegui pod serverless con Amazon EKS e AWS Fargate
Esegui pod serverless con Amazon EKS e AWS FargateEsegui pod serverless con Amazon EKS e AWS Fargate
Esegui pod serverless con Amazon EKS e AWS Fargate
 
Costruire Applicazioni Moderne con AWS
Costruire Applicazioni Moderne con AWSCostruire Applicazioni Moderne con AWS
Costruire Applicazioni Moderne con AWS
 
Come spendere fino al 90% in meno con i container e le istanze spot
Come spendere fino al 90% in meno con i container e le istanze spot Come spendere fino al 90% in meno con i container e le istanze spot
Come spendere fino al 90% in meno con i container e le istanze spot
 
Open banking as a service
Open banking as a serviceOpen banking as a service
Open banking as a service
 
Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...
Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...
Rendi unica l’offerta della tua startup sul mercato con i servizi Machine Lea...
 
OpsWorks Configuration Management: automatizza la gestione e i deployment del...
OpsWorks Configuration Management: automatizza la gestione e i deployment del...OpsWorks Configuration Management: automatizza la gestione e i deployment del...
OpsWorks Configuration Management: automatizza la gestione e i deployment del...
 
Microsoft Active Directory su AWS per supportare i tuoi Windows Workloads
Microsoft Active Directory su AWS per supportare i tuoi Windows WorkloadsMicrosoft Active Directory su AWS per supportare i tuoi Windows Workloads
Microsoft Active Directory su AWS per supportare i tuoi Windows Workloads
 
Computer Vision con AWS
Computer Vision con AWSComputer Vision con AWS
Computer Vision con AWS
 
Database Oracle e VMware Cloud on AWS i miti da sfatare
Database Oracle e VMware Cloud on AWS i miti da sfatareDatabase Oracle e VMware Cloud on AWS i miti da sfatare
Database Oracle e VMware Cloud on AWS i miti da sfatare
 
Crea la tua prima serverless ledger-based app con QLDB e NodeJS
Crea la tua prima serverless ledger-based app con QLDB e NodeJSCrea la tua prima serverless ledger-based app con QLDB e NodeJS
Crea la tua prima serverless ledger-based app con QLDB e NodeJS
 
API moderne real-time per applicazioni mobili e web
API moderne real-time per applicazioni mobili e webAPI moderne real-time per applicazioni mobili e web
API moderne real-time per applicazioni mobili e web
 
Database Oracle e VMware Cloud™ on AWS: i miti da sfatare
Database Oracle e VMware Cloud™ on AWS: i miti da sfatareDatabase Oracle e VMware Cloud™ on AWS: i miti da sfatare
Database Oracle e VMware Cloud™ on AWS: i miti da sfatare
 
Tools for building your MVP on AWS
Tools for building your MVP on AWSTools for building your MVP on AWS
Tools for building your MVP on AWS
 
How to Build a Winning Pitch Deck
How to Build a Winning Pitch DeckHow to Build a Winning Pitch Deck
How to Build a Winning Pitch Deck
 
Building a web application without servers
Building a web application without serversBuilding a web application without servers
Building a web application without servers
 
Fundraising Essentials
Fundraising EssentialsFundraising Essentials
Fundraising Essentials
 
AWS_HK_StartupDay_Building Interactive websites while automating for efficien...
AWS_HK_StartupDay_Building Interactive websites while automating for efficien...AWS_HK_StartupDay_Building Interactive websites while automating for efficien...
AWS_HK_StartupDay_Building Interactive websites while automating for efficien...
 
Introduzione a Amazon Elastic Container Service
Introduzione a Amazon Elastic Container ServiceIntroduzione a Amazon Elastic Container Service
Introduzione a Amazon Elastic Container Service
 

Armazenamento - EBC on the road Brazil Edition [Portuguese]

  • 1. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Roberto Yoshida, Business Development Manager, AWS AWS Storage
  • 2. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Qual é a sua expectativa dessa sessão? Tem experiência com AWS? Tem experiência com algum serviço de Storage da AWS? Quais tipos de storage trabalha hoje? Quais os seus desafios?
  • 3. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Agenda • Diferentes tipos de storage e seu uso (on-prem Vs. AWS) • Movimentação de dados para a nuvem • Arquiteturas híbridas de storage • Total Cost of Ownership (TCO) de storage
  • 4. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. O que está influenciando na relevância do storage? Artificial Intelligence Natural Language Processing Internet of Things Information Assets Data Trust Frameworks Escala de Storage Ilimitada
  • 5. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Alguns clientes globais de storage da AWS
  • 6. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Quadrante Mágico do Gartner - 2017 - Gartner Magic Quadrant for Public Cloud Storage Services, Worldwide Raj Bala, Arun Chandrasekaran, John McArthur, July 24, 2017 “AWS define o mercado de storage em nuvem pública em que todos os outros provedores operam.”
  • 7. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. “…a escala em que a AWS opera o storage na nuvem pública domina os outros provedores no Quadrante Mágico.” - Gartner Magic Quadrant for Public Cloud Storage Services, Worldwide Raj Bala, Arun Chandrasekaran, John McArthur, July 24, 2017 Por exemplo: O Amazon S3 tem trilhões de objetos com picos de milhões de requests por segundo TEMPO OBJETOSDE CLIENTES Confiabilidade em escala
  • 8. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 3 tipos de storage Arquivo ObjetoBloco
  • 9. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 3 tipos de storage Arquivo Dados guardados com arquivos numa hierarquia de diretório Compartilhado através da rede
  • 10. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 3 tipos de storage Bloco Dados guardados como blocos em disco(s) Conectado localmente
  • 11. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. 3 tipos de storage Objeto Dados guardados como objeto identificado por uma chave em espaço plano API simples para colocar (put), pegar (get) e apagar (delete) com base na chave
  • 12. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Performance dos vários tipos de storage File Object Block Latency Throughput
  • 13. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Transferência de dados OnlineOffline Segurança e gestão de dados Portfólio completo de soluções de storage Amazon EFS Amazon EBS Família AWS Snow AWS Storage Gateway AWS Direct Connect Amazon EFS File Sync Amazon S3 Transfer Acceleration Parceiros Amazon Kinesis Data Streams Amazon Kinesis Video Streams Amazon S3 Amazon Glacier AWS KMS AWS IAM Amazon CloudWatch AWS CloudTrail AWS CloudFormation AWS Lambda Amazon Macie Amazon QuickSight
  • 14. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Storage de bloco
  • 15. Storage de bloco da AWS Storage Instância EC2 io1gp2 EBS SSD sc1st1 EBS HDD HDDSSD
  • 16. O que é o storage da instância Amazon EC2? EC2 instances • Local na instância • Não persistente • Dado não replicado (default) • Não suporta snapshot • SSD ou HDD Physical host Instance store or
  • 17. Storage da instância EC2 Vs. EBS • Local na instância • Não persistente • Dado não replicado (default) • Não suporta snapshot • SSD ou HDD (pré-definido) • Persistente • 99.999% de disponibilidade • Automaticamente replicado dentro da Zona de Disponibilidade (AZ) • Snapshot com Point-in-time • Mudança do tipo de volume • SSD ou HDD EBS Storage da instância EC2
  • 18. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. A história do EBS
  • 19. O que é o EBS? EBS volume EC2 instance • Storage de bloco as a service • Crie, atache volumes através de API • Serviço acessado pela rede
  • 20. EBS não é como o volume de disco do seu datacenter EC2 instance != EBS volume
  • 21. O dados do EBS estão replicados EC2 instance EBS volume
  • 22. Persistência e flexibilidade do EBS EC2 instance • Volume persiste independente da instância EC2 • Selecione o storage e a instância de acordo com a sua aplicação • Desatache e atache de instâncias dentro da mesma AZ Availability Zone AWS Region EBS volume
  • 23. Persistência e flexibilidade do EBS EC2 instance • Volume persiste independente da instância EC2 • Selecione o storage e a instância de acordo com a sua aplicação • Desatache e atache de instâncias dentro da mesma AZ Availability Zone AWS Region EBS volume
  • 24. Atachando vários EBS na instância EC2 EC2 instance • Volume atacha em uma instância de cada vez • Muitos volumes podem ser atachados a uma instância • Separe volumes de boot dos de dadosEBS volume (boot) EBS volume (data) EBS volume (data) Availability Zone AWS Region
  • 25. A replicação do volume EBS é nativa EBS volume Availability Zone AWS Region Replica
  • 26. O EBS foi projetado para 99.999% de disponibilidade 0.1% a 0.2% de taxa de falha anual (AFR) (Vs. 1%~2% de um HD convencional)
  • 27. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Tipos de volumes EBS
  • 28. Tipos de volumes EBS Solid-State Drives (SSD) Hard Disk Drives (HDD)
  • 29. Tipos de volumes EBS SSD Provisioned IOPS SSD io1 General Purpose SSD gp2 Throughput Optimized HDD st1 sc1 Cold HDD HDD
  • 30. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. ou Escolhendo o tipo de volume EBS O que é mais importante na sua aplicação? IOPS Throughput?
  • 31. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Tipo de volume EBS: General Purpose SSD (gp2) gp2 Throughput: 160MiB/s Latência: Um dígito de ms Capacidade: 1 GiB a 16 TiB Baseline: 100 IOPS + 3 IOPS por GB, até 10k IOPS Burst: 3k IOPS (para volumes até 1 TiB) Ótimo para volumes de boot, aplicações de baixa latência e banco de dados com bursts General Purpose SSD
  • 32. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Tipo de volume EBS: I/O Provisionado Provisioned IOPS SSD io1 Baseline: 100 a 32,000 IOPS Throughput: 500 MiB/s Latência: Um dígito de ms Capacidade: 4 GiB a 16 TiB Ideal para apliações críticas e bancos de dados com IOPS permanente
  • 33. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Tipo de volume EBS: Throughput Provisionado st1 Baseline: 40 MiB/s por TiB, até 500 MiB/s Capacidade: 500 GiB a 16 TiB Burst: 250 MiB/s por TiB, até 500 MiB/s Ideal para blocos grandes, aplicação sequencial com alto throughput (MapReduce, Kafka, data warehouse e ETL)
  • 34. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. sc1 Tipo de volume EBS: Throughput Provisionado Cold HDD Baseline: 12 MiB/s por TB, até 192 MiB/s Capacidade: 500 GiB a 16 TiB Burst: 80 MiB/s por TB, até 250 MiB/s Ideal para aplicação de throughput sequencial, como logs e backup
  • 35. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Throughput é mais importante Pouco I/O, aleatório Muito I/O, sequencial O que é mais importante? Latência? i3 gp2 io1 sc1 st1 d2 Escolhendo o tipo de volume EBS IOPS ≤ 80,000> 80,000 < 1 ms Um dígito de ms ≤ 1,250 MiB/s Throughput? > 1,250 MiB/s é mais importante Custo Performance O que é mais importante? Custo Performance
  • 36. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Volumes com I/O Provisionado Volumes com Throughput Provisionado sc1st1io1gp2 $0.10 por GiB $0.125 por GiB $0.065 por PIOPS * Todos os preços por mês, pro-rata por hora e na região us-west-2 $0.045 por GiB $0.025 por GiB Snapshot dos volumes = $0.05 por GiB por mês
  • 37. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. EBS elastic volumes
  • 38. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Elastic volumes – Propriedades • Aumento do tamanho do disco • Troca do tipo de volume • Aumento/Diminuição de IOPS provisionados *Modificações do volume precisam ser válidos no volume final
  • 39. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Elastic volumes – tipos de volumes suportados Provisioned IOPS SSD General Purpose SSD Throughput Optimized HDD Cold HDD io1 st1 sc1gp2
  • 40. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Elastic volumes – alterar IOPS provisionados io1 aumentar diminuir
  • 41. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Elastic volumes – aumentar o tamanho do volume gp2 gp2 io1 io1 st1 st1 sc1 sc1
  • 42. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Diminuição do tamanho do volume? gp2 gp2 sc1 sc1 io1 io1 st1 st1
  • 43. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Troca de tipo e tamanho do volume gp2 sc1io1 st1 gp2 sc1io1 st1
  • 44. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Criptografia EBS
  • 45. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. O que é criptografia EBS? Criptografia • Atache criptogrados e não criptografados • Sem impacto na performance do volume • Qualquer instância da geração atual • Suportado em todos os tipos de EBS • Snapshots também criptografados • Sem custo extra • Volumes de boot e dados podem ser criptografados
  • 46. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. EBS snapshot
  • 47. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. O que é o EBS snapshot? EBS volume Availability Zone AWS Region Amazon S3 Availability Zone Replica EBS snapshot
  • 48. Como funciona o EBS snapshot? • Backup point-in-time dos blocos alterados do volume • Armazenado no S3 • Snapshots seguintes são incrementais • Apagar um snapshot somente remove os dados exclusivos daquele snapshot EBS volume EBS snapshot
  • 49. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Usando o snapshot para (re)criar instâncias EBS volume Availability Zone AWS Region EBS snapshot EC2 instance Amazon Machine Image (AMI)
  • 50. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Usando o snapshot para replicação em outra região AWS EBS volume Availability Zone AWS Region Amazon S3 EBS snapshot EBS volume Availability Zone AWS Region EBS snapshot Replica Replica
  • 51. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Storage de objeto
  • 52. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Simple Storage Service (S3) Projetado para 99.999999999% de durabilidade Compliance Opções de replicação para outras regiões Diferentes formas de mover os dados (in/out) Segurança para ajudar o CISO Ferramentas automáticas para diminuir o custo On-demand analytics Suporte native a expressões SQL com S3 Select Dados detalhados de perfis de uso e acesso Colete AnaliseGuarde
  • 53. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon Glacier Projetado para 99.999999999% de durabilidade Opções de replicação em outras regiões Compliance Ferramentas de locking, criptografia, auditoria e alertas Query-in-place analytics Recuperação rápida ou em alto volume ArquivoSegurança Custo
  • 54. Classes de storage de objeto AWS GlacierS3 Standard S3 Standard - Infrequent Access Regras automáticas do ciclo de vida do dado S3 One Zone - Infrequent Access Dados ativos Acesso em ms Min 3 AZs $0.023 Arquivo Minutos a Horas Min 3 AZs $0.004 Duração minima de 30 dias Acesso em ms Min 3 AZs $0.0125 Duração minima de 30 dias Acesso em ms Min 1 AZ $0.01 Preço por GB por mês na região de US East (N. Virginia)
  • 55. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Como as classes de storage de objeto diferem entre si? Availability Zone Availability Zone Availability Zone S3 Standard S3 Standard-IA Glacier Availability Zone S3 One Zone-IA Região AWS RegiãoAWS
  • 56. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. projetado para 99.99% durabilidade 2 cópias em 1 site projetado para 99.999% durabilidade Cópias em 2 sites projetado para 99.999999999% durabilidade GlacierStandard IA Região AWS Entendendo Durabilidade
  • 57. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Movimentação de dados em grande escala
  • 58. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. O que é o Snowball e por que o criamos? AWS Snowball AWS Snowball Edge Mover grandes volumes de dados pela Internet pode levar anos – A AWS envia um equipamento físico seguro para você transferir os seus dados e retorná-lo para importação direta na AWS. A nuvem nem sempre é acessível de locais remotos onde a conectividade é limitada ou intermitente – instale um equipamento robusto na borda com storage e computação local para processor dados sem depender de rede. Envio tradicional de HDs é trabalhoso e sujeito a falhas – Etiqueta de envio E-ink e rastreabilidade simplifica a logística em escala.
  • 59. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Snowball AWS Snowball Edge AWS Snowmobile • 50 ou 80TB de storage • 10 GE de rede • Criptografia fim-a-fim • Robustez (8.5G de impacto) • Resistente a intempéries • 100TB de storage • 10/25/40 GE de rede • Criptografia fim-a-fim • Robustez (8.5G de impacto) • Resistente a intempéries • Suporte a AWS Greengrass para computação, mensagem e caching local • Suporte a Amazon EC2/AMI para edge compute • Escala de Exabyte em um container de 45 pés • Criptografia fim-a-fim • Time de segurança dedicada • Rastreamento via GPS, monitoramento de alarme, monitoramento 24x7 e segurança adicional opcional Família AWS Snow © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved.
  • 60. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Detalhes e especificações da família Snow Storage 50 ou 80 TB 100 TB 100 PB Interfaces CLI, S3 SDK S3, NFSv4 NFSv4 Rede 10G 10/25/40G 40/100G Energia 200W 400W ~350kW Computação NA m4.4xl (equivalente) NA Custo do Job (Import) $200 ou $250 por job $300 por job $0.005/GB por mês Custo diário $15/dia depois do 10o dia $30/dia depois do 10o dia NA Snowball Snowball Edge Snowmobile
  • 61. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Você precisa do caminhão? < 10PB > 10PB
  • 62. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Arquiteturas híbridas de storage com AWS Storage Gateway
  • 63. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Qual é o problema? Você tem muitos dados on-premises… …E quer… • Usar a nuvem • Manter acesso rápido ao seu dado Dados existentes Novos dados
  • 64. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Isto parece familiar? Expansão do espaço para Storage Aumento da complexidade para guardar dados Custos crescentes do Storage on-premises
  • 65. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. O AWS Storage Gateway possibilita vários casos híbridos Backup | DR | Archive Enterprise data centers Amazon EBS Amazon S3 Amazon Glacier App serversFile servers Research sites AWS Storage Gateway DevicesDatabasesMultimedia content Analytics | File Services | Machine Learning | Processamento de Dados Distribuição de Dados | Backup | DR | Arquivo | Migração Amazon EC2 AWS Lambda Amazon CloudFront Amazon Athena Amazon EMR Backup serversUsers Remote offices Small to medium businesses Amazon Rekognition Amazon MachineLearning
  • 66. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS Storage Gateway Amazon EC2 IAM Amazon CloudWatch AWS Key Management Service (AWS KMS) AWS CloudTrail Files (NFS / SMB) Volumes (iSCSI) Fitas (iSCSI VTL) Amazon S3 Amazon Glacier Amazon EBS snapshots Região AWSSeu Datacenter Storage Gateway HTTPS Gateway Service
  • 67. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Família AWS Storage Gateway File gateway Guarde e acesse objetos no Amazon S3 através de aplicações “file-based” com caching local Volume gateway Storage de bloco on-premises replicado na AWS com caching local, snapshots do Amazon EBS e clones Tape gateway Substituição de fita física usando AWS e caching local
  • 68. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Protocolos de storage padrões Storage da AWS acessível sem alterar aplicações Cache 100% gerenciado Dados de uso mais frequente com cache local para acesso com baixa latência Storage Durável Dados de aplicação on-premises nativamente guardados no Amazon S3, Amazon Glacier e Amazon EBS snapshots Principais características do AWS Storage Gateway Transferência de dados Otimizada Upload seguro de dados alterados e download de dados requisitados
  • 69. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Arquitetura híbrida para File Gateway
  • 70. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. File Gateway Guarde e acesse objetos no Amazon S3 pelas aplicações “file-based” com caching local Datacenter do cliente HTTPS NFS v3/v4 SMB v2/v3 File Gateway Objetos no bucket S3 Servidor de Aplicação Opções de compartilhamento por arquivo IAM role Classe de storage de objeto Criptografia com AWS KMS Etc... Opções por bucket S3 Restrição de acesso por client IP (NFS) ou Active Directory (SMB) users/groups Permissões POSIX para acesso no nível de objeto* Read-only/read-write * Subset de compatibilidade do NTFS
  • 71. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. s3://{bucket name}/{diretorio1}/{arquivo1} s3://{bucket name}/{diretorio1}/{arquivo2} s3://{bucket name}/{diretorio1}/{arquivo3} … s3://{bucket name}/{diretorio2}/{arquivo1} s3://{bucket name}/{diretorio2}/{arquivo2} File Gateway Mapeamento de 1:1 entre arquivos e objetos nfs://{IP}/{share name}/{diretorio1}/{arquivo1} nfs://{IP}/{share name}/{diretorio1}/{arquivo2} nfs://{IP}/{share name}/{diretorio1}/{arquivo3} … nfs://{IP}/{share name}/{diretorio2}/{arquivo1} nfs://{IP}/{share name}/{diretorio2}/{arquivo2} Gateway de Arquivo Cliente NFS Objetos no Amazon S3
  • 72. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Arquitetura híbrida para Volume Gateway
  • 73. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Volume • Armazenamento de bloco na nuvem exposto como local • Até 1 PB de storage por Gateway • Recupere seus volumes de forma flexível via snapshots Servidor de aplicação Snapshots do Amazon EBS Gateway de Volume Volume armazenado no Amazon S3 HTTPSiSCSI Cliente
  • 74. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. No modo Cached, uma cópia completa do volume é armazenado na AWS, e o dado quente fica disponível localmente Snapshots do Amazon EBS HTTPSiSCSI Cliente Gateway de Volume Servidor de aplicação Volume armazenado no Amazon S3 Gateway de Volume – Modo Cached 100% do volume armazenado na AWS Volume virtual Blocos acessados frequentemente ficam no cache
  • 75. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Snapshots do Amazon EBS Amazon CloudWatch Cliente iSCSI Gateway de Volume Upload buffer Volume Cache VolumeServidor de aplicação Gateway de Volume – Modo Cached Tamanho dos volumes?
  • 76. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Volume – Modo Cached Operações de escrita
  • 77. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Snapshots do Amazon EBS Amazon CloudWatch Cliente iSCSI Gateway de Volume Upload buffer Volume Cache Cliente escreve no gateway, que primeiramente popula o cache Servidor de aplicação Gateway de Volume – Modo Cached Operações de escrita Volume
  • 78. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Snapshots do Amazon EBS Amazon CloudWatch Cliente iSCSI Gateway de Volume Upload buffer Volume Cache Servidor de aplicação Gateway de Volume – Modo Cached Operações de escrita Volume A escrita é então copiada para o buffer
  • 79. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Snapshots do Amazon EBS Amazon CloudWatch Cliente iSCSI Gateway de Volume Upload buffer Volume Cache O dado comprimido é então enviado para o Amazon S3 via HTTPS Servidor de aplicação Gateway de Volume – Modo Cached Operações de escrita Volume
  • 80. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Volume – Modo Cached Operações de leitura
  • 81. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Snapshots do Amazon EBS Amazon CloudWatch Cliente iSCSI Gateway de Volume Upload buffer Volume Cache Se o bloco está no cache, ele será lido direto dele Servidor de aplicação Gateway de Volume – Modo Cached Operações de leitura Volume
  • 82. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Snapshots do Amazon EBS Amazon CloudWatch Cliente iSCSI Gateway de Volume Upload buffer Volume Cache Servidor de aplicação Gateway de Volume – Modo Cached Operações de leitura Volume Se o bloco não está no cache, o gateway requisita o bloco e o popula no cache local
  • 83. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Snapshots do Amazon EBS Amazon CloudWatch Cliente iSCSI Gateway de Volume Upload buffer Volume Cache Servidor de aplicação Gateway de Volume – Modo Cached Operações de leitura Volume O gateway então retorna o bloco que está no cache
  • 84. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Fita
  • 85. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Fita • Fácil adoção de nuvem: fita virtual no Amazon S3 e no Amazon Glacier, acessadas via Gateway • Seguro e eficiente: dados comprimidos e criptografados em trânsito e armazenados • Escalável: capacidade ilimitada de armazenamento; até 1-PB por gateway • Confiável: recuperação em 3–5-horas do Amazon Glacier com 99.999999999% durabilidade • Baixo custo: custos previsíveis de armazenamento e redução de esforços em gestão Media changer Armazenamento no Amazon S3 Arquivamento no Amazon Glacier Servidor de backup iSCSI Gateway de Fita Tape drive HTTPS Cliente Armazene suas fitas virtuais no Amazon S3 e no Amazon Glacier com VTL Cache local
  • 86. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Fita: Substituição de fitas • Emula uma biblioteca de fitas; fitas virtuais no Amazon S3 e Amazon Glacier • Funciona com os aplicativos mais comuns de backup • Baixo custo: Custos previsíveis e gerenciamento reduzido
  • 87. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Fita: Como o VTL funciona Datacenter do cliente Região Storage Gateway Servidor de Backup Upload buffer Cache Media changer Tape drive Tape drive Tape drive Tape drive Tape drive Tape drive Tape library (Amazon S3)) Tape shelf (Amazon Glacier) • Emula o equipamento de fita física com drives e media changer • Escalável: Storage na AWS virtualmente ilimitado • Fitas virtuais gravadas no S3: Dado está no S3 quando a fita está no drive ou slot • Fitas virtuais ejetadas são marcadas como “read only” e movidas para “tape shelf” no Glacier • Recuperação: Recupere fitas para a biblioteca (3–5 horas) e leia o dado no mesmo ou outro gateway Tape gateway VM Tape drive
  • 88. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Gateway de Fita: Comparação de custo, Exemplo de cliente Todo mês, 100 TB escrita e recuperação de 1 fita; retenção de 1 ano Tape gateway Data written via gateway Data transfer out and tape retrieval On-premises tape $34.5 K / year Virtual tapes archived in Amazon Glacier Admin time Admin time Tape library maintenance Robotic tape library Tape media costs Offsite archive service $56.8K / year
  • 89. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Backup & Restore Archive Primary Storage BC/DRData Migration Parceiros da AWS para Migração e Storage
  • 90. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Revisão do que vimos hoje Storage de bloco na AWS (EBS) Storage de objeto na AWS (S3 e Glacier) Movimentação de grandes volumes de dados para AWS (Snowball) Arquiteturas híbridas para storage (Gateway: File, Volume, Fita)
  • 91. © 2018, Amazon Web Services, Inc. or its affiliates. All rights reserved. Obrigado!

Notas do Editor

  1. One example of AWS experience at scale in the storage portfolio is Amazon S3. While S3 has been publicly available since 2006, this chart reflects growth over just the last few years. AWS infrastsructure is based on multiple datacenters in every Availabilty Zone, with multiple Availabilty Zones in each geographic region. That means AWS storage is designed to withstand the failure of an entire datacenter. This, coupled with over a decade of experience, makes AWS the storage choice for highly sensitive organizations like the US Government.
  2. There is no better choice for object storage than Amazon. Here’s why: Unmatched durability and scalability. Amazon S3 was built from the ground up to deliver a customer promise of eleven-nines of durability. Data is automatically distributed across a minimum of three physical facilities that are geographically separated by at least 10 kilometers within an AWS Region, and Amazon S3 can also automatically replicate data to another AWS Region. Most Comprehensive Security & Compliance. Amazon S3 is the only cloud storage platform that supports three different forms of encryption, including automatic server-side encryption, encryption with keys managed by the AWS Key Management Service (KMS), and encryption with keys managed by the customer. S3 offers sophisticated integration with AWS CloudTrail to log, monitor and retain storage API call activities for auditing. Amazon S3 is the only cloud storage platform that includes Amazon Macie, an AI-powered security service that continuously monitors use of your data to detect anomalies, and then issues alerts to you can take action to prevent data loss or inadvertent sharing. Amazon S3 supports more security standards and compliance certifications than any other offering, including PCI-DSS, HIPAA/HITECH, FedRAMP, SEC Rule 17-a-4, EU Data Protection Directive, and FISMA, helping satisfy compliance requirements for virtually every regulatory agency around the globe. This level of protection helps highly regulated organizations, such as the United States Federal Government, operate more securely in the AWS cloud than in their own data centers. Query-in-Place – Amazon S3 is the only cloud storage platform that lets customers run sophisticated analytics on their data without requiring them to extract and move the data to a separate analytics database. Anyone who knows SQL can use Amazon Athena to analyze vast amounts of unstructured data in Amazon S3 on-demand. With Amazon Redshift Spectrum, customer can run sophisticated analytics against exabytes of data in S3, and run queries that span both the data you have in S3 and in your Redshift data warehouses. Customers use S3 to build for backup and restore, data lakes and IoT, analytics and cloud-native applications
  3. Glacier is the most cost effective way to store data for archive and long-term backup. It’s ideal for active archive, tape replacement, and regulatory compliance use cases. Glacier is built on the same highly durable infrastructure as S3, but with a focus on long-term archival use cases. The Glacier Select API extends a data lake and lower the cost of storage while opening archived data up to on-demand analytics queries. And data can be accessible in minutes through expedited retrievals.
  4. S3 Standard object storage classes replicates your data across at least three Availability Zones within a single region. This gives you unmatched resilience to single data center issues like power failures, and helps us deliver that 99.9999999% durability. Sometimes your data just doesn’t need this. In that case, for easily re-createable data or backups, we offer the S3 One Zone-IA class. This helps you reduce costs in backup or replication scenarios. AWS AZs are always miles apart, never in a 3rd party colocation facility, and of course, never defined as a single room or a partial rack.
  5. Amazon S3, S3-IA, & Glacier were built from the ground up to deliver eleven-nines of durability. That means customers can expect to lose a single object every 10,000 years. We work with many customers who archive data by storing two copies of tape either in the same building or one copy on-site and one remote.  When we discuss durability, which is a big deal for many archive customers, many are accustomed to thinking in number of “copies” and found the 11 9’s a bit non-intuitive.  To bridge that, we did a thought experiment with a large studio where, at a high level, we walked them through how we derived the 11 9’s using a Markov chain model where we modeled failures from storage device, server, network, availability zone, etc.  We asked them to estimate their two-copy tape durability using a similar concept and: they estimated ~4 9’s for two copies in a single building or ~5 9’s for two copies in separate locations.  This helped them realize that AWS’s 11 9’s durability can be thought of as 6 to 7 orders of magnitude more durable than two copies of tape and helped us bridge the conversation.
  6. So, what’s the problem we’re trying to address with Storage Gateway? You have a lot of data and your data stores are ever-growing. As data stores grow, companies are faced with the challenges of having to backup, archive and maintain reliable access to their data. This can be cumbersome to maintain, not to mention expensive. Most companies want to implement a cloud strategy for their applications and data that can reduce these challenges, but it can be difficult to know where to start.
  7. Do these challenges look familiar? Is your on-premises footprint always expanding? Are you and your teams challenged with the operational complexity of maintaining expensive data centers and infrastructure? Are your storage costs rising and putting pressure on your budget? If any of these situations look familiar, then you should consider taking a look at how AWS Storage Gateway can address your challenges.
  8. Secure & efficient: Data encrypted and compressed in transit and at rest Scalable: Unlimited archive capacity; up to 1 PB total tape storage per gateway Dependable: 3–5-hour tape retrieval
  9. Virtual tape storage in Amazon S3 and Amazon Glacier with VTL management Secure & efficient: Data encrypted and compressed in transit and at rest Scalable: Unlimited archive capacity; in Glacier for archive – it’s unlimited, for online data in S3 up to 1 PB total tape storage or 1,500 max tapes per gateway, and can add more gateways to keep more data
  10. This chart compares the cost of gateway versus traditional, on-premises tape archival costs. You can see how tape gateway provides about a 40% savings in this case. The savings is derived from a few areas. Not having to pay for tape media, offsite archival, as well as a reduction in admin time and maintenance of physical tapes and tape infrastructure.