Persistência nas Nuvens com NoSQL

2.389 visualizações

Publicada em

Computação em Nuvem
Persistência de Dados
Bancos de Dados Relacionais
Movimento NoSQL
Modelo de dados do Bigtable da Google
Arquitetura do Dynamo da Amazon
Detalhes técnicos do Apache Cassandra

Publicada em: Tecnologia
0 comentários
3 gostaram
Estatísticas
Notas
  • Seja o primeiro a comentar

Sem downloads
Visualizações
Visualizações totais
2.389
No SlideShare
0
A partir de incorporações
0
Número de incorporações
508
Ações
Compartilhamentos
0
Downloads
0
Comentários
0
Gostaram
3
Incorporações 0
Nenhuma incorporação

Nenhuma nota no slide
  • ...
  • A grande maioria das aplicações necessita de algum tipo de persistência de dados.
  • Por que precisamos de SQL? Modelo relacional está bem consolidado Linguagem com décadas de evolução Integridade referencial e transações (ACID) Conjunto rico de ferramentas É o que aprendemos É o que o mercado usa
  • Onde usamos SQL (i.e. ACID)? Aplicações empresariais Agências de viagem Internet banking Compras online Cartões de crédito Transações em geral
  • ...
  • Informação digital criada, capturada e replicada pelo mundo Fonte: IDC White Paper, "The Diverse and Exploding Digital Universe", 2008.
  • Aplicações web modernas Grandes volumes de dados (escala da Internet) Altas taxas de leitura e escrita Necessidade de alta disponibilidade Frequentes mudanças nos esquemas Aplicações “sociais” não exigem os mesmos níveis de consistência que aplicações “bancárias”
  • • Scaling existing Relational Databases is hard • Sharding is one solution, but makes your RDBMS unusable • Operational Nightmare
  • Os modelos transacionais ACID Atomicity, Consistency, Isolation, Durability: a set of properties that guarantee database transactions are processed reliably BASE Basically Available, Soft state, Eventual consistency : as opposed to the database concept of ACID http://queue.acm.org/detail.cfm?id=1394128 Eventually Consistent http://queue.acm.org/detail.cfm?id=1466448
  • O Movimento NoSQL NoSQL = Not Only SQL http://nosql-database.org/ bancos que diferem do modelo clássico relacional não relacionais distribuídos horizontalmente escaláveis com esquemas flexíveis replicáveis APIs simples BASE (e não ACID)
  • Por que precisamos de NoSQL nas Nuvens? escalabilidade [horizontal] : mais CPUs comuns ao invés de upgrades performance : alcançado através de design simplificado e denormalização dos dados flexibilidade : natureza dos bancos sem esquema permite metodologias de desenvolvimento ágil [alta] disponibilidade : não existe ponto único de falha (SPOF – single point of failure)
  • Wide Column Store: Bigtable (Google) SimpleDB (AWS) Cassandra (Apache) HBase (Apache) Hypertable Document Store: CouchDB (Apache) MongoDB Key-Value Store: Riak Redis Table Storage (Microsoft Azure)
  • ...
  • Eric Brewer (UCB) in 2000 presented the CAP theorem , which states that of 3 properties of shared-data systems: C: data consistency A: system availability P: tolerance to network partition Only 2 can be achieved at any given time! A more formal confirmation can be found in a 2002 paper by Seth Gilbert and Nancy Lynch.
  • ...
  • CA – Corruption possible if live nodes can’t communicate (network partition)
  • CP – Completely inaccessible if any nodes are dead
  • AP – Always available, but may not always read most recent NoSQL chooses AP, but makes consistency configurable
  • Cassandra highlights ● High availability ● Incremental scalability ● Eventually consistent ● Super fast writes ● Tunable tradeoffs between consistency and latency ● Minimal administration ● No SPF
  • Developed at Facebook Follows the BigTable Data Model - column oriented ( Google ) Follows the Dynamo Eventual Consistency model ( Amazon ) Opensourced at Apache Implemented in Java
  • ...
  • ...
  • ...
  • ...
  • ...
  • Every node is equal Always at least one copy in each datacenter Alternate datacenters on the ring DHT (Distributed Hash Table) Ring
  • Eventual consistency ● Synch to Washington, asynch to Hong Kong Client API Tunables ● Confirm R replicas match at read time ● Synchronously write to W replicas of N total replicas Allows for almost-strong consistency ● When W + R > N
  • Gossip protocol is used for cluster membership Enables seamless nodes addition Rebalancing of keys Fast detection of nodes that goes down Every node knows about all others - no master State disseminated in O(log N) rounds
  • ...
  • ...
  • Conclusão NoSQL can’t do everything Adhoc queries are not possible Right tool for the right job
  • Persistência nas Nuvens com NoSQL

    1. 1. Persistência nas Nuvens com NoSQL Rodrigo Hjort [email_address]
    2. 2. Quem aqui usa banco de dados?
    3. 3. Por que precisamos de SQL?
    4. 4. Onde usamos SQL (i.e. ACID)?
    5. 5. <ul>MAS... </ul>
    6. 6. Universo digital em expansão Fonte: IDC White Paper, &quot;The Diverse and Exploding Digital Universe&quot;, 2008.
    7. 7. Aplicações web modernas
    8. 8. <ul>Escalabilidade vertical é complicada e/ou cara! </ul>
    9. 9. Os modelos transacionais <ul><li>ACID pessimista, forçando consistência ao final de cada operação
    10. 10. BASE otimista, aceitando que a consistência esteja em um “estado de fluxo” </li></ul>http://queue.acm.org/detail.cfm?id=1394128 Possibilita a escalabilidade horizontal...
    11. 11. NoSQL = Not Only SQL http://nosql-database.org/ distribuídos não relacionais horizontalmente escaláveis esquemas flexíveis replicáveis APIs simples
    12. 12. NoSQL nas Nuvens escalabilidade flexibilidade performance disponibilidade
    13. 13. Zoologia dos bancos NoSQL Wide Column Store / Column Families Key-Value Store Document Store Azure Storage Services
    14. 14. <ul>MAS... </ul>
    15. 15. <ul>Você precisa escolher 2! </ul>Teorema de Brewer: CAP <ul><li>Consistência : visão única para os clientes
    16. 16. Disponibilidade : toda operação tem uma resposta
    17. 17. Partição : sistema continua operante mesmo enfrentando partições na rede </li></ul>Consistência Consistency Disponibilidade Availability Partição Partition Tolerance
    18. 18. Breve explicação do CAP um dia ensolarado... partições de rede!
    19. 19. I. Consistência e Disponibilidade <ul><li>Limitações na escalabilidade (leitura e escrita) </li></ul>C A
    20. 20. II. Consistência e Partição <ul><li>Completamente inacessível se qualquer um dos nós estiver fora! </li></ul>C P
    21. 21. III. Disponibilidade e Partição <ul><li>Nem sempre lê a informação mais recente: futuramente consistente </li></ul>A P
    22. 22. “ A high performance, scalable, distributed storage and processing system for structured and unstructured data.”
    23. 23. Cassandra: um breve histórico Bigtable Dynamo
    24. 24. Um novo modelo de dados Agrupamento de famílias de colunas (~banco de dados) Agrupamento de colunas (~tabela) com ordenação fixada Chave que representa uma linha de colunas (~chave primária) Representação de um valor, com: <ul><li>Nome (Name)
    25. 25. Valor (Value)
    26. 26. Timestamp </li></ul>Keyspace Column Family (Row) Key Column
    27. 27. As famílias de colunas
    28. 28. Exemplo: modelagem do Twitter Users Following Followers @paul segue @brigitte desde 22/08/2010 john fullname: John Doe password: swordfish joindate: 20091115 paul fullname: Paul Lane password: thepass joindate: 20091129 john paul: 20091204 brigitte: 20100815 paul john: 20091205 debora: 20100729 brigitte: 20100822 john tom: 20091128 paul: 20091205 brigitte john: 20100815 paul: 20100822
    29. 29. Exemplo: modelagem do Twitter Statuses (Tweets) Timeline Userline Tweets do @john Tweets dos usuários que o @paul segue data/hora tweet 12345 user: john body: Nuvem privada do @serpro! retweets: 123 12346 user: brigitte john 20100116083155: 12346 paul 20100116083002: 12345 20100116083155: 12346 john 20100116083002: 12345 20100118235914: 23457 brigitte 20100116083155: 12346 tweet body: Acabei de #acordar. tags acordar: 1
    30. 30. “It took two weeks to perform ALTER TABLE on the statuses [tweets] table.” – Twitter
    31. 31. Particionamento e replicação Fixed Circular Space (Ring) Virtual Nodes Consistent Hashing (MD5) <ul>N=3 </ul><ul>h(key2) </ul><ul>0 </ul><ul>1 </ul><ul>1/2 </ul><ul>F </ul><ul>E </ul><ul>D </ul><ul>C </ul><ul>B </ul><ul>A </ul><ul>h(key1) </ul>
    32. 32. Ajuste de parâmetros (N, R, W) <ul><li>Consistência versus Escalabilidade
    33. 33. Ajuste por requisição (R, W) </li><ul><li>Zero
    34. 34. One
    35. 35. Quorum: N / 2 + 1
    36. 36. All </li></ul><li>N: réplicas
    37. 37. R + W > N
    38. 38. Read repair </li></ul>ack cliente réplica réplica réplica coordenador
    39. 39. Filiação cluster / detecção falha Gossip-Based Protocol
    40. 40. Relacional versus NoSQL Dados do benchmark <ul><li>Base com 50 GB de dados </li></ul>MySQL <ul><li>leitura: ~350 ms
    41. 41. escrita: ~300 ms </li></ul>Cassandra <ul><li>leitura: ~15 ms
    42. 42. escrita: ~0,12 ms </li></ul>Leitura 23x mais rápida! Escrita 2500x mais rápida!
    43. 43. Escrita é mais rápida que leitura?!
    44. 44. “ NoSQL adoption is inevitable because, just as in every other walk of life, there are different tools for different jobs” – Stephen O'Graddy (RedMonk) Rodrigo Hjort [email_address] http://agajorte.blogspot.com

    ×