SlideShare uma empresa Scribd logo
1 de 20
Baixar para ler offline
毒霸云查杀数据库架构和
  MySQL优化实践

           温铭
    http://s8.hk/kr^_^
互联网软件的特点
• 糙
   开发维护流程不规范
   代码可维护性差
   轻测试,bug多
• 快
   需求变化快
   迭代速度快
   用户反馈快
• 猛
   海量用户
   海量数据
   新技术
• 精
   运营比开发重要
数据的价值


    • 人才?
    • 数据?
水银是什么
• 毒霸云安全 有对水银一代和云安全比较全
  面的介绍
• 毒霸十年反病毒经验的总结
• 安全数据的收集、处理、分析、总结和应
  用的平台
• 毒霸从客户端向互联网转型的急先锋
水银数据库
• 数据库技术架构的变迁代表了水银技术架
  构的变迁
• 历次系统的瓶颈和阵痛
• 系统性能和功能的飞跃
(零)结合应用
• CAP
   一致性(Consistency)
   可用性(Availability)
   分区容忍性(Partition tolerance)
• BASE
   基本可用(Basically Available)
   软状态(Soft state)
   最终一致(Eventually consistent)
   取代ACID? eBay的选择
• 好架构是用的时候磨合修改出来的;不可能一劳永逸
• 教育或者被忽悠
• 逻辑尽可能前移
(壹)了解数据
• 数据库架构的第一步
• 你需要知道:
 数据的含义
 数据的预计规模和增长速度
 数据的使用频率
 数据的生命周期
 数据是实时的,还是可以cache,多久失效
 ……
• 制定缓存和归档机制
 缓存为王
水银:开发就是DBA
• 开发DBA、运维DBA…..从来就没有过DBA
• 表的设计、字段和索引都是开发人员发起,
  邮件或者群里吼。由兼职DBA简单审查就能
  上线
• 好处:最了解应用和数据;快速实现
• 坏处:数据库慢查询;应用和数据库整体
  架构不统一;不便管理
(贰)备份
•   数据库一定会崩溃
•   备份比优化更重要
•   Master-slave
•   InnoDB Hot Backup
•   innobackupex
•   SAN
•   LVM
•   ZFS
•   锁表、停机
水银:备份重要也紧急
•   Master-slave
•   多重备份
•   备份救过命
•   顺便分担读压力
•   不完善,不系统
•   没有应急方案和崩溃演习
(叁)表和索引的设计
•   开始数据库的第一步
•   表和索引设计是数据库优化的一大半
•   了解会有哪些操作、各占比例以及消耗
•   explain 和 profiling
水银:索引
• 不用索引
水银:索引(续)
• 滥用索引
• 还不如没有索引
水银:数据库参数配置
• MyISAM vs InnoDB
• My.cnf的参数调整
• MySQL优化基础
• 网络环境和硬件都会对参数的调整有很大
  影响
(肆)海量数据
•   多少算海量?TB、PB、billion
•   还是要先了解应用和数据
•   关注慢查询
•   找出瓶颈在哪儿
•   NODB:应用、网络、OS、主机、存储
•   scale up 和 scale out
水银: scale up
• OS:32bit 64bit
• Disk:Sata SASSAS RAID10HP MSA2000i
  (iSCSI)EMC(FC)
• memory:4G8G12G
• MySQL:5.05.1
• 全部使用InnoDB
• 参数调整
水银: scale out
•   数据库按照功能拆分
•   使用Django的多数据库控制,无痛拆分
•   数据归档
•   数据生命周期
(伍)高可用性
•   硬件冗余:RAID、电源、主机、交换机…
•   SAN + Heartbeat
•   DRDB + Heartbeat
•   Master-slave
•   Master-slave 半同步(MySQL5.5支持)
•   Master-master
水银:没有HA
• 内外网都没有
• 我们的服务要求是几个九的可靠性?
• 代价和成本(参考这里)
Q&A

Mais conteúdo relacionado

Mais procurados

了解应用服务器
了解应用服务器了解应用服务器
了解应用服务器Feng Yu
 
数据架构方面的一些探讨
数据架构方面的一些探讨数据架构方面的一些探讨
数据架构方面的一些探讨Chao Zhu
 
低成本和高性能MySQL云架构探索
低成本和高性能MySQL云架构探索低成本和高性能MySQL云架构探索
低成本和高性能MySQL云架构探索Feng Yu
 
自助工具助Dba提升效率
自助工具助Dba提升效率自助工具助Dba提升效率
自助工具助Dba提升效率Chao Zhu
 
大型电商的数据服务的要点和难点
大型电商的数据服务的要点和难点 大型电商的数据服务的要点和难点
大型电商的数据服务的要点和难点 Chao Zhu
 
No sql@vip new
No sql@vip newNo sql@vip new
No sql@vip newChao Zhu
 
iServDB雲端資料庫解決方案
iServDB雲端資料庫解決方案iServDB雲端資料庫解決方案
iServDB雲端資料庫解決方案iServDB & iServCloud
 
了解集群
了解集群了解集群
了解集群Feng Yu
 
OTN软硬件结合数据库解决方案
OTN软硬件结合数据库解决方案OTN软硬件结合数据库解决方案
OTN软硬件结合数据库解决方案freezr
 
Exadata那点事
Exadata那点事Exadata那点事
Exadata那点事freezr
 
開源技術建構訂票交易資料庫
開源技術建構訂票交易資料庫開源技術建構訂票交易資料庫
開源技術建構訂票交易資料庫José Lin
 
分布式缓存与队列
分布式缓存与队列分布式缓存与队列
分布式缓存与队列XiaoJun Hong
 
美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise 美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise 美团点评技术团队
 
美团点评技术沙龙14美团云-Docker平台
美团点评技术沙龙14美团云-Docker平台美团点评技术沙龙14美团云-Docker平台
美团点评技术沙龙14美团云-Docker平台美团点评技术团队
 
Sql server 2014 新功能探索
Sql server 2014  新功能探索Sql server 2014  新功能探索
Sql server 2014 新功能探索Rico Chen
 
豆瓣数据架构实践
豆瓣数据架构实践豆瓣数据架构实践
豆瓣数据架构实践Xupeng Yun
 
大型系统的缓存标准化之路—从主从多级重client到一体化
大型系统的缓存标准化之路—从主从多级重client到一体化大型系统的缓存标准化之路—从主从多级重client到一体化
大型系统的缓存标准化之路—从主从多级重client到一体化XiaoJun Hong
 
美团点评技术沙龙14:美团四层负载均衡
美团点评技术沙龙14:美团四层负载均衡美团点评技术沙龙14:美团四层负载均衡
美团点评技术沙龙14:美团四层负载均衡美团点评技术团队
 
阿里自研数据库 Ocean base实践
阿里自研数据库 Ocean base实践阿里自研数据库 Ocean base实践
阿里自研数据库 Ocean base实践drewz lin
 
redis 适用场景与实现
redis 适用场景与实现redis 适用场景与实现
redis 适用场景与实现iammutex
 

Mais procurados (20)

了解应用服务器
了解应用服务器了解应用服务器
了解应用服务器
 
数据架构方面的一些探讨
数据架构方面的一些探讨数据架构方面的一些探讨
数据架构方面的一些探讨
 
低成本和高性能MySQL云架构探索
低成本和高性能MySQL云架构探索低成本和高性能MySQL云架构探索
低成本和高性能MySQL云架构探索
 
自助工具助Dba提升效率
自助工具助Dba提升效率自助工具助Dba提升效率
自助工具助Dba提升效率
 
大型电商的数据服务的要点和难点
大型电商的数据服务的要点和难点 大型电商的数据服务的要点和难点
大型电商的数据服务的要点和难点
 
No sql@vip new
No sql@vip newNo sql@vip new
No sql@vip new
 
iServDB雲端資料庫解決方案
iServDB雲端資料庫解決方案iServDB雲端資料庫解決方案
iServDB雲端資料庫解決方案
 
了解集群
了解集群了解集群
了解集群
 
OTN软硬件结合数据库解决方案
OTN软硬件结合数据库解决方案OTN软硬件结合数据库解决方案
OTN软硬件结合数据库解决方案
 
Exadata那点事
Exadata那点事Exadata那点事
Exadata那点事
 
開源技術建構訂票交易資料庫
開源技術建構訂票交易資料庫開源技術建構訂票交易資料庫
開源技術建構訂票交易資料庫
 
分布式缓存与队列
分布式缓存与队列分布式缓存与队列
分布式缓存与队列
 
美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise 美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise
 
美团点评技术沙龙14美团云-Docker平台
美团点评技术沙龙14美团云-Docker平台美团点评技术沙龙14美团云-Docker平台
美团点评技术沙龙14美团云-Docker平台
 
Sql server 2014 新功能探索
Sql server 2014  新功能探索Sql server 2014  新功能探索
Sql server 2014 新功能探索
 
豆瓣数据架构实践
豆瓣数据架构实践豆瓣数据架构实践
豆瓣数据架构实践
 
大型系统的缓存标准化之路—从主从多级重client到一体化
大型系统的缓存标准化之路—从主从多级重client到一体化大型系统的缓存标准化之路—从主从多级重client到一体化
大型系统的缓存标准化之路—从主从多级重client到一体化
 
美团点评技术沙龙14:美团四层负载均衡
美团点评技术沙龙14:美团四层负载均衡美团点评技术沙龙14:美团四层负载均衡
美团点评技术沙龙14:美团四层负载均衡
 
阿里自研数据库 Ocean base实践
阿里自研数据库 Ocean base实践阿里自研数据库 Ocean base实践
阿里自研数据库 Ocean base实践
 
redis 适用场景与实现
redis 适用场景与实现redis 适用场景与实现
redis 适用场景与实现
 

Semelhante a mercury

MySQL设计、优化、运维
MySQL设计、优化、运维MySQL设计、优化、运维
MySQL设计、优化、运维Jinrong Ye
 
淘宝双11双12案例分享
淘宝双11双12案例分享淘宝双11双12案例分享
淘宝双11双12案例分享vanadies10
 
新浪微博Feed服务架构
新浪微博Feed服务架构新浪微博Feed服务架构
新浪微博Feed服务架构XiaoJun Hong
 
基于MySQL开放复制协议的同步扩展
基于MySQL开放复制协议的同步扩展基于MySQL开放复制协议的同步扩展
基于MySQL开放复制协议的同步扩展Sky Jian
 
设计高性能mysql应用-TechClub技术沙龙
设计高性能mysql应用-TechClub技术沙龙设计高性能mysql应用-TechClub技术沙龙
设计高性能mysql应用-TechClub技术沙龙banping
 
Mysql调优
Mysql调优Mysql调优
Mysql调优ken shin
 
金山云查询系统改进之路1
金山云查询系统改进之路1金山云查询系统改进之路1
金山云查询系统改进之路1Zoom Quiet
 
张松国 腾讯微博架构介绍08
张松国 腾讯微博架构介绍08张松国 腾讯微博架构介绍08
张松国 腾讯微博架构介绍08drewz lin
 
基于My sql的分布式数据库实践
基于My sql的分布式数据库实践基于My sql的分布式数据库实践
基于My sql的分布式数据库实践锐 张
 
基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践jackbillow
 
Accelerate Database as a Service(DBaaS) in Cloud era
Accelerate Database as a Service(DBaaS) in Cloud eraAccelerate Database as a Service(DBaaS) in Cloud era
Accelerate Database as a Service(DBaaS) in Cloud eraJunchi Zhang
 
天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011Yiwei Ma
 
大型网站架构的发展
大型网站架构的发展大型网站架构的发展
大型网站架构的发展drewz lin
 
大型网站架构的发展
大型网站架构的发展大型网站架构的发展
大型网站架构的发展Hesey
 
新浪微博平台与安全架构
新浪微博平台与安全架构新浪微博平台与安全架构
新浪微博平台与安全架构n716
 
利用统一存储获得无与伦比的速度,简化系统,并节省更多
利用统一存储获得无与伦比的速度,简化系统,并节省更多利用统一存储获得无与伦比的速度,简化系统,并节省更多
利用统一存储获得无与伦比的速度,简化系统,并节省更多ITband
 
有道云笔记架构简介
有道云笔记架构简介有道云笔记架构简介
有道云笔记架构简介drewz lin
 
亚马逊云计算Aws
亚马逊云计算Aws亚马逊云计算Aws
亚马逊云计算Aws锐 张
 
网站离线数据安全分析漫谈 2012cert
网站离线数据安全分析漫谈 2012cert网站离线数据安全分析漫谈 2012cert
网站离线数据安全分析漫谈 2012certph4nt0m
 

Semelhante a mercury (20)

MySQL设计、优化、运维
MySQL设计、优化、运维MySQL设计、优化、运维
MySQL设计、优化、运维
 
淘宝双11双12案例分享
淘宝双11双12案例分享淘宝双11双12案例分享
淘宝双11双12案例分享
 
新浪微博Feed服务架构
新浪微博Feed服务架构新浪微博Feed服务架构
新浪微博Feed服务架构
 
基于MySQL开放复制协议的同步扩展
基于MySQL开放复制协议的同步扩展基于MySQL开放复制协议的同步扩展
基于MySQL开放复制协议的同步扩展
 
设计高性能mysql应用-TechClub技术沙龙
设计高性能mysql应用-TechClub技术沙龙设计高性能mysql应用-TechClub技术沙龙
设计高性能mysql应用-TechClub技术沙龙
 
Mysql调优
Mysql调优Mysql调优
Mysql调优
 
金山云查询系统改进之路1
金山云查询系统改进之路1金山云查询系统改进之路1
金山云查询系统改进之路1
 
张松国 腾讯微博架构介绍08
张松国 腾讯微博架构介绍08张松国 腾讯微博架构介绍08
张松国 腾讯微博架构介绍08
 
基于My sql的分布式数据库实践
基于My sql的分布式数据库实践基于My sql的分布式数据库实践
基于My sql的分布式数据库实践
 
基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践
 
Databases on AWS
Databases on AWSDatabases on AWS
Databases on AWS
 
Accelerate Database as a Service(DBaaS) in Cloud era
Accelerate Database as a Service(DBaaS) in Cloud eraAccelerate Database as a Service(DBaaS) in Cloud era
Accelerate Database as a Service(DBaaS) in Cloud era
 
天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011天涯论坛的技术进化史-Qcon2011
天涯论坛的技术进化史-Qcon2011
 
大型网站架构的发展
大型网站架构的发展大型网站架构的发展
大型网站架构的发展
 
大型网站架构的发展
大型网站架构的发展大型网站架构的发展
大型网站架构的发展
 
新浪微博平台与安全架构
新浪微博平台与安全架构新浪微博平台与安全架构
新浪微博平台与安全架构
 
利用统一存储获得无与伦比的速度,简化系统,并节省更多
利用统一存储获得无与伦比的速度,简化系统,并节省更多利用统一存储获得无与伦比的速度,简化系统,并节省更多
利用统一存储获得无与伦比的速度,简化系统,并节省更多
 
有道云笔记架构简介
有道云笔记架构简介有道云笔记架构简介
有道云笔记架构简介
 
亚马逊云计算Aws
亚马逊云计算Aws亚马逊云计算Aws
亚马逊云计算Aws
 
网站离线数据安全分析漫谈 2012cert
网站离线数据安全分析漫谈 2012cert网站离线数据安全分析漫谈 2012cert
网站离线数据安全分析漫谈 2012cert
 

Mais de moonbingbing

Building tech community in china
 Building tech community in china Building tech community in china
Building tech community in chinamoonbingbing
 
快速搭建高性能服务端
快速搭建高性能服务端快速搭建高性能服务端
快速搭建高性能服务端moonbingbing
 
中小互联网公司服务端优化实践
中小互联网公司服务端优化实践中小互联网公司服务端优化实践
中小互联网公司服务端优化实践moonbingbing
 
Python和web开发
Python和web开发Python和web开发
Python和web开发moonbingbing
 

Mais de moonbingbing (7)

Building tech community in china
 Building tech community in china Building tech community in china
Building tech community in china
 
快速搭建高性能服务端
快速搭建高性能服务端快速搭建高性能服务端
快速搭建高性能服务端
 
淘宝钓鱼
淘宝钓鱼淘宝钓鱼
淘宝钓鱼
 
中小互联网公司服务端优化实践
中小互联网公司服务端优化实践中小互联网公司服务端优化实践
中小互联网公司服务端优化实践
 
Wenming
WenmingWenming
Wenming
 
Python和web开发
Python和web开发Python和web开发
Python和web开发
 
MySQL调优
MySQL调优MySQL调优
MySQL调优
 

mercury