当当网资深DBA:DB运维四大现代化的实现(有彩蛋)
《当当网资深DBA:DB运维四大现代化的实现(有彩蛋)》要点: 讲师介绍 赵钢 当当网资深DBA
各位好,今天我的主题是 《DB运维的四个现代化》,看标题就能明白,是关于DBA自动化运维平台的事情. 主要是分享下我在当当想到做到的一些事情,很多都是兄弟们一起努力的结果,这篇文章也是对我们工作进行一次总结,整个平台的实现方法并没有用到什么高大上的框架,有亮点的地方我会着重说明,当然,有兴趣了解的同学,直接提问就好. 本次分享将分为以下三部分进行:
一DB管理四大现代化首先先聊下DB在项目中的地位:
于是,DBA的工作经常成为项目进展的瓶颈. 然而,在错综复杂的电商环境中,数据库又独具特色.一提到电商: 自然想到,双11,秒杀,大促等等,?? 于是下面3个特点也就不言而喻. 在当当网,我们的DB规模是这样的,数据截止到2016年3月,而现在又在增长……T_T 因此就会有这样的工作需求:
二实例分析实践痛点商品分类项目程序出现了bug,导致分类错误,最有效的办法莫过于:DB中需要修改几条数据.
于是,DBA们也在思考,和开发项目拼人肉数目,肯定不切实际,我们需要自动化的平台. 根据以上问题,我们做了几个选择:
用下图来回答: 平台主要分为:信息收集展现,DBA管理工具两大部分. 数据库的元数据可以被全体技术部乃至业务部访问.但数据细节,只能有限访问(权限申请需要经过审批)这些只读的访问,一次授权,即可自助进行. 对于数据库管理(部署,备份,恢复),DBA也要编写脚本,按标准进行.后面会尽量详细介绍. 三从信息展现开始一步步解决1、信息收集展现 先说明下,关于数据库元数据的展现: 上图可见,借用phpmyadmin工具(右图),对于元数据的展现还是很完美的.完全可以替代左图的命令行模式. 当然,这里的phpmyadmin是经过修剪功能的版本,去掉了诸多管理,展示数据细节的部分. 对于申请过权限的用户,才可以访问到受限的数据细节. 同时对于数据本身,也进行了限制性修改,仅能访问 500行的数据: 对于元数据也进行了抓取和归档(主要用shell+python定时执行 实现),这样做有几个好处: 1、便于在整个公司项目范围内,宏观的、快速的、模糊的查找想要的元数据. 2、基于元数据的定期归档,可得出数据空间变化的规律. 例如我们平台的如下功能: 3、还可以对元数据进行统计,迅速得出那些是我们急需调优的目标(需水平拆分的大表,需垂直拆分的宽表,需要删除的重复索引,需要扩容的autoid等等). 例如,我们平台的如下功能: 展示出来就是这样(图表展示我采用highchart,MySQL只负责用SQL吐数据,展示的活,就交给highchart 了): (编辑:ASP站长网) |