下载

1下载券

加入VIP
  • 专属下载特权
  • 现金文档折扣购买
  • VIP免费专区
  • 千万文档免费下载

上传资料

关闭

关闭

关闭

封号提示

内容

首页 构建生态化分布式数据库架构体系(陶勇)

构建生态化分布式数据库架构体系(陶勇).pdf

构建生态化分布式数据库架构体系(陶勇)

zjznet
2011-10-26 0人阅读 举报 0 0 0 暂无简介

简介:本文档为《构建生态化分布式数据库架构体系(陶勇)pdf》,可适用于IT/计算机领域

构建生态化分布式数据库架构体系AlibabacomAbout自我介绍陶勇bravetaoyalibabainccomTwitterSina:bravetaoIndex内容概要• 分布式数据库解决方案AlibabaBB– 分布式数据存储与访问• Cobar– 准实时增量数据获取与消费• ErosaEromanga– 多维度数据同步与网站镜像• Otter• 构建分布式数据库生态架构AlibabaBB– 全站数据架构– 思考与展望Keywords关键词MySQLprotocolSchema垂直拆分Table水平拆分实时日志解析事务顺序实时镜像双向同步同步事务支持GlobalIDGlobalFailover分布式数据库解决方案分布式数据存储与访问Cobar遇到的问题OracleCPUIOOracle:index>G产品表上亿条上万TPSOracle连接Sharding数据分片vx()遇到的问题vx()现在()细节:线程复用模型细节:事务、ResultSet特性SQL事务线性扩展性能QOS按schema权重进行资源隔离NIOStreamingResultSetmysql语法支持mysql协议级事务支持连接绑定的事务支持对称集群⼀一些数据• Cobar• 线上高峰期wTPS单机性能wTPS• 并发以上整体性能超过直接访问mysql• 支持mysql全部DML和部分DDL语法分布式数据库解决方案准实时增量数据获取与消费EE遇到的问题产品实时索引反馈及时回复订单及时通知实时报表网站cache刷新实时透明的获取数据库变更准实时增量数据获取与消费• 以前的做法– DBTrigger– Dumptable– ApplicationMQ• 问题– 运维困难– 数据库、网络瞬时压力大– 业务侵入性强整体架构细节• 数据解析– oracle:redologparser• Archivelog~min• Onlinelog<ms• Opencolumnsupplementallog– mysql:binlogparser• COMBINLOGDUMP• 数据消费– 对称集群– Datacursor:ZooKeeper特性实时性可用性扩展性事务性完整性忠实反映数据库数据变更严格按照事务顺序高峰期<s平时msN份拷贝可配置对称集群分布式数据库解决方案多维度数据同步与网站镜像Otter遇到的问题数据关联图片同步异构事务支持MixedOM数据迁移i>gO>MEncoding网站实时镜像AA网站异地容灾数据实时同步整体架构细节• 数据同步– 自定义字段过滤– 自定义文件同步逻辑– 按事务表并发加载– 按表PKhash并发加载• 数据冲突– 实时字段级冲突合并– 冲突判断及解决现有的应用场景• 数据库– 备份:多master>单slaver– 异构迁移、跨版本迁移– OracleActiveActive• 网站容灾– 容灾备份– 读写分离• 网站镜像– 双向读写– 按字段同步– 按事务并发同步分布式数据库解决方案构建分布式数据库生态架构Ecosystem遇到的问题Failover前后⼀一致性Cobar后端mysql动态扩容网站镜像mysql自增主键问题Cobar集群负载均衡Cobar透明升级LSDEcosystem分布式数据库架构生态体系EcosystemLargeScaleDataEcosystemErosa数据解析Eromanga数据消费Cobar数据存储Otter数据同步前端到后端的整体解决方案构建数据流转的生态架构整体架构思考与展望• 产品架构闭环– Underconstructing• OLTPOLAP• NoSQL数据库• 软硬结合– 单机多实例– 单机高性能MySQL优化单机多实例单机高性能• 存储技术飞速发展IO不再是瓶颈• MySQL对多核CPU利用率低• RAID:BBWCFastpath• Fusionio• Flashcache• SemiSyncQAThanks!Nobest,onlythemostsuitable

用户评价(0)

关闭

新课改视野下建构高中语文教学实验成果报告(32KB)

抱歉,积分不足下载失败,请稍后再试!

提示

试读已结束,如需要继续阅读或者下载,敬请购买!

评分:

/33

VIP

在线
客服

免费
邮箱

爱问共享资料服务号

扫描关注领取更多福利