Soumettre la recherche
Mettre en ligne
基于MySQL可扩展架构设计
•
10 j'aime
•
1,217 vues
jackbillow
Suivre
MySQL的可扩展性架构设计以及scale-out策略。
Lire moins
Lire la suite
Technologie
Signaler
Partager
Signaler
Partager
1 sur 42
Télécharger maintenant
Télécharger pour lire hors ligne
Recommandé
2013年8月新员工培训topic-Feed服务架构
Feed服务架构-新浪微博新员工培训议题
Feed服务架构-新浪微博新员工培训议题
XiaoJun Hong
在新浪微博平台技术开放日分享的议题
大型系统的缓存标准化之路—从主从多级重client到一体化
大型系统的缓存标准化之路—从主从多级重client到一体化
XiaoJun Hong
新浪微博新员工培训及其技术交流活动topic,主要阐述从中小系统发展到大型系统的技术演化过程
大规模数据库存储方案
大规模数据库存储方案
XiaoJun Hong
新浪微博分布式缓存与队列-2013版
新浪微博分布式缓存与队列-2013版
新浪微博分布式缓存与队列-2013版
XiaoJun Hong
2014-04-19 在 ACOUG 活动上的分享,介绍了豆瓣数据架构的演进过程,以及过程中遇到的问题、目前正在面临的挑战等。
豆瓣数据架构实践
豆瓣数据架构实践
Xupeng Yun
新浪微博新员工培训及其技术交流活动topic,主要阐述从中小系统发展到大型系统的技术演化过程
分布式缓存与队列
分布式缓存与队列
XiaoJun Hong
新浪微博redis技术演化
新浪微博redis技术演化
新浪微博redis技术演化
XiaoJun Hong
Downloaded from CSDN download channel.
张铁安:Feed系统架构浅析
张铁安:Feed系统架构浅析
Leechael
Recommandé
2013年8月新员工培训topic-Feed服务架构
Feed服务架构-新浪微博新员工培训议题
Feed服务架构-新浪微博新员工培训议题
XiaoJun Hong
在新浪微博平台技术开放日分享的议题
大型系统的缓存标准化之路—从主从多级重client到一体化
大型系统的缓存标准化之路—从主从多级重client到一体化
XiaoJun Hong
新浪微博新员工培训及其技术交流活动topic,主要阐述从中小系统发展到大型系统的技术演化过程
大规模数据库存储方案
大规模数据库存储方案
XiaoJun Hong
新浪微博分布式缓存与队列-2013版
新浪微博分布式缓存与队列-2013版
新浪微博分布式缓存与队列-2013版
XiaoJun Hong
2014-04-19 在 ACOUG 活动上的分享,介绍了豆瓣数据架构的演进过程,以及过程中遇到的问题、目前正在面临的挑战等。
豆瓣数据架构实践
豆瓣数据架构实践
Xupeng Yun
新浪微博新员工培训及其技术交流活动topic,主要阐述从中小系统发展到大型系统的技术演化过程
分布式缓存与队列
分布式缓存与队列
XiaoJun Hong
新浪微博redis技术演化
新浪微博redis技术演化
新浪微博redis技术演化
XiaoJun Hong
Downloaded from CSDN download channel.
张铁安:Feed系统架构浅析
张铁安:Feed系统架构浅析
Leechael
介绍点评目前使用并快速迭代的自动化服务平台RDS,包括系统整体设计,针对研发人员以及DBA的需求提供的全套解决方案。
美团点评技术沙龙010-点评RDS系统介绍
美团点评技术沙龙010-点评RDS系统介绍
美团点评技术团队
在厦门爱特咖啡分享的新浪微博Feed服务架构
新浪微博Feed服务架构
新浪微博Feed服务架构
XiaoJun Hong
主要介绍Fqueue的设计实现和常见的队列使用场景,并讲解一个Fqueue的真实使用场景
高性能队列Fqueue的设计和使用实践
高性能队列Fqueue的设计和使用实践
孙立
淘宝商品库MySQL优化实践
淘宝商品库MySQL优化实践
Feng Yu
介绍美团云对象存储系统的现状、运维和测试经验;对象存储的应用场景;自主研发的下一代万亿级分布式存储系统架构、成本控制和技术选型;高性能存储节点、并发网络框架、高可用与强一致模型、元数据管理、纠删码、碎片整理等关键模块设计思路。
美团点评技术沙龙14:美团云对象存储系统
美团点评技术沙龙14:美团云对象存储系统
美团点评技术团队
What's Data ? What's DAL ? DAL 中的不变、变化 ? 电商网站 DAL 特点 (SoC) .NET 世界 ORM 现状
浅谈电商网站数据访问层(DAL)与 ORM 之适用性
浅谈电商网站数据访问层(DAL)与 ORM 之适用性
Xuefeng Zhang
了解集群
了解集群
了解集群
Feng Yu
高并发服务端架构 常用分布式存储比较 分析需求,做好平衡 如何做到RAS(可靠,可用,可扩展); 利用硬件,分级存储
浅析分布式存储架构—设计自己的存储- 58同城徐振华
浅析分布式存储架构—设计自己的存储- 58同城徐振华
zhuozhe
阿里自研数据库 Ocean base实践
阿里自研数据库 Ocean base实践
drewz lin
Flash存储设备在淘宝的应用实践
Flash存储设备在淘宝的应用实践
Flash存储设备在淘宝的应用实践
Feng Yu
redis 适用场景与实现
redis 适用场景与实现
redis 适用场景与实现
iammutex
介绍了美团十亿级、百亿级、千亿级访问下,kv存储的最佳实践,主要包括性能优化、工具、测试、运维、监控等方面。梳理美团复杂业务场景下,我们如何制定sla,以及我们做了哪些方案来达到业务高可靠、高可用、高稳定的。
美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise
美团点评技术团队
基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践
jackbillow
“云存储系统”赏析系列分享三:Sql与nosql
“云存储系统”赏析系列分享三:Sql与nosql
knuthocean
Distributed key value store, memcachedb, tokyo tyrant, redis performance, dynamo. 分布式key value store漫谈, memcachedb, tokyo tyrant, redis性能比较
分布式Key Value Store漫谈
分布式Key Value Store漫谈
Tim Y
OTN软硬件结合数据库解决方案
OTN软硬件结合数据库解决方案
freezr
低成本和高性能MySQL云架构探索
低成本和高性能MySQL云架构探索
Feng Yu
介绍在性能、实时数据流、存储扩展性以及feed展示方面的架构设计。
大数据时代feed架构 (ArchSummit Beijing 2014)
大数据时代feed架构 (ArchSummit Beijing 2014)
Tim Y
Exadata那点事
Exadata那点事
freezr
Learn about the main important steps you should pay attention to when you start using Kanban in your software development process.
Kanban - A recipe for success
Kanban - A recipe for success
Avarteq
构建高性能MySQL系统
构建高性能MySQL系统
构建高性能MySQL系统
jackbillow
Fuerza Bruta
Fuerza Bruta
Damy Koelewijn
Contenu connexe
Tendances
介绍点评目前使用并快速迭代的自动化服务平台RDS,包括系统整体设计,针对研发人员以及DBA的需求提供的全套解决方案。
美团点评技术沙龙010-点评RDS系统介绍
美团点评技术沙龙010-点评RDS系统介绍
美团点评技术团队
在厦门爱特咖啡分享的新浪微博Feed服务架构
新浪微博Feed服务架构
新浪微博Feed服务架构
XiaoJun Hong
主要介绍Fqueue的设计实现和常见的队列使用场景,并讲解一个Fqueue的真实使用场景
高性能队列Fqueue的设计和使用实践
高性能队列Fqueue的设计和使用实践
孙立
淘宝商品库MySQL优化实践
淘宝商品库MySQL优化实践
Feng Yu
介绍美团云对象存储系统的现状、运维和测试经验;对象存储的应用场景;自主研发的下一代万亿级分布式存储系统架构、成本控制和技术选型;高性能存储节点、并发网络框架、高可用与强一致模型、元数据管理、纠删码、碎片整理等关键模块设计思路。
美团点评技术沙龙14:美团云对象存储系统
美团点评技术沙龙14:美团云对象存储系统
美团点评技术团队
What's Data ? What's DAL ? DAL 中的不变、变化 ? 电商网站 DAL 特点 (SoC) .NET 世界 ORM 现状
浅谈电商网站数据访问层(DAL)与 ORM 之适用性
浅谈电商网站数据访问层(DAL)与 ORM 之适用性
Xuefeng Zhang
了解集群
了解集群
了解集群
Feng Yu
高并发服务端架构 常用分布式存储比较 分析需求,做好平衡 如何做到RAS(可靠,可用,可扩展); 利用硬件,分级存储
浅析分布式存储架构—设计自己的存储- 58同城徐振华
浅析分布式存储架构—设计自己的存储- 58同城徐振华
zhuozhe
阿里自研数据库 Ocean base实践
阿里自研数据库 Ocean base实践
drewz lin
Flash存储设备在淘宝的应用实践
Flash存储设备在淘宝的应用实践
Flash存储设备在淘宝的应用实践
Feng Yu
redis 适用场景与实现
redis 适用场景与实现
redis 适用场景与实现
iammutex
介绍了美团十亿级、百亿级、千亿级访问下,kv存储的最佳实践,主要包括性能优化、工具、测试、运维、监控等方面。梳理美团复杂业务场景下,我们如何制定sla,以及我们做了哪些方案来达到业务高可靠、高可用、高稳定的。
美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise
美团点评技术团队
基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践
jackbillow
“云存储系统”赏析系列分享三:Sql与nosql
“云存储系统”赏析系列分享三:Sql与nosql
knuthocean
Distributed key value store, memcachedb, tokyo tyrant, redis performance, dynamo. 分布式key value store漫谈, memcachedb, tokyo tyrant, redis性能比较
分布式Key Value Store漫谈
分布式Key Value Store漫谈
Tim Y
OTN软硬件结合数据库解决方案
OTN软硬件结合数据库解决方案
freezr
低成本和高性能MySQL云架构探索
低成本和高性能MySQL云架构探索
Feng Yu
介绍在性能、实时数据流、存储扩展性以及feed展示方面的架构设计。
大数据时代feed架构 (ArchSummit Beijing 2014)
大数据时代feed架构 (ArchSummit Beijing 2014)
Tim Y
Exadata那点事
Exadata那点事
freezr
Tendances
(19)
美团点评技术沙龙010-点评RDS系统介绍
美团点评技术沙龙010-点评RDS系统介绍
新浪微博Feed服务架构
新浪微博Feed服务架构
高性能队列Fqueue的设计和使用实践
高性能队列Fqueue的设计和使用实践
淘宝商品库MySQL优化实践
淘宝商品库MySQL优化实践
美团点评技术沙龙14:美团云对象存储系统
美团点评技术沙龙14:美团云对象存储系统
浅谈电商网站数据访问层(DAL)与 ORM 之适用性
浅谈电商网站数据访问层(DAL)与 ORM 之适用性
了解集群
了解集群
浅析分布式存储架构—设计自己的存储- 58同城徐振华
浅析分布式存储架构—设计自己的存储- 58同城徐振华
阿里自研数据库 Ocean base实践
阿里自研数据库 Ocean base实践
Flash存储设备在淘宝的应用实践
Flash存储设备在淘宝的应用实践
redis 适用场景与实现
redis 适用场景与实现
美团技术沙龙04 - Kv Tair best practise
美团技术沙龙04 - Kv Tair best practise
基于MySQL的分布式数据库实践
基于MySQL的分布式数据库实践
“云存储系统”赏析系列分享三:Sql与nosql
“云存储系统”赏析系列分享三:Sql与nosql
分布式Key Value Store漫谈
分布式Key Value Store漫谈
OTN软硬件结合数据库解决方案
OTN软硬件结合数据库解决方案
低成本和高性能MySQL云架构探索
低成本和高性能MySQL云架构探索
大数据时代feed架构 (ArchSummit Beijing 2014)
大数据时代feed架构 (ArchSummit Beijing 2014)
Exadata那点事
Exadata那点事
En vedette
Learn about the main important steps you should pay attention to when you start using Kanban in your software development process.
Kanban - A recipe for success
Kanban - A recipe for success
Avarteq
构建高性能MySQL系统
构建高性能MySQL系统
构建高性能MySQL系统
jackbillow
Fuerza Bruta
Fuerza Bruta
Damy Koelewijn
Your project is evolving just fine, you have a steady, non-linear growth and your roadmap is tightly packed. You feel hosting issues become more and more time consuming. So what to do? In this talk we will see that the answer to this question is not as easy as: "we'll jump into the cloud". More than this three different ways to solve this problem will be presented: high-end hardware, commodity hardware and a cloud deployment scenario. This gives you options to choose from. For each scenario an exemplary system design illustrating its hosting structure will be shown. We will workout individual pros and cons which need to be considered carefully in respect to your individual requirements. In order to support your decision making we will draft a rough decision tree to help you picking the best possible scenario for your situation. So at the end of the talk should be able to plan your next scale out step, easily.
Enterprise rails hosting 3 ways to scale - 2011-10
Enterprise rails hosting 3 ways to scale - 2011-10
Avarteq
Learn how to implement a Kanban system into your company.
Kanban - Extreme improvements in five quarters
Kanban - Extreme improvements in five quarters
Avarteq
These slides give you an short overview about the topics you can find in the first chapter of Successful Evolutionary Change for Your Technology Business written by David J Anderson.
Kanban: The Dilemma of an Agile Manager
Kanban: The Dilemma of an Agile Manager
Avarteq
Demo van de BBVH Woonwijzer
BBVH Woonwijzer
BBVH Woonwijzer
BBVH
Eine kurze Einführung in JRuby. JRuby ist ein Ruby Interpreter, der auf der Java-Plattform (JVM) ausgeführt wird. Er kombiniert die Vorzüge der JVM wie z.B. native Threads und einen hervorragenden Garbage Collector mit den Stärken von Ruby, drunter vollständige Objektorientiertheit und Meta Programming.
JRuby
JRuby
Avarteq
These slides describe the second chapter of the book "Kanban - Successful Evolutionary Change for Your Technology Business" written by David J. Anderson. Learn about the Kanban method and its benefits for software development related project management.
The Kanban method
The Kanban method
Avarteq
En vedette
(9)
Kanban - A recipe for success
Kanban - A recipe for success
构建高性能MySQL系统
构建高性能MySQL系统
Fuerza Bruta
Fuerza Bruta
Enterprise rails hosting 3 ways to scale - 2011-10
Enterprise rails hosting 3 ways to scale - 2011-10
Kanban - Extreme improvements in five quarters
Kanban - Extreme improvements in five quarters
Kanban: The Dilemma of an Agile Manager
Kanban: The Dilemma of an Agile Manager
BBVH Woonwijzer
BBVH Woonwijzer
JRuby
JRuby
The Kanban method
The Kanban method
Similaire à 基于MySQL可扩展架构设计
基于My sql的分布式数据库实践
基于My sql的分布式数据库实践
锐 张
基于My sql的分布式数据库实践 公开
基于My sql的分布式数据库实践 公开
YANGL *
简单介绍一下在线,实时和离线数据平台的一些进展和问题
大型电商的数据服务的要点和难点
大型电商的数据服务的要点和难点
Chao Zhu
MySQL 高可用方案及成功案例
MySQL 高可用方案及成功案例
郁萍 王
Why n-Layer, Why MVC, architecture, domain, data, soc, unit testing, cross-cutting, dev role model, 流水线作业, 术业有专攻
N-layer design & development
N-layer design & development
Xuefeng Zhang
有道云笔记架构简介
有道云笔记架构简介
drewz lin
淘宝的分布式存储与中间件TDDL
分布式存储与TDDL
分布式存储与TDDL
mysqlops
Redis
4.陈群-唯品会大规模Redis集群存储架构演进.pdf
4.陈群-唯品会大规模Redis集群存储架构演进.pdf
StevenShing
分布式Key-value漫谈
分布式Key-value漫谈
lovingprince58
基于MySQL的B2C电商数据层
基于 MySQL 的B2C电商系统前端数据层架构
基于 MySQL 的B2C电商系统前端数据层架构
Sky Jian
构建可扩展的微博系统
构建可扩展的微博系统
lonegunman
java description
java title
java title
lonegunman
数据库发展研究报告
《数据库发展研究报告-解读(2023年)》.pdf
《数据库发展研究报告-解读(2023年)》.pdf
markmind
阿里集团MySQL并行复制特性
阿里集团MySQL并行复制特性
Hui Liu
2011新版首页总结 技术篇
2011新版首页总结 技术篇
传贵 谢
水银数据库架构
mercury
mercury
moonbingbing
从NoSQL产品的选型,到对选出来的产品(Redis)进行了解,最后使用该产品(Redis),就好像“海选”-->“相亲"-->“结婚”的过程。
Nosql三步曲
Nosql三步曲
84zhu
数据架构方面的一些探讨
数据架构方面的一些探讨
数据架构方面的一些探讨
Chao Zhu
快速搭建高性能服务端
快速搭建高性能服务端
moonbingbing
A
A
lonegunman
Similaire à 基于MySQL可扩展架构设计
(20)
基于My sql的分布式数据库实践
基于My sql的分布式数据库实践
基于My sql的分布式数据库实践 公开
基于My sql的分布式数据库实践 公开
大型电商的数据服务的要点和难点
大型电商的数据服务的要点和难点
MySQL 高可用方案及成功案例
MySQL 高可用方案及成功案例
N-layer design & development
N-layer design & development
有道云笔记架构简介
有道云笔记架构简介
分布式存储与TDDL
分布式存储与TDDL
4.陈群-唯品会大规模Redis集群存储架构演进.pdf
4.陈群-唯品会大规模Redis集群存储架构演进.pdf
分布式Key-value漫谈
分布式Key-value漫谈
基于 MySQL 的B2C电商系统前端数据层架构
基于 MySQL 的B2C电商系统前端数据层架构
构建可扩展的微博系统
构建可扩展的微博系统
java title
java title
《数据库发展研究报告-解读(2023年)》.pdf
《数据库发展研究报告-解读(2023年)》.pdf
阿里集团MySQL并行复制特性
阿里集团MySQL并行复制特性
2011新版首页总结 技术篇
2011新版首页总结 技术篇
mercury
mercury
Nosql三步曲
Nosql三步曲
数据架构方面的一些探讨
数据架构方面的一些探讨
快速搭建高性能服务端
快速搭建高性能服务端
A
A
基于MySQL可扩展架构设计
1.
基于MySQL的可扩展架构设计
杨海朝 E-mail: jackbillow@gmail.com
2.
个人简介 新浪高级DBA 整个新浪数据库运维工作… 超过700台数据库机器... 每天查询量超过50亿… 单个项目每天的查询量超过39亿…
3.
鱼缸的启示
4.
可扩展的重要性 1. 非功能性需求0级别 2. scale-up
& scale-out 3. 后期改造成本高 4. 价格性能曲线
5.
影响性能因素
6.
议题 1. 复制结构 2. 基于Sharding策略的结构设计 3.
基于HA的scale-out设计 4. 跨IDC的scale-out设计实例 5. Q&A
7.
议题 1. 复制结构 2. 基于Sharding策略的结构设计 3.
基于HA的scale-out设计 4. 跨IDC的scale-out设计实例 5. Q&A
8.
MySQL Replication结构
9.
1 Master--N Slave
10.
1 Master--N Slave 1.
最常用的方案 2. web2.0中小型站点选择 3. 读密集型应用
11.
2 Master--N Slave
12.
2 Master--N Slave 1.
AP or AA 2. 自增问题 3. 更新丢失 4. HA功能
13.
1 Slave--2 Master
14.
1 Slave--2 Master 1.
Slave可能成为瓶颈 2. 不支持事务
15.
N Master--N Slave
16.
N Master--N Slave 1.
自增问题 2. 更新丢失 3. 故障恢复
17.
议题 1. 复制结构 2. 基于Sharding策略的结构设计 3.
基于HA的scale-out设计 4. 跨IDC的scale-out设计实例 5. Q&A
18.
垂直拆分(功能拆分)
19.
垂直拆分(功能拆分) 1. 明确业务的功能需求 2. 逐步去拆分 3.
需要和水平拆分结合
20.
水平拆分--1
21.
水平拆分--1 1.选择partitioning key至关重要 2. 拆分粒度大小指定 3.
考虑后期搬移策略
22.
水平拆分--2
23.
水平拆分--2 1. 选择partitioning key至关重要 2.
多一次查询消耗,索引可能成为瓶颈 3. 弹性的LB
24.
水平拆分--3
25.
水平拆分--3 1. 选择partitioning key至关重要 2.
冷热数据区分不好 3. 存在进一步扩展问题
26.
议题 1. 复制结构 2. 基于Sharding策略的结构设计 3.
基于HA的scale-out设计 4. 跨IDC的scale-out设计实例 5. Q&A
27.
MMM方式
28.
MMM方式 1. 实现不了多IDC容灾 2. 监控是OSPF 3.
不是真正的LB 4. 默认不支持自劢切换 5. 浪费IP资源 6. 非无缝的切换方式
29.
Heartbeat+DRBD方式
30.
Heartbeat+DRBD方式 1. 多IDC容灾问题 2. 仅仅是主库的HA 3.
性能还有一定的损失 4. 切换时间无法达到毫秒级 5. 资源浪费 6. 维护复杂( 裂脑,DRBD)
31.
Sharde Nothing方式
32.
Sharde Nothing方式 1. IDC容灾问题 2.
网络带宽要求高 3. 安全问题 4. 应用设计方面 (FK,join,fulltext) 5. 性能受限于硬件
33.
议题 1. 复制结构 2. 基于Sharding策略的结构设计 3.
基于HA的scale-out设计 4. 跨IDC的scale-out设计实例 5. Q&A
34.
M(a)/M(p)结构应用实例
35.
M(a)/M(p)结构应用实例 优点: 1. 能实现多IDC的高可用性和容灾 2. 减少网络流量成本 3.
减少主库的同步压力 缺点: 1. lag增加 2. 资源成本增加 3. 维护成本增加 4. 监控复杂
36.
结合LVS结构应用实例
37.
结合LVS结构应用实例 优点: 1. 能实现多IDC的高可用性和容灾 2. 好的读负载均衡 3.
主库能实现比较好的HA 缺点: 1. 资源利用容易不均衡 3. 维护成本增加 4. 监控复杂 5. LVS可能成为瓶颈
38.
M(a)/M(a)结构应用实例
39.
M(a)/M(a)结构应用实例 优点: 1. 能做到IDC的容灾 2. 基于BASE思想设计 3.
减少业务高峰对资源的需求 4. 不依赖于网络环境 缺点: 1. 要求业务的耦合性满足 2. 开发需要做一些工作 3. 监控和维护成本增加
40.
议题 1. 复制结构 2. 基于Sharding策略的结构设计 3.
基于HA的scale-out设计 4. 跨IDC的scale-out设计实例 5. Q&A
41.
新浪微博平台开发者大会即将举行: 可扩展分布式数据存储 微博技术架构 微博cache设计 即时搜索 社会化应用与新浪云 more…
42.
谢谢 Q&A
Télécharger maintenant