1. 首页
  2. 数据挖掘

㊙支付宝公司支付业务的架构与技术方案~收藏学习版


支付宝系统架构概况

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

典型处理默认

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

资金处理平台

㊙支付宝公司支付业务的架构与技术方案~收藏学习版财务会计

㊙支付宝公司支付业务的架构与技术方案~收藏学习版支付清算

㊙支付宝公司支付业务的架构与技术方案~收藏学习版核算中心

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

交易

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

柔性事务

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版

㊙支付宝公司支付业务的架构与技术方案~收藏学习版


支付宝的开源分布式消息中间件–Metamorphosis(MetaQ)

Metamorphosis (MetaQ) 是一个高性能、高可用、可扩展的分布式消息中间件,类似于LinkedIn的Kafka,具有消息存储顺序写、吞吐量大和支持本地和XA事务等特性,适用于大吞吐量、顺序消息、广播和日志数据传输等场景,在淘宝和支付宝有着广泛的应用,现已开源。

Metamorphosis是淘宝开源的一个Java消息中间件。关于消息中间件,你应该听说过JMS规范,以及一些开源实现,如ActiveMQ和HornetQ等。Metamorphosis也是其中之一。

Metamorphosis的起源是我从对linkedin的开源MQ–现在转移到apache的kafka的学习开始的,这是一个设计很独特的MQ系统,它采用pull机制,而不是一般MQ的push模型,它大量利用了zookeeper做服务发现和offset存储,它的设计理念我非常欣赏并赞同,强烈建议你阅读一下它的设计文档,总体上说metamorphosis的设计跟它是完全一致的。但是为什么还需要meta呢?

简单概括下我重新写出meta的原因:

  • Kafka是scala写,我对scala不熟悉,并且kafka整个社区的发展太缓慢了。

  • 有一些功能是kakfa没有实现,但是我们却需要:事务、多种offset存储、高可用方案(HA)等

Meta相对于kafka特有的一些功能:

  • 文本协议设计,非常透明,支持类似memcached stats的协议来监控broker

  • 纯Java实现,从通讯到存储,从client到server都是重新实现。

  • 提供事务支持,包括本地事务和XA分布式事务

  • 支持HA复制,包括异步复制和同步复制,保证消息的可靠性

  • 支持异步发送消息

  • 消费消息失败,支持本地恢复

  • 多种offset存储支持,数据库、磁盘、zookeeper,可自定义实现

  • 支持group commit,提升数据可靠性和吞吐量。

  • 支持消息广播模式

  • 一系列配套项目:python客户端、twitter storm的spout、tail4j等。

因此meta相比于kafka的提升是巨大的。meta在淘宝和支付宝都得到了广泛应用,现在每天支付宝每天经由meta路由的消息达到120亿,淘宝也有每天也有上亿的消息量。

Meta适合的应用:

  • 日志传输,高吞吐量的日志传输本来就是kafka的强项

  • 消息广播功能,如广播缓存配置失效。

  • 数据的顺序同步功能,如mysql binlog复制

  • 分布式环境下(broker,producer,consumer都为集群)的消息路由,对顺序和可靠性有极高要求的场景。

  • 作为一般MQ来使用的其他功能

总体结构:

㊙支付宝公司支付业务的架构与技术方案~收藏学习版内部结构:

来源【fd2012】

PPV课其他精彩文章:


1、回复“干货”查看干货 数据分析师完整知识结构

2、回复“答案”查看大数据Hadoop面试笔试题及答案

3、回复“设计”查看这是我见过最逆天的设计,令人惊叹叫绝

4、回复“可视化”查看数据可视化专题-数据可视化案例与工具

5、回复“禅师”查看当禅师遇到一位理科生,后来禅师疯了!!知识无极限

6、回复“啤酒”查看数据挖掘关联注明案例-啤酒喝尿布

7、回复“栋察”查看大数据栋察——大数据时代的历史机遇连载

8、回复“数据咖”查看数据咖——PPV课数据爱好者俱乐部省分会会长招募

9、回复每日一课查看【每日一课】手机在线视频集锦

原文始发于微信公众号(PPV课数据科学社区):㊙支付宝公司支付业务的架构与技术方案~收藏学习版

原创文章,作者:ppvke,如若转载,请注明出处:http://www.ppvke.com/archives/24159

联系我们

4000-51-9191

在线咨询:点击这里给我发消息

工作时间:周一至周五,9:30-18:30,节假日休息