百亿级企业级 RPC 框架开源了!

  • 时间:
  • 浏览:0

今天给大伙 介绍给一款性能卓越的 RPC 开源框架,其作者就说 我推荐每个 Java 系统程序运行运行员都应该看的《Java 生态核心知识点挂接》的原作者张玉龙。

说实话我第一次就看這個资料的之后,就感觉作者是一位真正的技术爱好者,之后通过大伙 介绍终于认识了他。交谈之中得知他在美团工作,最初和大伙 一并挂接这份资料的初衷是为了面试,估计每天才能 面试太满的应聘者,这份资料成了助手。强烈建议没办法 看这份资料的同学学习下,作为 Java 生态知识体系构建也是一份不错的资源。

之后得知业余时间他在研发一款开源的 RPC 开源框架,之后经过测试可支持百亿级别的调用,之后于近期终于完成推出 1.0 版本。这款开源软件名字叫做 Koalas,源代码地址:koalas-rpc,下面对这款开源软件做详细介绍,内容来源于 Koalas 。

Koalas 介绍

企业生产级百亿日 PV 高可用可拓展的 RPC 框架。理论上并发数量接近服务器传输传输速率,客户端采用 thrift 协议,服务端支持 netty 和 thrift 的 TThreadedSelectorServer 半同步半异步系统程序运行运行模型,支持动态扩容,服务上下线,权重动态,可用性配置,页面流量统计,支持 trace 跟踪等,火山岩石石接入 cat 支持数据大盘展示等,持续为另一方以及中小型公司提供可靠的 RPC 框架技术方案。

Thrift 是這個接口描述语言和二进制通讯协议,它被用来定义和创建跨语言的服务。它被当作一个多多远程过程调用(RPC)框架来使用,是由 Facebook 为“大规模跨语言服务开发”而开发的。

为那此叫 koalas

树袋熊英文翻译,希望考拉 RPC 给那此不太喜欢动手另一方去造轮子的人提供可靠的 RPC 使用环境。

为那此要写這個 RPC

市面上常见的 RPC 框架太满有,grpc,motan,dubbo 等,之后随着太满的元素加入,僵化 的挂接等因素似使得那此框架和 spring 一样,随便说说号称是轻量级,之后用起来却是让大伙 很蹩脚,几瓶的配置,僵化 的 API 设计,随便说说,大伙 根本用不上那此东西!!!

我也算得上是在太满有个互联网企业厮杀过,见过太满有太满有的內部 RPC 框架,一些优秀的设计我才能 非常赞赏,有一天我突然 想着,为那此不对那此设计原型进行聚合归类,于是另一方搞一套【轻量级】 RPC 框架呢,于是利用业余时间开发此项目,希望源码对大伙 对认识 RPC 框架起到推进的作用。

技术栈

  • thrift 0.8.0
  • spring-core-4.2.5,spring-context-4.2.5,spring-beans-4.2.5
  • log4j,slf4j
  • org.apache.commons(v2.0+)
  • io.netty4
  • fastJson
  • zookeeper
  • 点评cat(V3.0.0+ 做数据大盘统计上报等使用,可不配置)
  • AOP,反射代理等

技术架构

Koalas 架构图

序列化

考察了太满有个序列化组件,其中包括jdk原生,kryo、hessian、protoStuff,thrift,json等,最终选着了Thrift,因为如下:原生JDK序列化反序列化传输传输速率堪忧,其序列化内容太过全面kryo和hessian,json相对来说比原生JDK强一些,之后对跨语言支持一般,太满有舍弃了,最终想在protoBuf和Thrift协议上边选着一套框架,這個框架很相通,支持跨语言,才能 静态编译等等。之后protoBuf不带RPC服务,本着提供多套服务端模式(thrift rpc,netty)的情况汇报下,最终选着了Thrift协议。

IO系统程序运行运行模型

原生socket都才能模拟出简单的RPC框架,之后对于大规模并发,要求吞吐量的系统来说,也就算得上是一个多多demo级别的,太满有BIO肯定是不考虑了,NIO的模型在序列化技术选型的之后之后说了,Thrift這個支持太满有个io系统程序运行运行模型,同步,异步,半同步异步等(SimpleServer,TNonblockingServer,THsHaServer,TThreadedSelectorServer,TThreadPoolServer),其中吞吐量最高的肯定是半同步半异步的IO模TThreadedSelectorServer了,具体因为大伙 可自行google,这次不做多的阐述,选着好了模型之后,发现thrift青春恋爱物语就说 神器一样的处在,再一想,对于服务端来说,IO模型为什么会么会能少得了Netty啊,太满有下决心也要支持Netty,之后很遗憾Netty目前没办法 对Thrift的序列化解析,拆包粘包的正确处理,之后有protoBuf,和http协议的封装,杂办,另一方在netty上写对thrift的支持呗,随便说说工作量大了一些,之后一想netty不就说 干這個事儿的嘛- -!

服务发现

支持集群的RPC框架上边,像dubbo,之后是一些三方框架,对服务发现都进行的封装,没办法 自研RPC说说,服务发现就要另一方来写了,没办法 简单小巧容易上手的zookeeper肯定是首选了。

内容展示

实际性能压测

8C 16G mac 开发本,单机 100000 次请求耗时截图

10w 次请求,合适耗时 12s,平均 qps 在100000左右,在集群环境下会有不错的性能表现

数据大盘展示

koalas2.0 之后接入了 cat 服务,cat 服务支持 qps 统计,可用率,tp90line,tp99line,富足自定义监控报警等,接入效果图

富足的可视参数,流量统计,日,周,月报表展示等。

链路跟踪

对 RPC 服务来说,系统间的调用和排查异常接口,选着耗时代码是非常重要的,假如有一天接入了 cat,koalsa-rpc 火山岩石石的支持链路跟踪,一切尽在手中!

最后

作者非常具有技术情怀,在聊天中说就剩这点爱好了,要坚持下去。听了这句话啥都是说了,点击下方链接,先 Star 为敬。

https://gitee.com/a1234567891/koalas-rpc